Většina lidí netuší, že jejich zprávy nečtou jen algoritmy umělé inteligence, ale i reální lidé
Koshiro K / Shutterstock.com, koláž Hrot24
Umělá inteligence
Jména, adresy, intimní fotky. Odborníky šokovalo, jak snadno se lze dostat k informacím poskytnutým AI
Společnost Meta využívá externí smluvní partnery k vylepšování svých systémů umělé inteligence. Tito lidští kontraktoři se ale údajně dostanou i ke skutečné a velmi osobní konverzaci uživatelů se jmény, telefonními čísly a citlivými fotografiemi. Uživatele prý lze podle poskytnutých informací identifikovat a dohledat.
redaktor
Stále více lidí využívá umělou inteligenci i k velmi osobním záležitostem, jako řešení partnerských neshod, problémů se zdravím nebo studijních či pracovních potíží. Ačkoli firmy stojící za nejmodernějšími chatboty ubezpečují, že konverzace jsou v bezpečí a nehrozí jejich zneužití, není to úplně pravda. Je totiž možné, že si vaši konverzaci přečetl cizí člověk.
Podle investigativního článku online deníku Business Insider mají kontraktoři najatí k trénování AI systémů společnosti Meta přístup k reálným konverzacím uživatelů – a často i k jejich identifikovatelným osobním údajům.
Čtyři externí pracovníci, kteří působí pro firmy Scale AI a Alignerr, novinářům popsali, že v rámci projektů Meta AI běžně procházejí tisíce chatů týdně. V mnoha z nich narazili na jména, telefonní čísla, e-mailové adresy, informace o zaměstnání nebo i na velmi intimní fotografie. Prý odhadují, že identifikovatelné údaje se objevují ve více než polovině všech interakcí.
Část těchto údajů je přímo připojena ke konverzacím, aby se chatboty mohly personalizovat. To není složité: lidé toho o sobě totiž prozradí poměrně dost na sociálních sítí Mety, konkrétně na Facebooku, Instagramu, Threads nebo WhatsAppu, kam má AI přístup. Lidé často netuší, že si jejich sdělení může číst jiný člověk, i když není adresátem zprávy.
Kontraktory popisované konverzace se často podobají zpovědím či sezením u terapeuta. Uživatelé v nich mluví o rodině, zdraví, vztazích nebo si stěžují na problémy v práci. Někteří posílají chatbotovi i vlastní fotografie. V rámci jednoho projektu bylo cílem právě zlepšit personalizaci AI tím, že systém zohlední informace jako pohlaví, koníčky nebo lokalitu uživatele. Údaje pocházely mimo jiné z předchozí aktivity na sociálních sítích Meta.
V jednom případě byla přiložená data natolik konkrétní, že redakci Business Insideru stačilo pět minut k tomu, aby podle jména, města a zájmů dohledal odpovídající facebookový profil. Přidělený kontraktor popsal, že obsah konverzace byl takové povahy, že musel práci na několik hodin přerušit.
Společnost Meta novinářům potvrdila, že k trénování AI využívá lidské pracovníky, a připustila, že mohou narazit na osobní údaje. Podle firmy ale existují „přísná pravidla“ pro to, kdo má k těmto datům přístup a jak je může zpracovávat.
„Kontraktory vybíráme pečlivě, mají povinnost dodržovat naše standardy v oblasti bezpečnosti a ochrany osobních údajů. Navíc mají postupy pro označování a přeskočení případů, kdy narazí na citlivý obsah,“ uvedl mluvčí firmy.
Meta tedy přiznala, že jiní lidé se dostanou ke konverzacím s chatboty a na sociálních sítích. Podle všeho by ale tyto osoby měly procházet náročnou kontrolou a měly by být natolik smluvně omezeny, že informace nebudou poskytovat dál nad rámec pracovní činnosti.
Ostatně firma Scale AI, která vlastní jednu z trénovacích platforem, přisvědčila, že její pracovníci mohou data zpracovávat jen v rámci jasně daných instrukcí.
Podle Mirandy Bogenové z amerického Centra pro demokracii a technologie se ukazuje, že v oblasti zpracování osobních údajů panuje chaos. „Uživatelé by si měli uvědomit, že chatboty nejsou soukromé. Každá firma má jiné praktiky a ne všechny jsou transparentní,“ řekla webu.
Generace Z proti Trumpovi. Mladé štvou sociální sítě Muska i Zuckerberga a objevují zaprášený internetový klenot
Mnoho lidí podle ní ani netuší, že jejich zprávy nejsou určeny jen algoritmu, ale často slouží k tréninku celého systému. A že je čtou reální lidé.
Tyto informace se dají najít ve smluvních podmínkách služeb. Avšak ty při registraci čte jen málokdo. Ostatně aby ne, když se jedná o množství textu, které by často vystačilo na menší román.
Zakladatelka iniciativy AI + Planetary Justice Alliance Sara Marcucciová tvrdí, že redakce citlivých dat a kontrola přístupu stále selhávají napříč technologickým sektorem, a tedy nelze ukázat jen na jednu konkrétní firmu. Pokud by novináři pronikli do jiných firem v Silicon Valley, našli by pravděpodobně pochybení i tam.
Nicméně Meta bude sbírat v budoucnu informací ještě víc. Aktuálně tu vyvíjejí nástroj, který má být schopen „hluboce porozumět uživateli a pomáhat mu s jeho životními cíli“, jak prohlásil šéf firmy Mark Zuckerberg. Opět bude na uživateli, co všechno systémům (a lidem stojícími za nimi) prozradí.
