Na problematiku upozornil především skandál sítě X miliardáře Elona Muska. Její uživatelé pomocí chatbota Grok bez souhlasu generovali a upravovali sexualizované fotografie skutečných žen a dětí
koláž Hrot24 / Shutterstock.com
Prasácké technologie
EU zakročí proti „svlékacím“ AI aplikacím. Deepfake intimní obsah bez souhlasu bude zakázán
Zástupci Evropského parlamentu a členských států EU se shodli na podobě zákazu aplikací umělé inteligence (AI) umožňujících vytváření sexualizovaných snímků a videí skutečných lidí bez jejich souhlasu.
čtk
Zákaz bude platit od 2. prosince. EP to uvedl v dnešní tiskové zprávě. Europoslanci věc podpořili už na březnovém plenárním zasedání, kdy dali zelenou vyjednávání s členskými státy.
Zakázáno bude například uvádět na unijní trh systémy AI za účelem vytváření podobného obsahu, případně uvádění takových systémů na unijní trh bez přiměřených bezpečnostních opatření, jež by vytváření takových materiálů zabránila.
EP a Rada EU, tedy země bloku, konkrétně zmiňují „materiál zobrazující sexuální zneužívání dětí nebo zobrazují intimní partie identifikovatelné osoby či ji zachycují při sexuálně explicitních činnostech bez jejího souhlasu“.
Europoslanci a zástupci členských zemí musí dohodu, předběžně dosaženou v noci na dnešek, ještě formálně potvrdit. Podle tiskové zprávy EP by se tak mělo stát před 2. srpnem letošního roku, od kdy mají začít platit některá ustanovení nové legislativy. Tu Evropská komise navrhla loni v listopadu.
Na problematiku v minulých měsících upozornil především skandál americké sociální sítě X miliardáře Elona Muska. Její uživatelé pomocí chatbota Grok bez souhlasu generovali a upravovali sexualizované fotografie skutečných žen a dětí.
Na situaci nejprve upozornila média a vyústila v několik vyšetřování, jedno z nichž vede Britský úřad pro regulaci mediálního trhu Ofcom. Kromě programu Grok existují ovšem také specializované aplikace zaměřené přímo na generování podobného obsahu.
