Technologické firmy v Kalifornii se bouří proti regulaci umělé inteligence. Zastaví inovace, obávají se

Zamýšlená regulace v USA by se měla týkat všech technologických společností působících ve státě Kalifornie, včetně gigantů jako je OpenAI, Anthropic, Cohere či Meta. Jak informuje deník Financial Times, návrh zákona vyžaduje, aby firmy zabývající se vývojem umělé inteligence v Kalifornii zaručily nově vytvořenému státnímu orgánu, že nebudou vyvíjet modely s „nebezpečnou schopností“. Těmito schopnostmi se míní například vytváření biologických nebo jaderných zbraní či pomoc při realizaci kybernetických útoků.   

Podle návrhu zákona o bezpečných a spolehlivých inovacích pro hraniční systémy umělé inteligence by vývojáři například museli podávat zprávy o svých bezpečnostních testech a zavést tzv. kill switch, který by jejich modely v případě, pokud by nemohly zaručit zamezení těmto rizikům, vypnul.

Za tvorbou návrhu zákona stojí demokratický senátor Scott Wiener, který uvedl, že jeho přáním je, aby umělá inteligence uspěla a inovace pokračovaly, ale aby se zároveň předešlo jakýmkoli bezpečnostním rizikům. „Je to v podstatě light verze která jednoduše žádá vývojáře, aby prováděli základní bezpečnostní hodnocení s cílem identifikovat velká rizika a podnikli přiměřené kroky ke zmírnění těchto rizik“. 

Rozmach generativní AI má i negativní důsledky. Počet deepfake útoků strmě stoupá

S rostoucími schopnostmi modelů umělé inteligence roste i počet deepfake podvodů, které už v celosvětovém měřítku připravily firmy o stovky milionů dolarů a poškodily pověst mnoha lidí. A bude hůře – odborníci na kyberbezpečnost varují, že případů bude kvůli rostoucímu využívání AI raketově přibývat.

S rostoucími schopnostmi modelů umělé inteligence roste i počet deepfake podvodů, které už v celosvětovém měřítku připravily firmy o stovky milionů dolarů a poškodily pověst mnoha lidí. A bude hůře – odborníci na kyberbezpečnost varují, že případů bude kvůli rostoucímu využívání AI raketově přibývat.

Hlavním důvodem nesouhlasu technologických společností ale není přímo „kill switch“, nýbrž především to, že regulace je příliš restriktivní a svazující, zaměřuje se na velmi hypotetická rizika, zbrzdí inovace a donutí firmy z regulovaných států odejít. Problematický je také přístup k modelům s otevřeným zdrojovým kódem, kdy by firmy měly fakticky odpovědnost za to, pokud by jiný subjekt jejich AI modely využil k nekalým účelům.

„Pokud by někdo chtěl přijít s regulací, která by potlačila inovace, těžko by mohl udělat něco lepšího. Tato regulace totiž vytváří obrovské závazky pro rizika, která jsou spíše z oblasti sci-fi a podněcuje tak strach v každém, kdo by se chtěl odvážit inovovat,“ citují Financial Times Andrewa Nga, vědce, který vedl projekty AI ve společnostech Alphabet Google a čínské Baidu a který nyní zasedá v představenstvu společnosti Amazon. 

Wiener si nejspíše vzal připomínky k srdci, neboť již pracuje na pozměňovacích návrzích, které definují, že „vývojáři open source nebudou odpovědní za modely, které projdou následně dalšími úpravami“.

V překladu to tedy znamená, že pokud je model s otevřeným zdrojovým kódem následně dostatečně upraven třetí stranou, tvůrce původního modelu za toto zneužití nenese odpovědnost. A další změnou by pak mohlo být, že požadavek na „kill switch“ se nebude na tyto open source modely vztahovat. 

Zákaz sociálního skóringu i hromadného rozpoznávání obličejů. Co přinese evropská regulace umělé inteligence?

Evropský parlament v březnu definitivně schválil nařízení označované jako AI Act. Dokument je v podstatě prvním velkým zákonem regulujícím umělou inteligenci na úrovni možností jejího využívání. „Budou se jím muset řídit všechny firmy, které působí na území EU bez ohledu na to, kde mají své sídlo,“ vysvětluje Václav Stupka z Cyber Resillience Centra na Masarykově Univerzitě.

Evropský parlament v březnu definitivně schválil nařízení označované jako AI Act. Dokument je v podstatě prvním velkým zákonem regulujícím umělou inteligenci na úrovni možností jejího využívání. „Budou se jím muset řídit všechny firmy, které působí na území EU bez ohledu na to, kde mají své sídlo,“ vysvětluje Václav Stupka z Cyber Resillience Centra na Masarykově Univerzitě.