Donald Trump, prezident USA
Shutterstock.com
Trump podepsal s technologickými lídry dobrovolnou dohodu o AI. Má být „morálně závazná“
Donald Trump se s představiteli největších amerických technologických firem dohodl na souboru dobrovolných pravidel pro vývoj nejpokročilejší umělé inteligence. Firmy mají zavést silnější interní kontroly, nezávislé audity a dohled na úrovni představenstev. Americký prezident dohodu označil za „morálně závaznou“, zároveň ale dál odmítá plošnou státní regulaci, která by podle něj mohla zpomalit americký technologický náskok.
msk
Americký prezident Donald Trump a šest představitelů největších firem zabývajících se umělou inteligencí v úterý podepsali dobrovolnou dohodu, která má nastavit základní bezpečnostní pravidla pro vývoj nejpokročilejších AI systémů. Pod dokument se vedle Trumpa podepsali šéf Googlu Sundar Pichai, ředitel Anthropicu Dario Amodei, šéf Mety Mark Zuckerberg, prezident OpenAI Greg Brockman, generální ředitel Nvidie Jensen Huang a Elon Musk za xAI.
Jednostránkový dokument nazvaný White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities Trump následně zveřejnil na své síti Truth Social. Firmy se v něm hlásí k principu, že odpovědnost za bezpečnost jejich technologie leží především na samotných vývojářích.
„Vidím obrovskou míru samoregulace. A oni chápou, že se musejí regulovat sami,“ řekl Trump po jednání v Bílém domě. Dohodu označil za „morálně závaznou“ a přirovnal ji podle CBS News k určitému druhu ústavy pro další vývoj technologie.
Čtyři vrstvy kontroly. Od vlastních týmů po externí auditory
Dohoda stanovuje čtyři základní stupně kontroly. Firmy mají v první řadě zavést robustní interní mechanismy, které budou během trénování i nasazování modelů sledovat jejich schopnosti a chování. Zvláštní pozornost má směřovat například na kybernetickou bezpečnost, biologická a chemická rizika nebo situace, kdy by AI mohla neoprávněně získat přístup k technickým systémům.
Druhou vrstvu mají tvořit specializované interní týmy, které budou kontrolovat, zda bezpečnostní mechanismy skutečně fungují a zda firmy odhalené problémy napravují. Třetím prvkem jsou nezávislí externí auditoři nebo hodnotitelé, kteří mají kontrolní systémy posuzovat zvenčí.
Čtvrtým bodem je dohled přímo na úrovni vedení firem. Každá společnost má určit nezávislý výbor svého představenstva, který bude dostávat zprávy interních bezpečnostních týmů i externích auditorů a dohlížet na řešení nalezených problémů.
Signatáři se také zavázali, že se budou pravidelně scházet a společně vytvářet bezpečnostní standardy a doporučené postupy. Samotný dokument připouští, že část těchto pravidel by mohla být v budoucnu převedena do zákonů nebo státní regulace.
Nejde tedy o právně vymahatelnou regulaci. Současná dohoda stojí především na dobrovolných závazcích firem, auditech a vzájemném tlaku mezi jednotlivými hráči.
Trump regulaci brzdit nechce, část AI průmyslu naopak volá po zpomalení
Trump současně zopakoval, že nechce rozvoj umělé inteligence omezovat rozsáhlými státními pravidly. „Nikdy nebudu brzdit růst technologie, která bude větší než průmyslová revoluce,“ uvedl při představení nového vládního portálu America.gov. Spojené státy podle něj musí udržet svůj náskok zejména před Čínou.
Bílý dům ve stejný den představil také novou platformu America.gov, která má pomocí AI zjednodušit přístup Američanů k federálním službám. Trumpova administrativa zároveň začala pro umělou inteligenci prosazovat označení „super intelligence“.
Postoj prezidenta přichází v době, kdy část samotných vývojářů požaduje opatrnější tempo. Šéf Anthropicu Dario Amodei v září vyzval firmy, aby zpomalily zvyšování schopností nejvýkonnějších modelů, protože bezpečnostní systémy podle něj potřebují více času. K podobnému přístupu se následně přihlásili také Sam Altman a Elon Musk.
Napětí mezi rychlostí vývoje a bezpečností zesílily také případy, kdy autonomní AI systémy překročily předpokládaný rozsah svých úkolů. OpenAI už během vývoje modelů třídy Astra dočasně pozastavila část trénování a zpřísnila bezpečnostní podmínky, mimo jiné kvůli riziku neoprávněných akcí pokročilých agentů.
Trump nicméně sází především na samoregulaci firem. Podle AP uvedl, že by nad celou iniciativou mohla vzniknout zhruba desetičlenná skupina a že v následujících dnech chce určit člověka, který bude na fungování dohody dohlížet.
Jedním ze jmen, o kterých prezident veřejně hovořil, je současný ředitel amerických tajných služeb Jay Clayton. Na otázku serveru Axios Trump řekl, že má konkrétního kandidáta na mysli, a Claytona následně označil za „dobrého člověka“. Výběr chce podle Axiosu oznámit během tří až čtyř dnů.
