USA navrhly Číně mechanismus pro hlášení bezpečnostních incidentů AI
Shutterstock.com
USA a Čína chtějí „červený telefon“ pro umělou inteligenci. Má zabránit krizím mezi velmocemi
Washington navrhl Pekingu vytvoření přímého mechanismu pro hlášení vážných incidentů spojených s umělou inteligencí. Fungovat by mohl podobně jako krizová komunikační linka mezi velmocemi: pokud by AI způsobila rozsáhlý kybernetický útok, zasáhla kritickou infrastrukturu nebo vyvolala bezpečnostní incident, obě strany by si mohly rychle vysvětlit, co se stalo. Návrh přichází několik dní před setkáním Donalda Trumpa a Si Ťin-pchinga ve Washingtonu. Dohoda zatím uzavřená není.
šéfredaktor
Spojené státy otevřely s Čínou jednání o vytvoření nového systému, který by umožnil oběma zemím rychle se informovat o závažných bezpečnostních incidentech způsobených umělou inteligencí. Americká média už pro návrh používají označení „AI-era red phone“ – červený telefon pro éru umělé inteligence. Podle Business Insideru předložila návrh americká strana během víkendových jednání v New Yorku.
Americký ministr financí Scott Bessent jednal s čínským vicepremiérem Che Li-fengem. Washington podle něj navrhl širší americko-čínský dialog o AI, jehož součástí by byl mechanismus upozornění na incidenty, které dosáhnou úrovně ohrožení národní bezpečnosti. Bessent po jednání uvedl, že cílem je zvýšit transparentnost mezi dvěma největšími mocnostmi v oblasti AI.
Nejde zatím o podepsanou dohodu. Americká strana návrh předložila k dalšímu jednání a má být jedním z témat, která mohou projednat prezident Donald Trump a čínský prezident Si Ťin-pching při summitu ve Washingtonu 24. září.
Když nebude jasné, kdo zaútočil
Největším problémem nejsou běžné chyby chatbotů.
Američtí a čínští bezpečnostní experti upozorňují na situace, kdy by autonomní systém mohl například zahájit rozsáhlý kybernetický útok, zasáhnout vojenskou infrastrukturu nebo narušit systém související s jaderným velením. V takovém případě by druhá strana nemusela okamžitě vědět, zda jde o úmyslný státní útok, aktivitu nestátního aktéra nebo selhání samotného systému.
Skupina amerických a čínských bezpečnostních expertů proto navrhla mimo jiné horkou linku pro incidenty s autonomní AI, zachování lidské kontroly nad významnými kybernetickými operacemi a zvláštní ochranu systémů spojených s jadernými zbraněmi.
Smyslem komunikačního mechanismu by tak nebylo regulovat celý vývoj umělé inteligence. Měl by především zabránit situaci, kdy jedna země přisoudí nejasný incident druhé a začne reagovat dříve, než bude jasné, co se skutečně stalo.
Mezi rizika, o kterých se v současných jednáních mluví, patří také AI podporované kybernetické útoky, zneužití technologií při vývoji biologických zbraní, útoky na energetiku, finance či dopravu nebo ztráta kontroly nad vysoce autonomními systémy.
Rivalita zůstává. Čipy se do jednání nemíchají
Vznik bezpečnostní linky by přitom neznamenal konec americko-čínského soupeření v AI.
Washington se snaží udržet technologický náskok a omezuje Číně přístup k části nejpokročilejších čipů a technologií pro jejich výrobu. Peking tato omezení dlouhodobě kritizuje a označuje je za snahu brzdit čínský technologický rozvoj. Už při prvním oficiálním americko-čínském dialogu o bezpečnosti AI v roce 2024 Čína americká technologická omezení výslovně kritizovala. První mezivládní jednání obou zemí věnované AI proběhlo v květnu 2024 v Ženevě.
Aktuální iniciativa proto není úplně prvním pokusem Washingtonu a Pekingu mluvit o bezpečnosti umělé inteligence. Nové je především to, že se diskutuje o konkrétním krizovém mechanismu pro hlášení incidentů.
Americký obchodní zmocněnec Jamieson Greer zároveň uvedl, že během nynějších jednání nebyly tématem americké exportní kontroly týkající se AI. Obě strany se tak snaží bezpečnostní rozhovory alespoň částečně oddělit od obchodního a technologického sporu.
Čína připouští riziko, že se AI vymkne kontrole
Určitý prostor pro jednání vytváří i změna čínské rétoriky.
Čínské ministerstvo zahraničí tento měsíc uvedlo, že Peking bere vážně jak přímá rizika AI, tak její možné zneužití. Podle mluvčího ministerstva Kuo Ťia-kchuna chce Čína posilovat pravidla a technické pojistky, aby byla umělá inteligence „bezpečná, spolehlivá a kontrolovatelná“. Čínská diplomacie výslovně zmínila potřebu zabránit tomu, aby se AI vymkla kontrole.
Čína zároveň prosazuje, aby hlavní roli v globální správě AI hrála OSN, a odmítá model, v němž by pravidla určovala pouze malá skupina technologicky nejvyspělejších zemí.
Rozdíly mezi Washingtonem a Pekingem tak zůstávají značné. Obě strany se ale shodují alespoň na tom, že některé incidenty by mohly být nebezpečné pro obě země bez ohledu na to, kdo právě vede technologický závod.
Právě na této úzké oblasti nyní návrh stojí.
Už jednou se USA a Čína na AI domluvily
Bezpečnost AI není v americko-čínských vztazích úplně nové téma.
Už v listopadu 2023 se tehdejší americký prezident Joe Biden a Si Ťin-pching dohodli, že obě vlády zahájí odborné rozhovory o rizicích pokročilé umělé inteligence. V květnu následujícího roku se proto delegace obou zemí setkaly v Ženevě.
Americká strana tehdy zdůrazňovala potřebu udržovat otevřené komunikační kanály o rizicích a bezpečnosti AI, zatímco Čína mluvila o globální správě technologií a bezpečném rozvoji.
Po Trumpově návratu do Bílého domu se dialog nějakou dobu neposunul do trvalejšího formátu. K tématu se oba prezidenti vrátili během Trumpovy květnové návštěvy Číny a nynější jednání Bessenta a Che Li-fenga představují další krok.
Zda z něj skutečně vznikne stálá krizová linka, bude záležet na dalších jednáních. Zatím existuje pouze americký návrh a diskuse o širším mechanismu dialogu.
