Ředitelé společností zabývajících se AI v soukromí zvažují možné scénáře veřejné a politické vzpoury technologie

Ředitelé společností zabývajících se AI v soukromí zvažují možné scénáře veřejné a politické vzpoury technologie

Vygenerováno v Nano Banana Pro

Co když se AI vymkne kontrole? Technologické firmy připravují krizové scénáře

Kybernetický útok, ochromené finanční služby nebo výpadky elektřiny a vody. I takové scénáře podle webu Axios zvažují představitelé největších AI firem, kteří se připravují na možnou krizi důvěry v umělou inteligenci.

čtk

Ředitelé společností Anthropic, OpenAI a dalších firem zabývajících se umělou inteligencí (AI) v soukromí zvažují možné scénáře veřejné a politické vzpoury, k níž by mohlo dojít po katastrofické události spojené s AI. Očekávají rozsáhlou událost, pravděpodobně kybernetický útok znemožňující přístup k finančním službám, k připojení k internetu nebo dokonce k dodávkám elektřiny a vody, napsal web Axios.

První případ závažné škody způsobené nebezpečnou AI ve skutečném světě by poštval již tak nedůvěřivou veřejnost proti této technologii a proti lídrům v odvětví, včetně šéfa Anthropiku Daria Amodeie či šéfa OpenAI Sama Altmana, píše Axios. Lidé by se podle scénářů mohli obrátit i proti prezidentu Donaldu Trumpovi kvůli jeho neochotě AI regulovat.

Ačkoliv plánování různých scénářů je v mnoha společnostech i prostředích národní bezpečnosti běžné, rozdíl je podle Axiosu v tom, že mnoho předních výzkumníků a lídrů v oblasti AI věří, že rozsáhlý incident je nevyhnutelný. Jednou možností je, že AI agent se vymkne kontrole vnitřního testovacího prostředí. Nekalý aktér by rovněž mohl najít nečekané způsoby, jak dostupné modely AI zneužít.

Řada odborníků z oboru umělé inteligence sdělila Axiosu, že podle nich dojde v příštích šesti až dvanácti měsících k významné události. Plánování se mimo jiné soustředí na vzdělávání členů stárnoucího amerického Kongresu, který nedrží krok s revolucí v oblasti AI, poznamenal web.