Tento týden přibylo nové dramatické dějství: více než 800 veřejně známých osobností, včetně spoluzakladatele Applu Steva Wozniaka, zakladatele Virgin Group Richarda Bransona či vědců Yoshuy Bengia a Geoffreye Hintona, podepsalo výzvu k okamžitému zákazu vývoje takzvané superinteligence.

Superinteligence — hypotetická forma umělé inteligence, která by překonala člověka ve všech směrech — se stala svatým grálem technologického závodu. Její příslib je opojný: bezprecedentní efektivita, řešení civilizačních problémů, technologický skok kupředu. Jenže stejně silný je i strach. Podle signatářů může vývoj této entity vést k ekonomickému vytlačení lidí, ztrátě svobody a důstojnosti, ohrožení státní bezpečnosti — a v krajním případě až k vyhynutí lidstva.

HistorieHistorie

Umělá inteligence pomohla identifikovat nacistického vraha ze slavné fotografie

Když bohové AI říkají „STOP“

Síla výzvy neleží pouze v počtu podpisů, ale především v autoritě jejich nositelů. Yoshua Bengio a Geoffrey Hinton, přezdívaní „kmotři AI“, patří k zakladatelům moderního strojového učení. Když právě oni varují před důsledky vývoje, zní to jako hlas jaderných fyziků volajících po zákazu atomových zbraní.

„Superinteligence se v AI světě změnila v magické slovo — a bohužel i v marketingový slogan,“ konstatuje výzva. Firmy jako OpenAI, xAI či Meta soutěží o prvenství ve vývoji stále sofistikovanějších modelů. Meta šla dokonce tak daleko, že své vývojové oddělení nazvala Meta Superintelligence Labs. Název, který by se neztratil na obálce dystopického románu.

Právě to děsí odborníky nejvíc. Tempo vývoje a absence regulací. „Ztráta kontroly, ekonomická bezmoc, ohrožení národní bezpečnosti i existence lidské civilizace,“ varují autoři dokumentu. A požadují zákaz vývoje superinteligence, dokud nebude existovat široký vědecký konsenzus a veřejné přesvědčení, že ji lze udržet pod kontrolou.

Budoucnost pracovního trhuBudoucnost pracovního trhu

Umělá inteligence lidi nevyšachuje. Technologický vizionář věští, že odborné profese budou naopak ještě žádanější

Od Meghan Markle po Steva Bannona: nečekaná aliance

Zarážející je, jak široké spektrum osobností se pod výzvu podepsalo. Vedle technologických expertů ji podpořili i duchovní, akademici, bývalí politici a mediální figury. Například někdejší předseda sboru náčelníků štábů americké armády Mike Mullen, členka britské královské rodiny Meghan Markle, či mediální magnáti Steve Bannon a Glenn Beck. Jejich motivace se mohou lišit — ale shodují se v jednom: že vývoj superinteligence je třeba pozastavit.

To vše přichází v době, kdy se umělá inteligence z laboratoří přesouvá do běžného života. Chatboti, generativní modely a predikční algoritmy mění způsob, jakým pracujeme, tvoříme i komunikujeme. Zatímco někteří nadšeně přijímají nové možnosti, jiní s obavami sledují ztrátu kontroly. A výzva k pozastavení vývoje superinteligence tak zní jako poslední možnost, jak zastavit vlak, který už se řítil příliš rychle.

Zda jde o racionální varování, nebo přehnaný strach z neznámého, ukáže až čas. Ale jedno je jisté: do debaty o budoucnosti lidstva právě vstoupily hlasy, které stojí za to slyšet.