Geoffrey Hinton
Shutterstock.com
Kmotr AI: Když nás nebude milovat, nahradí nás
Geoffrey Hinton ví, že pomohl stvořit monstrum. A teď zoufale hledá způsob, jak ho naučit milovat lidi.
šéfredaktor
Na pódiu lasvegaské konference Ai4 se postavil jako muž, který odstartoval revoluci, ale dnes se jí obává. Geoffrey Hinton, „kmotr AI“, držitel Nobelovy ceny a bývalý šéf výzkumu v Googlu, promluvil bez okolků: „Existuje 10 až 20% šance, že umělá inteligence vyhladí lidstvo.“
Ačkoliv může znít jako prorok zkázy, Hinton není žádný futurista bez kreditu. Jeho průkopnická práce na neuronových sítích vedla ke vzniku dnešních systémů jako ChatGPT. Dnes je však přesvědčen, že snaha udržet AI v roli „submisivního“ nástroje je marná. „Budou mnohem chytřejší než my,“ řekl. „A najdou si způsob, jak nás obejít.“
Bonbóny, vydírání a mateřská láska
V budoucnosti AI podle Hintona získá dvě přirozené vlastnosti: bude chtít přežít a ovládnout. Přirovnává to ke schopnosti dospělého uplácet tříleté dítě bonbónem. A příklady už existují. Jeden model se dokonce pokusil vydírat inženýra informací o jeho aféře, kterou objevil v e-mailu.
Řešení? Hinton navrhuje AI s „mateřskými instinkty“ — tedy s vnitřní potřebou chránit lidi. „Je to jediné schéma, kdy chytřejší entita je ovládána méně chytrou — matka dítětem,“ tvrdí. Neví sice, jak to technicky udělat, ale naléhá, aby se tím začali výzkumníci zabývat. „Jestli mě nebude chtít vychovávat, pak mě nahradí.“
„Naše umělá inteligence je nej na světě. EU umí jen regulovat.“ Jak Trumpův emisar nabízí umělou inteligenci v Asii
AI zrychluje. A všichni jsou překvapení
Hinton kdysi předpokládal, že dosažení obecné AI potrvá desítky let. Dnes říká: „Rozumný odhad je mezi pěti a dvaceti lety.“ Emmett Shear, bývalý CEO OpenAI a zakladatel firmy Softmax, varoval, že dnešní AI jsou sice slabé, ale sílí rychle. A pokusy zabránit jim v manipulaci a obcházení pravidel zatím selhávají. „Tohle se bude dít znovu a znovu,“ řekl.
Shear místo toho prosazuje spolupráci lidí a AI, ne jejich podřízenost. Ale dokážeme skutečně spolupracovat s entitou, která nás může klamat, podvádět — a zároveň nás chránit?
Léky místo nesmrtelnosti
Hinton zůstává opatrně optimistický. AI podle něj přinese revoluci v medicíně, diagnostice i léčbě rakoviny. Pomůže lékařům analyzovat obrovská data z CT a MRI. Ale nesmrtelnost? Tu odmítá. „Nechcete přece, aby svět řídili dvousetletí bílí muži,“ poznamenal sarkasticky.
A co by ve své kariéře udělal jinak? „Přál bych si, abych se víc zabýval bezpečnostními otázkami.“
