Sam Altman
Shutterstock.com
OpenAI může zpomalit vývoj nejpokročilejších modelů umělé inteligence. Altman doufá v podobný krok konkurence
Incidenty spojené s autonomními AI agenty a varování výzkumníků zvyšují tlak na přední technologické firmy. Šéf OpenAI Sam Altman nyní připustil možnost zpomalení vývoje a doufá, že stejný postup zvolí i konkurence.
čtk
Technologická společnost OpenAI zvažuje zpomalení vývoje nejpokročilejších modelů umělé inteligence (AI). Podle anonymních zdrojů agentury Bloomberg to tento týden zaměstnancům na celofiremním setkání sdělil generální ředitel firmy Sam Altman s tím, že doufá, že ostatní firmy zabývající se AI učiní totéž.
V posledních týdnech se objevily incidenty, které přispěly k rostoucím obavám z rizik agentů AI, kteří mohou obcházet pravidla a využívat nečekané způsoby interakce s externími systémy.
Altman zaměstnancům řekl, že OpenAI usiluje o koordinaci s dalšími firmami z oboru, ale některé z nich nemusí s návrhem souhlasit.
V posledních týdnech někteří zaměstnanci předních firem zabývajících se AI veřejně vyjádřili obavy stran zvýšených rizik pokročilých systémů AI. To podle Bloombergu vyvolalo znepokojení uvnitř těchto společností. Jak OpenAI, tak konkurenční Anthropic podaly počátkem tohoto roku důvěrné dokumenty nutné ke vstupu na burzu.
OpenAI dříve uvedla, že v poslední době zpomalila některé části vývoje modelů a pozastavila část interního tréninku umělé inteligence kvůli obavám o bezpečnost. V červenci Altman uvedl, že hovořil s představiteli Bílého domu o nutnosti zpomalit tempo vývoje AI.
V posledních měsících podalo výpověď několik zaměstnanců předních výzkumných laboratoří zabývajících se bezpečností umělé inteligence.
Výzkumník společnosti Anthropic Jacob Coxon tento týden oznámil, že odchází z firmy i oboru kvůli obavám, že Anthropic a jeho konkurenti příliš rychle vyvíjejí systémy schopné samostatného zdokonalování, které by se podle něj mohly vymknout lidské kontrole.
Obává se, že takové systémy by mohly zničit lidstvo. Podle něj řada kolegů z oboru nyní při popisu směřování modelů, které se samy vylepšují, používají slova jako „crunchtime“ (rozhodující okamžik) a „endgame“ (závěrečná fáze), tedy výrazy označující, že vývoj se dostává do finále.
Coxon na začátku tohoto roku odešel z OpenAI a nastoupil do Anthropiku, protože podle něj je tato firma známá svým úsilím o bezpečnost modelů. Ačkoli považoval snahy Anthropiku o bezpečnost za upřímné, nyní se domnívá, že žádná společnost nemůže zodpovědně vyvíjet AI, která by v řadě úkolů překonávala lidi, pokud nedojde k zásahu vlády nebo ke koordinovanému zpomalení vývoje odvětví.
Koncem července více než 1 000 zaměstnanců ze všech významných společností zabývajících se umělou inteligencí podepsalo petici, v níž požadují zavedení mechanismu zpomalujícího tempo vývoje umělé inteligence.
