Sam Altman, OpenAI
Shutterstock.com
Sam Altman varuje: letos může přijít kyberútok, který „otřese světem“
Šéf OpenAI Sam Altman varuje před scénářem, který ještě nedávno působil jako vzdálená hrozba. Podle něj je „zcela možné“, že už letos dojde k kybernetickému útoku, který „otřese světem“. V rozhovoru pro Axios upozornil, že rychlý vývoj umělé inteligence posouvá schopnosti obránců i útočníků stejným tempem.
msk
„V příštím roce uvidíme velké hrozby, které budeme muset zmírnit v oblasti kybernetiky,“ uvedl v rozhovoru Altman. „Tyto modely už jsou velmi schopné a budou ještě schopnější.“ Dosavadní debata o AI se soustředila hlavně na pracovní trh nebo životní prostředí. Podle něj ale existuje akutnější riziko, které zatím zůstávalo stranou.
Slabina jménem open source
Klíčovým problémem je dostupnost technologie. Zatímco nejpokročilejší modely zůstávají pod kontrolou velkých firem, otevřené varianty mohou představovat vstupní bod pro zneužití. „Abychom tomu zabránili, bude to vyžadovat obrovské množství práce — a také odolný přístup,“ říká Altman. Zdůrazňuje nutnost koordinace mezi technologickými firmami, kyberbezpečnostními společnostmi i státy.
„Není to jen o jednom bezpečném modelu. Jsou tu obránci, programy důvěryhodného přístupu i snaha rychle zabezpečit systémy a open source ekosystém,“ dodává. Právě schopnost reagovat napříč sektory bude podle něj rozhodující.
AI a nová dimenze bioterorismu
Vedle kyberútoků upozorňuje Altman také na další riziko: bioterorismus. Umělá inteligence podle něj výrazně urychlí biologický výzkum. „Uvidíme vyléčení řady nemocí,“ říká. Současně ale varuje: „Někdo se to pokusí zneužít.“
Zatím pomáhá fakt, že nejvýkonnější modely kontrolují odpovědné firmy, které nastavují bezpečnostní bariéry. Tento stav se ale může rychle změnit. „Nejsme daleko od světa, kde budou extrémně schopné open source modely velmi dobré v biologii,“ upozorňuje Altman. V takovém prostředí už podle něj nebude hrozba vytváření nových patogenů jen hypotetická.
Jednoduché řešení podle něj neexistuje. Právě tato složitost zvyšuje riziko, že se hrozby nejen objeví, ale mohou mít i globální dopad.
