Fred Streefland z Check Pointu upozorňuje, že AI umožňuje útočníkům rychleji vyhledávat zranitelnosti a připravovat sofistikovanější útoky.
Shutterstock.com
AI zrychluje kyberútoky. Evropa řeší, jak ochránit energetiku, datová centra i vlastní firmy
Umělá inteligence mění kyberbezpečnost rychleji, než se mnohé instituce dokážou přizpůsobit. Podle experta Freda Streeflanda z Check Pointu jsou útoky díky AI rychlejší a sofistikovanější. Podobně varuje i šéf OpenAI Sam Altman, podle něhož může už letos přijít kyberútok, který „otřese světem“.
Michael Skřivan, čtk
šéfredaktor,
Kybernetické útoky vstupují do nové fáze. Umělá inteligence nedává výhodu jen firmám, státům a bezpečnostním týmům, které ji používají k obraně. Stejné nástroje začínají využívat i útočníci. Výsledkem je prostředí, v němž se zkracuje čas mezi objevením zranitelnosti a jejím zneužitím, roste kvalita podvodných kampaní a automatizace umožňuje útočit rychleji i ve větším měřítku.
Podle Freda Streeflanda, bývalého specialisty vojenské rozvědky nizozemského letectva a dnes experta společnosti Check Point Software Technologies, je nejvýraznějším trendem posledních měsíců právě nástup AI do kybernetických operací. Útočníkům pomáhá rychleji vyhledávat slabá místa, vytvářet škodlivý software, připravovat phishingové kampaně nebo vyrábět deepfake obsah.
„Útoky dnes jsou rychlejší a sofistikovanější,“ říká Streefland.
Jeho varování přichází v době, kdy se kyberprostor stále více prolíná s geopolitikou. Válka na Ukrajině ukázala, že digitální operace se staly běžnou součástí moderních konfliktů. Samy o sobě válku nerozhodnou, ale dokážou narušovat infrastrukturu, zvyšovat tlak na stát a doprovázet konvenční vojenské operace.
„Kyberprostor hraje větší roli než kdy dříve, ale nikdy nebude rozhodující,“ říká Streefland.
Nejzranitelnější je infrastruktura
Za nejcitlivější části evropské kritické infrastruktury označuje energetiku a systémy, na nichž stojí fungování internetu, zejména datová centra. Výpadek elektřiny nebo konektivity by měl okamžitý dopad na fungování společnosti: od bank a nemocnic přes dopravu až po státní správu.
Problém je i v tom, že některé části kritické infrastruktury vstoupily do kybernetické éry později než tradiční IT sektor. Banky budují obranu desítky let. Energetické firmy, průmyslové provozy nebo provozovatelé technické infrastruktury se často musely přizpůsobovat rychleji a s větším dědictvím starších systémů.
Právě průmyslové a provozní technologie bývají složitější na modernizaci. Nejde jen o servery a kancelářské počítače. Jde o zařízení, která řídí výrobu, distribuci, dopravu energií nebo provoz budov. Často musí fungovat nepřetržitě, mají dlouhou životnost a jejich odstavení kvůli bezpečnostní aktualizaci není jednoduché.
To z nich dělá lákavý cíl.
AI jako zbraň i obranný nástroj
Umělá inteligence do této situace přidává rychlost. Na straně obránců může pomáhat třídit bezpečnostní incidenty, analyzovat provoz v sítích, vyhledávat anomálie nebo urychlovat reakci na útok. Jenže stejnou logiku lze otočit.
Útočníci mohou s pomocí AI vytvářet přesvědčivější podvodné e-maily, automatizovat průzkum cílů, generovat varianty škodlivého kódu nebo vyrábět deepfake nahrávky, které napodobují konkrétní lidi. To snižuje nároky na část útočníků a zvyšuje objem pokusů, které musí obrana zachytit.
Streefland upozorňuje, že riziko nevzniká jen zvenčí. Firmy a instituce samy často zavádějí AI nástroje bez dostatečného posouzení bezpečnostních dopadů. Chatboti, autonomní asistenti nebo interní AI systémy mohou zvyšovat produktivitu, ale také otevírat nové cesty k úniku dat, manipulaci výstupů nebo napojení na špatně chráněné interní systémy.
Za chybu považuje nekritické nasazování nových nástrojů jen kvůli efektivitě. Základní bezpečnostní principy přitom zůstávají stejné: segmentace sítí, vícefaktorové ověřování, průběžné monitorování a jasná pravidla pro přístup k citlivým datům.
Altmanovo varování
Podobně naléhavě mluví o kybernetickém riziku i Sam Altman, šéf OpenAI. V rozhovoru pro Axios varoval, že je „zcela možné“, aby už letos přišel kybernetický útok, který „otřese světem“.
Altman tím neříká, že takový útok je jistý. Upozorňuje ale, že schopnosti modelů rostou rychle a bezpečnostní debata za nimi může zaostávat. Podle něj se dosavadní diskuse o AI příliš soustředila na pracovní trh, autorská práva nebo ekologické dopady provozu datových center. Kybernetická bezpečnost je přitom riziko, které se může projevit rychleji a tvrději.
„V příštím roce uvidíme velké hrozby, které budeme muset zmírnit v oblasti kybernetiky,“ uvedl Altman. „Tyto modely už jsou velmi schopné a budou ještě schopnější.“
Jeho pohled doplňuje Streeflandovu opatrnou vojensko-bezpečnostní perspektivu. Oba v zásadě říkají totéž: AI nezruší staré bezpečnostní problémy, ale zrychlí je, rozšíří a učiní dostupnějšími.
Dilema open source
Jednou z nejcitlivějších otázek je dostupnost modelů. Nejvýkonnější systémy zatím ovládají velké technologické firmy, které nastavují přístupová pravidla a bezpečnostní bariéry. Rychle se ale zlepšují i otevřené modely, které lze stáhnout, upravovat a provozovat mimo přímou kontrolu původních tvůrců.
Open source má pro technologický vývoj obrovský význam. Podporuje konkurenci, výzkum a nezávislost na několika velkých firmách. Z bezpečnostního hlediska je ale dvojsečný. Stejné vlastnosti, které pomáhají inovaci, mohou usnadnit zneužití.
Altman proto zdůrazňuje, že nestačí spoléhat na bezpečnost jednoho modelu. Bude nutná koordinace mezi technologickými firmami, kyberbezpečnostními společnostmi a státy. Důležitá má být i ochrana širšího ekosystému: nástrojů, výpočetní infrastruktury, přístupových režimů a způsobů, jak se modely nasazují ve firmách.
„Není to jen o jednom bezpečném modelu,“ říká Altman. Rozhodující podle něj bude schopnost rychle zabezpečovat systémy a zároveň udržet odolný open source ekosystém.
Rusko, Čína a vlastní chyby
Streefland nepovažuje za největší hrozbu pro Evropu pouze jednu zemi. Rizika podle něj přicházejí z více směrů: od státních aktérů, kriminálních skupin i vlastních chyb organizací a zaměstnanců.
Rusko má podle něj dlouhodobě silné kybernetické schopnosti a v posledních letech se výrazněji propojují aktivity kriminálních hackerských skupin se státními strukturami. Ruské skupiny byly tradičně viditelnější a více motivované i finančním ziskem. Čínští aktéři se naopak dlouhodobě soustředili především na špionáž a postupovali opatrněji.
Hranice se ale stírají. Kybernetická kriminalita, špionáž, sabotáž a geopolitický tlak se stále častěji překrývají. Pro evropské státy to znamená, že nestačí sledovat jen velké protivníky. Stejně důležité je snižovat vlastní zranitelnost.
Biologie jako další hranice
Altman zároveň rozšiřuje debatu za hranici kybernetiky. Vedle útoků na digitální infrastrukturu upozorňuje také na bioterorismus. Umělá inteligence podle něj výrazně urychlí biologický výzkum a může pomoci při léčbě řady nemocí. Stejné schopnosti ale mohou být zneužity.
„Uvidíme vyléčení řady nemocí,“ říká Altman. „Někdo se to pokusí zneužít.“
Zatím podle něj pomáhá, že nejvýkonnější modely kontrolují firmy, které nastavují bezpečnostní pravidla. Tento stav ale nemusí trvat dlouho. Pokud budou velmi schopné otevřené modely dobře použitelné v biologii, riziko nebezpečných experimentů přestane být jen hypotetické.
Pro státy i technologické firmy to znamená nepříjemnou rovnováhu. Příliš přísná omezení mohou zpomalit výzkum. Příliš volný přístup může snížit bariéry pro nebezpečné použití.
Bez jednoduchého řešení
Společným jmenovatelem Streeflandova i Altmanova varování je absence jednoduchého řešení. AI nelze bezpečně oddělit na „dobré“ a „špatné“ použití. Stejné schopnosti, které pomáhají bránit systémy, pomáhají i útočníkům. Stejné modely, které mohou urychlit výzkum, mohou pomoci i těm, kdo chtějí škodit.
Evropské státy podle Streeflanda zvyšují odolnost prostřednictvím cvičení, ochrany infrastruktury a nové legislativy. Žádná země ale nemůže být na vážný incident plně připravena. Geopolitické prostředí se mění příliš rychle a technologický vývoj zkracuje čas na reakci.
