Jak chránit firemní data při používání ChatGPT a dalších AI nástrojů
Shutterstock.com
Kde selhává firemní AI. O úspěchu rozhoduje kontrola nad daty, ne výběr modelu
Firmy hromadně nakupují umělou inteligenci a čekají, že jim ze dne na den znásobí efektivitu. Očekávané výsledky ale nepřicházejí. Manažeři totiž nasazují moderní technologie bez pevných základů. Neřeší, kudy tečou firemní data a kdo k nim má přístup. Výsledek? Zaměstnanci nevědomky odevzdávají cenné znalosti do veřejných sítí, přitom bezpečné řešení existuje. Stačí převzít kontrolu nad daty a provozovat otevřený model na vlastní infrastruktuře nebo v privátním cloudu.
Filip Morávek
Lidé ve firmách pálí miliony tokenů měsíčně, ale reálný doručený dopad na byznys stále chybí. Umělá inteligence je totiž jen motor a bez kvalitních dat nemá z čeho čerpat. Tady narážíme na problém, který dobře ilustrují data z průmyslu. Podle reportu State of Smart Manufacturing od společnosti Rockwell Automation si drtivá většina výrobních podniků nasadila centrální systém, ale jen necelá čtvrtina ho dokázala provázat napříč celou organizací. V dalších oborech je přitom situace velmi podobná. Data zůstávají v izolovaných silech a celých 73 procent AI projektů podle analytiků z Kaufman Rossin uvízne ve fázi pouhého testování. Chytré algoritmy zkrátka nemají co číst.
Jakmile firma konečně data propojí, naráží na další riziko. Zaměstnanci běžně nahrávají zápisy z porad nebo databáze zákazníků do volně dostupných aplikací. Zprvu to vypadá jako zrychlení práce, jenže společnost za tyto nástroje neplatí penězi, ale vlastním know-how. Vedení firem proto bezplatné nástroje zakazuje a raději přechází na placený cloud od globálních technologických gigantů. Tím se ale dostávají pod cizí jurisdikci. Nejznámějším příkladem je americký zákon Cloud Act, na jehož základě mohou tamní úřady vyžádat přístup k datům u jakéhokoliv poskytovatele podléhající americké jurisdikci, bez ohledu na to, kde jsou servery fyzicky umístěny. Při využívání jakékoliv externí infrastruktury si firmy musí být tohoto rizika vědomy.
Samotný AI model je přitom jen poslední vrstvou celého systému. Pod ním musí stát spolehlivá datová a integrační infrastruktura. Bez propojení na firemní aplikace zůstává umělá inteligence izolovaná a bez vazby na reálné procesy. Modely se navíc mění extrémně rychle a co platilo před půl rokem, dnes neplatí. Architekturu je proto potřeba od začátku stavět modulárně, aby firma mohla starý model kdykoliv plynule vyměnit za nový.
Právě proto dnes sledujeme návrat k lokální infrastruktuře a využívání privátních cloudů. Pro spoustu firem představuje privátní cloud ideální střední cestu, protože získají vyhrazené a zabezpečené prostředí, aniž by musely stavět a spravovat vlastní serverovny. Ochranu dat lze navíc pojistit nasazením lokální integrační vrstvy, která funguje jako bezpečnostní filtr mezi firemním systémem a umělou inteligencí. Před odesláním dotazu do AI se data automaticky anonymizují a teprve na vlastní infrastruktuře jsou do odpovědi doplněny zpět původní citlivé údaje. Umělá inteligence pak pracuje pouze s anonymizovaným textem a reálné údaje nikdy neuvidí.
Integrační vrstva zároveň může sloužit jako kontrolní uzel pro náklady i bezpečnost. Pokud firmy používají jeden sdílený přístupový klíč, vedení často nemá přehled, kolik který tým utratí. Přes integrační vrstvu lze naopak sledovat spotřebu u jednotlivých projektů, nastavovat limity a neustále monitorovat provoz. Pokud systém zaznamená neobvyklý tok dat nebo pokus o vyvedení informací, umožňuje takový přístup okamžitě zablokovat. V kombinaci s privátním cloudem tak většina firem získá plně kontrolované a zabezpečené prostředí.
Mnoho organizací ale spravuje natolik citlivé systémy, že si nemohou dovolit, aby data opustila vlastní infrastrukturu. Typicky jde o obranu, energetiku nebo klíčové státní úřady. Pro tuto nejkritičtější infrastrukturu proto firmy i instituce volí provoz v plně izolovaném prostředí, bez připojení k veřejnému internetu. Jinak řečeno air-gapped provoz. Všechny aplikace i modely běží na vlastních serverech organizace, odříznuté od internetu. K provozu pak využívají otevřené modely, například Google Gemma nebo Mistral, které dosahují dobrých výsledků i v čistě lokálním nasazení.
Úspěšná digitální transformace nezačíná nákupem přístupů k AI nástrojům. Začíná mravenčí prací na propojení dat, automatizaci procesů a nastavení jasných bezpečnostních mantinelů ideálně v rámci Private WorkOps přístupu. Neřešte proto na začátku, který konkrétní AI model si pořídíte. Řešte primárně to, jak k němu bezpečně dostanete své informace. Pokročilý model odříznutý od firemních systémů a bez bezpečnostních pravidel totiž žádné výsledky nepřinese, jen zbytečně zvýší náklady i riziko. v
Autor je founder a CEO Easy8
