AI sice umí s lecčím poradit, někdy ji ale stále trápí halucinace
Shutterstock.com
Je kreativnější, než bychom chtěli
Kanada řeší skandál ve zdravotnickém plánu. Ve vládní studii jsou smyšlené citace, AI zřejmě „úřadovala“
Po vzdělávací strategii nyní média objevila chybné odkazy i ve zdravotnickém plánu, který pro jednu z provincií vytvořila společnost Deloitte.
tmn
Vláda kanadské provincie Newfoundland a Labrador požádala společnost Deloitte o kompletní prověření citací v nové zdravotnické studii poté, co média odhalila čtyři nesprávné či zcela neexistující zdroje.
Dokument, který měl sloužit jako desetiletý plán k řešení kritického nedostatku zdravotnického personálu, stál provincii přes 1,6 milionu kanadských dolarů. Na chyby poprvé upozornil server The Independent, následně je potvrdila i místní média.
Podle mluvčího ministerstva zdravotnictví Briana Scotta Deloitte přiznal nepřesnosti, ale stojí si za závěry studie. Firma nyní prověřuje všech 526 stran dokumentu a výsledky předá vládě.
Odhalení navazuje na podobný skandál z oblasti vzdělávání, kde byla v jiné studii nalezena nejméně patnáctka smyšlených citací. V obou případech jsou chyby připisovány používání nástrojů umělé inteligence bez adekvátní kontroly.
Odborový předák Jerry Earle kritizuje vládu za spoléhání na AI v klíčových strategických dokumentech. Tvrdí, že i několik chyb může podkopat důvěru v celý plán, a požaduje jasnější pravidla pro práci externích konzultantů.
Opozice z NDP vyzývá k tomu, aby vláda přiměla Deloitte vrátit peníze — podobně jako v Austrálii, kde tamní pobočka firmy musí refundovat část ze 440 tisíc australských dolarů po odhalení „halucinací AI“ v jiné zprávě.
Kanadské ministerstvo uvedlo, že Deloitte už souhlasila s vrácením poslední splátky za zpracování studie; částka bude zveřejněna po jejím přijetí.
Případ zároveň znovu otevřel debatu o rizicích, která přináší používání AI při tvorbě oficiálních dokumentů — od falešných citací až po zkreslené informace vyplývající z neúplných či chybných tréninkových dat.
S využitím ČTK
