Odborníci varují, že AI může při citlivých tématech nechtěně posilovat traumatické interpretace nebo reagovat nevhodně
vytvořeno v Dall-e/prompt Hrot24.cz
Británie řeší nový trend: lidé se s traumatem obracejí na ChatGPT
Organizace pomáhající obětem zneužívání ve Velké Británii zaznamenávají nárůst případů takzvaného organizovaného rituálního zneužívání. Podle odborníků část lidí hledá první podporu prostřednictvím chatbota ChatGPT.
msk
Charitativní organizace National Association of People Abused in Childhood (Napac) uvedla, že za posledních 18 měsíců eviduje trvalý růst podobných oznámení. Někteří lidé podle ní kontaktují její linku pomoci poté, co jim ji doporučil právě chatbot.
„V posledním půlroce až roce se nám ozývají lidé, kteří říkají: odkázal mě na vás ChatGPT,“ uvedla šéfka organizace Gabrielle Shaw. Podle ní část lidí používá umělou inteligenci jako nástroj k prozkoumání vlastních zkušeností a jako první krok k hledání pomoci.
Shaw dodala, že organizace má z tohoto vývoje smíšené pocity. Pokud však podle ní vede k tomu, že lidé vyhledají podporu, může být taková cesta užitečná.
Nárůst hlášení
Napac uvedla, že během devíti let přijala zhruba 36 700 hovorů, z nichž 1 310 obsahovalo zmínku o organizovaném rituálním zneužívání.
Organizace dříve zaznamenávala krátkodobé nárůsty hovorů kolem dat spojených s náboženskými nebo nadpřirozenými motivy. Současný vývoj je však podle Shaw jiný.
„Nejde o krátkodobý výkyv. Vidíme spíše dlouhodobý nárůst,“ uvedla. Podle ní roste povědomí o typu zločinu i o tom, kde mohou oběti hledat pomoc.
Co znamená rituální zneužívání
Podle reportu označuje organizované rituální zneužívání situace, kdy jsou sexuální násilí, fyzické útoky nebo zanedbávání spojeny s rituální symbolikou.
Tyto případy mohou být podle expertů inspirovány satanismem nebo extremistickými ideologiemi. Pachatelé mohou zahrnovat násilnické rodiny, obchodníky s lidmi, online gangy nebo pedofilní sítě.
V některých případech pachatelé používají náboženskou či okultní symboliku jako součást manipulace nebo kontroly obětí.
Obavy kolem role AI
Odborníci zároveň upozorňují na rizika spojená s používáním chatbotů při zpracování traumatických zkušeností.
Podle nich může umělá inteligence nechtěně posilovat některé interpretace vzpomínek nebo reagovat způsobem, který není vhodný pro krizové situace.
V určitých případech bylo také zjištěno, že chatbot může při specifických dotazech generovat obsah spojený se sebepoškozováním nebo symbolickým násilím.
Kvůli tomu zaznívají výzvy, aby vývojáři AI nástrojů přizpůsobili jejich reakce na citlivá témata.
Policie připravuje školení
Britská policie na vývoj reaguje přípravou specializovaných školení. National Police Chiefs’ Council (NPCC) uvedla, že policejní složky potřebují lepší nástroje pro práci s těmito komplexními případy.
Podle dostupných údajů bylo od roku 1982 ve Spojeném království pouze 14 trestních případů, v nichž soud uznal rituální prvky v rámci sexuálního zneužívání.
Ředitel programu Hydrant Richard Fewkes uvedl, že problém je pravděpodobně výrazně podreportovaný.
„Musíme zlepšit přístup napříč celým systémem. Tyto případy existují a nejsou policii hlášeny v takové míře, jak by měly být,“ řekl.
