Papež Lev XIV.
Shutterstock.com
AI už Američanům píše modlitby. Papež varuje, aby lidé strojům nepředali vlastní úsudek
Umělá inteligence už neproniká jen do kanceláří, škol nebo vyhledávání. Část Američanů ji používá při studiu Bible, nechává si od ní vytvářet modlitby a obrací se na chatboty i s duchovními otázkami. Právě ve chvíli, kdy se AI začíná dotýkat víry a osobního rozhodování, papež Lev XIV. znovu varoval před podceňováním jejích rizik. „Nepropadám panice,“ řekl, zároveň ale odmítl tvrzení, že obavy odborníků jsou pouze fake news.
msk
AI jako pomocník při psaní e-mailu, rešerši nebo hledání informací už nikoho příliš nepřekvapí. Nový průzkum NPR a Ipsos ale ukazuje, že se chatboty začínají dostávat i do mnohem osobnější části života.
Z celkem 1011 dotázaných amerických dospělých uvedlo 61 procent, že někdy použili nástroj umělé inteligence, například ChatGPT, Gemini nebo Claude. Mezi těmito uživateli 15 procent využilo AI ke studiu náboženských textů, 13 procent k vytváření modliteb a 11 procent kvůli duchovnímu či náboženskému vedení.
Průzkum provedl Ipsos od 7. do 9. srpna prostřednictvím svého pravděpodobnostního panelu KnowledgePanel. Důležitý je především jmenovatel: uvedených 15, 13 a 11 procent se netýká všech Američanů, ale pouze lidí, kteří už nějakou AI používají.
V celé americké populaci je tak podíl nižší. Ipsos například odhaduje, že duchovní či náboženské vedení prostřednictvím AI někdy hledalo zhruba šest procent amerických dospělých.
Když pastor nestačí, nastoupí chatbot
Čísla ukazují trend, ale zajímavější je, co lidé s AI skutečně dělají.
NPR ve vlastním reportingu popsala například třiačtyřicetiletého stavebního dělníka Rudyho Vazqueze z Floridy. Při bohoslužbě narazil na pasáž z knihy proroka Izajáše, které nerozuměl. Protože podle svých slov v minulosti nedostal od náboženských představitelů odpovědi, které by mu pomohly, požádal umělou inteligenci o vysvětlení páté kapitoly Izajáše.
Osmašedesátiletý Brent Hill z Texasu zase chatbot požádal, aby mu porovnal různé křesťanské pohledy na konec časů. Výhodu vidí především v tom, že může okamžitě pokládat další otázky a nechat si rychle shrnout velké množství informací. Odpovědi si ale následně kontroluje proti samotné Bibli.
Nejde tedy nutně o nahrazení víry nebo duchovního autoritou stroje. Pro část lidí funguje AI jako kombinace vyhledávače, vysvětlovacího nástroje a partnera, kterého lze okamžitě požádat o další podrobnosti.
Právě dostupnost je jedním z hlavních důvodů, proč lidé AI volí místo člověka. Mezi uživateli umělé inteligence uvedlo 31 procent jako výhodu možnost obrátit se na ni kdykoliv bez čekání, 29 procent přístup k většímu množství informací a 23 procent skutečnost, že se nemusejí obávat odsouzení. Osmnáct procent uvedlo, že dokážou být k AI otevřenější než k lidem, které znají.
Právě tato čísla mohou být pro církve a další náboženské instituce zajímavější než samotné generování modliteb. Chatbot je dostupný okamžitě, neunaví se, lze se ho zeptat prakticky na cokoli a uživatel při tom nemusí překonávat společenskou bariéru.
Většina Američanů ale duchovního robota nechce
Z dat zároveň nelze udělat příběh o masovém nahrazování kněží, pastorů nebo rabínů chatboty.
Naopak 69 procent uživatelů AI uvedlo, že by ji nikdy nevyhledalo kvůli náboženskému nebo duchovnímu vedení. Tři čtvrtiny uživatelů navíc důvěřují při osobních problémech více lidem, které znají, než odpovědím umělé inteligence. Pouze šest procent věří více radám AI.
Když Ipsos položil otázku všem Američanům bez ohledu na to, zda AI používají, vyšla její pozice ještě zřetelněji. Při složitém osobním problému by se 66 procent obrátilo na rodinu a 63 procent na přátele. Náboženského představitele uvedlo 28 procent a AI 26 procent.
Jen pět procent Američanů věří, že AI může lidi přiblížit spiritualitě nebo náboženské praxi.
Technologie tedy tradiční duchovní autority zatím nenahrazuje. Pro malou, ale měřitelnou skupinu lidí se však stává dalším prostředníkem mezi otázkou a odpovědí.
Papež: Obavy z AI nejsou fake news
Právě hranice mezi používáním technologie jako nástroje a předáváním lidského rozhodování strojům patří k hlavním tématům papeže Lva XIV.
Na palubě letadla při návratu ze čtyřdenní návštěvy Francie se ho novináři ptali na varování odborníků před možností, že velmi pokročilé systémy AI mohou představovat vážné bezpečnostní riziko.
Lev XIV. podle AP řekl, že obavy odborníků z bezpečnosti umělé inteligence nepovažuje za „fake news“. Současně zdůraznil, že sám není v panickém režimu a netvrdí, že katastrofické scénáře jsou nevyhnutelné.
„Prostě říct: ‚To se nestane,‘ a zavřít před tím oči podle mě není nejzodpovědnější způsob, jak k tomu přistupovat,“ řekl papež.
Výrok byl zároveň reakcí na probíhající americkou debatu o regulaci AI.
Prezident Donald Trump už 14. září označil obavy z nekontrolovatelné AI za „hoax“ a snahy o její regulaci za součást „SICK conspiracy“. Argumentuje především tím, že rozsáhlejší regulace by mohla Spojené státy oslabit v technologické konkurenci s Čínou.
Papež naopak tvrdí, že rychlost technologického vývoje je důvodem k debatě o odpovědnosti, nikoliv k jejímu odmítnutí.
„Ráj strojů“
Nejde přitom o názor, který by Lev XIV. formuloval až během zpátečního letu.
Už 25. září při vystoupení před francouzskými představiteli v Elysejském paláci varoval, že bez schopnosti etického úsudku mohou lidé „ztratit svou lidskost uprostřed ráje strojů“, které pronikají do každodenního života a ovlivňují ho.
Podle papeže proto nestačí technická gramotnost. Lidé se podle něj musejí učit také rozpoznávat, co je morálně přijatelné a kde by rozhodnutí nemělo být delegováno na algoritmus.
Umělá inteligence se ostatně stala tématem už jeho první encykliky Magnifica Humanitas, kterou podepsal 15. května a Vatikán zveřejnil 25. května.
V dokumentu Lev XIV. zdůrazňuje, že lidská inteligence, svědomí a svoboda mají zůstat tím, co určuje používání a limity umělé inteligence.
Zároveň upozorňuje na jeden ze základních problémů dnešních systémů: jejich fungování může být obtížně vysvětlitelné i lidem, kteří je vytvářejí. Proto podle něj nelze odpovědnost jednoduše přesunout ze člověka na technologii.
Kněžím už letos řekl: Kázání si s AI nepište
Tato hranice se přenesla i přímo do fungování katolické církve.
V únoru se papež setkal s duchovními římské diecéze a otevřel také otázku využívání umělé inteligence v práci kněží.
„Vyzývám vás, abyste odolali pokušení připravovat homilie pomocí umělé inteligence,“ řekl podle oficiálního přepisu Vatikánu.
Papež argumentoval dvěma způsoby.
První je praktický: pokud člověk vlastní rozum nepoužívá, postupně tuto schopnost oslabuje.
Druhý je pro něj zásadnější. Kázání nemá být jen technicky správně vytvořený text. Má podle něj vycházet z osobní zkušenosti kněze, jeho víry a vztahu s věřícími.
AI podle Lva XIV. může pracovat s textem o víře. Sama ale víru sdílet nemůže.
Problém není jen hypotetická superinteligence
Právě zde se obě zprávy – papežovo varování a průzkum NPR/Ipsos – zajímavě propojují.
Debata o bezpečnosti umělé inteligence se často soustředí na hypotetický okamžik, kdy vznikne systém s výrazně většími schopnostmi než dnešní modely a lidé nad ním mohou ztratit kontrolu.
Průzkum Ipsosu ale ukazuje mnohem praktičtější posun, který probíhá už dnes.
Uživatel nepotřebuje čekat na superinteligenci, aby stroji začal předávat část vlastního přemýšlení. Stačí, když chatbot začne vysvětlovat náboženské texty, formulovat modlitbu, pomáhat při morálním rozhodnutí nebo nabízet radu v osobní krizi.
Právě osobní témata jsou oblastí, kde se vztah člověka k AI začíná měnit z používání nástroje na rozhovor s něčím, co může působit jako poradce.
Ipsos ale současně ukazuje, že většina lidí tuto hranici zatím nepřekročila. Tři čtvrtiny uživatelů důvěřují v osobních otázkách více známým lidem a skoro sedm z deseti by AI pro duchovní vedení nikdy nepoužilo.
To je důležitá protiváha k představě, že chatboty masově nahrazují náboženské autority.
Zajímavější je, že se vůbec poprvé objevuje měřitelná skupina lidí, která umělou inteligenci nepoužívá jen jako software, ale také jako partnera při uvažování o víře, morálce a vlastním životě.
A přesně v této oblasti papež požaduje, aby poslední slovo zůstalo člověku.
