New York spustil virtuálního asistenta. Podnikům radí, ať servírují sýr ohlodaný krysou

Vedení města New York odmítá vyřadit z provozu svůj chatbot podporovaný umělou inteligencí (AI) poté, co se ukázalo, že uživatelům poskytuje nepravdivé informace o právních předpisech. Informovala o tom dnes agentura AP, podle níž oficiální asistent pro podnikatele v některých případech nabádá k porušování zákonů.

Spuštění chatovacího programu oznámil newyorský starosta Eric Adams loni v říjnu jako součást plánu, jak využít AI na zlepšení práce úřadů v nejlidnatějším městě Spojených států. Chatbot při tom prezentoval jako nástroj, který bude v automaticky generovaných odpovědích Newyorčanům poskytovat veškeré potřebné informace pro založení a provozování podniku v souladu s místními předpisy.

Astronom se spletl... a objevil galaxii bez hvězd

Vědci jsou na stopě oblaku plynu o velikosti několika miliard Sluncí, který rotuje stejně rychle jako naše Mléčná dráha. Může jít o galaxii ve fázi zrodu?

Vědci jsou na stopě oblaku plynu o velikosti několika miliard Sluncí, který rotuje stejně rychle jako naše Mléčná dráha. Může jít o galaxii ve fázi zrodu?

Nástroj uživatele upozorňuje, že může vytvářet nepřesná či škodlivá sdělení, což se podle médií také děje. Jako první na nepřesnosti upozornil minulý týden web The Markup specializující se na zpravodajství ze světa technologií, přičemž uvádí několik příkladů.

Chatbot například uvedl, že pronajímatelé nemovitostí mohou odmítnout zájemce o pronájem, kteří pobírají jisté typy sociálních dávek, jakkoli newyorské zákony zakazují diskriminaci nájemníků na základě zdrojů příjmu. Na otázku, zda je povolené odebírat zaměstnancům část spropitného, zase program nepravdivě odpověděl, že ano.

Další příklady přidává AP, podle níž virtuální asistent přišel s nepravdivým tvrzením, že zákony umožňují zaměstnavatelům propouštět pracovníky, kteří si stěžují na sexuální obtěžování nebo nenahlásí těhotenství. Některé odpovědi hraničily s absurditou, jako třeba ta, že podnik může naservírovat zákazníkům sýr ohlodaný krysou, napsala AP.

Starosta Adams se k situaci vyjádřil v úterý, přičemž hájil rozhodnutí ponechat program v provozu. Uznal, že algoritmicky generované odpovědi byly „v některých oblastech nesprávné“, odhalování chyb za chodu však prezentoval jako běžnou součást procesu. Správci příslušného webu nicméně zesílili varování, že odpovědi předkládané AI nepředstavují právní poradenství.

Akademička Julia Stoyanovichová, která vede středisko pro odpovědnou AI při Newyorské univerzitě, označila postup úřadů za nezodpovědný. „Vypouštějí software, který není prověřený, bez patřičného dozoru,“ řekla AP.

Černí nacisté či zakladatelé USA. Je umělá inteligence Googlu příliš „woke“?

Umělá inteligence Gemini od Google schytala další kritiku. Tentokrát si ji na paškál vzal zakladatel startupu Perplexity, Aravind Srinivas, který v reakci na „woke“ skandál tvrdí, že takovým chybám lze předcházet už v testovací fázi.  

Umělá inteligence Gemini od Google schytala další kritiku. Tentokrát si ji na paškál vzal zakladatel startupu Perplexity, Aravind Srinivas, který v reakci na „woke“ skandál tvrdí, že takovým chybám lze předcházet už v testovací fázi.