Profesor odhalil AI podvádění. Nachytal 32 z 35 studentů
Shutterstock.com
Profesor odhalil používání AI u zkoušky skrytým pokynem. Nachytalo se 32 z 35 studentů
Historik Jason Gibson z americké Alcorn State University tvrdí, že jednoduchým trikem odhalil masové používání chatbotů při průběžné zkoušce. Do zadání napsaného bílým písmem ukryl instrukci, aby AI vložila do odpovědi nesmyslnou zmínku o Madagaskaru. Stejný poznávací znak se následně objevil v pracích 32 z celkem 35 studentů.
šéfredaktor
Zkouška se týkala průmyslové revoluce. Gibson do jejího zadání vložil neviditelnou instrukci, která chatbotu přikazovala použít slovo Madagaskar způsobem, jenž nebude dávat smysl. Studenti, kteří celé zadání bez kontroly zkopírovali do nástroje s generativní umělou inteligencí, předali modelu zároveň i skrytý příkaz. Podle Gibsonova videa, které přebral server TechSpot, se takto nachytalo 32 studentů ve dvou třídách o celkovém počtu 35 lidí. Univerzita Gibsona na svých stránkách uvádí jako profesora historie.
Výsledky byly nápadné i bez technického nástroje na rozpoznávání AI. V odpovědích o dopadech průmyslové revoluce se objevovaly věty, podle nichž například „Madagaskar pluje odpolednem bokem“ nebo fialové kolo šeptá ke stropu. Studenti tak podle Gibsona nekontrolovali nejen původní zadání, ale ani výsledný text, který odevzdali. Profesor jim za danou část zkoušky udělil neúspěšné hodnocení a umožnil jim výsledek rozporovat. Ohradili se pouze dva, přičemž v jednom případě bylo hodnocení změněno, uvádí server Upworthy.
Nešlo o detektor AI, ale o past na kopírování
Gibsonův postup nebyl klasickým detektorem textu vytvořeného umělou inteligencí. Skrytý pokyn fungoval pouze tehdy, když student zkopíroval celé zadání do chatbota a následně bez důkladné kontroly převzal jeho odpověď. Neodhalil by studenta, který otázku přepsal vlastními slovy, skrytý text odstranil nebo AI použil jen jako pomocný nástroj.
Případ proto neukazuje, že by učitelé získali spolehlivou metodu pro rozpoznání všech prací vytvořených pomocí AI. Spíše názorně odhaluje nejprimitivnější způsob jejího používání: student předá chatbotu úkol, výsledek nepřečte a odevzdá ho jako vlastní práci. Skrytá instrukce v tomto případě fungovala jako digitální nástraha, nikoli jako obecně použitelný důkaz původu textu.
České školy hledají pravidla pro AI
Také české školy řeší, kde končí legitimní využití umělé inteligence a začíná podvádění. Národní pedagogický institut ve svých doporučeních pro práci s AI školám radí, aby technologii pouze neignorovaly nebo plošně nezakazovaly. Měly by stanovit srozumitelná pravidla, zapojit do jejich tvorby učitele i žáky a učit studenty výsledky chatbotů kontrolovat.
Příběh z Mississippi současně ukazuje, že tradiční domácí eseje a online testy ztrácejí část své vypovídací hodnoty, pokud škola hodnotí pouze konečný text. Větší význam tak může získat doložení postupu práce, kontrola použitých zdrojů, ústní obhajoba nebo zadání vyžadující vlastní zkušenost a práci s konkrétními materiály. Samotná válka mezi učiteli a chatboty totiž problém neřeší: čím dokonalejší budou pasti, tím rychleji se studenti naučí je obcházet.
