Julian King, partner a ředitel BCG X
BCG / Shutterstock.com, koláž Hrot24
Hrotagon
Osm tipů, jak přimět generativní AI dělat to, co chci
Jak na umělou inteligenci? Snažte se psát konkrétní prompty, které řeší konkrétní problém nebo odpovídají na konkrétní otázku. Tím, že každému promptu přiřadíte menší cíl, zvýšíte jeho spolehlivost, píše Julian King z BCG X. Tady jsou jeho tipy pro efektivnější práci s AI.
Julian King
Říká se o mně, že jsem futurista. Moje vzdělání v oboru astrofyziky dokládá můj hluboký zájem o síly, které pohánějí prostor a čas.
Ve svém doktorském výzkumu jsem pomocí největších optických dalekohledů na světě pozoroval oblaka plynu vzdálená miliardy světelných let od Země, abych ověřil, zda se základní fyzikální konstanty liší v závislosti na čase a prostoru. Tato práce mě přivedla do oblastí statistiky a programování.
V době vrcholící pandemie jsem vedl práci BCG v oblasti epidemiologického modelování, která pomáhala reagovat na nastalou situaci. Jsem zakládajícím členem BCG X, technologické divize firmy zaměřené na návrh a vývoj technologií, kde se věnuji využití potenciálu AI agentů.
Díky výraznému posunu ve schopnostech AI v posledních letech naplno těžím z přístupu „AI na prvním místě“. Pomáhá mi při práci i při zvyšování produktivity. Umělou inteligenci vždy beru jako první volbu pro většinu úkolů.
Vždy se ptám: Můžu to s AI udělat lépe nebo rychleji? Můžu zvládnout víc? V běžný den vedu 30 až 100 konverzací s generativní AI.
Pokud mi AI může snížit kognitivní zátěž například z deseti minut složitého přemýšlení na dvě, nechám velký jazykový model (LLM) běžet na pozadí, zatímco řeším jiné úkoly. Když jedu taxíkem, diskutuji s generativním AI chatem, abych si ujasnil myšlenky před nadcházející schůzkou.
AI za vás ale práci automaticky neudělá. Chcete-li od ní získat kvalitní odpovědi, je třeba k ní přistupovat důsledně. Následujících osm doporučení shrnuje mé nejužitečnější postřehy z posledních několika let:
1. Vždy se ptejte dvakrát
Pokud se obrátíte na ChatGPT nebo jiný generativní AI nástroj a odpověď se vám zdá uspokojivá, potlačte nutkání považovat věc za hotovou. Zvykněte si zeptat se znovu. Tato hra se jmenuje „odpověz/upřesni“.
Matematicky vzato se vaše šance na přesnou odpověď výrazně zvýší, pokud položíte dotaz dvakrát. Řekněme, že váš první dotaz vyústí v odpověď s chybovostí 30 procent a druhý s chybovostí 20 procent. Výsledná chybovost pak klesne na šest procent, což je velmi dobrý výsledek za jeden dodatečný dotaz.
Lidé očekávají od jazykových modelů přesnost na úrovni počítače, ale ve skutečnosti jde o „virtuální osobnost“. I lidé své výstupy přepracovávají, upravují a vylepšují. Proč bychom totéž neměli očekávat od virtuální osoby?
2. Držte se jednoduchých dotazů
Stejně jako lidé ani velké jazykové modely nezvládají dobře multitasking. Pokud jim zadáte příliš mnoho úkolů najednou, kvalita výstupu se zhorší.
Tento poznatek souvisí s výzkumy dispečerů letového provozu, které ukazují, že jejich výkon může znatelně klesnout i při mírném zvýšení kognitivní zátěže. Plánujte proto svou práci a realizujte ji prostřednictvím logicky uspořádané posloupnosti interakcí.
3. Ptejte se ve správném pořadí
Pořadí, ve kterém se modelu ptáte, výrazně ovlivňuje odpovědi, které dostanete. Velké jazykové modely jsou autoregresivní. Generují obsah na základě toho, na co se jich zeptáte, nikoli podle toho, co se chystáte říct dál.
Model funguje přísně zleva doprava, neví tedy, co přijde. Může jen hádat na základě předchozího kontextu. To je další důvod, proč má smysl přístup „vygeneruj a zpřesni“ nebo „vygeneruj, kriticky zhodnoť a uprav“.
4. Jasně specifikujte požadované úkoly
Modely neumějí číst vaše myšlenky, které mohou určovat kontext dotazu. Pokud je váš požadavek nepřesný, může vás odpověď nemile překvapit. Nejčastější příčinou těchto překvapivých odpovědí je přitom nedostatečně přesné zadání pokynů a informací.
Chcete-li získat spolehlivé výstupy, buďte při zadávání jasní a přesní a vyhněte se zdánlivě protichůdným požadavkům. Například že budete zároveň žádat o více detailů i stručnost.
Jasně vymezte, co je a co není součástí zadání, a uveďte příklady vhodných výstupů. Vůbec přitom nevadí, pokud má váš prompt několik odstavců. Formálním zadáním úkolu zvýšíte kvalitu výsledku.
5. Nejdřív chtějte zdůvodnění, až potom doporučení
Požádejte model, aby nejprve uvedl argumenty, a teprve potom nabídl doporučení. Pokud totiž doporučení přijde jako první, zdůvodnění bude až jeho dodatečným ospravedlněním.
Pokud však AI nejprve zváží všechny možnosti a nabídne pro ně argumentaci, bude její konečné doporučení mnohem pevněji zakotvené v logice a důkazech. Vždy model nuťte nejprve přemýšlet a teprve potom jednat.
Nejnovější generace tzv. „reasoning models“ se o to snaží sama od sebe. Přesto je rozdíl mezi zadáním „Doporuč skvělou italskou restauraci v Praze a vysvětli, proč je nejlepší“ a „Porovnej italské restaurace v Praze a vyber tu nejlepší“.
6. Upřednostněte obsah před strukturou
Pokud modelu rovnou vytyčíte přísné formální požadavky na strukturu výstupu, je méně pravděpodobné, že samotný výstup bude věcně správný. Jazykový model se totiž tolik soustředí na správný formát, že mu zbývá méně „mentální kapacity“ na samotné řešení úkolu.
Klíčem úspěchu je tedy oddělit obsah od formy. Nejprve si nechte vygenerovat kvalitní obsah a teprve následně výstup dolaďte po formální stránce.
To platí zvlášť pro požadavky, které nepracují pouze s textem. Jazykové modely obvykle méně dobře uvažují, když mají zároveň přemýšlet a produkovat přísně strukturovaný formát, jako je třeba JSON (formát pro ukládání a výměnu dat).
Abyste se této pasti vyhnuli, požádejte nejprve o odpověď v přirozeném jazyce a teprve potom model vyzvěte, aby ji převedl do formátu JSON.
7. Chtějte více kratších odpovědí
Všechny modely mají omezení, co se týče délky výstupu. Mnoho komerčně používaných LLM nepřekročí hranici zhruba 1 000 slov, bez ohledu na to, jak moc budete prosit. Navíc platí, že s rostoucí délkou výstupu zpravidla klesá jeho kvalita.
Abyste toto omezení překonali, rozdělte psaní nebo programování na zvládnutelné části. Dlouhé dokumenty můžete vytvořit spojením několika kratších částí.
8. Kontrolujte výmysly (tzv. halucinace)
Přestože jsou jazykové modely trénované na obrovském množství dat, stále si mohou vymýšlet detaily nebo nesprávně chápat zadání. Všechny výstupy proto důkladně ověřujte.
Halucinace lze často odhalit prostou kontrolní otázkou, jestli se model nemýlí. Prověřte ho: „Jsi si jistý, že je tvoje odpověď fakticky správná?“ nebo „Neobsahuje tvoje tvrzení chybu?“
Jako vědec zakládám své hypotézy na sérii krátkých pozorování (jednotlivých dotazů), které odhalují širší vzorce. Jako konzultant rozkládám rozsáhlé, složitě uchopitelné problémy na malé, řešitelné úkoly. Umění zadávání dotazů (promptů) není příliš odlišné.
Snažte se psát konkrétní prompty, které řeší konkrétní problém nebo odpovídají na konkrétní otázku. Tím, že každému promptu přiřadíte menší cíl, zvýšíte jeho spolehlivost. Tyto malé stavební kameny se mohou stát základem pro zásadní nárůst produktivity.
Autor je partner a ředitel technologické divize společnosti BCG
Máte co říct? Pošlete nám svůj komentář na komentare@hrotmedia.cz
