Co je AI halucinace?

Halucinace je věrohodná odpověď, která je náhodou nepravdivá

Zeptejte se jazykového modelu na číslo stránky s citátem z knihy, o které jen četl, ale nikdy ji neviděl, a číslo stránky vám dá. Neřekne "to nemohu vědět". Číslo je správně formátované, sedí do věty, která zní jako každá jiná citace v jeho trénovacích datech, a je vymyšlené.

To je halucinace: plynulé, sebejisté tvrzení bez jakéhokoli faktu za sebou. To slovo je metafora a mírně zavádějící, protože nic není v poruše. Model dostal za úkol nejpravděpodobnější pokračování citace a jedno vyprodukoval. U otázky, kde nejpravděpodobněji znějící odpověď je zároveň ta pravdivá, což je většina otázek, je stejný proces tím, co dělá model užitečným.

Podoby, které to bere, jsou předvídatelné: vymyšlené odkazy a URL adresy, statistiky bez zdroje, citáty připisované skutečným lidem, kteří je nikdy neřekli, funkce produktu, které neexistují, a právní nebo lékařská tvrzení podaná jako ověřený fakt. Proč se AI plete provede vás rozpoznáním každého typu, tato stránka je o tom, proč vůbec vznikají.

Proč si model, který přečetl celý internet, stále něco vymýšlí

Dva mechanismy, a ty se sčítají.

Model predikuje, nevyhledává. Jazykový model nemá žádný index faktů. Vše, co četl, bylo zkomprimováno do jeho parametrů, a v okamžiku odpovědi text znovu generuje token po tokenu z této komprese, přičemž každý token vybírá podle pravděpodobnosti. Když byla pravdivá odpověď v trénovacích datech běžná, pravděpodobné pokračování je to pravdivé. Když byla vzácná, chyběla nebo jí bylo odporováno, model musí přesto vybrat token, a vybere ten věrohodný. Co je LLM vysvětluje architekturu; ve zkratce, neexistuje krok, kdy by se model sám sebe zeptal, jestli je věta, kterou píše, skutečná.

Trénink odměňuje hádání. V září 2025 vydala OpenAI studii nazvanou "Why Language Models Hallucinate", která tvrdí, že benchmarky používané k hodnocení modelů hodnotí špatnou odpověď a prázdnou odpověď stejně, tedy nulou, zatímco šťastný odhad získá plný počet bodů. Model optimalizovaný podle takového hodnocení se naučí stejnou lekci jako student u testu s výběrem odpovědí bez penalizace za špatnou odpověď: vždy hádej. Návrh té studie je změnit hodnocení tak, aby "nevím" mělo vyšší hodnotu než sebejistý omyl.

Dva soudní případy, které dali halucinaci cenovku

Mata v. Avianca, New York, 2023. Dva právníci podali podání citující šest soudních rozhodnutí, která vyprodukoval ChatGPT. Žádné z těch šesti neexistovalo. Soudce právníky v červnu 2023 pokutoval na $5,000 a přiměl je napsat soudcům, kterým byla připisována vymyšlená rozhodnutí. Snímky obrazovky přiložené k prohlášení právníka ukazují, jak se ptá ChatGPT, zda jsou případy skutečné, a ChatGPT potvrzuje, že ano.

Moffatt v. Air Canada, Britská Kolumbie, 2024. Chatbot na webu Air Canada řekl zákazníkovi, že si může koupit plnocenou letenku na pohřeb a slevu za truchlení uplatnit dodatečně. Skutečná politika letecké společnosti tvrdila opak. Když Air Canada argumentovala, že chatbot je samostatná právnická osoba odpovědná za svá vlastní slova, tribunál pro řešení občanských sporů to v únoru 2024 odmítl a nařídil letecké společnosti zaplatit C$812.02.

Ani jeden model nebyl porouchaný. Každý vyprodukoval nejvěrohodněji znějící odpověď na otázku, jejíž pravdivá odpověď byla mimo jeho dosah. Náklady dopadly na toho, kdo si to neověřil.

Halucinace je jeden ze čtyř typů selhání a nápravy se liší

Lidé to slovo používají pro každou špatnou odpověď, což zakrývá skutečnost, že čtyři běžná selhání mají čtyři různé příčiny.

Jen první řádek je halucinace v přísném smyslu. Řádky dva a tři jsou problémy s ukotvením a z velké části je řeší to, že modelu dáte něco ke čtení. Řádek čtyři je problém s promptem. Pokud všechny čtyři berete jako jednu záhadnou vadu, dovede vás to ke špatné nápravě, obvykle "použít větší model", což nejméně pomůže právě u řádku jedna.

Kontrola dvěma modely a co stojí

Nejspolehlivější zvyk proti halucinacím v přísném smyslu je zeptat se druhého, jiného modelu na stejnou otázku a porovnat. Dva modely z různých laboratoří, trénované na jiných datech s jiným post-tréninkem, si zřídkakdy vymyslí stejnou citaci. Shoda je slabý důkaz, že fakt je pravdivý. Neshoda je silný signál, že se to vyplatí ověřit, než začnete jednat.

Důvod, proč to funguje tam, kde "požádat stejný model, ať se zkontroluje" ne: druhý průchod stejným modelem je stejný prediktor hádající znovu ze stejné komprese. Jiný model je jiná komprese.

Druhý názor nemusí přijít od drahého modelu. V Artificial Analysis Intelligence Index, kompozitu veřejných benchmarků na uvažování, kódování a znalosti čteném 2026-09-17, skóruje DeepSeek V4 Flash 40 a stojí 1 Whizi kredit za zprávu; Claude Sonnet 5 skóruje 38 a stojí 10. Tečkovaná čára je hranice, nejlepší skóre při každé ceně, a každý bod na ní je z jiné laboratoře. Křížová kontrola dvou laboratoří za 1 a 10 kreditů je 11 kreditů, a srovnání vedle sebe pošle jednu otázku oběma na jedné obrazovce. Právníci v Mata v. Avianca zaplatili $5,000 za kontrolu, kterou neprovedli.

Co snižuje halucinace, seřazeno podle míry účinku

1. Ukotvení. Vyhledávání na webu, nahraný dokument nebo vložený zdroj promění úkol z "vybav si" na "přečti a shrň", což modely zvládají mnohem spolehlivěji. Toto je jediné největší snížení a je to nastavení produktu, ne trik s promptem.
2. Druhý model. Jiný trénink, jiné vzorce selhání. Zachytí většinu vymyšlených detailů.
3. Vyžádání zdrojů a jejich otevření. Model, kterého požádáte o citaci, ji uvede; kontrola spočívá v tom, zda citace existuje a říká to, co odpověď tvrdí.
4. Povolení říct ne. "Pokud si nejste jistí, řekněte to" mění, co je nejpravděpodobnějším pokračováním, takže u těžkých otázek model častěji odmítne odpovědět, místo aby si něco vymyslel.
5. Větší model. Frontier modely halucinují méně u běžných znalostí než malé modely, ale rozdíl je nejmenší přesně tam, kde záleží nejvíc, u vzácných a specifických faktů.

Pořadí je podstatné. Většina lidí sáhne nejdřív po pátém bodě, a přitom je to nejslabší páka na seznamu.