AI halucinace. Jak je snížit, či jim předcházet?

Často se setkáváme s diskusí, že AI lže a jak tomu zabránit. V tomto příspěvku si problematiku objasníme a odkážeme na několik dalších zdrojů pro další studium. Hned na úvod je ale vhodné uvést, že halucinace AI jsou "z matematického pohledu" nevyhnutelné a musí k nim docházet. Podle aktuálních údajů OpenAI je to u vyspělých modelů u cca 3-18 % odpovědí. Důležité je si to uvědomit a ještě důležitější je provádět doporučené postupy, které tuto "nehezkou" stránku komunikace se současnými LLM eliminují.

Co jsou AI halucinace? Říkáme jim správně lhaní?

Tzv. AI halucinace vznikne, když model vygeneruje informaci, která nám zní sebejistě a věrohodně, ale je fakticky chybná nebo dokonce zcela vymyšlená. Uvádí se, že termín "halucinace" převzala AI komunita z psychiatrie — stejně jako člověk s halucinací vnímá něco, co neexistuje, AI "vidí" fakta, (vytvoří si je) která nikdy nebyla součástí dat, na kterých se model trénoval.

Uvádět, že AI "lže", je technicky a věcně nesprávné. Výborně to objasnil J. Šlerka na konferenci k AI (11/2025). Lhaní vyžaduje záměr klamat, ale AI nemá ten záměr. Z hlediska praxe je to využívané tvrzení pro výstup promptování, který vypadá jako pravda, ale není to pravda, a AI to neví.

Halucinace rozdělujeme do tří kategorií

Fabrication (fabrikace) — model si vymyslí kompletní fakt, citaci nebo událost, která nikdy neexistovala. Jde o nejčistší formu halucinace: model negeneruje chybnou interpretaci reálného vstupu, ale tvoří obsah zcela bez opory v realitě. Typické příklady:

• vymyšlené literární zdroje s reálně vypadajícím autorem, názvem i rokem vydání,
• neexistující judikáty v právních podáních (číslo spisu, soud, datum — vše smyšlené),
• falešné vědecké studie včetně DOI odkazu, který nevede nikam nebo vede na jiný článek,
• vymyšlené životopisné údaje reálné osoby (absolvoval školu, kam nikdy nechodil, získal cenu, která neexistuje),
• neexistující zákony nebo paragrafy citované s přesným číslem a odstavcem,
• smyšlené historické události zasazené do reálného kontextu (bitva, smlouva, politické rozhodnutí).

Tento typ halucinace je obvykle nejlépe rozpoznatelný, protože při ověření zjistíme, že daný zdroj, výrok nebo událost prostě neexistuje.

Proč k tomu dochází? Model se snaží statisticky doplnit nejpravděpodobnější slova podle naučených vzorců (např. jak vypadá vědecká citace nebo spisová značka), i když mu chybí jakákoliv faktická vazba na realitu.

Confabulation (konfabulace) — model pracuje s reálnými prvky, ale spojí je do nesprávné kombinace. Informace tedy nejsou kompletně smyšlené, problém je v jejich chybném propojení, záměně nebo sloučení.

• citát přiřazený špatnému autorovi (například výrok Churchilla připisovaný Rooseveltovi),
• statistika přiřazená špatnému roku nebo špatné zemi (např. HDP Německa z roku 2015 přiřazený roku 2020),
• správná myšlenka z knihy A přiřazená knize B od stejného autora,
• reálný vědecký objev přiřazený jinému výzkumnému týmu nebo instituci,
• reálná firma, ale s nesprávnými údaji (např. rok založení, CEO, sídlo),
• v medicíně spojí správný lék se správným vedlejším účinkem, ale u nesprávné diagnózy.

Konfabulace bývá nebezpečná právě tím, že na první pohled působí věrohodně. Jednotlivé části odpovědi mohou být samy o sobě pravdivé, ale jejich výsledná kombinace je chybná.

Proč k tomu dochází? Model má v parametrech uloženo obrovské množství faktů, ale ztrácí přesné vazby mezi nimi (asociace jsou příliš slabé, překrývají se nebo dochází k zobecnění).

Unfaithfulness (nevěrnost kontextu) - model dostane správné podkladové dokumenty, ale vygeneruje závěr, který z nich nevyplývá. Zvlášť zákeřná kategorie, protože zdroje existují a jsou správné. Chyba je výhradně v tom, jak model jejich obsah interpretuje nebo sumarizuje.

• model shrne článek tak, že mu připíše závěr, který autor vůbec netvrdí,
• z interní dokumentace například vyvodí povinnost, která tam není výslovně uvedena,
• z tabulky dat vytvoří interpretaci, která neodpovídá hodnotám,
• při odpovědi nad firemní znalostní bází označí něco za pravidlo, i když šlo jen o doporučení,
• v právním textu tvrdí, že soud "rozhodl X", i když z rozhodnutí plyne pouze užší nebo podmíněnější závěr,
• při práci s výzkumnou studií zobecní závěry za hranici toho, co data skutečně podporují,
• reportážní shrnutí rozhovoru, kde model přisoudí mluvčímu postoj, který ve skutečnosti vyjádřil někdo jiný.

Tento typ je zvlášť zákeřný, protože uživatel často vidí, že model "pracoval se zdroji", a proto odpovědi více důvěřuje. Problém ale není v absenci podkladů, problém je v tom, že výstup není věrný tomu, co podklady skutečně říkají.

Proč k tomu dochází? Pozornostní mechanismus (attention) modelu selže při mapování vztahů v zadaném kontextu, nebo jsou interní váhy modelu (předtrénované znalosti) silnější než instrukce v promptu (tzv. prior knowledge bias).

Prakticky nejnebezpečnější je kombinace druhé a třetí kategorie, tj. model pracuje s reálnými zdroji, ale výsledek je přesto chybný, a uživatel nemá přirozený důvod to zpochybnit.

Pro praxi je užitečné si tyto tři kategorie odlišit takto:

• fabrikace = nic takového neexistuje,
• konfabulace = existující prvky jsou poskládány špatně,
• nevěrnost kontextu = zdroje existují, ale závěr z nich neplyne.

Musíme si stále připomínat, že AI negeneruje fakta — generuje pravděpodobnosti. Velký jazykový model (LLM) je ve své podstatě predikční stroj: na základě vstupního textu odhaduje, jaké slovo má s nejvyšší pravděpodobností následovat. Nepracuje s databází ověřených faktů. Pracuje se statistickými vzorci z použitých tréninkových dat. A právě, když "narazí na mezeru", tj. dotaz, na který tréninková data nestačí, zaplní ji tím, co je nejpravděpodobnější, co najde. A to nejpravděpodobnější nemusí být správné a z našeho pohledu "pravdivé".

V praxi se navíc tyto typy často kombinují. Model může například vycházet z reálného článku, špatně jej interpretovat a zároveň doplnit smyšlenou citaci nebo číslo. Proto není vždy důležité jen určit "nálepku" chyby, ale hlavně rozpoznat mechanismus, jak chyba vznikla:

• zda si model něco úplně vymyslel,
• zda pomíchal správná fakta,
• nebo zda selhal při interpretaci dostupného kontextu.

Takové rozlišení je důležité i pro prevenci. Proti fabrikacím pomáhá důsledné ověřování existence zdrojů a citací. Proti konfabulacím je potřeba kontrolovat vazby mezi údaji — kdo co řekl, kdy, v jakém kontextu a k jakému zdroji informace patří. U nevěrnosti kontextu je klíčové porovnávat, zda formulovaný závěr skutečně odpovídá obsahu podkladových dokumentů a nejen tomu, jak přesvědčivě zní.

Jak hodně modely AI halucinují?

Stručný přehled v češtině najdete například v článku (josefd, 8. 4. 2026) zde:

https://josefd.cz/blog/ai-halucinace-jak-overit-vystup

Aktuální originální studii s daty za rok 2026, vectara/hallucination-leaderboard, zde:

https://github.com/vectara/hallucination-leaderboard

Jak rozpoznat a jak se bránit AI halucinacím?

Jak fabrikaci detekovat v praxi:

• ověřit, zda citovaný zdroj skutečně existuje,
• kontrolovat jména autorů, rok vydání, ISBN, DOI, spisové značky nebo čísla rozhodnutí,
• dohledat citaci v primárním zdroji, ne jenom v sekundárním přepisu,
• zpozornět, když model uvádí velmi konkrétní detail bez opory ve zdroji nebo bez možnosti snadného dohledání zdroje,
• sledovat varovné signály: příliš "uhlazené" citace, přesvědčivě znějící, ale nedohledatelné instituce, neobvykle obecné názvy článků apod.

Jak se proti fabrikaci bránit?

• vyžadovat u tvrzení odkazy na konkrétní ověřitelné zdroje,
• nepoužívat výstup modelu jako finální seznam literatury bez vlastní kontroly,
• u právních, medicínských a akademických výstupů zavést (vyžadovat a realizovat) povinné ověření existence všech citací,
• používat model spíše pro návrh rešeršních směrů než pro automatické generování autoritativních referencí,
• nastavovat workflow tak, že žádné konkrétní číslo, citace ani zdroj nejde do finálního textu bez verifikace člověkem!

Jak konfabulaci detekovat v praxi:

• nekontrolovat jen jednotlivá fakta, ale i jejich vzájemné vazby,
• ověřovat čtveřici "kdo – co – kdy - kde / z jakého zdroje",
• porovnat, zda citát skutečně patří uvedenému autorovi a zda číslo odpovídá uvedenému období,
• hlídat, zda model nesloučil více dokumentů, verzí nebo případů do jednoho výstupu,
• u tabulek, statistik a právních analýz kontrolovat, zda metadata odpovídají obsahu.

Jak se proti konfabulaci bránit?

• rozdělovat komplexní úkoly na menší kroky místo požadavku na jednu souhrnnou odpověď,
• žádat model, aby odděleně uvedl zdroj, tvrzení a interpretaci,
• používat strukturované výstupy, kde je možné snadno zkontrolovat vazby mezi údaji,
• v citlivých oborech zavést pravidlo, že se ověřuje nejen pravdivost informace, ale i její správné přiřazení,
• pracovat s primárními dokumenty a nenechat model "domýšlet", jak spolu souvisejí.

Jak nevěrnost kontextu detekovat v praxi:

• porovnat odpověď modelu přímo s původním textem, ne jenom s tím, zda "zní rozumně",
• kontrolovat, zda každý klíčový závěr lze opřít o konkrétní pasáž zdroje,
• zkoumat, zda model nezaměnil možnost za povinnost, hypotézu za závěr nebo korelaci za kauzalitu,
• sledovat, zda odpověď není příliš kategorická oproti opatrně formulovanému zdroji,
• vyhledávat místa, kde model generalizuje více, než dovolují podklady.

Jak se proti nevěrnosti kontextu bránit?

• požadovat citace konkrétních pasáží, z nichž model vychází,
• oddělovat sumarizaci od interpretace a interpretaci od doporučení,
• instruovat model, aby výslovně označil, co je převzatý obsah a co je jeho odvození,
• u důležitých výstupů dělat "evidence check": ke každému závěru dohledat oporu ve zdroji,
• používat konzervativní prompting, například požadavek "nevyvozuj nic, co není výslovně podloženo textem".

Místo souhrnu nyní stručně:

• Obrana proti fabrikaci:

Vždy vyžadujte zdroje k tvrzením, používejte retrieval-augmented generation (RAG) s ověřenými databázemi a nastavte systémové instrukce, které zakazují vymýšlení faktů bez explicitního potvrzení.

• Obrana proti kofabulaci:

Používejte chain-of-verification (CoVe) techniky, kdy model sám ověřuje své výstupy, nebo rozdělte úkol na menší kroky s průběžnou kontrolou zdrojů.

• Obrana proti nevěrnosti kontextu:

Používejte prompting techniky jako "Answer only with information explicitly stated in the documents" nebo implementujte kontrolní vrstvu, která ověřuje, zda každé tvrzení má oporu v kontextu.

Jako rozšiřující studium a příklad se podívejte na praktické techniky pro snížení halucinací (josefd, 2026):  https://josefd.cz/blog/ai-halucinace-jak-overit-vystup

Určitě doporučuji se zamyslet nad zlepšením se v promptování a pokud můžete, používejte také multi-model comparison.

Ludvík Eger (21. 7. 2026)