Proč si AI chatbot vymýšlí, a jak to řešit (2026)

Čas od času AI chatbot odpoví sebejistě, a špatně. Říká se tomu „halucinace" a je to obava číslo jedna před nasazením. Dobrá zpráva je, že když bot odpovídá z vašeho vlastního obsahu, jako to dělá Breezaro, dá se tomu do velké míry předejít, protože vy řídíte, z čeho čerpá. Tady je, proč k tomu dochází, a tři opravy, které fungují.

Proč k tomu dochází

Jazykový model má sklon vyprodukovat plynulou odpověď, i když ji vlastně nezná. Odpovídání z vašeho obsahu to krotí (viz jak AI chatbot funguje), ale i tak může bot sklouznout, když:

• odpověď ve vašem obsahu není, a tak mezeru zaplní věrohodným odhadem,
• je váš obsah vágní nebo protichůdný, a tak poskládá špatné kousky,
• je dotaz nejednoznačný a bot hádá, co jste mysleli.

Skoro vždy je vymyšlená odpověď spíš problém obsahu než problém technologie, což znamená, že se dá opravit.

Upravte prompt

Instrukce bota (system prompt) určují jeho chování a pár řádků udělá velký rozdíl:

• Řekněte mu, ať odpovídá jen z dodaného obsahu a ať raději přizná, že neví, než aby hádal.
• Nastavte tón a rozsah („jsi asistent podpory našeho obchodu; odpovídej na naše produkty, objednávky a podmínky").
• Řekněte mu, co dělat na hraně, třeba nabídnout předání člověku nebo odkázat na váš kontakt.

Upravíte to kdykoli v dashboardu a změny platí okamžitě. (Víc v článku přizpůsobení chatbota.)

Pozor ale. Prompt je dvousečný. Náš výchozí prompt je už vyladěný na podložené a poctivé odpovědi, takže příliš razantní úpravy se můžou vymstít. Bot, kterému řeknete, ať je maximálně „nápomocný", může začít slibovat, co neumí, třeba že sjedná schůzku, za vás pošle e-mail nebo přislíbí termín. Pokud se odpovědi po úpravě rozjedou, vraťte náš výchozí prompt tlačítkem Reset prompt a pak ho usměrněte menšími, cílenými změnami.

Doplňte mezeru ve znalostech

Nejčastější příčina je prostá. Odpověď v obsahu bota není, tak si ji domýšlí. Oprava je stejně přímočará. Chybějící odpověď doplníte. Čtěte konverzace, kde bot zápasil, doplňte ten obsah a příště odpoví správně z vašich podkladů. To je jádro dobrého trénování chatbota. Než obsah doplníte, může takový dotaz mezitím převzít operátor.

Dejte mu dobře strukturovaný obsah

Jak je obsah napsaný, mění to, jak spolehlivě bot najde správnou pasáž:

• Jedno téma na sekci, s jasným nadpisem. Soustředěná pasáž se najde čistě, kdežto zeď smíchaných témat ne.
• Buďte explicitní a konkrétní. „Vrácení do 14 dnů od doručení" je lepší než „flexibilní vrácení", protože bot je přesný jen tak jako váš zdroj.
• Odstraňte zastaralý a protichůdný obsah. Dvě různé lhůty na vrácení ve dvou dokumentech jsou recept na špatnou odpověď. Držte jeden zdroj pravdy a udržujte ho aktuální.
• Preferujte čisté dokumenty. Uklizené FAQ nebo stránka s podmínkami je lepší než sken skenu PDF.

Když to spojíte

Ty tři opravy se násobí. Jasné instrukce, úplný obsah a čistá struktura dohromady dají bota, který odpovídá z vašich faktů a odkáže dál, když nemůže. Na nulu chyb se nedostanete (nedostane se tam žádný kanál podpory), ale dostanete se na „vzácné a opravitelné", s člověkem připraveným na zbytek.

Časté dotazy

Co je „halucinace" AI chatbota? Je to sebejistá, ale nesprávná odpověď, obvykle proto, že skutečná odpověď není v obsahu bota, tak hádá.

Můžu to zastavit úplně? Ne na 100 %, ale bot, který odpovídá z dobrého obsahu, s dobrým promptem a převzetím člověkem, to udrží vzácné a opravitelné.

Proč si vymýšlí místo „nevím"? Jazykové modely mají ve výchozím stavu sklon odpovídat. K „nevím" ho nasměrujete promptem a ke správné odpovědi doplněním mezer v obsahu.

Bot řekl špatnou cenu. Co teď? Najděte zdroj se špatnou nebo chybějící cenou, opravte ho a znovu sesynchronizujte. Špatné odpovědi se skoro vždy vystopují k obsahu.

Vymyšlené odpovědi působí jako vada technologie, ale obvykle jsou signálem o vašem obsahu. Když ty tři věci uděláte dobře, stane se z bota něco, čemu svěříte první linii.

Související: Jak funguje AI chatbot? · Jak natrénovat AI chatbota.