Proč AI lže
Když dáte LLM úkol typu „vytvoř zápis z této porady", model dělá to nejlepší, co umí — doplní chybějící data tak, aby výsledek vypadal kompletní. Pokud vlastník úkolu nebyl výslovně řečen, model si tipne. Pokud termín nebyl zmíněn, vymyslí ho.
To je halucinace. Není to chyba modelu. Je to logický důsledek toho, jak je trénovaný.
5 pravidel, která to vyřeší
1. Explicitní instrukce na tbd
Pro každý úkol vyplň: title, owner, deadline, source_quote.
Pokud owner nebo deadline NEBYL v poradě výslovně řečen, vyplň "tbd" a v
shrnutí to označ jako "vyžaduje doplnění".
NIKDY si nedomýšlej termín ani vlastníka.
Bez tbd opce model bude vždy něco vyplňovat. Daj mu cestu, jak přiznat nejistotu.
2. source_quote ke každému úkolu
Donutíme model citovat tu část transkriptu, ze které úkol vychází. Tím:
- Manažer rychle ověří, jestli to bylo skutečně řečeno.
- Model nemůže "vyrobit" úkol z ničeho — musí mít citaci.
- Při sporu existuje audit log.
3. Slovník firemních termínů
Firemní zkratky a kontextové informace:
- "Zákazník Alfa" = ABC s.r.o.
- "Projekt Mont" = projekt montáže nové linky
- "Karel" = Karel Novák, technický ředitel
- "ovládat" = mít na starosti, být zodpovědný
Bez tohoto kontextu AI netuší, kdo je "Karel". S kontextem se výrazně zlepší relevance odpovědí — modely najednou poznají, na koho se otázka ptá. Vyplatí se to udržovat.
4. Strukturovaný JSON výstup, ne free text
Místo „napiš zápis" požaduj přesný JSON schema:
{
"summary": "string",
"tasks": [
{ "title": "string", "owner": "string|tbd", "deadline": "string|tbd", "source_quote": "string" }
],
"decisions": [{ "topic": "string", "outcome": "string" }],
"open_questions": ["string"]
}
JSON můžete validovat (Zod / Pydantic). Když chybí pole, retry. Když owner = "neznámý" místo tbd, retry. Strukturovaný výstup = strukturovaná spolehlivost.
5. Two-pass review
Pro důležité porady:
- Pass 1: generuj zápis (GPT-4 / Claude).
- Pass 2: stejný model dostane zápis + transkript a má za úkol najít, co je v zápisu, ale není v transkriptu.
Druhý průchod zachytí významnou část halucinací, které prošly prvním. Náklad navíc je řádově desítky procent vstupních tokenů — typicky pár centů za poradu.
Co tím získáte
V našem příběhu o AI asistentu nad firemními daty (RAG architektura, ne zápis z porad — princip je ale stejný) tahle disciplína znamenala:
- Vysokou přesnost s povinnou citací zdroje. Halucinace nevyřeší žádná technologie úplně, ale RAG + citace ji drží na minimu — každá odpověď je zpětně ověřitelná.
- Typická odpověď do 5 sekund.
- Měřitelné úspory času vedení firmy (konkrétní hodnoty v příběhu).
Co s tím dál
Pokud řešíte AI nasazení a chcete to udělat tak, aby nelhalo:
- Začněte malým pilotem na 3–5 porad.
- Iterujte prompt s konkrétním uživatelem (manažerem) — ne s IT.
- Měřte přesnost (kolik úkolů model vyhodil správně vs. špatně).
- Až potom škálujte.
Pokud na to potřebujete pomoc, napište nám — Azure OpenAI a Power Automate je naše denní práce.
Tagy