Halucinace je, když AI vytvoří informace, které znějí věrohodně, ale jsou nesprávné nebo neexistují. Je to důležité omezení, které by měl znát každý uživatel.
Co je halucinace AI
Halucinace AI je, když model sebevědomě odpoví nesprávnými informacemi, např. odkáže na výzkum, který neexistuje, nebo si vymyslí čísla a jména.
Proč k ní dochází
Protože LLM předpovídá „slovo, které pravděpodobně následuje” podle vzorů — neověřuje fakta. Když nemá správnou informaci, stejně vytvoří odpověď, která vypadá rozumně.
Jak se jí vyhnout
Důležité informace si ověřte v důvěryhodném zdroji, používejte nástroje s odkazy na zdroje (např. Perplexity, NotebookLM) a dejte v promptu jasný kontext. Detektory AI jsou nespolehlivé: OpenAI svůj vlastní detektor kvůli nízké přesnosti zrušila a výzkum Stanfordu zjistil, že zhruba 61 % textů psaných lidmi, pro které není angličtina mateřštinou, bylo chybně označeno jako AI. Detektor proto nepoužívejte jako důkaz.
Pokud chcete od experimentování s AI přejít k tomu, abyste ji zabudovali do skutečné práce, existují platformy, které spojí chat, automatizaci a aplikace na jednom místě — třeba osFoundry, agentová AI platforma, kde připojíte vlastní model (BYO model)
Čtěte také
Tento článek je obecná informace, ne právní ani daňové poradenství.