En hallucination är ett trovärdigt svar som råkar vara falskt
Be en språkmodell om sidnumret för ett citat i en bok den har läst om men aldrig sett, och den ger dig ett sidnummer. Den säger inte "det där kan jag inte veta". Numret är korrekt formaterat, sitter i en mening som låter som varje annan källhänvisning i träningsdatan, och är påhittat.
Det är en hallucination: ett flytande, självsäkert påstående utan fakta bakom sig. Ordet är en metafor, och en något missvisande sådan, för inget är trasigt. Modellen ombads om den mest sannolika fortsättningen på en källhänvisning och den producerade en sådan. På en fråga där det mest troliga svaret också är det sanna, vilket gäller de flesta frågor, är samma process det som gör modellen användbar.
Formerna den tar är förutsägbara: påhittade referenser och webbadresser, statistik utan källa, citat tillskrivna riktiga personer som aldrig sagt dem, produktfunktioner som inte existerar, och juridiska eller medicinska påståenden levererade som fastställda fakta. Varför AI har fel går igenom hur man upptäcker varje typ, den här sidan handlar om varför de överhuvudtaget uppstår.
Varför en modell som läst hela internet ändå hittar på saker
Två mekanismer, och de staplas på varandra.
Modellen förutsäger, den hämtar inte. En språkmodell har inget index över fakta. Allt den läste komprimerades in i dess parametrar, och vid svarstillfället genererar den om text en token i taget från den komprimeringen, och väljer varje token efter sannolikhet. När det sanna svaret var vanligt i träningsdatan är den mest sannolika fortsättningen den sanna. När det var sällsynt, saknades eller motsades måste modellen ändå välja en token, och den väljer en trovärdig sådan. Vad är en LLM förklarar arkitekturen, kortversionen är att det inte finns något steg där modellen frågar sig själv om meningen den skriver är verklig.
Träningen belönar gissningar. I september 2025 publicerade OpenAI en artikel med titeln "Why Language Models Hallucinate" som argumenterar för att de riktmärken som används för att bedöma modeller poängsätter ett fel svar och ett blankt svar på samma sätt, noll, medan en lyckad gissning ger full poäng. En modell optimerad mot den poängsättningen lär sig samma läxa som en elev lär sig på ett flervalsprov utan avdrag för fel svar: gissa alltid. Artikelns förslag är att ändra bedömningen så att "jag vet inte" är värt mer än ett självsäkert felsvar.
Två rättsfall som satte en summa pengar på en hallucination
Mata v. Avianca, New York, 2023. Två advokater lämnade in en inlaga som citerade sex domstolsbeslut som ChatGPT hade producerat. Inget av de sex fanns. Domaren bötfällde advokaterna $5,000 i juni 2023 och tvingade dem att skriva till de domare som de påhittade domsluten hade tillskrivits. Skärmdumpar som lämnades in med advokatens edsvurna intyg visar honom fråga ChatGPT om fallen var äkta, och ChatGPT bekräftade att de var det.
Moffatt v. Air Canada, British Columbia, 2024. Air Canadas webbplatschatbot sa till en kund att han kunde boka en fullprisbiljett till en begravning och sedan begära en sorgerabatt i efterhand. Flygbolagets faktiska policy sa motsatsen. När Air Canada hävdade att chatboten var en separat juridisk enhet ansvarig för sina egna ord avvisade civilnämnden (Civil Resolution Tribunal) det i februari 2024 och beordrade flygbolaget att betala C$812.02.
Ingen av modellerna var trasig. Var och en producerade det mest trovärdiga svaret på en fråga vars sanna svar inte fanns inom räckhåll. Kostnaden landade på personen som inte kontrollerade.
Hallucination är en av fyra feltyper, och lösningarna skiljer sig åt
Folk använder ordet för varje fel svar, och det döljer att de fyra vanliga felen har fyra olika orsaker.
| Fel | Vad hände | Hur du upptäcker det | Lösningen |
|---|---|---|---|
| Hallucination | Modellen hittade på ett faktum för att fullborda en trovärdig mening | Specifikt, kontrollerbart, utan källa | Be om källan, öppna den sedan, fråga en andra modell |
| Föråldrad kunskap | Faktumet var sant när träningen avslutades och är det inte nu | Priser, versioner, tjänstemän, allt daterat | Slå på webbsökning eller klistra in den aktuella sidan |
| Missad hämtning | Sökningen eller den uppladdade filen hämtade fel avsnitt | Svaret citerar ditt dokument men behandlar en annan fråga | Läs det citerade avsnittet, inte bara källhänvisningen |
| Feltolkning | Modellen svarade på en något annan fråga än den du ställde | Svaret stämmer om något annat | Formulera om frågan med begränsningen tydligt uttalad |
Bara den första raden är en hallucination i strikt mening. Rad två och tre är förankringsproblem och löses till stor del genom att ge modellen något att läsa. Rad fyra är ett promptproblem. Att behandla alla fyra som ett enda mystiskt fel leder folk till fel lösning, oftast "använd en större modell", vilket hjälper minst med rad ett.
Kontrollen med två modeller, och vad den kostar
Den mest pålitliga vanan mot den strikta typen av hallucination är att fråga en andra, annan modell samma fråga och jämföra. Två modeller från olika labb, tränade på olika data med olika efterträning, hittar sällan på samma källhänvisning. Överensstämmelse är svagt bevis på att faktumet är sant. Oenighet är en stark signal att gå och kontrollera innan du agerar.
Anledningen till att det fungerar där "be samma modell dubbelkolla" inte gör det: en andra genomgång av samma modell är samma prediktor som gissar igen från samma komprimering. En annan modell är en annan komprimering.
Det andra utlåtandet behöver inte komma från en dyr modell. På Artificial Analysis Intelligence Index, ett sammansatt mått av offentliga resonemangs-, kodnings- och kunskapstester avläst 2026-09-17, får DeepSeek V4 Flash 40 poäng och kostar 1 Whizi-kredit per meddelande, Claude Sonnet 5 får 38 poäng och kostar 10. Den streckade linjen är fronten, bästa poäng vid varje pris, och varje punkt på den är ett annat labb. En korskontroll från två labb till 1 och 10 krediter blir 11 krediter, och sida vid sida-vyn skickar en fråga till båda på en skärm. Advokaterna i Mata v. Avianca betalade $5,000 för kontrollen de aldrig gjorde.
Vad som minskar hallucinationer, rankat efter hur mycket
- Förankring. Webbsökning, ett uppladdat dokument eller en inklistrad källa förvandlar uppgiften från "minnas" till "läsa och sammanfatta", vilket modeller gör betydligt mer pålitligt. Det här är den enskilt största minskningen och det är en produktinställning, inte ett prompttrick.
- En andra modell. Olika träning, olika typer av fel. Fångar de flesta uppdiktade detaljer.
- Be om källor och öppna dem. En modell som ombeds citera kommer att citera, kontrollen är om källhänvisningen finns och säger det svaret påstår.
- Tillåtelse att säga nej. "Om du inte är säker, säg det" ändrar vad den mest sannolika fortsättningen är, så på svåra frågor avstår modellen oftare i stället för att hitta på.
- En större modell. Frontlinjemodeller hallucinerar mindre om allmän kunskap än små modeller, men skillnaden är minst just där det spelar roll, på sällsynta och specifika fakta.
Ordningen är poängen. De flesta griper efter punkt fem först, och den är den svagaste spaken på listan.
- Behandla varje specifikt, kontrollerbart påstående utan källa som obekräftat: en källhänvisning, en statistik, ett citat, en produktfunktion
- Slå på webbsökning eller bifoga dokumentet närhelst svaret beror på något nytt, privat eller precist
- Fråga en andra modell från ett annat labb innan du agerar på ett tal eller en källhänvisning, oenighet betyder kontrollera
- Öppna den citerade källan och bekräfta att den säger det svaret påstår, inte bara att den finns
- Lägg till "säg till om du inte är säker" i prompter för svåra frågor
Vanliga frågor
Varför hallucinerar AI-modeller?
Eftersom de genererar de mest sannolika nästa orden i stället för att slå upp fakta, och eftersom deras träning belönar en självsäker gissning över ett erkännande av okunskap. OpenAI's artikel från september 2025, "Why Language Models Hallucinate", visar att riktmärkena poängsätter ett blankt svar och ett fel svar identiskt, så gissning är den vinnande strategin modellen lär sig.
Kan AI-hallucinationer förhindras helt?
Inte med dagens modeller, eftersom att generera trovärdig text är samma mekanism som producerar både korrekta och påhittade svar. De kan minskas avsevärt: att förankra modellen i sökresultat eller ett dokument, fråga en andra modell och kräva källor du sedan öppnar tar bort en stor andel. Det som återstår är restrisken vid sällsynta, specifika fakta.
Vilken AI hallucinerar minst?
Frontlinjemodeller från OpenAI, Anthropic och Google hallucinerar mindre än små modeller om allmän kunskap, men skillnaden minskar vid sällsynta och specifika fakta, vilket är där skadan sker. En förankrad liten modell med webbsökning påslagen slår ofta en oförankrad frontlinjemodell på faktafrågor, så inställningen spelar större roll än märket.
Är en hallucination samma sak som ett misstag?
Det är en sorts misstag. En hallucination är ett påhittat faktum framfört med säkerhet. Föråldrad kunskap (sant vid träningstillfället, falskt nu), en missad hämtning (fel avsnitt hämtades) och en feltolkad fråga är olika fel med olika lösningar, och bara det första svarar på "be om källor".
Vad hände i ChatGPT-advokatfallet?
I Mata v. Avianca, som lämnades in i New York, skickade två advokater in en inlaga som citerade sex fall ChatGPT hade hittat på. Domstolen bötfällde dem $5,000 i juni 2023. Ett år senare, i Moffatt v. Air Canada, beordrade en nämnd flygbolaget att betala C$812.02 efter att dess chatbot hittade på en sorgerabattspolicy, och avvisade argumentet att chatboten var ansvarig för sina egna påståenden.
