En hallucination er et sandsynligt svar, der tilfældigvis er forkert
Bed en sprogmodel om sidetallet på et citat i en bog, den har læst om, men aldrig set, og den vil give dig et sidetal. Den vil ikke sige "det kan jeg ikke vide". Tallet er formateret korrekt, står i en sætning, der lyder som alle andre kildehenvisninger i dens træningsdata, og er opdigtet.
Det er en hallucination: en flydende, selvsikker udtalelse uden noget faktum bag sig. Ordet er en metafor og en lidt misvisende en, for der er ikke noget, der fejler. Modellen blev bedt om den mest sandsynlige fortsættelse af en kildehenvisning, og den lavede en. På et spørgsmål, hvor det svar, der lyder mest sandsynligt, også er det sande, hvilket gælder de fleste spørgsmål, er den samme proces det, der gør modellen nyttig.
De former, den antager, er forudsigelige: opdigtede referencer og URL'er, statistik uden kilde, citater tillagt rigtige mennesker, der aldrig sagde dem, funktioner på et produkt, der ikke findes, og juridiske eller medicinske påstande leveret som fastslået fakta. Hvorfor AI tager fejl gennemgår hver type; denne side handler om, hvorfor de overhovedet opstår.
Hvorfor en model, der har læst hele internettet, stadig finder på ting
To mekanismer, og de lægger sig oveni hinanden.
Modellen forudsiger, den henter ikke. En sprogmodel har intet register over fakta. Alt, den har læst, er komprimeret ind i dens parametre, og når den svarer, genererer den tekst ét symbol ad gangen ud fra den komprimering, og vælger hvert symbol efter sandsynlighed. Når det sande svar var almindeligt i træningsdataen, er den sandsynlige fortsættelse den sande. Når det var sjældent, fraværende eller modsagt, skal modellen stadig vælge et symbol, og den vælger et sandsynligt et. Hvad er en LLM forklarer arkitekturen; kort fortalt er der intet trin, hvor modellen spørger sig selv, om sætningen, den skriver, er sand.
Træning belønner gætteri. I september 2025 udgav OpenAI en artikel med titlen "Why Language Models Hallucinate", der argumenterer for, at de benchmarks, modeller bedømmes på, giver et forkert svar og et blankt svar samme score, nul, mens et heldigt gæt giver fuld score. En model, der er optimeret mod den bedømmelse, lærer den samme lektie, en elev lærer i en multiple choice test uden straf for forkerte svar: gæt altid. Artiklens forslag er at ændre bedømmelsen, så "jeg ved det ikke" er mere værd end en selvsikker fejl.
To retssager, der satte et beløb på en hallucination
Mata mod Avianca, New York, 2023. To advokater indleverede et processkrift, der citerede seks retsafgørelser, ChatGPT havde produceret. Ingen af de seks eksisterede. Dommeren idømte advokaterne en bøde på $5,000 i juni 2023 og fik dem til at skrive til de dommere, de opdigtede afgørelser var blevet tillagt. Skærmbilleder indleveret sammen med advokatens erklæring viser ham spørge ChatGPT, om sagerne var ægte, og ChatGPT bekræfte, at de var.
Moffatt mod Air Canada, British Columbia, 2024. Air Canadas hjemmesides chatbot fortalte en kunde, at han kunne booke en fuldpris-billet til en begravelse og efterfølgende få bedemandsrabat. Selskabets faktiske politik sagde det modsatte. Da Air Canada argumenterede for, at chatbotten var en selvstændig juridisk enhed ansvarlig for sine egne ord, afviste Civil Resolution Tribunal det i februar 2024 og pålagde selskabet at betale C$812.02.
Ingen af modellerne var i stykker. Hver af dem producerede det mest sandsynligt lydende svar på et spørgsmål, hvis sande svar var uden for dens rækkevidde. Prisen landede hos den, der ikke tjekkede.
Hallucination er en af fire fejltyper, og løsningerne er forskellige
Folk bruger ordet om ethvert forkert svar, og det skjuler, at de fire almindelige fejl har fire forskellige årsager.
| Fejl | Hvad skete der | Sådan spotter du den | Løsningen |
|---|---|---|---|
| Hallucination | Modellen opdigtede et faktum for at fuldføre en sandsynlig sætning | Specifikt, tjekbart, uden kilde | Bed om kilden, åbn den så, spørg en anden model |
| Forældet viden | Faktumet var sandt, da træningen sluttede, og er det ikke længere | Priser, versioner, embedsindehavere, alt med en dato | Slå websøgning til eller indsæt den aktuelle side |
| Fejlslagen søgning | Søgningen eller den uploadede fil returnerede det forkerte afsnit | Svaret citerer dit dokument, men adresserer et andet spørgsmål | Læs det citerede afsnit, ikke bare kildehenvisningen |
| Fejllæsning | Modellen svarede på et lidt andet spørgsmål, end du stillede | Svaret er rigtigt om noget andet | Formuler spørgsmålet igen med begrænsningen gjort eksplicit |
Kun den første række er en hallucination i streng forstand. Række to og tre er forankringsproblemer og løses stort set ved at give modellen noget at læse. Række fire er et prompt-problem. At behandle alle fire som én mystisk fejl fører folk til den forkerte løsning, som regel "brug en større model", hvilket hjælper mindst med række et.
Tjekket med to modeller, og hvad det koster
Den mest pålidelige vane mod den strengt definerede hallucination er at spørge en anden, forskellig model det samme spørgsmål og sammenligne. To modeller fra forskellige laboratorier, trænet på forskellig data med forskellig efterfølgende træning, finder sjældent på den samme kildehenvisning. Enighed er svagt bevis for, at faktumet er sandt. Uenighed er et stærkt signal til at gå og tjekke, før du handler.
Grunden til, at det virker, hvor "bed samme model tjekke sig selv igen" ikke gør: et andet gennemløb af samme model er den samme forudsigelsesmodel, der gætter igen ud fra den samme komprimering. En anden model er en anden komprimering.
Den anden vurdering behøver ikke komme fra en dyr model. På Artificial Analysis Intelligence Index, et sammensat mål af offentlige benchmarks for ræsonnement, kodning og viden, aflæst den 2026-09-17, scorer DeepSeek V4 Flash 40 og koster 1 Whizi-kredit pr. besked; Claude Sonnet 5 scorer 38 og koster 10. Den prikkede linje er fronten, den bedste score ved hver pris, og hvert punkt på den er et andet laboratorium. Et krydstjek fra to laboratorier til 1 og 10 kreditter er 11 kreditter, og side om side-visningen sender ét spørgsmål til begge på én skærm. Advokaterne i Mata mod Avianca betalte $5,000 for det tjek, de ikke lavede.
Hvad reducerer hallucinationer, rangeret efter hvor meget
- Forankring. Websøgning, et uploadet dokument eller en indsat kilde ændrer opgaven fra "husk" til "læs og opsummer", hvilket modeller er langt mere pålidelige til. Dette er den enkeltstående største reduktion, og det er en produktindstilling, ikke et prompt-trick.
- En anden model. Anden træning, andre fejltyper. Fanger de fleste opdigtede detaljer.
- Bed om kilder og åbn dem. En model bedt om at citere vil citere; tjekket er, om kildehenvisningen findes og siger, hvad svaret hævder.
- Tilladelse til at sige nej. "Hvis du ikke er sikker, så sig det" ændrer, hvad den mest sandsynlige fortsættelse er, så modellen på svære spørgsmål oftere afviser i stedet for at finde på.
- En større model. Frontier-modeller hallucinerer mindre på almen viden end små modeller, men forskellen er mindst netop dér, hvor det betyder noget, på sjældne og specifikke fakta.
Rækkefølgen er pointen. De fleste griber først til nummer fem, og det er den svageste løftestang på listen.
- Behandl enhver specifik, tjekbar påstand uden kilde som ubekræftet: en kildehenvisning, en statistik, et citat, en produktfunktion
- Slå websøgning til eller vedhæft dokumentet, når svaret afhænger af noget aktuelt, privat eller præcist
- Spørg en anden model fra et andet laboratorium, før du handler på et tal eller en kildehenvisning; uenighed betyder tjek
- Åbn den citerede kilde og bekræft, at den siger, hvad svaret hævder, ikke bare at den findes
- Tilføj "sig det, hvis du ikke er sikker" til prompts om svære spørgsmål
Ofte stillede spørgsmål
Hvorfor hallucinerer AI-modeller?
Fordi de genererer de mest sandsynlige næste ord i stedet for at slå fakta op, og fordi deres træning belønner et selvsikkert gæt over en indrømmelse af uvidenhed. OpenAI's artikel fra september 2025, "Why Language Models Hallucinate", viser, at benchmarks giver et blankt svar og et forkert svar den samme score, så gætteri er den vindende strategi, modellen lærer.
Kan AI-hallucinationer forhindres helt?
Ikke med nuværende modeller, fordi det at generere sandsynlig tekst er den samme mekanisme, der producerer både korrekte og opdigtede svar. De kan reduceres betydeligt: at forankre modellen i søgeresultater eller et dokument, spørge en anden model og kræve kilder, du derefter åbner, fjerner en stor del. Det, der er tilbage, er den resterende risiko ved sjældne, specifikke fakta.
Hvilken AI hallucinerer mindst?
Frontier-modeller fra OpenAI, Anthropic og Google hallucinerer mindre end små modeller på almen viden, men forskellen indsnævres på sjældne og specifikke fakta, hvilket er dér, skaden sker. En forankret lille model med websøgning slået til slår typisk en ikke-forankret frontier-model på faktuelle spørgsmål, så indstillingen betyder mere end mærket.
Er en hallucination det samme som en fejl?
Det er én type. En hallucination er et opdigtet faktum fremlagt selvsikkert. Forældet viden (sandt ved træningstidspunktet, falsk nu), en fejlslagen søgning (det forkerte afsnit blev hentet) og et fejllæst spørgsmål er forskellige fejl med forskellige løsninger, og kun den første reagerer på "bed om kilder".
Hvad skete der i ChatGPT-advokatsagen?
I Mata mod Avianca, indleveret i New York, indleverede to advokater et processkrift, der citerede seks sager, ChatGPT havde opdigtet. Retten idømte dem en bøde på $5,000 i juni 2023. Et år senere, i Moffatt mod Air Canada, pålagde et nævn selskabet at betale C$812.02, efter dets chatbot havde opdigtet en bedemandsrabat-politik, og afviste argumentet om, at chatbotten selv var ansvarlig for sine udtalelser.
