En hallusinasjon er et sannsynlig svar som tilfeldigvis er usant
Be en språkmodell om sidetallet til et sitat i en bok den har lest om, men aldri sett, og den vil gi deg et sidetall. Den vil ikke si «det kan jeg ikke vite». Tallet er formatert riktig, står i en setning som høres ut som alle andre kilder i treningsdataene, og er oppdiktet.
Det er en hallusinasjon: en flytende, selvsikker påstand uten fakta bak seg. Ordet er en metafor, og en litt misvisende en, for ingenting er i ustand. Modellen ble bedt om den mest sannsynlige fortsettelsen av et sitat, og den leverte en. På et spørsmål der det mest sannsynlige svaret også er det sanne, som gjelder de fleste spørsmål, er det samme prosessen som gjør modellen nyttig.
Formene den tar er forutsigbare: oppdiktede kilder og URL-er, statistikk uten kilde, sitater tillagt virkelige personer som aldri sa dem, funksjoner i et produkt som ikke finnes, og juridiske eller medisinske påstander fremstilt som etablert fakta. Hvorfor AI tar feil går gjennom hvordan du fanger opp hver type; denne siden handler om hvorfor de i det hele tatt oppstår.
Hvorfor en modell som har lest hele internett fortsatt finner på ting
To mekanismer, og de forsterker hverandre.
Modellen predikerer, den henter ikke opp. En språkmodell har ingen fakta-indeks. Alt den leste ble komprimert inn i parameterne, og når den svarer, genererer den teksten på nytt ett token av gangen ut fra denne komprimeringen, og velger hvert token etter sannsynlighet. Når det sanne svaret var vanlig i treningsdataene, er den sannsynlige fortsettelsen også den sanne. Når det var sjeldent, fraværende eller motsagt, må modellen fortsatt velge et token, og den velger et sannsynlig ett. Hva er en LLM forklarer arkitekturen; kortversjonen er at det ikke finnes et steg der modellen spør seg selv om setningen den skriver er sann.
Trening premierer gjetting. I september 2025 publiserte OpenAI en rapport med tittelen «Why Language Models Hallucinate», som argumenterer for at testene som brukes til å vurdere modeller, gir et feil svar og et tomt svar samme poengsum, null, mens et heldig gjett gir full pott. En modell som er optimalisert mot denne poengsettingen, lærer den samme leksen en elev lærer på en flervalgstest uten straff for feil svar: gjett alltid. Rapportens forslag er å endre vurderingen slik at «jeg vet ikke» er verdt mer enn et selvsikkert bom.
To rettssaker som satte en prislapp på en hallusinasjon
Mata v. Avianca, New York, 2023. To advokater leverte et prosesskrift som viste til seks rettsavgjørelser produsert av ChatGPT. Ingen av de seks fantes. Dommeren ila advokatene en bot på $5,000 i juni 2023 og fikk dem til å skrive til dommerne de oppdiktede avgjørelsene var tillagt. Skjermbilder vedlagt advokatens erklæring viser at han spurte ChatGPT om sakene var ekte, og at ChatGPT bekreftet at de var det.
Moffatt v. Air Canada, British Columbia, 2024. Nettsidens chatbot hos Air Canada fortalte en kunde at han kunne bestille en fullpris-billett til en begravelse og kreve begravelsesrabatt i etterkant. Flyselskapets faktiske retningslinjer sa det motsatte. Da Air Canada hevdet at chatboten var en egen juridisk enhet ansvarlig for sine egne ord, avviste Civil Resolution Tribunal dette i februar 2024 og påla flyselskapet å betale C$812.02.
Ingen av modellene var ødelagt. Begge ga det mest sannsynlig-klingende svaret på et spørsmål der det sanne svaret var utenfor rekkevidde. Kostnaden landet på personen som ikke sjekket.
Hallusinasjon er én av fire feiltyper, og løsningene er ulike
Folk bruker ordet om ethvert feil svar, og det skjuler at de fire vanlige feilene har fire ulike årsaker.
| Feil | Hva som skjedde | Hvordan oppdage det | Løsningen |
|---|---|---|---|
| Hallusinasjon | Modellen fant på et faktum for å fullføre en sannsynlig setning | Spesifikt, sjekkbart, uten kilde | Be om kilden, åpne den deretter; spør en annen modell |
| Utdatert kunnskap | Faktumet var sant da treningen ble avsluttet, men ikke nå | Priser, versjoner, personer i verv, alt som er datert | Slå på nettsøk eller lim inn den gjeldende siden |
| Feil søketreff | Søket eller den opplastede filen hentet feil avsnitt | Svaret siterer dokumentet ditt, men svarer på et annet spørsmål | Les det siterte avsnittet, ikke bare kildehenvisningen |
| Feiltolkning | Modellen svarte på et litt annet spørsmål enn det du stilte | Svaret er riktig om noe annet | Formuler spørsmålet på nytt med begrensningen gjort eksplisitt |
Bare den første raden er en hallusinasjon i streng forstand. Rad to og tre er grunnlagsproblemer og løses stort sett ved å gi modellen noe å lese. Rad fire er et promptproblem. Å behandle alle fire som én mystisk feil fører folk til feil løsning, som regel «bruk en større modell», som hjelper minst med rad én.
Sjekken med to modeller, og hva den koster
Den mest pålitelige vanen for den strenge typen hallusinasjon er å spørre en annen, ulik modell det samme spørsmålet og sammenligne. To modeller fra ulike laboratorier, trent på ulike data med ulik etterfølgende trening, finner sjelden opp den samme kilden. Enighet er svakt bevis på at faktumet er sant. Uenighet er et sterkt signal om å sjekke før du handler.
Grunnen til at dette fungerer der «be samme modell dobbeltsjekke» ikke gjør det: en ny runde med samme modell er samme prediktor som gjetter på nytt fra den samme komprimeringen. En annen modell er en annen komprimering.
Den andre vurderingen trenger ikke komme fra en dyr modell. På Artificial Analysis Intelligence Index, en sammensatt indeks av offentlige benchmarker for resonnering, koding og kunnskap avlest 2026-09-17, skårer DeepSeek V4 Flash 40 og koster 1 Whizi-kreditt per melding; Claude Sonnet 5 skårer 38 og koster 10. Den stiplede linjen er fronten, den beste skåren ved hver pris, og hvert punkt på den er et annet laboratorium. En kryssjekk fra to laboratorier til 1 og 10 kreditter er 11 kreditter, og side om side-visningen sender ett spørsmål til begge på én skjerm. Advokatene i Mata v. Avianca betalte $5,000 for sjekken de ikke gjorde.
Hva som reduserer hallusinasjoner, rangert etter effekt
- Grunnlag. Nettsøk, et opplastet dokument eller en innlimt kilde gjør oppgaven om fra «husk» til «les og oppsummer», noe modeller gjør langt mer pålitelig. Dette er den enkeltvis største reduksjonen, og det er en produktinnstilling, ikke et prompttriks.
- En annen modell. Ulik trening, ulike feilmønstre. Fanger opp de fleste oppdiktede detaljer.
- Be om kilder og åpne dem. En modell som blir bedt om å sitere, vil sitere; sjekken er om kilden finnes og sier det svaret hevder.
- Tillatelse til å si nei. «Si fra hvis du er usikker» endrer hva den mest sannsynlige fortsettelsen er, så på vanskelige spørsmål avslår modellen oftere i stedet for å finne på noe.
- En større modell. Frontmodeller hallusinerer mindre på allmennkunnskap enn små modeller, men gapet er minst der det betyr mest, på sjeldne og spesifikke fakta.
Rekkefølgen er poenget. De fleste griper etter punkt fem først, og det er den svakeste spaken på listen.
- Behandle enhver spesifikk, sjekkbar påstand uten kilde som uverifisert: en kilde, en statistikk, et sitat, en produktfunksjon
- Slå på nettsøk eller legg ved dokumentet når svaret avhenger av noe nylig, privat eller presist
- Spør en annen modell fra et annet laboratorium før du handler på et tall eller en kilde; uenighet betyr sjekk
- Åpne den siterte kilden og bekreft at den sier det svaret hevder, ikke bare at den finnes
- Legg til «si fra hvis du er usikker» i prompter på vanskelige spørsmål
Vanlige spørsmål
Hvorfor hallusinerer AI-modeller?
Fordi de genererer de mest sannsynlige neste ordene i stedet for å slå opp fakta, og fordi treningen premierer en selvsikker gjetning fremfor å innrømme uvitenhet. OpenAIs rapport fra september 2025, «Why Language Models Hallucinate», viser at testene gir et tomt svar og et feil svar identisk poengsum, så gjetting er den vinnende strategien modellen lærer.
Kan AI-hallusinasjoner forhindres fullstendig?
Ikke med dagens modeller, fordi det å generere sannsynlig tekst er den samme mekanismen som gir både riktige svar og oppdiktede. De kan reduseres betraktelig: å forankre modellen i søkeresultater eller et dokument, spørre en annen modell, og kreve kilder du deretter åpner, fjerner hver for seg en stor andel. Det som gjenstår er restrisikoen ved sjeldne, spesifikke fakta.
Hvilken AI hallusinerer minst?
Frontmodeller fra OpenAI, Anthropic og Google hallusinerer mindre enn små modeller på allmennkunnskap, men forskjellen minker på sjeldne og spesifikke fakta, som er der skaden skjer. En forankret liten modell med nettsøk på slår som regel en uforankret frontmodell på faktaspørsmål, så innstillingen betyr mer enn merkelappen.
Er en hallusinasjon det samme som en feil?
Det er én type. En hallusinasjon er et oppdiktet faktum fremstilt med selvtillit. Utdatert kunnskap (sant da modellen ble trent, usant nå), et feil søketreff (feil avsnitt ble hentet) og et feiltolket spørsmål er andre feil med andre løsninger, og bare den første svarer på «be om kilder».
Hva skjedde i ChatGPT-advokatsaken?
I Mata v. Avianca, anlagt i New York, leverte to advokater et prosesskrift som viste til seks saker ChatGPT hadde funnet på. Retten ila dem en bot på $5,000 i juni 2023. Et år senere, i Moffatt v. Air Canada, påla en nemnd flyselskapet å betale C$812.02 etter at chatboten hadde funnet på en refusjonsordning for begravelser, og avviste argumentet om at chatboten selv var ansvarlig for sine uttalelser.
