Hvad RAG egentlig er
En sprogmodel alene er som en eksamen uden hjælpemidler. Alt, hvad den kan fortælle dig, blev fastlagt, da træningen sluttede, og spørger du om din kontrakt, din kodebase eller gårsdagens nyheder, får du enten et afslag eller et selvsikkert gæt. Hvorfor AI tager fejl gennemgår gætteproblemet i dybden.
RAG gør eksamen uden hjælpemidler til en eksamen med adgang til bøger. Før modellen skriver et svar, søger systemet i en videnskilde, for eksempel dine uploadede filer, en virksomhedswiki eller det levende internet, henter de mest relevante passager frem og indsætter dem i prompten sammen med dit spørgsmål. Modellen svarer så ud fra den hentede tekst i stedet for kun ud fra hukommelsen.
Det er hele ideen. Navnet lyder kompliceret, men mekanismen er "slå det op først". Alt andet i RAG-arbejde handler om at få opslagstrinnet til at finde de rigtige passager.
Hvorfor modeller overhovedet har brug for et opslagstrin
To hårde begrænsninger skaber behovet.
Træningen har en slutdato. En model trænet frem til begyndelsen af 2026 ved intet om, hvad der er sket siden, og at gentræne en topmodel er et flere måneder langt og enormt dyrt projekt. Retrieval er måden, et AI-produkt kan svare på morgenens nyhed uden at nogen skal gentræne noget.
Træningsdata var offentlige. Dine fakturaer, supportsager og interne dokumenter var aldrig en del af dem, og ingen mængde af smart prompting kan hente information frem, som modellen aldrig har set. Retrieval er den eneste måde, en generel model kan svare ud fra private data på.
Der er også en mere subtil tredje grund: forankring. Når svaret skal komme fra en angivet passage, kan modellen citere sin kilde, og du kan tjekke den. Et svar produceret fra hukommelsen giver dig intet at tjekke op imod, hvilket er præcis det, der gør hallucinationer farlige.
Sådan virker en RAG-pipeline, trin for trin
Ethvert RAG-system, fra en chat-med-PDF-funktion til et virksomhedssøgeprodukt, kører de samme fem trin.
- Opdeling. Kildedokumenter opdeles i passager, typisk et par hundrede ord hver, fordi retrieval fungerer på passager frem for hele filer.
- Indeksering. Hvert stykke omdannes til en embedding, en liste af tal der repræsenterer dets betydning, og gemmes i en vektordatabase, så beslægtede betydninger ligger tæt på hinanden.
- Retrieval. Dit spørgsmål omdannes til en embedding på samme måde, og systemet henter de stykker, hvis embeddings ligger tættest på det, som regel de 3 til 10 bedste passager.
- Udvidelse. Disse passager indsættes i prompten, pakket ind i instruktioner som "svar kun ud fra konteksten nedenfor".
- Generering. Modellen skriver svaret ud fra den udvidede prompt, gerne med angivelse af hvilken passage der understøtter hver påstand.
Når du uploader et langt dokument til et chatværktøj og stiller spørgsmål om det, er det en eller anden udgave af dette, der kører. Guiden til chat med PDF viser, hvordan det ser ud i praksis i Whizi.
RAG vs lang kontekst vs finetuning
Disse tre forveksles, fordi alle tre "lærer modellen om dine data". De gør det på uforenelige måder.
| Tilgang | Sådan virker det | Bedst til | Svaghed |
|---|---|---|---|
| RAG | Søg først, svar ud fra resultater | Store eller skiftende dokumentsamlinger, kilder | Svarkvaliteten afhænger af søgekvaliteten |
| Lang kontekst | Indsæt alt i prompten | Ét dokument, dybdegående krydsreferencer | Pris og opmærksomhedsgrænser |
| Finetuning | Gentræn modellen på eksempler | Stil, format og adfærd | Dårlig til fakta; dyr at opdatere |
Økonomien afgør mere end teorien gør. Et kontekstvindue på 1 mio. tokens, som topmodeller som Gemini og GPT-5.6-familien nu tilbyder, rummer omkring 1.500 sider, så du kan rent faktisk indsætte en hel manual. Men til GPT-5.6 Terras pris på $2 pr. million input-tokens koster det at sende 300.000 tokens manual med hvert spørgsmål omkring $0.60 pr. spørgsmål, mens det at hente de rigtige 2.000 tokens koster under en halv cent. Stil tre spørgsmål, og lang kontekst er 100 gange dyrere for de samme svar. Hvad er et kontekstvindue forklarer den underliggende grænse.
Finetuning er den, der skiller sig ud: det ændrer, hvordan modellen opfører sig, ikke hvad den ved. Teams bruger det til tone og outputformat og bygger så alligevel RAG oven på for fakta.
Hvor du allerede bruger RAG uden at bemærke det
Websøgning i chatbots. Når ChatGPT, Gemini eller Perplexity søger på nettet og svarer med links, er det RAG med internettet som videnskilde.
Chat med dine filer. Upload en PDF og stil spørgsmål: opdeling, embedding og retrieval kører i baggrunden for ethvert dokument, der er for langt til bekvemt at passe i konteksten.
Kundeservicebots. Dem der svarer ud fra et rigtigt hjælpecenter og citerer artiklen, er RAG-systemer. Dem der improviserer, er det ikke, og det kan mærkes.
AI-assistenter der svarer om aktuelle begivenheder. Ethvert korrekt svar om noget efter modellens træningsafskæring er kommet via retrieval, ikke hukommelse.
Hvor RAG fejler, og hvordan du opdager det
RAG reducerer hallucination, det fjerner den ikke, og det tilføjer sine egne fejltyper.
Fejlagtig søgning. Hvis søgetrinnet henter de forkerte passager, svarer modellen flydende ud fra irrelevant kontekst. Symptom: et svar der citerer dit dokument, men adresserer et lidt andet spørgsmål.
Forældede indekser. Vektordatabasen kender kun dokumenterne, som de så ud ved sidste indeksering. Et RAG-system over sidste kvartals politikker giver selvsikre, forældede svar med kilder vedhæftet, hvilket er mere overbevisende end en almindelig hallucination og derfor værre.
Modstridende kilder. Når hentede passager er uenige, har modeller en tendens til at blande dem sammen til ét glat, forkert afsnit i stedet for at flage konflikten.
Det praktiske forsvar er det samme som ved ethvert AI-svar: tjek den citerede passage, ikke bare at citatet findes. Et RAG-svar hvis kilde ikke rent faktisk siger det, svaret hævder, er den mest almindelige alvorlige fejl i produktionssystemer.
- Brug RAG-lignende værktøjer (upload, websøgning) når spørgsmålet handler om dine data eller aktuelle begivenheder
- Foretræk lang kontekst til ét dokument, du vil udspørge grundigt; foretræk retrieval til store eller skiftende samlinger
- Forvent ikke, at finetuning tilføjer fakta; det ændrer adfærd, ikke viden
- Åbn altid den citerede passage og bekræft, at den siger det, svaret hævder
- Betragt et selvsikkert svar uden kilde som et hukommelsesbaseret gæt
Ofte stillede spørgsmål
Hvad står RAG for inden for AI?
RAG står for retrieval augmented generation. Retrieval betyder at søge en videnskilde igennem efter relevante passager, augmented betyder at tilføje disse passager til prompten, og generation betyder at modellen skriver sit svar ud fra dem. Teknikken lader en model svare ud fra dokumenter og data, den aldrig blev trænet på.
Er RAG bedre end finetuning?
De løser forskellige problemer. RAG er bedre til fakta, fordi det at opdatere viden betyder at genindeksere dokumenter frem for at gentræne, og svar kan citere kilder. Finetuning er bedre til stil, tone og outputformat. Produktionssystemer bruger ofte begge dele: finetuning til adfærd, RAG til viden.
Gør et stort kontekstvindue RAG overflødigt?
Nej, det flytter grænsen. Med kontekstvinduer på 1 mio. tokens kan du indsætte omkring 1.500 sider direkte, hvilket rent faktisk erstatter RAG til arbejde med ét enkelt dokument. Men at indsætte alt i hvert eneste spørgsmål koster input-tokens hver gang, omkring $0.60 pr. spørgsmål for en manual på 300.000 tokens til $2 pr. million tokens, mens retrieval sender nogle få tusinde tokens i stedet. Til store, skiftende eller ofte forespurgte samlinger forbliver retrieval det økonomiske svar.
Skal jeg bygge noget for at bruge RAG?
Ikke som bruger. At uploade et dokument til et chatværktøj, eller slå websøgning til, kører allerede retrieval i baggrunden. At bygge din egen pipeline med en vektordatabase bliver først relevant, når du udvikler software, der automatisk skal svare ud fra en privat dokumentsamling.
Stopper RAG AI-hallucinationer?
Det reducerer dem markant ved at forankre svar i hentet tekst, men det introducerer sine egne fejl: at hente den forkerte passage, at svare ud fra et forældet indeks eller at blande modstridende kilder. Den pålidelige vane er at tjekke, at den citerede passage rent faktisk understøtter påstanden, hvilket RAG gør muligt, og rene hukommelsesbaserede svar ikke gør.
