Ce este de fapt RAG
Un model de limbaj de sine stătător este ca un examen cu carte închisă. Tot ce îți poate spune a fost fixat când s-a terminat antrenarea, iar dacă întrebi despre contractul tău, codul tău sau știrile de ieri, primești fie un refuz, fie o presupunere spusă cu încredere. De ce greșește IA tratează în detaliu problema ghicitului.
RAG transformă examenul cu carte închisă într-unul cu carte deschisă. Înainte ca modelul să scrie un răspuns, sistemul caută într-o sursă de cunoștințe, cum ar fi fișierele tale încărcate, un wiki al companiei sau web-ul în timp real, extrage cele mai relevante pasaje și le lipește în prompt alături de întrebarea ta. Modelul răspunde apoi din acel text recuperat, nu doar din memorie.
Asta e toată ideea. Numele este intimidant; mecanismul este "caută mai întâi". Tot restul din inginerie RAG se referă la a face pasul de căutare să găsească pasajele potrivite.
De ce modelele au nevoie deloc de un pas de recuperare
Două limite dure creează această nevoie.
Antrenarea are o dată limită. Un model antrenat până la începutul lui 2026 nu știe nimic din ce s-a întâmplat după aceea, iar reantrenarea unui model de frontieră este un proiect de luni de zile, enorm de costisitor. Recuperarea este modul în care un produs de IA răspunde despre anunțul de dimineața asta fără ca nimeni să reantreneze nimic.
Datele de antrenare au fost publice. Facturile, ticketele și documentele interne ale companiei tale nu au fost niciodată în ele, iar nicio formulare inteligentă a promptului nu recuperează informații pe care modelul nu le-a văzut niciodată. Recuperarea este singurul mod în care un model general poate răspunde din date private.
Există și un al treilea motiv, mai subtil: fundamentarea (grounding). Când răspunsul trebuie să vină dintr-un pasaj furnizat, modelul poate cita sursa, iar tu poți verifica. Un răspuns produs din memorie nu oferă nimic de verificat, ceea ce este exact modul de eșec care face halucinațiile periculoase.
Cum funcționează un pipeline RAG, pas cu pas
Fiecare sistem RAG, de la o funcție de chat cu PDF până la un produs de căutare pentru companii, rulează aceiași cinci pași.
- Fragmentare (chunking). Documentele sursă sunt împărțite în pasaje, de obicei câteva sute de cuvinte fiecare, pentru că recuperarea funcționează pe pasaje, nu pe fișiere întregi.
- Indexare. Fiecare fragment este convertit într-un embedding, o listă de numere care reprezintă sensul lui, și stocat într-o bază de date vectorială, astfel încât sensurile similare să stea unele lângă altele.
- Recuperare. Întrebarea ta este transformată în embedding la fel, iar sistemul extrage fragmentele ale căror embeddinguri stau cel mai aproape de ea, de obicei primele 3 până la 10 pasaje.
- Augmentare. Acele pasaje sunt inserate în prompt, învelite în instrucțiuni precum "răspunde doar din contextul de mai jos".
- Generare. Modelul scrie răspunsul din promptul augmentat, ideal citând care pasaj a susținut fiecare afirmație.
Când încarci un document lung într-un instrument de chat și pui întrebări despre el, rulează o versiune a acestui proces. Ghidul chat cu PDF arată cum se vede asta în practică în Whizi.
RAG vs context lung vs fine tuning
Aceste trei se confundă pentru că toate trei "învață modelul despre datele tale". O fac în moduri incompatibile.
| Abordare | Cum funcționează | Cel mai bun pentru | Slăbiciune |
|---|---|---|---|
| RAG | Se caută întâi, se răspunde din rezultate | Seturi de documente mari sau în schimbare, citări | Calitatea răspunsului depinde de calitatea recuperării |
| Context lung | Se lipește tot în prompt | Un document, referințe încrucișate profunde | Limite de cost și de atenție |
| Fine tuning | Se reantrenează modelul pe exemple | Stil, format și comportament | Slab la fapte; costisitor de actualizat |
Economia decide mai mult decât teoria. O fereastră de context de 1M tokeni, pe care modelele de frontieră precum Gemini și familia GPT-5.6 o oferă acum, încape aproximativ 1.500 de pagini, așa că poți într-adevăr lipi un manual întreg. Dar la tariful GPT-5.6 Terra de $2 pe milion de tokeni de intrare, trimiterea a 300.000 de tokeni de manual la fiecare întrebare costă aproximativ $0.60 pe întrebare, în timp ce recuperarea celor 2.000 de tokeni potriviți costă sub jumătate de cent. Pune trei întrebări și contextul lung este de 100 de ori mai costisitor pentru aceleași răspunsuri. Ce este o fereastră de context explică limita de bază.
Fine tuning-ul este cel diferit: schimbă modul în care se comportă modelul, nu ce știe. Echipele îl folosesc pentru ton și format de output, apoi adaugă tot RAG pentru fapte.
Unde folosești deja RAG fără să observi
Căutare web în chatboți. Când ChatGPT, Gemini sau Perplexity caută pe web și răspund cu linkuri, acela este RAG cu internetul ca sursă de cunoștințe.
Chat cu fișierele tale. Încarci un PDF și pui întrebări: fragmentarea, embeddingul și recuperarea rulează în fundal pentru orice document prea lung ca să încapă confortabil în context.
Boți de suport pentru clienți. Cei care răspund dintr-un centru de asistență real și citează articolul sunt sisteme RAG. Cei care improvizează nu sunt, și se vede.
Asistenți de IA care răspund despre evenimente curente. Orice răspuns corect despre ceva de după data limită de antrenare a modelului a ajuns prin recuperare, nu prin memorie.
Unde eșuează RAG și cum îl recunoști
RAG reduce halucinația; nu o elimină, și adaugă propriile moduri de eșec.
Recuperări greșite. Dacă pasul de căutare extrage pasajele nepotrivite, modelul răspunde fluent dintr-un context irelevant. Simptom: un răspuns care citează documentul tău, dar abordează o întrebare puțin diferită.
Indexuri vechi. Baza de date vectorială cunoaște documentele doar la ultima indexare. Un sistem RAG peste politicile trimestrului trecut oferă răspunsuri depășite, spuse cu încredere, cu citări atașate, ceea ce este mai convingător decât o halucinație simplă și, prin urmare, mai grav.
Surse contradictorii. Când pasajele recuperate se contrazic, modelele tind să le combine într-un singur paragraf fluent și greșit, în loc să semnaleze conflictul.
Apărarea practică este aceeași ca pentru orice răspuns de IA: verifică pasajul citat, nu doar existența citării. Un răspuns RAG a cărui sursă nu spune de fapt ceea ce afirmă răspunsul este cel mai frecvent eșec grav în sistemele de producție.
- Folosește instrumente de tip RAG (încărcare, căutare web) de câte ori întrebarea se referă la datele tale sau la evenimente curente
- Preferă contextul lung pentru un singur document pe care îl interoghezi în profunzime; preferă recuperarea pentru seturi mari sau în schimbare
- Nu te aștepta ca fine tuning-ul să adauge fapte; el schimbă comportamentul, nu cunoștințele
- Deschide întotdeauna pasajul citat și confirmă că spune ceea ce afirmă răspunsul
- Tratează un răspuns spus cu încredere, fără citare, ca pe o presupunere bazată pe memorie
Întrebări frecvente
Ce înseamnă RAG în IA?
RAG vine de la retrieval augmented generation, generare augmentată prin recuperare. Recuperarea înseamnă căutarea unei surse de cunoștințe pentru pasaje relevante, augmentarea înseamnă adăugarea acelor pasaje în prompt, iar generarea înseamnă scrierea răspunsului de către model pe baza lor. Tehnica permite unui model să răspundă din documente și date pe care nu a fost niciodată antrenat.
Este RAG mai bun decât fine tuning?
Rezolvă probleme diferite. RAG este mai bun pentru fapte, pentru că actualizarea cunoștințelor înseamnă reindexarea documentelor, nu reantrenarea, iar răspunsurile pot cita surse. Fine tuning-ul este mai bun pentru stil, ton și format de output. Sistemele de producție folosesc de obicei ambele: fine tuning pentru comportament, RAG pentru cunoștințe.
O fereastră de context mare face RAG inutil?
Nu, schimbă doar pragul. Cu ferestre de 1M tokeni poți lipi aproximativ 1.500 de pagini direct, ceea ce înlocuiește într-adevăr RAG pentru munca pe un singur document. Dar lipirea a tot la fiecare întrebare costă tokeni de intrare de fiecare dată, aproximativ $0.60 pe întrebare pentru un manual de 300.000 de tokeni la $2 pe milion de tokeni, în timp ce recuperarea trimite doar câteva mii de tokeni. Pentru colecții mari, în schimbare sau interogate frecvent, recuperarea rămâne răspunsul economic.
Trebuie să construiesc ceva pentru a folosi RAG?
Nu, ca utilizator. Încărcarea unui document într-un instrument de chat, sau activarea căutării web, rulează deja recuperarea în fundal. Construirea propriului pipeline cu o bază de date vectorială devine relevantă doar când dezvolți software care trebuie să răspundă automat dintr-o colecție privată de documente.
RAG oprește halucinațiile IA?
Le reduce substanțial prin fundamentarea răspunsurilor în text recuperat, dar introduce propriile eșecuri: recuperarea pasajului greșit, răspunsul dintr-un index vechi sau combinarea surselor contradictorii. Obiceiul de încredere este verificarea că pasajul citat susține de fapt afirmația, lucru pe care RAG îl face posibil, iar răspunsurile pur bazate pe memorie nu.
