Cos'è davvero il RAG
Un modello linguistico da solo è come un esame a libri chiusi. Tutto ciò che può dirti è stato fissato quando l'addestramento è terminato, e chiedergli del tuo contratto, del tuo codice o delle notizie di ieri ti procura un rifiuto oppure una risposta indovinata con sicurezza. Perché l'IA sbaglia approfondisce il problema delle risposte indovinate.
Il RAG trasforma l'esame a libri chiusi in un esame a libri aperti. Prima che il modello scriva una risposta, il sistema cerca in una fonte di conoscenza, come i tuoi file caricati, un wiki aziendale o il web in tempo reale, recupera i passaggi più rilevanti e li incolla nel prompt insieme alla tua domanda. Il modello risponde quindi partendo da quel testo recuperato, e non solo dalla memoria.
Questa è tutta l'idea. Il nome intimidisce, il meccanismo è "prima cercalo". Tutto il resto dell'ingegneria del RAG riguarda il rendere il passaggio di ricerca capace di trovare i passaggi giusti.
Perché i modelli hanno bisogno di un passaggio di recupero
Due limiti rigidi creano questa necessità.
L'addestramento ha una data di scadenza. Un modello addestrato fino all'inizio del 2026 non sa nulla di ciò che è accaduto dopo, e riaddestrare un modello di frontiera è un progetto lungo mesi ed enormemente costoso. Il recupero è il modo in cui un prodotto di IA risponde sull'annuncio di questa mattina senza che nessuno debba riaddestrare nulla.
I dati di addestramento erano pubblici. Le tue fatture, i ticket e i documenti interni non ci sono mai stati, e nessun prompt ingegnoso, per quanto astuto, recupera informazioni che il modello non ha mai visto. Il recupero è l'unico modo in cui un modello generico può rispondere usando dati privati.
C'è anche una terza ragione più sottile: il grounding. Quando la risposta deve provenire da un passaggio fornito, il modello può citare la sua fonte, e tu puoi verificarla. Una risposta prodotta dalla memoria non offre nulla da controllare, e questo è esattamente il tipo di fallimento che rende le allucinazioni pericolose.
Come funziona una pipeline RAG, passo dopo passo
Ogni sistema RAG, da una funzione di chat con i PDF a un prodotto di ricerca enterprise, esegue gli stessi cinque passaggi.
- Chunking. I documenti di partenza vengono divisi in passaggi, tipicamente di poche centinaia di parole ciascuno, perché il recupero funziona su passaggi e non su file interi.
- Indicizzazione. Ogni frammento viene convertito in un embedding, un elenco di numeri che rappresenta il suo significato, e memorizzato in un database vettoriale in modo che significati simili si trovino vicini tra loro.
- Recupero. La tua domanda viene incorporata nello stesso modo, e il sistema recupera i frammenti i cui embedding sono più vicini ad essa, di solito i primi 3-10 passaggi.
- Aumento. Quei passaggi vengono inseriti nel prompt, racchiusi in istruzioni come "rispondi solo in base al contesto sotto riportato".
- Generazione. Il modello scrive la risposta partendo dal prompt aumentato, idealmente citando quale passaggio ha supportato ogni affermazione.
Quando carichi un documento lungo in uno strumento di chat e fai domande su di esso, è una versione di questo processo che viene eseguita. La guida alla chat con i PDF mostra come funziona in pratica dentro Whizi.
RAG contro contesto lungo contro fine tuning
Questi tre concetti si confondono perché tutti e tre "insegnano al modello i tuoi dati". Lo fanno però in modi incompatibili tra loro.
| Approccio | Come funziona | Adatto per | Debolezza |
|---|---|---|---|
| RAG | Prima cerca, poi risponde in base ai risultati | Insiemi di documenti grandi o in evoluzione, citazioni | La qualità della risposta dipende dalla qualità del recupero |
| Contesto lungo | Incolla tutto nel prompt | Un solo documento, riferimenti incrociati approfonditi | Limiti di costo e di attenzione |
| Fine tuning | Riaddestra il modello sugli esempi | Stile, formato e comportamento | Scarso sui fatti; costoso da aggiornare |
Sono i numeri a decidere, non la teoria. Una finestra di contesto da 1M di token, che modelli di frontiera come Gemini e la famiglia GPT-5.6 offrono ora, contiene circa 1.500 pagine, quindi puoi davvero incollare un intero manuale. Ma alla tariffa di GPT-5.6 Terra di $2 per milione di token in ingresso, inviare 300.000 token di manuale a ogni domanda costa circa $0.60 a domanda, mentre recuperare i 2.000 token giusti costa meno di mezzo centesimo. Fai tre domande e il contesto lungo diventa 100 volte più costoso per le stesse risposte. Cos'è una finestra di contesto spiega il limite di fondo.
Il fine tuning è quello fuori schema: cambia come si comporta il modello, non ciò che sa. I team lo usano per il tono e il formato dell'output, e poi aggiungono comunque il RAG per i fatti.
Dove già usi il RAG senza accorgertene
La ricerca web nei chatbot. Quando ChatGPT, Gemini o Perplexity cercano sul web e rispondono con dei link, quello è RAG con internet come fonte di conoscenza.
Chat con i tuoi file. Carica un PDF e fai domande: chunking, embedding e recupero funzionano dietro le quinte per qualsiasi documento troppo lungo per rientrare comodamente nel contesto.
I bot di assistenza clienti. Quelli che rispondono partendo da un vero centro assistenza, e citano l'articolo, sono sistemi RAG. Quelli che improvvisano non lo sono, e si nota.
Gli assistenti IA che rispondono sull'attualità. Qualsiasi risposta corretta su qualcosa avvenuto dopo la data limite di addestramento del modello è arrivata tramite il recupero, non dalla memoria.
Dove il RAG fallisce, e come riconoscerlo
Il RAG riduce le allucinazioni, non le elimina, e aggiunge modalità di fallimento proprie.
Recuperi mancati. Se il passaggio di ricerca recupera i passaggi sbagliati, il modello risponde in modo fluente partendo da un contesto irrilevante. Sintomo: una risposta che cita il tuo documento ma affronta una domanda leggermente diversa.
Indici obsoleti. Il database vettoriale conosce i documenti solo al momento della loro ultima indicizzazione. Un sistema RAG basato sulle politiche del trimestre scorso fornisce risposte obsolete espresse con sicurezza e con citazioni allegate, il che è più convincente di una semplice allucinazione e quindi peggiore.
Fonti in conflitto. Quando i passaggi recuperati non sono d'accordo tra loro, i modelli tendono a fonderli in un unico paragrafo scorrevole ma sbagliato, invece di segnalare il conflitto.
La difesa pratica è la stessa di qualsiasi risposta dell'IA: controlla il passaggio citato, non solo il fatto che esista una citazione. Una risposta RAG la cui fonte non dice effettivamente ciò che la risposta afferma è il fallimento grave più comune nei sistemi in produzione.
- Usa strumenti in stile RAG (caricamento file, ricerca web) ogni volta che la domanda riguarda i tuoi dati o l'attualità
- Preferisci il contesto lungo per un singolo documento che vuoi interrogare in profondità; preferisci il recupero per insiemi grandi o in evoluzione
- Non aspettarti che il fine tuning aggiunga fatti; cambia il comportamento, non la conoscenza
- Apri sempre il passaggio citato e verifica che dica davvero ciò che la risposta afferma
- Considera una risposta sicura ma senza citazioni come un'ipotesi basata sulla memoria
Domande frequenti
Cosa significa RAG nell'IA?
RAG è l'acronimo di retrieval augmented generation. Retrieval significa cercare in una fonte di conoscenza i passaggi rilevanti, augmented significa aggiungere quei passaggi al prompt, e generation significa che il modello scrive la sua risposta partendo da essi. La tecnica permette a un modello di rispondere usando documenti e dati su cui non è mai stato addestrato.
Il RAG è meglio del fine tuning?
Risolvono problemi diversi. Il RAG è migliore per i fatti, perché aggiornare la conoscenza significa reindicizzare i documenti invece di riaddestrare, e le risposte possono citare le fonti. Il fine tuning è migliore per lo stile, il tono e il formato dell'output. I sistemi in produzione spesso usano entrambi: il fine tuning per il comportamento, il RAG per la conoscenza.
Una finestra di contesto ampia rende il RAG obsoleto?
No, cambia solo la soglia. Con finestre da 1M di token puoi incollare direttamente circa 1.500 pagine, il che sostituisce davvero il RAG per il lavoro su un singolo documento. Ma incollare tutto a ogni domanda consuma token in ingresso ogni volta, circa $0.60 a domanda per un manuale di 300.000 token a $2 per milione di token, mentre il recupero invia invece solo poche migliaia di token. Per collezioni grandi, in evoluzione o interrogate spesso, il recupero resta la scelta più economica.
Devo costruire qualcosa per usare il RAG?
Non come utente. Caricare un documento in uno strumento di chat, o attivare la ricerca web, esegue già il recupero dietro le quinte. Costruire una propria pipeline con un database vettoriale diventa rilevante solo quando si sviluppa un software che deve rispondere automaticamente in base a una raccolta privata di documenti.
Il RAG elimina le allucinazioni dell'IA?
Le riduce notevolmente ancorando le risposte al testo recuperato, ma introduce fallimenti propri: recuperare il passaggio sbagliato, rispondere in base a un indice obsoleto o fondere fonti in conflitto. L'abitudine affidabile è controllare che il passaggio citato supporti davvero l'affermazione, cosa che il RAG rende possibile e le risposte basate solo sulla memoria no.
