O que é RAG? Como a IA para de chutar e passa a citar fontes

O que o RAG realmente é

Um modelo de linguagem por si só é uma prova de livro fechado. Tudo o que ele pode te dizer foi fixado quando o treinamento terminou, e perguntar sobre seu contrato, seu código ou as notícias de ontem só rende uma recusa ou um chute confiante. Por que a IA erra as coisas cobre esse problema de chute em profundidade.

O RAG transforma a prova de livro fechado em uma prova de livro aberto. Antes de o modelo escrever uma resposta, o sistema busca em uma fonte de conhecimento, como seus arquivos enviados, uma wiki da empresa ou a web em tempo real, recupera os trechos mais relevantes e os cola no prompt junto com sua pergunta. O modelo então responde a partir desse texto recuperado em vez de depender só da memória.

É essa a ideia toda. O nome é intimidador; o mecanismo é "buscar primeiro". Todo o resto da engenharia de RAG é sobre fazer essa etapa de busca encontrar os trechos certos.

Por que os modelos precisam de uma etapa de recuperação

Dois limites rígidos criam essa necessidade.

O treinamento tem uma data final. Um modelo treinado até o início de 2026 não sabe nada do que aconteceu depois, e retreinar um modelo de ponta é um projeto de meses e enormemente caro. A recuperação é como um produto de IA responde sobre o anúncio desta manhã sem que ninguém retreine nada.

Os dados de treinamento eram públicos. Suas faturas, tickets e documentos internos nunca estiveram lá, e nenhuma engenhosidade de prompt recupera informação que o modelo nunca viu. A recuperação é a única forma de um modelo geral responder a partir de dados privados.

Há também uma terceira razão mais sutil: o embasamento (grounding). Quando a resposta precisa vir de um trecho fornecido, o modelo pode citar sua fonte, e você pode verificar. Uma resposta produzida da memória não oferece nada para checar, que é exatamente o modo de falha que torna as alucinações perigosas.

Como um pipeline de RAG funciona, passo a passo

Todo sistema de RAG, de um recurso de chat com PDF até um produto de busca corporativa, executa as mesmas cinco etapas.

1. Fragmentação (chunking). Os documentos de origem são divididos em trechos, tipicamente algumas centenas de palavras cada, porque a recuperação funciona sobre trechos, não sobre arquivos inteiros.
2. Indexação. Cada trecho é convertido em um embedding, uma lista de números que representa seu significado, e armazenado em um banco de dados vetorial para que significados semelhantes fiquem próximos entre si.
3. Recuperação. Sua pergunta é convertida em embedding da mesma forma, e o sistema busca os trechos cujos embeddings estão mais próximos dela, geralmente os 3 a 10 trechos principais.
4. Aumento. Esses trechos são inseridos no prompt, envoltos em instruções como "responda apenas com base no contexto abaixo".
5. Geração. O modelo escreve a resposta a partir do prompt aumentado, idealmente citando qual trecho apoiou cada afirmação.

Quando você envia um documento longo para uma ferramenta de chat e faz perguntas sobre ele, alguma versão disso é o que roda por trás. O guia de chat com PDF mostra como isso funciona na prática dentro do Whizi.

RAG vs contexto longo vs fine tuning

Essas três coisas se confundem porque todas "ensinam o modelo sobre seus dados". Elas fazem isso de formas incompatíveis.

A economia decide mais do que a teoria. Uma janela de contexto de 1M de tokens, que modelos de ponta como o Gemini e a família GPT-5.6 já oferecem, cabe aproximadamente 1.500 páginas, então você realmente pode colar um manual inteiro. Mas, à taxa do GPT-5.6 Terra de $2 por milhão de tokens de entrada, enviar 300.000 tokens de manual em cada pergunta custa cerca de $0.60 por pergunta, enquanto recuperar os 2.000 tokens certos custa menos de meio centavo. Faça três perguntas e o contexto longo fica 100 vezes mais caro para as mesmas respostas. O que é uma janela de contexto explica o limite subjacente.

Fine tuning é o estranho no ninho: ele muda como o modelo se comporta, não o que ele sabe. As equipes usam para tom e formato de saída, e ainda acoplam o RAG por cima para os fatos.

Onde você já usa RAG sem notar

Busca na web em chatbots. Quando o ChatGPT, o Gemini ou o Perplexity buscam na web e respondem com links, isso é RAG usando a internet como fonte de conhecimento.

Chat com seus arquivos. Envie um PDF e faça perguntas: fragmentação, embedding e recuperação rodam nos bastidores para qualquer documento longo demais para caber confortavelmente no contexto.

Bots de suporte ao cliente. Os que respondem a partir de uma central de ajuda real e citam o artigo são sistemas de RAG. Os que improvisam não são, e isso se nota.

Assistentes de IA respondendo sobre eventos atuais. Qualquer resposta correta sobre algo posterior à data de corte do treinamento do modelo chegou por recuperação, não pela memória.

Onde o RAG falha, e como identificar

O RAG reduz a alucinação; ele não a elimina, e adiciona modos de falha próprios.

Falhas de recuperação. Se a etapa de busca traz os trechos errados, o modelo responde de forma fluente a partir de um contexto irrelevante. Sintoma: uma resposta que cita seu documento mas trata de uma pergunta ligeiramente diferente.

Índices desatualizados. O banco de dados vetorial só conhece os documentos como estavam na última indexação. Um sistema de RAG sobre as políticas do trimestre passado dá respostas confiantemente ultrapassadas com citações anexadas, o que é mais convincente do que uma alucinação simples e, portanto, pior.

Fontes conflitantes. Quando trechos recuperados discordam entre si, os modelos tendem a misturá-los em um único parágrafo suave e errado, em vez de sinalizar o conflito.

A defesa prática é a mesma para qualquer resposta de IA: verifique o trecho citado, não apenas se a citação existe. Uma resposta de RAG cuja fonte não diz de fato o que a resposta afirma é a falha grave mais comum em sistemas de produção.