RAG nedir? Yapay zeka tahmin etmeyi nasıl bırakıp kaynak göstermeye başlar

RAG gerçekte nedir

Tek başına bir dil modeli, kapalı kitap sınavı gibidir. Sana söyleyebileceği her şey, eğitim bittiğinde sabitlenmiştir; sözleşmen, kod tabanın veya dünkü haberler hakkında soru sorduğunda ya bir ret ya da kendinden emin bir tahmin alırsın. Yapay zeka neden hata yapar? bu tahmin etme sorununu derinlemesine ele alır.

RAG, kapalı kitap sınavını açık kitap sınavına çevirir. Model bir yanıt yazmadan önce sistem, yüklediğin dosyalar, bir şirket wiki'si veya canlı web gibi bir bilgi kaynağında arama yapar, en ilgili pasajları geri çeker ve bunları sorunla birlikte prompt'a yapıştırır. Model daha sonra sadece belleğinden değil, bu bulunan metinden yanıt verir.

Fikrin özü bu kadar. İsim gözünü korkutabilir; mekanizma ise "önce bak" mantığıdır. RAG mühendisliğindeki her şey, bu arama adımının doğru pasajları bulmasını sağlamakla ilgilidir.

Modellerin neden bir retrieval adımına ihtiyacı var

İki kesin sınır bu ihtiyacı yaratır.

Eğitimin bir bitiş tarihi vardır. 2026'nın başına kadar eğitilmiş bir model, bundan sonra olan hiçbir şeyi bilmez ve öncü bir modeli yeniden eğitmek aylar süren, son derece maliyetli bir projedir. Retrieval, bir yapay zeka ürününün kimse hiçbir şeyi yeniden eğitmeden bu sabahki duyuru hakkında yanıt verebilmesinin yoludur.

Eğitim verisi herkese açıktı. Faturaların, taleplerin ve iç dokümanların bu verinin içinde asla yer almadı; ne kadar akıllıca prompt yazarsan yaz, modelin hiç görmediği bilgiyi geri getiremezsin. Retrieval, genel bir modelin özel verilerden yanıt verebilmesinin tek yoludur.

Daha ince bir üçüncü sebep de var: dayandırma (grounding). Yanıt verilen bir pasajdan gelmek zorunda olduğunda model kaynağını gösterebilir ve sen bunu kontrol edebilirsin. Bellekten üretilen bir yanıt ise doğrulanacak hiçbir şey sunmaz, ki halüsinasyonları tehlikeli kılan hata biçimi de tam olarak budur.

Bir RAG hattı adım adım nasıl çalışır

Bir PDF ile sohbet özelliğinden kurumsal bir arama ürününe kadar her RAG sistemi aynı beş adımı çalıştırır.

1. Chunking (parçalama). Kaynak belgeler, genellikle birkaç yüz kelimelik pasajlara bölünür, çünkü retrieval tüm dosyalar üzerinde değil pasajlar üzerinde çalışır.
2. Indexing (dizinleme). Her parça, anlamını temsil eden bir sayı listesi olan bir embedding'e dönüştürülür ve benzer anlamların yan yana durması için bir vektör veritabanında saklanır.
3. Retrieval (getirme). Sorunuz aynı şekilde embedding'e dönüştürülür ve sistem, embedding'leri ona en yakın olan parçaları, genellikle en iyi 3 ile 10 pasajı, çeker.
4. Augmentation (zenginleştirme). Bu pasajlar, "sadece aşağıdaki bağlamdan yanıtla" gibi talimatlarla sarılarak prompt'a eklenir.
5. Generation (üretim). Model, zenginleştirilmiş prompt'tan yanıtı yazar, ideal olarak her iddiayı hangi pasajın desteklediğini belirterek.

Bir sohbet aracına uzun bir belge yükleyip onunla ilgili sorular sorduğunda, çalışan şey bunun bir versiyonudur. PDF ile sohbet kılavuzu bunun Whizi içinde pratikte nasıl göründüğünü gösterir.

RAG vs uzun bağlam vs fine tuning

Bu üçü birbirine karışır çünkü üçü de "modele verin hakkında bir şeyler öğretir". Ancak bunu birbiriyle uyuşmayan yollarla yapar.

Kararı teoriden çok ekonomi verir. Gemini ve GPT-5.6 ailesi gibi öncü modellerin şimdi sunduğu 1M token'lık bir bağlam penceresi, kabaca 1.500 sayfaya sığar, yani gerçekten de bütün bir kılavuzu yapıştırabilirsin. Ama GPT-5.6 Terra'nın milyon girdi token'ı için $2'lik oranında, her soruyla birlikte 300.000 token'lık kılavuz göndermek soru başına yaklaşık $0.60'a mal olurken, doğru 2.000 token'ı getirmek yarım sentin altında kalır. Üç soru sor ve uzun bağlam, aynı yanıtlar için 100 kat daha maliyetli olur. Bağlam penceresi nedir bu temel sınırı açıklar.

Fine tuning aradan çıkan yöntemdir: modelin ne bildiğini değil, nasıl davrandığını değiştirir. Ekipler bunu üslup ve çıktı formatı için kullanır, gerçekler için ise yine RAG'e başvurur.

RAG'i fark etmeden zaten nerede kullanıyorsun

Sohbet botlarında web araması. ChatGPT, Gemini veya Perplexity web'de arama yapıp linklerle yanıt verdiğinde, bu bilgi kaynağı internet olan bir RAG'dir.

Dosyalarınla sohbet. Bir PDF yükle ve sorular sor: bağlama rahatça sığmayacak kadar uzun her belge için sahne arkasında chunking, embedding ve retrieval çalışır.

Müşteri destek botları. Gerçek bir yardım merkezinden yanıt verip makaleyi kaynak gösterenler RAG sistemidir. İçinden geçenler değildir, ve bu belli olur.

Güncel olaylar hakkında yanıt veren yapay zeka asistanları. Modelin eğitim kesim tarihinden sonrasına dair her doğru yanıt, bellekle değil retrieval ile gelmiştir.

RAG nerede başarısız olur ve bunu nasıl anlarsın

RAG halüsinasyonu azaltır; onu ortadan kaldırmaz ve kendine ait yeni hata biçimleri ekler.

Retrieval kaçırmaları. Arama adımı yanlış pasajları çekerse, model ilgisiz bir bağlamdan akıcı bir şekilde yanıt verir. Belirti: belgeni kaynak gösteren ama biraz farklı bir soruya yanıt veren bir cevap.

Bayat indeksler. Vektör veritabanı belgeleri sadece son dizinlendikleri hâliyle bilir. Geçen çeyreğin politikaları üzerine kurulu bir RAG sistemi, kaynak eklenmiş ama kendinden emin şekilde güncelliğini kaybetmiş yanıtlar verir; bu, düz bir halüsinasyondan daha ikna edici olduğu için daha da kötüdür.

Çelişen kaynaklar. Getirilen pasajlar birbiriyle uyuşmadığında modeller, çelişkiyi işaretlemek yerine bunları tek, pürüzsüz ama yanlış bir paragrafta birleştirme eğilimindedir.

Pratik savunma her yapay zeka yanıtında olduğu gibidir: sadece kaynağın var olup olmadığına değil, kaynak gösterilen pasaja bak. Kaynağı, yanıtın iddia ettiği şeyi gerçekte söylemeyen bir RAG yanıtı, üretim sistemlerindeki en yaygın ciddi hatadır.