Embedding nedir? Yapay zekada anlam nasıl sayıya dönüşür

Embedding bir konumdur, anlam ise mesafedir

Bir embedding modeline "param nasıl geri gelir" cümlesini verin, size bir sayı listesi döndürür. "İade politikası" verin, başka bir liste döndürür. Bu iki liste birbirine yakındır. "Katottaki elektronların iadesi" cümlesini verin, kelimeyi paylaşmasına rağmen liste çok uzağa düşer.

İşin sırrı tamamen bu. Model, yüzlerce hatta binlerce boyutlu bir uzayda metni öyle yerleştirmeyi öğrenmiştir ki, konumu belirleyen kelime dağarcığı değil anlamdır. Metin bir konum haline geldiğinde, anlamla ilgili sorular mesafeyle ilgili sorulara dönüşür; mesafe ise bir bilgisayarın milisaniyeler içinde bir milyon öğe için hesaplayabileceği bir şeydir.

2013'teki word2vec çalışmasından gelen ünlü erken gösterim, kelime konumları üzerinde aritmetikti: "kral" vektörünü al, "erkek"i çıkar, "kadın"ı ekle; sonuca en yakın kelime "kraliçe" çıkar. Modern embedding modelleri aynısını bütün cümleler ve belgeler için yapar, vektörler ise daha uzundur.

İnsanların gerçekten kullandığı modellerde bir embedding ne kadar büyük

Listenin uzunluğuna boyut sayısı denir. Bu, modellerle birlikte büyümüştür.

2013'te word2vec 300 boyut, 2018'de BERT base 768 boyut kullandı; Voyage 3, 1.024 boyut döndürür, OpenAI'nin text-embedding-3-small modeli girdi başına 1.536 sayı döndürür ve text-embedding-3-large 3.072 sayı döndürür; Google'ın Gemini Embedding modeli de varsayılan olarak 3.072 kullanır. Daha fazla boyut daha ince ayrımları depolayabilir, ama bunun bedeli depolama ve karşılaştırma süresidir; bu yüzden daha yeni modeller, hız incelikten daha önemli olduğunda listeyi daha küçük bir boyuta kısaltmana da izin verir.

Bu sayıların her biri tek başına anlamsızdır. 412. boyut "resmiyet" veya "konu" değildir. Anlam yalnızca bütün listenin diğer listelere göre nereye düştüğündedir; bu yüzden karşılaştırılacak bir koleksiyon olmadan bir embedding işe yaramaz.

Embedding modelleri bulur, dil modelleri yazar

İnsanlar bu ikisini karıştırıyor çünkü ikisi de "metin üzerinde yapay zeka". Oysa zıt işler yapan farklı modeller bunlar.

Dikkat edilmesi gereken satır, maliyet satırıdır. OpenAI'nin küçük modeliyle bir milyon token'ı embedding'lemek $0.02'ye mal olur; buna karşılık GPT-5.6 Luna için milyon giriş token başına $0.20, yapay zeka model maliyet endeksine göre 2026-08-20 tarihinde alınan OpenRouter fiyatlarıyla Luna Pro ve GPT-5.4 Nano ile birlikte en ucuz GPT satırı olarak listelenir. Bulma, en ucuz GPT yazmasından on kat, uç yazma modellerinden ise en az yüz kat daha ucuzdur. Ciddi her sistemin önce bulup sonra yazmasının nedeni bu farktır. LLM nedir yazma tarafını ele alır.

Embedding'ler sen görmeden nerede çalışır

Belgelerinle sohbet. Uzun bir PDF yükleyip bir soru sorduğunda dosya parçalara bölünür, her parça embedding'lenip bir vektör veritabanında saklanır, sorun embedding'lenir ve vektörleri en yakın düşen parçalar bağlam olarak dil modeline iletilir. Model o parçalardan yanıt verir. Bu, retrieval-augmented generation'dır ve RAG nedir bu boru hattını baştan sona anlatır; embedding'ler onun arama adımıdır. PDF ile sohbet rehberi Whizi'de yüklenen bir dosyayı nasıl sorgulayacağını anlatır.

Bir belgenin aranıp aranmadığı yoksa baştan sona mı okunduğu, pencereye bağlıdır. Her modelin sayfa cinsinden bağlam penceresi aşağıda; sığan her şey bütün olarak girebilir, sığmayan koleksiyonlar içinse getirme yöntemi vardır.

Eş anlamlıları anlayan arama. "Ödemeyi durdurmak" için iptal makalesini döndüren bir destek sitesi, kelimeleri değil embedding'leri karşılaştırıyordur.

Öneriler ve kümeleme. Vektörleri birbirine yakın öğeler benzer öğelerdir: ilgili ürünler, yinelenen destek talepleri, aynı konudaki makaleler.

Sohbet uygulamalarındaki hafıza özellikleri. Bir asistan eski bir konuşmadan bir bilgiyi "hatırladığında", yaygın bir uygulama geçmiş notları embedding'leyip en yakın olanları istem içine getirmektir.

Her durumda bulma işini embedding, karar verme veya yazma işini başka bir şey yapar. Hata modu da her yerde aynıdır: en yakın vektör yanlış parçaysa, akış aşağısındaki her şey kendinden emin biçimde yanlış soruyu yanıtlıyor demektir; bu, yapay zeka halüsinasyonu nedir sayfasının uydurmadan ayrı bir hata türü olarak listelediği getirme kaçırmasıdır.

Kod yazmadan bu fikirle neler yapabilirsin

Bir embedding'i doğrudan elle nadiren yöneteceksin, ama mekanizmayı bilmek üzerine kurulu araçları nasıl kullandığını değiştirir.

1. Yanıtın diliyle sor. Getirme, sorunu anlam bakımından parçalarla eşleştirir. Belgenin ifade ettiği biçimde ifade edilen bir soru, senin sesli söylediğin biçimden daha yakın düşer.
2. Büyük yüklemeleri konuya göre böl. Üç ilgisiz konu içeren 400 sayfalık bir dosya kalabalık bir uzaya embedding'lenir; üç ayrı dosya ise temiz biçimde getirilir.
3. Alıntılanan parçayı oku. Dosyayla sohbet yanıtı bir parçayı alıntılıyorsa, onu aç. Bir getirme kaçırması, biraz farklı bir soruya verilmiş kendinden emin bir yanıt gibi görünür.
4. Tam metinlerde başarısız olmasını bekle. Embedding'ler anlamla ilgilidir; bir fatura numarası veya parça kodu düz metin aramayla daha iyi bulunur, iyi araçlar ikisini birleştirir.

Karar kuralı şu: iş, birçok parça arasından doğru olanı bulmaksa bir embedding modeli istersin ve bunun ucuz olması gerekir. İş bir parça üretmekse bir dil modeli istersin ve bunun iyi olması gerekir. Bu ayrımı doğru yapan ürünler, dosya sohbeti gerçekten çalışan ürünlerdir.