Yapay zeka halüsinasyonu nedir?

Halüsinasyon, yanlış çıkan akla yatkın bir yanıttır

Bir dil modeline, okuduğu ama hiç görmediği bir kitaptaki bir alıntının sayfa numarasını sorun, size bir sayfa numarası verecektir. "Bunu bilemem" demeyecektir. Sayı doğru biçimlendirilmiştir, eğitim verisindeki her diğer alıntı gibi görünen bir cümle içinde yer alır ve uydurmadır.

İşte bu bir halüsinasyondur: arkasında hiçbir gerçek olmayan, akıcı ve kendinden emin bir ifade. Kelime bir metafordur ve biraz da yanıltıcıdır, çünkü hiçbir şey bozulmuş değildir. Modelden bir alıntının en olası devamı istenmiştir ve model de bir tane üretmiştir. En olası görünen yanıtın aynı zamanda doğru olduğu bir soruda, ki bu çoğu sorudur, aynı süreç modeli kullanışlı kılan şeydir.

Aldığı biçimler öngörülebilirdir: uydurma referanslar ve URL'ler, kaynağı olmayan istatistikler, hiç söylemedikleri sözlerin gerçek kişilere atfedilmesi, var olmayan ürün özellikleri ve kesin gerçek gibi sunulan hukuki veya tıbbi iddialar. Yapay zeka neden hata yapar her türünü nasıl yakalayacağınızı ele alır; bu sayfa ise bunların neden meydana geldiğiyle ilgilidir.

Tüm interneti okumuş bir model neden hâlâ uyduruyor

İki mekanizma var ve bunlar üst üste biniyor.

Model tahmin eder, arama yapmaz. Bir dil modelinin gerçeklerden oluşan bir dizini yoktur. Okuduğu her şey parametrelerinde sıkıştırılmıştır ve yanıt verirken bu sıkıştırmadan, olasılığa göre her bir jetonu seçerek metni tek tek yeniden üretir. Doğru yanıt eğitim verisinde yaygınsa, en olası devam da doğru olandır. Nadirse, yoksa veya çelişkiliyse, model yine de bir jeton seçmek zorundadır ve akla yatkın bir tane seçer. LLM nedir mimariyi açıklar; kısacası modelin yazdığı cümlenin gerçek olup olmadığını kendine sorduğu bir adım yoktur.

Eğitim, tahmin etmeyi ödüllendirir. Eylül 2025'te OpenAI, "Dil Modelleri Neden Halüsinasyon Görür" başlıklı bir makale yayımladı ve modelleri puanlamak için kullanılan ölçütlerin yanlış bir yanıtla boş bir yanıtı aynı şekilde, yani sıfır olarak puanladığını, şanslı bir tahminin ise tam puan aldığını öne sürdü. Bu puanlamaya göre optimize edilmiş bir model, yanlış yanıta ceza uygulanmayan çoktan seçmeli bir sınavda bir öğrencinin öğrendiği aynı dersi öğrenir: her zaman tahmin et. Makalenin önerisi, puanlamayı "bilmiyorum"un kendinden emin bir hatadan daha değerli olacağı şekilde değiştirmektir.

Bir halüsinasyona dolar cinsinden fiyat biçen iki dava

Mata v. Avianca, New York, 2023. İki avukat, ChatGPT'nin ürettiği altı mahkeme kararını gösteren bir dilekçe sundu. Bu altı kararın hiçbiri gerçek değildi. Hakim, avukatları Haziran 2023'te $5,000 para cezasına çarptırdı ve uydurma görüşlerin atfedildiği hakimlere mektup yazmalarını istedi. Avukatın beyanına eklenen ekran görüntüleri, onun ChatGPT'ye davaların gerçek olup olmadığını sorduğunu ve ChatGPT'nin bunların gerçek olduğunu doğruladığını gösteriyor.

Moffatt v. Air Canada, British Columbia, 2024. Air Canada'nın web sitesindeki sohbet botu, bir müşteriye tam ücretli bir bilet alıp sonrasında taziye indirimi talep edebileceğini söyledi. Havayolunun gerçek politikası bunun tam tersini söylüyordu. Air Canada, sohbet botunun kendi sözlerinden sorumlu ayrı bir hukuki varlık olduğunu öne sürünce, Sivil Çözüm Kurulu bunu Şubat 2024'te reddetti ve havayolunun C$812.02 ödemesine karar verdi.

Hiçbir model bozuk değildi. Her biri, gerçek yanıtı kendi erişiminde olmayan bir soruya en akla yatkın görünen yanıtı üretti. Bedeli, kontrol etmeyen kişi ödedi.

Halüsinasyon dört hata türünden biridir ve çözümleri farklıdır

İnsanlar bu kelimeyi her yanlış yanıt için kullanıyor ve bu da dört yaygın hatanın dört farklı nedeni olduğu gerçeğini gizliyor.

Yalnızca ilk satır dar anlamda bir halüsinasyondur. İkinci ve üçüncü satırlar temellendirme sorunlarıdır ve büyük ölçüde modele okuyacağı bir şey vererek çözülür. Dördüncü satır bir prompt sorunudur. Dördünü de tek bir gizemli kusur olarak ele almak, insanları çoğunlukla "daha büyük bir model kullan" gibi yanlış çözüme yönlendirir; bu, en az işe yarayan çözümdür çünkü birinci satıra en az yardımcı olan da odur.

İki model kontrolü ve bunun maliyeti

Dar anlamdaki halüsinasyon türü için en güvenilir alışkanlık, aynı soruyu ikinci, farklı bir modele sormak ve karşılaştırmaktır. Farklı laboratuvarlardan gelen, farklı verilerle eğitilmiş ve farklı son eğitim aşamalarından geçmiş iki model, nadiren aynı alıntıyı uydurur. Uyuşma, gerçeğin gerçek olduğuna dair zayıf bir kanıttır. Uyuşmazlık ise harekete geçmeden önce gidip kontrol etmek için güçlü bir sinyaldir.

Bunun "aynı modele tekrar kontrol ettir" yönteminin işe yaramadığı yerde işe yaramasının nedeni şudur: aynı modelin ikinci bir geçişi, aynı sıkıştırmadan yeniden tahmin yapan aynı tahminleyicidir. Farklı bir model ise farklı bir sıkıştırmadır.

İkinci görüşün pahalı bir modelden gelmesi gerekmez. 2026-09-17 tarihinde okunan, genel muhakeme, kodlama ve bilgi ölçütlerinden oluşan bir bileşik olan Artificial Analysis Zeka Endeksi'nde DeepSeek V4 Flash 40 puan alıyor ve mesaj başına 1 Whizi kredisine mal oluyor; Claude Sonnet 5 ise 38 puan alıyor ve 10 krediye mal oluyor. Noktalı çizgi sınırı, yani her fiyattaki en iyi puanı gösteriyor ve üzerindeki her nokta farklı bir laboratuvara ait. 1 ve 10 kredilik iki laboratuvardan çapraz kontrol 11 kredi tutuyor ve yan yana görünüm aynı soruyu tek ekranda ikisine birden gönderiyor. Mata v. Avianca'daki avukatlar, yapmadıkları kontrol için $5,000 ödediler.

Halüsinasyonları ne kadar azaltır, sıralamasıyla

1. Temellendirme. Web araması, yüklenmiş bir belge veya yapıştırılmış bir kaynak, görevi "hatırlama"dan "okuyup özetleme"ye çevirir; modeller bunu çok daha güvenilir yapar. Bu, tek başına en büyük azalmadır ve bir prompt hilesi değil, bir ürün ayarıdır.
2. İkinci bir model. Farklı eğitim, farklı hata modları. Uydurulmuş çoğu ayrıntıyı yakalar.
3. Kaynak istemek ve açmak. Alıntı yapması istenen bir model alıntı yapacaktır; kontrol edilmesi gereken şey, alıntının var olup olmadığı ve yanıtın iddia ettiğini söyleyip söylemediğidir.
4. Hayır deme izni. "Emin değilsen söyle" ifadesi, en olası devamın ne olduğunu değiştirir; böylece zor sorularda model uydurmak yerine daha sık cevap vermekten kaçınır.
5. Daha büyük bir model. Sınır modelleri, yaygın bilgide küçük modellerden daha az halüsinasyon görür, ancak fark tam olarak önem taşıdığı yerde, yani nadir ve spesifik gerçeklerde en küçük halini alır.

Sıralama önemli olan şey. Çoğu kişi önce beşinci maddeye başvurur ve bu, listedeki en zayıf araçtır.