Yapay zeka neden yanlış cevap veriyor ve hatayı pahalıya patlamadan nasıl yakalarsın

Jargonsuz haliyle mekanizma

Bir yapay zeka sohbet botuna soru sorduğunda, o hiçbir yere bakmıyor. Birkaç karakterlik parçalar halinde, o soruya verilen doğru bir yanıtın genelde nasıl yazıldığına dair örüntüye uyan metin üretiyor. İşin tamamı bu. Örüntüye uymakla doğru olmak iki ayrı hedeftir ve süreçte hiçbir şey ikincisini gözetmez.

Çoğu zaman bunu fark bile etmezsin, çünkü iki hedef büyük ölçüde örtüşür. Bu sistemlerin öğrendiği metinleri, ağırlıklı olarak çoğu zaman haklı olan insanlar yazdı; dolayısıyla yanıt biçimindeki metin genellikle doğru metindir de. Örtüşme kenarlarda incelir: nadir, yeni, çok spesifik ya da modelin okuduklarında hiç yer almayan olgular. O kenarlarda doğru bir yanıtın biçimini üretmek hâlâ kolaydır. İçeriğini üretmek değildir. Eline geçen şey, bir olgu gibi kurulmuş, doğru yere bir sayı yerleştirilmiş ve inandırıcı görünen bir isim iliştirilmiş, hiç yaşanmamış bir şeyi anlatan bir cümledir.

Bu aynı zamanda akla ilk gelen takip sorusunun neden işe yaramadığını açıklar. "Emin misin?" diye sormak bir denetim gibi hissettirir. Değildir. Onaylamak, yardımsever bir yanıtın örüntüsüne uyar; bu yüzden baskı genellikle onay üretir ve model çoğu zaman özür dileyip doğru bir yanıtı daha kötüsüyle değiştirir. İki dakikada dene: zaten bildiğin bir şeyi sor, doğru yanıtı kabul et, sonra "bu bana doğru gelmedi" de ve izle. Geri gelen şey ikinci bir görüş değil, uyumlu metin üreten aynı mekanizmadır. Bütün bunların en temelde nasıl kurulduğunu görmek istersen, yapay zeka aslında nedir konuyu matematiksiz anlatıyor.

En sık yanıldığı beş yer

Hatalar, sorabileceğin her şeye eşit dağılmaz. Kümelenirler. Bu beş kümeyi öğrenmek sana doğru anda çalan küçük bir iç alarm kazandırır; bu da sürekli çalan ve bir süre sonra hiç duyulmaz olan genel bir tedbir duygusundan çok daha değerlidir.

Nerede kayar	Nasıl görünür	Tek satırlık örnek
Spesifik olgular ve sayılar	Arkasında hiçbir şey olmayan net bir rakam	Mahalledeki dükkânın 1994'te açıldığını 1987 diye söyler
Kaynaklar, alıntılar, bağlantılar	Gerçekçi başlıklar, gerçek gibi duran adresler, hiçbiri açılmaz	Gerçek iki araştırmacının gerçek bir dergideki, hiç yazılmamış çalışması
Eğitim kesim tarihinden sonraki her şey	Aylar önce durmuş bir dünya hakkında emin yanıtlar	Mart ayında değişen bir planın geçen yılki fiyatını söyler
Aritmetik ve sayma	Doğru yöntem, yanlış toplam	On bir fatura satırını toplar, 40 dolar şaşırır
Yanıtını içinde taşıyan sorular	Analiz kılığına girmiş onay	"X neden daha iyi seçim?" X'in savunmasını getirir, hiç sorgulamaz

Son satır, kendi elinle yarattığın hatadır ve gerçek kullanımda en sık görülenidir. "X neden Y'den daha iyi" diye sormak neredeyse kesin olarak X'in savunmasını getirir; içinde "herhalde" ya da "şu doğru değil mi" geçen bir soru da genellikle evet yanıtı alır. Bunun yerine şunu sor: "Bu durum için X ile Y'yi karşılaştır, sonra hangisini seçtiysen ona karşı en güçlü savı ver." Soruları, yanıtı gizlice içine sokmayacak şekilde kurmak, insanların prompt yazma dediği şeyin yarısıdır; geri kalanını yapay zekayla nasıl konuşulur anlatıyor. Erkenden bilmeye değer bir tuhaflık daha var. Çok uzun bir konuşmada ya da çok uzun bir belge yapıştırdıktan sonra baştaki ayrıntılar modelin görüş alanından çıkabilir; model de ipin ucunu kaçırdığını söylemek yerine boşluğu doldurur. Bu bir doğruluk sorunundan çok bir kapasite sınırıdır ve tavanın nerede olduğunu bağlam penceresi nedir açıklıyor.

Kendinden emin ton bir blöf değil

Çoğu insan buraya makul bir varsayımla gelir: bu şey ne kadar emin olduğunu biliyor ama yetkin görünmek için şüphesini saklıyor. Bu varsayım yanlıştır ve önemlidir, çünkü seni hiç var olmamış bir güven sinyalinin peşine düşürür.

Senden gizlenen bir güven göstergesi yok. Sistem, yüzde 62 yazan gizli bir sayının üstünde oturup 100 gibi konuşmayı seçmiyor. Yanlış bir yanıtı, doğru bir yanıtla aynı süreçle ve aynı akıcılıkta üretir. Tonun burada bir sinyal olarak hiçbir değeri olmamasının sebebi tam olarak budur; insanlarda ise durum böyle değildir. "Tam olarak emin değilim ama" gibi bir çekince de üretilmiş metindir. Bu ifade, içeride bir şey uyarı verdiği için değil, o biçimdeki sorulara uyduğu için ortaya çıkar. Bir modelden kendi güven düzeyini on üzerinden puanlamasını iste, bir sayı alırsın; çoğu zaman yüksek bir sayı, hem de uydurduğu bir kaynağın tam yanında duran. Puanı üreten süreç, kaynağı üreten süreçle aynıydı.

Bu yüzden "yalnızca eminsen yanıtla" ya da "hiçbir şey uydurma" gibi talimatlar, insanların umduğundan daha az işe yarar. Önemli bir sorunun sonuna "bilmiyorsan bilmiyorum de" eklemek yine de değerlidir, çünkü yeni modeller eskisine göre daha kolay geri adım atıyor; ama bunu bir garanti değil, bir dürtme olarak gör. Aynı fikrin güvenilir sürümü dışarıyı gösterir: yanıtın sana açabileceğin bir şey göstermesini sağla. Bir uygulama web'de arama yapıp bağlantı eklediğinde, sayfayı kendin okuyabilir ve hiçbir konuda onun sözüne güvenmeyi bırakabilirsin. Yalnızca hafızasından yanıt verdiğinde ise elindeki tek şey onun sözüdür.

Maliyeti en azdan başlayarak dört kontrol

Her şeyi doğrulamayacaksın ve denemenin sonu hiçbir şeyi doğrulamamak olur. İstediğin şey, hatanın kendisinden daha ucuza mal olan bir kontroldür. Aşağıdaki dördü neredeyse bedavadan hafif can sıkıcıya doğru sıralanıyor ve çoğu soruda ilk uzandığın kontrol yeterli oluyor.

1. Kaynak iste, sonra onları aç. "Kaynaklarını belirt" demeyi bir ayin gibi tekrarlama. Bağlantılara tıkla. Ölü bir bağlantı ya da iddiayı içermeyen çalışan bir sayfa, meseleyi on saniyede kapatır.
2. Aynı soruyu temiz bir sohbette tekrar sor. Aynı soru, yeni konuşma, önceki gidiş gelişin hiçbiri yok. Sayılar, isimler veya tarihler farklı geliyorsa model bir şey hatırlamıyor, boşluk dolduruyordu. Bu hiçbir şeye mal olmaz ve uydurulmuş ayrıntıların şaşırtıcı bir kısmını yakalar.
3. Başka bir modele sor. Olgusal sorular için tek başına en değerli kontrol. Aynı soruyu ikinci bir sağlayıcıya yapıştır ve tonu değil, ayrıntıları karşılaştır.
4. Normal yoldan ara. Göndereceğin, imzalayacağın, yayımlayacağın veya para harcayacağın her şey için bir arama motorunda doksan saniye harca. Yapay zeka mükemmel bir ilk geçiştir. İlk geçiş, doğrulama değildir.

Üçüncü madde yerini hak ediyor. Farklı şirketlerin yaptığı, farklı verilerle ve farklı yöntemlerle eğitilmiş iki model aynı soruda ikisi birden yanılabilir. Ama aynı yanlış ayrıntıyı uydurmaları çok nadirdir, çünkü uydurulmuş bir ayrıntı tek bir sistemin kendine özgü boşluklarından çıkar. Claude ile ChatGPT birbirinden bağımsız olarak sana aynı rakamı verdiğinde, o rakam muhtemelen gerçektir. Anlaşmadıklarında ise kontrol etmeye değer cümlenin tam yerini bulmuş olursun; bu da yanıtta bir şeylerin ters olduğuna dair belirsiz bir histen çok daha iyidir. Ara sıra yapılan kontroller için iki sağlayıcının ücretsiz sürümü yeter ve hiçbir şeye mal olmaz. Çapraz kontrol alışkanlığa dönüştüğünde bedava olmaktan çıkar, çünkü ücretli erişim sağlayıcı başına aylık yaklaşık 20 dolar tutar; Whizi gibi çok modelli bir aboneliğin kapattığı boşluk tam da budur. Birden fazla modeli birlikte kullanmak bu akışı adım adım anlatıyor.

Nerede önemli, nerede gerçekten değil

Her şeye uygulanan bir doğrulama alışkanlığı bir hafta içinde çöker. Sorduklarının çoğu düşük riskli ve kendi kendini kontrol eden işlerdir. Kendi e-postanın daha kısa bir sürümünü istersin ve gerçekten daha kısa olup olmadığını, hâlâ demek istediğini söyleyip söylemediğini kendin görürsün. Aynısı fikir üretmek, isim bulmak, taslak çıkarmak, metin yazmak, göndermeden önce okuyacağın bir mesajı çevirmek veya dağınık notları listeye dönüştürmek için de geçerli. Kontrol sensin ve hata anında gözünün önünde beliriyor.

İki soru, herhangi bir işi doğru kutuya yerleştirir ve kendine sorman yaklaşık üç saniye sürer.

1. Bu yanlışsa kim öğrenir ve ne zaman? On saniye sonra okurken sen mi, yoksa üç ay sonra bir müşteri mi?
2. Geri alabilir miyim? Kötü bir paragrafı silmek bedavadır. Vergi beyannamesini yeniden vermek, gönderilmiş bir teklifi geri çekmek veya bir ödemeyi iptal etmek değildir.

İki yanıttan biri bile seni duraklatıyorsa, harekete geçmeden önce her somut iddiayı doğrula. Bu kutunun net üyeleri şunlar: ilaç isimleri ve dozları, hukuki süreler ve başvuru tarihleri, vergi rakamları, sözleşme maddeleri, birinin sağlığına veya göçmenlik durumuna dokunan her şey ve para hareketi ya da kişisel veri işleyen kodlar. Bir e-postadaki yanlış eş anlamlı kelime, bir gün boyunca biraz tuhaf görünmene yol açar. Yanlış bir doz ya da kaçırılmış bir süre ise sonrasında yapay zekanın uğraşacağı bir şey değildir. Yapay zekayı kullanmak güvenli mi, bu tarafı asla yapıştırmaman gerekenler dahil daha ayrıntılı ele alıyor. Tek bir alışkanlıkla başla: bir yanıtta bir sayı, bir isim, bir tarih veya bir bağlantı gördüğün anda yalnızca o kısmı doğrulanmamış say ve kontrol et. Gerisi genellikle sorunsuzdur.