Bir yapay zeka sohbetine asla yapıştırılmaması gerekenler (ve gerçekten sorun olmayanlar)

Yapıştırılan bir sır aslında nereye gidiyor

Bu sayfadaki hiçbir şey hackerlarla ilgili değil. Yapıştırılan bir sır, sohbet ürünlerinin sıradan, belgelenmiş işleyişi aracılığıyla kopyalar oluşturur ve sorun olan da bu kopyalardır.

Bu işi dört mekanizma yapıyor. Birincisi, saklama: yapıştırdığın şey, belgelenmiş bir takvimde saklanan bir konuşmanın parçası haline gelir. Örneğin OpenAI, silinen sohbetleri 30 gün içinde kalıcı olarak kaldırmak üzere zamanlar; Google'ın Gemini etkinliği ise varsayılan olarak 18 aya ayarlı bir otomatik silme ayarının altındadır, Gemini hesabını nasıl silersin bunu değiştirmeyi anlatıyor. İkincisi, eğitim varsayılanları: OpenAI, Anthropic ve Google'daki tüketici katmanları, sen ayarı kapatmadıkça konuşmaları modelleri geliştirmek için kullanabilir; iş ve API katmanları ise varsayılan olarak kapalıdır. Üçüncüsü, inceleme: her üç sağlayıcı da işaretlenen konuşmaların insanlar tarafından okunabileceğini belirtiyor; bu rutin bir güvenlik uygulaması ve yine de bir insanın yapıştırdığın şeye bakabileceği anlamına geliyor. Dördüncüsü, paylaşım: bağlantı olarak paylaşılan bir konuşma, içindeki her şeyi taşır; birine göstermek istediğin kısımdan üç mesaj önce yüklediğin belge dahil.

Bunların hiçbiri bir skandal değil. Hepsi birlikte tek bir şey anlamına geliyor: sohbet kutusu, metnin saklandığı, bazen öğrenildiği ve ara sıra görüldüğü bir yer. Buna göre yapıştır. Bu sayfanın geri kalanı, tam olarak bu cümlenin belirli durumlara uygulanmasından ibaret; yapay zeka kullanımı güvenli mi sayfası bunun etrafındaki daha geniş güvenlik sorusunu ele alıyor.

Asla listesi: bir yer tutucunun bedavaya değiştirdiği altı öğe

Bu öğelerin bir sohbet kutusuna girmesi için meşru bir sebep yok, çünkü model sana yardım etmek için bunlara ihtiyaç duymuyor. Her biri, aldığın yanıtı değiştirmeden bir yer tutucuyla değiştirilebilir.

Asla yapıştırma	Diğer verilerden neden farklı	Bunun yerine ne yap
Şifreler, API anahtarları, erişim tokenleri, iki faktörlü kodlar	Bir kimlik bilgisi, onu gören herkes için değerlidir ve sızdırdığın birini iptal edip yenilemek kaçınabileceğin bir iştir	Onun yerine ŞİFRE veya ANAHTAR yaz; yanıt değişmeyecektir
Tam kart, hesap veya yönlendirme numaraları	Ödeme dolandırıcılığı tam olarak bu dizilere ihtiyaç duyar, başka hiçbir şeye değil	"kartım" ve "hesabım" herhangi bir para sorusunda gayet iyi çalışır
Devlet kimlikleri: SSN, pasaport, ulusal kimlik, vergi numaraları	Kimlik hırsızlığı bunlardan inşa edilir ve bir şifre gibi yenilenemezler	Model, bir formu veya süreci açıklamak için gerçek numaraya asla ihtiyaç duymaz
Başkalarının kişisel verileri: adresli isimler, sağlık detayları, insan kaynakları kayıtları	Bu onların bilgisi ve çoğu yerde gizlilik yasası bunu paylaşmayı sohbet botunun değil, senin eylemin sayar	Yapıştırmadan önce gerçek isimleri A Kişisi ve B Kişisi ile değiştir
Gizlilik sözleşmesi veya işveren gizlilik politikası kapsamındaki belgeler	Soru sözleşmeye dayalı ve "bunu bir sohbet botuna yapıştırdım" sonrasında kötü bir şey olsun olmasın bir ifşadır	Soruyu, korunan ayrıntılar olmadan belgenin yapısıyla sor
Bir sözleşme olmadan dışarıdan bir danışmana e-posta ile göndermeyeceğin her şey	Bu, yukarıdaki satırların kaçırdığı her şeyi yakalayan testtir	Yanıt hayırsa, yanıt evet olana kadar sansürle

Son satır, tüm tablonun özeti. Bir yapay zeka sohbeti, hiçbir şey imzalamadığın, yardımcı olan dışarıdan bir taraftır. Tam olarak buna göre ayarla.

Kimsenin aklına gelmeyen öğeler

Yukarıdaki kesin liste, öğeler hassas göründüğü için takip etmesi kolay. Dikkatli insanları gerçekten yakalayan yapıştırmalar ise hassas görünmeyenler.

• Ekran görüntüleri. Paylaşmak istediğin hata mesajı, bildirim çubuğunla, açık sekmelerinle, başka birinin e-posta konu satırıyla ve köşedeki bir takvim hatırlatıcısıyla birlikte gelir. Sadece sorduğun şeye kırp.
• İçinde sır bulunan kod dosyaları. GitGuardian, 2024'te herkese açık GitHub commit'lerinde sızdırılan 23,8 milyon yeni sır saydı; içinde canlı bir anahtar bulunan yapıştırılmış bir config veya .env dosyası, aynı hatanın sohbet penceresi versiyonudur. Bir dosyayı sohbete koymadan önce key, secret, token ve password kelimeleri için ara.
• Toplantı dökümleri ve kayıtları. O toplantıdaki herkes odadaki insanlarla konuştu ve hiçbiri bir sohbete yüklenmeye onay vermedi. Kendi yazdığın özetlerde böyle bir sorun yok.
• Müşteri sütunu içeren e-tablolar. Soru formülle ilgili; ama yapıştırma, tablodaki her müşteri e-postasını da içeriyor. Önce kimliği belirleyen sütunları sil, ya da tüm tablo yerine yapının on satırını yapıştır.
• Karşı taraf isimleri içeren sözleşmeler. Bir maddeyi anlamak, maddenin kendisini gerektirir; neredeyse hiçbir zaman kimin imzaladığını gerektirmez. Yapay zekayla belge özetleme, sansürlenmiş bir dosyada da tıpatıp aynı şekilde çalışır.
• Dışa aktarılmış takvimler ve gelen kutuları. Tek bir dosya, yüzlerce başka insanın adı, saati ve konusu. Zamanlama sorununu sor, haftanın yapısını yapıştır, dışa aktarımı sakla.

Altısında da ortak örüntü şu: hassas kısım genellikle ihtiyacın olan şeyin etrafındaki bağlam ve ihtiyacın olan şeye kırpmak onu kaldırıyor. Bu kırpma otuz saniye sürer.

Gerçekten sorun olmayanlar

Kısa bir asla listesinin amacı, dışındaki her şeyin kullanılabilir olmasıdır ve günlük yapıştırmaların çoğunda hiçbir sorun yoktur: kendi taslakların ve notların, kamuya açık bilgiler, konu ne kadar kişisel olursa olsun genel sorular, içine gömülü sır olmayan kendi kodun ve sorunun ihtiyaç duyduğu kadarına kadar sansürlediğin herhangi bir belge.

Bunu mümkün kılan alışkanlık, yapıştırmadan önce sansürlemektir ve işe yaramasının sebebi, modellerin kimlik yerine yapı üzerinden akıl yürütmesidir. Bunu bir kez kendin dene: bozuk kalorifer hakkında ev sahibine yazılacak mektubu, önce isim içinde, sonra yerine [EV SAHİBİ] koyarak iste ve karşılaştır. "Bu sözleşme maddesini açıkla" isteği, model hangi şirketlerin imzaladığını bildiğinde daha iyi hale gelmez. İsmin gerçekten önemli olduğu nadir durumlarda, onu çıktıya kendin geri ekleyebilirsin; bu, geri alamayacağın sansürsüz bir yapıştırmaya kıyasla daha iyidir.

İki ayar işi tamamlıyor. Sohbet uygulamanın eğitim anahtarını bir kez kontrol et, çünkü tüketici varsayılanları senin lehine değil; ve uygulamanın saklama rakamlarını bil. Bir sağlayıcının yayınlaması gereken şey, Whizi'nin veri sayfasına benzer: ne saklanıyor, ne kadar süreyle ve silme neyi kaldırıyor. Whizi'nin oradaki kendi yanıtları: yüklemeler en fazla 30 gün sonra süresi doluyor, ve içeriğin Whizi'ye ait modelleri eğitmiyor ve eğitim verisi olarak satılmıyor. Her gün kullandığın herhangi bir araç, aynı soruları alıntılayabileceğin bir yerde yanıtlamalı. Tam olarak bu eksende abonelikler arasında seçim yapıyorsan, üçüncü taraf bir yapay zeka aboneliği güvenli mi sayfası aynı standardı tüm kategori genelinde ele alıyor.

Bir alışkanlık haline geldiğinde bu sayfanın tamamının yerini alan kural: bir sözleşme olmadan dışarıdan bir danışmana e-posta ile göndermeyeceğin bir şeyi yapıştırma. Geri kalan her şeyi özgürce yapıştır ve isimleri değiştir.