Apa yang tidak boleh ditampal ke dalam sembang AI (dan apa yang sebenarnya selamat)

Ke mana sebenarnya rahsia yang ditampal itu pergi

Tiada apa-apa di halaman ini tentang penggodam. Rahsia yang ditampal mencipta salinan melalui operasi biasa dan didokumenkan produk sembang, dan salinan itulah masalahnya.

Empat mekanisme melakukan kerja ini. Pertama, pengekalan: apa yang anda tampal menjadi sebahagian daripada perbualan yang disimpan, mengikut jadual yang didokumenkan. OpenAI, sebagai contoh, menjadualkan sembang yang dipadam untuk dibuang secara kekal dalam masa 30 hari, dan aktiviti Gemini Google berada di bawah tetapan padam automatik yang lalai kepada 18 bulan, yang mana cara memadam akaun Gemini anda merangkumi cara menukarnya. Kedua, tetapan lalai latihan: tingkat pengguna di OpenAI, Anthropic, dan Google boleh menggunakan perbualan untuk menambah baik model melainkan anda mematikan tetapan itu, manakala tingkat perniagaan dan API lalai kepada dimatikan. Ketiga, semakan: ketiga-tiga penyedia menyatakan bahawa perbualan yang ditanda boleh dibaca oleh manusia, yang mana ini amalan keselamatan rutin dan masih bermaksud seseorang boleh berakhir melihat apa yang anda tampal. Keempat, perkongsian: perbualan yang dikongsi sebagai pautan membawa segala-galanya di dalamnya, termasuk dokumen yang anda muat naik tiga mesej sebelum bahagian yang anda mahu tunjukkan kepada seseorang.

Tiada satu pun daripada ini adalah skandal. Kesemuanya bersama bermaksud satu perkara: kotak sembang adalah tempat teks disimpan, kadangkala dipelajari daripada, dan sekali-sekala dilihat. Tampal mengikutnya. Selebihnya halaman ini hanyalah ayat itu digunakan pada kes khusus, dan adakah AI selamat digunakan merangkumi soalan keselamatan yang lebih luas di sekelilingnya.

Senarai jangan sekali-kali: enam item yang boleh digantikan pemegang tempat secara percuma

Item-item ini tiada sebab sah untuk memasuki kotak sembang, kerana model tidak memerlukannya untuk membantu anda. Setiap satu daripadanya boleh digantikan dengan pemegang tempat tanpa mengubah jawapan yang anda dapat.

Jangan sekali-kali tampal	Kenapa ia berbeza daripada data lain	Apa yang perlu dilakukan sebagai gantinya
Kata laluan, kunci API, token akses, kod dua faktor	Kelayakan masuk bernilai kepada sesiapa sahaja yang pernah melihatnya, dan menukar satu yang telah bocor adalah kerja yang boleh anda elakkan	Taip PASSWORD atau KEY di tempat ia sepatutnya berada; jawapan itu tidak akan berubah
Nombor kad, akaun, atau routing penuh	Penipuan pembayaran memerlukan tepat rentetan ini dan tiada apa-apa lagi	"kad saya" dan "akaun saya" berfungsi dengan baik dalam mana-mana soalan wang
Pengecam kerajaan: SSN, pasport, kad pengenalan negara, nombor cukai	Kecurian identiti dibina daripada ini, dan ia tidak boleh ditukar seperti kata laluan	Model tidak pernah memerlukan nombor sebenar untuk menerangkan borang atau proses
Data peribadi orang lain: nama dengan alamat, butiran kesihatan, rekod HR	Ia adalah maklumat mereka, dan undang-undang privasi di kebanyakan tempat menganggap perkongsiannya sebagai tindakan anda, bukan tindakan chatbot	Tukar nama sebenar kepada Orang A dan Orang B sebelum menampal
Dokumen di bawah NDA atau dasar kerahsiaan majikan	Soalan itu bersifat kontraktual, dan "saya menampalnya ke dalam chatbot" adalah pendedahan sama ada apa-apa yang buruk berlaku selepas itu atau tidak	Tanya soalan itu dengan struktur dokumen, tanpa butiran khusus yang dilindungi
Apa sahaja yang anda tidak akan e-mel kepada perunding luar tanpa kontrak	Ini adalah ujian yang menangkap segala-galanya yang terlepas pandang oleh baris di atas	Jika jawapannya tidak, sunting sehingga jawapannya ya

Baris terakhir itu adalah keseluruhan jadual dimampatkan. Sembang AI adalah pihak luar yang anda belum menandatangani apa-apa dengannya, yang sedang membantu. Kalibrasi tepat seperti anda akan lakukan untuk itu.

Item yang tiada siapa fikirkan

Senarai tegas di atas mudah diikuti kerana item-itemnya kelihatan sensitif. Tampalan yang sebenarnya menjerat orang yang berhati-hati adalah yang tidak kelihatan sensitif.

• Tangkapan skrin. Mesej ralat yang anda mahu kongsi tiba bersama dulang notifikasi anda, tab terbuka anda, baris subjek e-mel daripada seseorang lain, dan peringatan kalendar di penjuru. Potong kepada perkara yang anda tanyakan sahaja.
• Fail kod dengan rahsia di dalamnya. GitGuardian mengira 23.8 juta rahsia baharu bocor dalam commit GitHub awam sepanjang 2024, dan fail config atau .env yang ditampal dengan kunci hidup di dalamnya adalah versi kotak sembang bagi kesilapan yang sama. Cari dalam fail untuk key, secret, token, dan password sebelum ia dimasukkan.
• Transkrip dan rakaman mesyuarat. Setiap orang dalam mesyuarat itu bercakap kepada orang dalam bilik itu, dan tiada seorang pun daripada mereka bersetuju untuk muat naik sembang. Ringkasan yang anda tulis sendiri tidak membawa masalah sedemikian.
• Hamparan dengan lajur pelanggan. Soalan itu tentang formula; tampalan itu merangkumi setiap e-mel pelanggan dalam helaian itu. Padam lajur pengenalan dahulu, atau tampal sepuluh baris struktur berbanding keseluruhan helaian.
• Kontrak dengan nama pihak lawan. Memahami satu klausa memerlukan klausa itu, dan hampir tidak pernah memerlukan siapa yang menandatanganinya. Meringkaskan dokumen dengan AI berfungsi sama baik pada fail yang telah disunting.
• Kalendar dan peti masuk yang dieksport. Satu fail, ratusan nama, masa, dan subjek orang lain. Tanya tentang masalah penjadualan, tampal bentuk minggu itu, simpan eksport itu.

Corak merentas keenam-enam ini: bahagian sensitif biasanya adalah konteks di sekeliling apa yang anda perlukan, dan memotong kepada apa yang anda perlukan membuangnya. Potongan itu mengambil masa tiga puluh saat.

Apa yang sebenarnya selamat

Maksud senarai jangan sekali-kali yang pendek ialah segala-galanya di luarnya boleh digunakan, dan kebanyakan tampalan harian tidak membawa isu langsung: draf dan nota anda sendiri, maklumat awam, soalan umum tidak kira betapa peribadinya topik itu, kod anda sendiri tanpa rahsia yang tertanam, dan mana-mana dokumen yang telah anda sunting kepada apa yang diperlukan soalan itu sahaja.

Tabiat yang membolehkan ini ialah penyuntingan sebelum menampal, dan sebabnya berfungsi ialah model menaakul berdasarkan struktur berbanding identiti. Ujilah sendiri sekali: minta surat kepada tuan rumah anda tentang pemanasan yang rosak dengan nama di dalamnya, kemudian dengan [TUAN RUMAH] menggantikannya, dan bandingkan. "Terangkan klausa kontrak ini" tidak bertambah baik apabila model tahu syarikat mana yang menandatangani. Dalam kes jarang di mana satu nama benar-benar penting, anda boleh menambahnya semula ke dalam output itu sendiri, berbanding alternatif tampalan yang belum disunting yang tidak boleh anda tarik balik.

Dua tetapan menyelesaikan kerja itu. Semak suis latihan aplikasi sembang anda sekali, kerana tetapan lalai pengguna tidak memihak kepada anda, dan ketahui angka pengekalan aplikasi anda. Apa yang sepatutnya diterbitkan penyedia kelihatan seperti halaman data Whizi: apa yang disimpan, untuk berapa lama, dan apa yang dibuang oleh pemadaman. Jawapan Whizi sendiri di sana: muat naik luput selepas sehingga 30 hari, dan kandungan anda tidak melatih model milik Whizi dan tidak dijual sebagai data latihan. Mana-mana alat yang anda gunakan setiap hari sepatutnya menjawab soalan yang sama di suatu tempat yang boleh anda petik. Jika anda memilih antara langganan tepat pada paksi ini, adakah langganan AI pihak ketiga selamat melalui piawaian yang sama merentas keseluruhan kategori itu.

Peraturan yang menggantikan keseluruhan halaman ini sebaik sahaja ia menjadi tabiat: jika anda tidak akan e-mel sesuatu kepada perunding luar tanpa kontrak, jangan tampalkannya. Segala-galanya yang lain, tampal dengan bebas dan tukar nama-namanya.