Czego nigdy nie wklejać do czatu AI (i co jest naprawdę bezpieczne)

Gdzie naprawdę trafia wklejony sekret

Nic na tej stronie nie dotyczy hakerów. Wklejony sekret tworzy kopie poprzez zwykłe, udokumentowane działanie produktów czatowych, i to te kopie są problemem.

Za to odpowiadają cztery mechanizmy. Po pierwsze, retencja: to, co wklejasz, staje się częścią zapisanej rozmowy, według udokumentowanego harmonogramu. OpenAI na przykład planuje trwałe usunięcie skasowanych czatów w ciągu 30 dni, a aktywność Google Gemini podlega ustawieniu automatycznego usuwania, które domyślnie wynosi 18 miesięcy, a jak usunąć konto Gemini opisuje, jak to zmienić. Po drugie, domyślne ustawienia treningu: warstwy konsumenckie OpenAI, Anthropic i Google mogą wykorzystywać rozmowy do ulepszania modeli, dopóki nie wyłączysz tego ustawienia, podczas gdy warstwy biznesowe i API mają to domyślnie wyłączone. Po trzecie, przegląd: wszyscy trzej dostawcy stwierdzają, że oflagowane rozmowy mogą być czytane przez ludzi, co jest rutynową praktyką bezpieczeństwa, a mimo to oznacza, że człowiek może w końcu spojrzeć na to, co wkleiłeś. Po czwarte, udostępnianie: rozmowa udostępniona jako link niesie ze sobą wszystko, co w niej jest, łącznie z dokumentem, który przesłałeś trzy wiadomości przed fragmentem, który chciałeś komuś pokazać.

Żadne z nich nie jest skandalem. Razem wszystkie oznaczają jedno: okienko czatu to miejsce, gdzie tekst jest przechowywany, czasem wykorzystywany do nauki, a czasem widziany. Wklejaj odpowiednio do tego. Reszta tej strony to po prostu to zdanie zastosowane do konkretnych przypadków, a czy AI jest bezpieczne omawia szersze pytanie o bezpieczeństwo wokół tego tematu.

Lista nigdy: sześć rzeczy, które placeholder zastąpi za darmo

Te rzeczy nie mają żadnego uzasadnionego powodu, żeby trafić do okienka czatu, ponieważ model nie potrzebuje ich, żeby ci pomóc. Każdą z nich można zastąpić placeholderem, nie zmieniając otrzymywanej odpowiedzi.

Nigdy nie wklejaj	Czym różni się od innych danych	Co zrobić zamiast tego
Hasła, klucze API, tokeny dostępu, kody dwuskładnikowe	Dane logowania są cenne dla każdego, kto je kiedykolwiek zobaczy, a rotacja wyciekniętych danych to praca, której możesz uniknąć	Wpisz HASŁO albo KLUCZ w tym miejscu; odpowiedź się nie zmieni
Pełne numery kart, kont czy rozliczeniowe	Oszustwo płatnicze potrzebuje dokładnie tych ciągów znaków i niczego więcej	"moja karta" i "moje konto" działają dobrze w każdym pytaniu o pieniądze
Numery identyfikacyjne państwowe: SSN, paszport, dowód osobisty, numery podatkowe	Kradzież tożsamości jest budowana z tych danych, a nie da się ich zmienić jak hasła	Model nigdy nie potrzebuje prawdziwego numeru, żeby wyjaśnić formularz albo proces
Dane osobowe innych ludzi: imiona i nazwiska z adresami, dane zdrowotne, akta kadrowe	To ich informacje, a prawo o ochronie prywatności w większości miejsc traktuje ich udostępnienie jako twój czyn, nie chatbota	Zamień prawdziwe imiona na Osoba A i Osoba B przed wklejeniem
Dokumenty objęte NDA albo polityką poufności pracodawcy	Sprawa jest kontraktowa, a "wkleiłem to do chatbota" to ujawnienie, niezależnie od tego, czy potem stanie się coś złego	Zadaj pytanie ze strukturą dokumentu, bez chronionych szczegółów
Wszystko, czego nie wysłałbyś mailem do zewnętrznego konsultanta bez umowy	To test, który łapie wszystko, co ominęły wiersze powyżej	Jeśli odpowiedź brzmi nie, cenzuruj, dopóki odpowiedź nie zabrzmi tak

Ostatni wiersz to cała tabela w skrócie. Czat AI to strona zewnętrzna, z którą niczego nie podpisałeś, a mimo to jest pomocna. Kalibruj się dokładnie tak, jak zrobiłbyś to w takiej sytuacji.

Rzeczy, o których nikt nie myśli

Twardą listę powyżej łatwo jest przestrzegać, bo te rzeczy wyglądają na wrażliwe. To, co naprawdę łapie ostrożnych ludzi, to rzeczy, które tak nie wyglądają.

• Zrzuty ekranu. Komunikat błędu, który chciałeś pokazać, przychodzi razem z twoim panelem powiadomień, otwartymi kartami, tematem maila od kogoś innego i przypomnieniem z kalendarza w rogu. Przytnij do tego, o co pytasz.
• Pliki z kodem z sekretami w środku. GitGuardian naliczył 23,8 miliona nowych sekretów wyciekłych w publicznych commitach GitHub w 2024 roku, a wklejony config czy plik .env z żywym kluczem w środku to wersja tego samego błędu w okienku czatu. Przeszukaj plik pod kątem key, secret, token i password, zanim go wkleisz.
• Transkrypcje i nagrania spotkań. Każdy na tym spotkaniu mówił do ludzi w pokoju, a żaden z nich nie zgodził się na przesłanie tego do czatu. Streszczenia, które sam napisałeś, nie mają tego problemu.
• Arkusze kalkulacyjne z kolumną klientów. Pytanie dotyczy formuły; wklejenie obejmuje każdy adres e-mail klienta w arkuszu. Najpierw usuń kolumny identyfikujące albo wklej dziesięć wierszy struktury zamiast całego arkusza.
• Umowy z nazwami kontrahentów. Zrozumienie klauzuli wymaga klauzuli, a niemal nigdy nie wymaga wiedzy, kto ją podpisał. Streszczanie dokumentów za pomocą AI działa dokładnie tak samo dobrze na ocenzurowanym pliku.
• Wyeksportowane kalendarze i skrzynki odbiorcze. Jeden plik, setki imion, nazwisk, godzin i tematów innych ludzi. Zapytaj o problem z planowaniem, wklej kształt tygodnia, zatrzymaj eksport.

Wzorzec widoczny we wszystkich sześciu: wrażliwa część to zwykle kontekst wokół tego, czego potrzebujesz, a przycięcie do tego, czego potrzebujesz, go usuwa. To przycięcie to trzydzieści sekund.

Co jest naprawdę bezpieczne

Sens krótkiej listy nigdy polega na tym, że wszystko poza nią jest do użycia, a większość codziennego wklejania nie niesie żadnego problemu: twoje własne szkice i notatki, informacje publiczne, ogólne pytania, niezależnie jak osobisty jest temat, twój własny kod bez osadzonych sekretów oraz dowolny dokument ocenzurowany do tego, czego wymaga pytanie.

Nawykiem, który to umożliwia, jest cenzurowanie przed wklejeniem, a działa on dlatego, że modele rozumują na podstawie struktury, a nie tożsamości. Sprawdź to sam, raz: poproś o list do właściciela mieszkania w sprawie zepsutego ogrzewania z imieniem w środku, a potem z [WŁAŚCICIEL] w jego miejscu, i porównaj. "Wyjaśnij tę klauzulę umowy" nie wypada lepiej, gdy model wie, które firmy ją podpisały. W rzadkim przypadku, gdy imię naprawdę ma znaczenie, możesz dopisać je z powrotem do wyniku samodzielnie, w przeciwieństwie do alternatywy w postaci nieocenzurowanego wklejenia, którego nie da się cofnąć.

Dwa ustawienia kończą sprawę. Sprawdź raz przełącznik treningu w swojej aplikacji czatu, bo domyślne ustawienia konsumenckie nie działają na twoją korzyść, i poznaj liczby dotyczące retencji w swojej aplikacji. To, co dostawca powinien publikować, wygląda jak strona danych Whizi: co jest przechowywane, jak długo i co usuwa skasowanie. Własne odpowiedzi Whizi tam zapisane: przesłane pliki wygasają po maksymalnie 30 dniach, a twoja treść nie trenuje modeli należących do Whizi i nie jest sprzedawana jako dane treningowe. Każde narzędzie, którego używasz codziennie, powinno odpowiadać na te same pytania gdzieś, gdzie możesz to zacytować. Jeśli wybierasz między subskrypcjami dokładnie na tej osi, czy subskrypcja AI od zewnętrznego dostawcy jest bezpieczna przechodzi przez ten sam standard w całej kategorii.

Zasada, która zastępuje całą tę stronę, gdy stanie się nawykiem: jeśli nie wysłałbyś tego mailem do zewnętrznego konsultanta bez umowy, nie wklejaj tego. Wszystko inne wklejaj swobodnie, tylko zamień imiona.