Je AI bezpečná? Upřímná odpověď, ne jen ujištění

Kam vaše zpráva skutečně putuje

Napíšete otázku, stisknete odeslat a za necelé dvě sekundy se objeví odpověď. Ta rychlost vyvolává dojem, že se vše odehrálo přímo ve vašem telefonu. Neodehrálo. Vaše slova opustila zařízení, putovala internetem do datového centra plného specializovaných čipů patřícího firmě, která model vyvíjí, tam se zpracovala a vrátila se zpět. Chatbot se vůbec nepodobá kalkulačce běžící offline. Je blíž odeslání e-mailu nebo nahrání fotky do cloudové služby: užitečná práce se odehrává na cizím počítači. Pokud je vám samotná technologie ještě nejasná, co je AI probírá základy srozumitelným jazykem.

Jakmile váš text leží na serverech firmy, o tom, co se s ním stane dál, rozhoduje politika a přístupová pravidla dané firmy, ne nic fyzického na vaší straně. To také uvádí otázku souborů na pravou míru. Chatbot nemůže sám prohledávat váš telefon, e-mail ani pracovní disk. Vidí jen to, co mu předáte, plus oprávnění, která jste aplikaci udělili při instalaci. Dvě minuty dobře strávené dnes: otevřete nastavení telefonu, najděte aplikaci a vypněte přístup ke kameře, mikrofonu nebo fotogalerii, pokud tyto funkce nikdy nevyužíváte. Tady je, co skutečně dorazí k poskytovateli.

• Text, který napíšete nebo vložíte. Úplně všechno, včetně odstavce zkopírovaného z dokumentu, který jste znovu nepřečetli.
• Přiložené soubory. PDF, fotka, tabulka. Jen ty, které vyberete, a jen v okamžiku, kdy je vyberete.
• Údaje o účtu a připojení. Vaše e-mailová adresa, přibližná poloha odvozená z IP adresy, typ zařízení a verze aplikace.
• Nic dalšího z vašeho zařízení. Ne fotogalerie, ne kontakty, ne jiné aplikace, ne dokumenty, které jste nepřiložili.
• Někdy vaše starší chaty. Mnoho aplikací dnes umí přenášet paměť mezi konverzacemi, což je pohodlné, ale znamená to, že staré zprávy se mohou znovu objevit v nových.

Trénování, tarify a nastavení, které nikdo neotevře

Obava skrytá za otázkou „krade AI vaše data“ bývá ve skutečnosti užší než krádež. Lidé chtějí hlavně vědět, jestli jejich slova skončí v příští verzi modelu a jestli by je někdy mohl vidět cizí člověk. Vzorec napříč odvětvím je natolik konzistentní, že se dá popsat, i když ho každý poskytovatel formuluje jinak a přeformulovává každých pár měsíců. Zjednodušeně: čím víc účet vypadá jako firemní, tím méně pravděpodobně se váš obsah použije k trénování, a tím spíš je tento slib zakotvený ve smlouvě, ne jen v přepínači nastavení.

Jaký účet máte	Obvyklý vzorec	Co zkontrolovat
Bezplatný spotřebitelský účet	Konverzace mohou být použity ke zlepšování modelů, pokud se neodhlásíte	Přepínač pro odhlášení a jestli je zapnutý
Placený spotřebitelský tarif (zhruba 20 dolarů měsíčně)	Často stejné výchozí nastavení jako u bezplatné verze, se stejným přepínačem	Nepředpokládejte, že platba to změnila, často se to nestane
Firemní, týmový nebo enterprise tarif	Trénování na vašem obsahu bývá standardně vypnuté a smluvně zakotvené	Konzole vašeho administrátora, protože volba nemusí být na vás
Přístup pro vývojáře nebo přes API	Obsah je typicky standardně vyloučen z trénování	Stránka poskytovatele o využití dat v API

Přepínač existuje v každé větší spotřebitelské aplikaci. Bývá pod nadpisem jako ovládání dat, data a soukromí nebo aktivita, a poskytovatelé ho přesouvají tak často, že vypsat sem konkrétní cestu v menu by za měsíc už neplatilo. Najděte ho hned teď, dřív než tam budete mít cokoli citlivého. Je to pětiminutová práce, kterou uděláte jednou za aplikaci.

Dvě věci lidi překvapí, když to udělají. Za prvé, vypnutí trénování se skoro vždy vztahuje jen dopředu, ne zpětně, takže konverzace, které jste už měli, mohou zůstat v poolu, kam už spadly. Za druhé, vypnuto znamená „nepoužije se k trénování“, ne „nikdy se neuloží“. Poskytovatelé si obvykle chaty po nějakou dobu ponechávají kvůli kontrole zneužití, bezpečnostní revizi a podpoře, než proběhne smazání. OpenAI například uvádí, že smazané chaty odstraní ze svých systémů do 30 dnů, pokud zákon nevyžaduje jejich uchování. Totéž platí pro chaty, které smažete sami. Pokud chcete konkrétní podmínky svého poskytovatele, přečtěte si jeho zásady, ne článek, který je shrnuje, včetně tohoto. A pokud zvažujete multimodelové předplatné místo jedné z laboratoří, je předplatné AI třetí strany bezpečné aplikuje stejnou tabulku na tuto mezivrstvu.

Seznam „nikdy nevkládat“ a oprava, která nic nestojí

Některé věci by neměly skončit v chatovém okně u žádného poskytovatele a při žádném nastavení. Ne proto, že by únik byl pravděpodobný, ale protože škoda je trvalá, pokud se jednou spletete. Rodné číslo neodešlete zpět. Krátká verze je níže a co nikdy nevkládat do AI chatu obsahuje kompletní seznam včetně screenshotů, souborů s kódem a přepisů, na které lidé zapomínají.

• Čísla úředních dokladů. Rodné číslo, číslo občanského průkazu, cestovního pasu, řidičského průkazu, daňové identifikační číslo.
• Údaje o kartě a bankovním účtu. Celé čísla karet, bezpečnostní kódy, čísla účtů a kódy bank, a především seed fráze kryptopeněženek.
• Hesla a přístupové klíče. Včetně toho dočasného, které přísaháte, že hned změníte.
• Soukromé záležitosti jiných lidí. Diagnóza rodiče, plat kamaráda, domácí adresa klienta. Ten souhlas nemůžete dát jejich jménem vy.
• Cokoli kryté pracovní dohodou o mlčenlivosti. Nezveřejněné finance, seznamy zákazníků, kód patřící zaměstnavateli, dokumenty pod NDA. Než to sami rozhodnete, ověřte, jestli má vaše firma schválený nástroj.
• Neanonymizované smlouvy a právní dokumenty. Podepsaná smlouva obvykle obsahuje jména, adresy a podpisy, které model k zodpovězení vaší otázky nepotřebuje.

Oprava je nenápadná a funguje: citlivé části nahraďte zástupnými symboly ještě před vložením. Podrobnosti podle jednotlivých poskytovatelů, které aplikace ve výchozím stavu trénují na chatech a kde se u které skrývá odhlášení, najdete v srovnání nejsoukromějších AI chatbotů, které stav udržuje aktuální i s daty. Modely čtou strukturu a jazyk, ne identitu, takže klauzule s [PRONAJÍMATEL] dostane stejnou analýzu jako ta se skutečným jménem. Řekněme, že chcete vysvětlit klauzuli z nájemní smlouvy. Místo vložení celé smlouvy pošlete tohle:

Zkontrolujte tuto klauzuli z nájemní smlouvy k bytu. Nájemce je [NÁJEMCE], pronajímatel je [PRONAJÍMATEL], měsíční nájemné je [ČÁSTKA], nemovitost se nachází na [ADRESA]. Klauzule: „Nájemce odpovídá za veškeré opravy a údržbu interiéru pronajatých prostor, bez omezení.“

Pak si přečtete odpověď a skutečné hodnoty doplníte sami. Na práci, kterou začátečníci s AI skutečně dělají, tedy shrnutí, návrhy, vysvětlování a kontrolu, je pokles kvality kvůli zástupným symbolům téměř nulový. Stejný zvyk platí i pro přílohy: dokument před přiložením anonymizujte, což krok za krokem popisuje návod na shrnutí PDF pomocí AI.

Riziko, které vás spíš dostane

Soukromí je riziko, na které se lidé ptají. Přesnost je riziko, které je skutečně něco stojí. Model AI produkuje text ve stejném vyrovnaném tónu jistoty, ať už má pravdu, nebo si něco vymýšlí (mechanismus popisuje proč si model vymýšlí), a v hlase mu nezacvičí, když si vymyslí citaci judikátu, dávkování léku, termín pro vrácení peněz nebo statistiku s desetinnou čárkou. Začátečníci čtou plynulost jako znalost, protože u lidí to obvykle znalost skutečně je. Tento instinkt je třeba odnaučit se jako první, a nejrychlejší lék je zkontrolovat tři nebo čtyři odpovědi, kterými jste si byli jistí, a podívat se, co vyplyne.

Druhé selhání se týká času. Model se učí z textu nasbíraného do určitého data uzávěrky, takže ceny, daňové limity, zákony, funkce produktů a cokoli z posledních měsíců může být potichu zastaralé, přestože to zní naprosto aktuálně. Některé aplikace kvůli tomu prohledávají web, jiné ne, a jen málokterá oznámí, co se právě stalo. Pokud odpověď závisí na aktuálním čísle, rovnou se zeptejte, jestli model hledal, a číslo si stejně ověřte u zdroje.

Třetí selhání napáchá skutečnou škodu: brát plynulou odpověď jako radu. AI je opravdu dobrá v přípravě na lékařský, právní nebo finanční rozhovor. Vysvětlí, co pojem znamená, jak se nazývají vaše možnosti a na co se má cenu ptát. Není to lékař, právník ani licencovaný poradce. Nezná vaši historii, nemůže vás vyšetřit a neřekne vám, kdy je za hranicí svých znalostí. Použijte ji před schůzkou, ne místo ní. Proč se AI mýlí vysvětluje mechanismus, díky kterému se špatná odpověď snáz odhalí dřív, než podle ní budete jednat.

Pět návyků, které si skutečně udržíte

Rady o bezpečnosti selhávají, když po vás vyžadují úsilí pokaždé znovu. Těchto pět vás stojí zhruba deset minut jednou, a pak jen pár vteřin pokaždé dál, a proto přežijí nápor rušného týdne.

1. Zkontrolujte nastavení dat jednou, dnes. Otevřete nastavení, najděte ovládání dat nebo soukromí, rozhodněte, jestli vaše chaty mohou být použity k trénování, a jděte dál. Zopakujte jen při přechodu na jinou aplikaci.
2. Používejte zástupné symboly jako výchozí. [JMÉNO], [FIRMA], [ČÁSTKA]. Udělejte z toho reflex, ne rozhodnutí případ od případu, protože právě rozhodování na poslední chvíli selhává, když spěcháte.
3. Ověřte cokoli, podle čeho byste chtěli jednat. Pokud by vás odpověď měla přimět poslat peníze, podepsat dokument, vzít lék nebo citovat číslo šéfovi, potvrďte si to jinde než u chatbota.
4. Oddělujte pracovní a osobní účty. Pro pracovní materiály používejte nástroj schválený zaměstnavatelem, pro vše ostatní svůj vlastní účet. Chrání to vás minimálně stejně jako je.
5. Berte každou odpověď jako první koncept. Přepište ji vlastními slovy, než ji kamkoli pošlete. Chyby zachytíte při úpravách a výsledek bude znít jako vy, ne jako software.

Nic z toho riziko nesníží na nulu a kdokoli tvrdí opak, něco vám prodává. Co to dělá, je přesun zbylého rizika do kategorie, ve které už žijete: váš e-mail leží na cizím serveru, fotky máte v něčím cloudu a už dávno jste se rozhodli, že ta výměna stála za to. AI je stejná výměna s novější sadou firem na druhé straně, a proto si zaslouží stejnou běžnou opatrnost, ne paniku ani slepou důvěru.

Jedna praktická poznámka k účtům. Každý poskytovatel, u kterého se zaregistrujete, znamená další zásady ochrany soukromí, další období uchování dat a další ovládání dat, které musíte najít, takže čtyři účty znamenají čtyřikrát opakovat tuto kontrolu a alespoň jednu z nich zapomenout. Sloučení snižuje počet zásad, za které odpovídáte: Whizi drží GPT, Claude, Gemini a modely na obrázky za jedním předplatným, takže máte jednu obrazovku nastavení místo čtyř, i když tím do řetězce přibude ještě jedna firma. Je to výměna, ne bezpečnostní záruka, a seznam „nikdy nevkládat“ zůstává stejný v obou případech. Pro tu užitečnou polovinu tohohle všeho jak používat AI rozepisuje první týden reálných úkolů a jak mluvit s AI popisuje formulace, díky kterým dostanete lepší odpovědi z libovolného modelu.