AI 안전한가? 안심시키는 말 대신, 솔직한 답

당신의 메시지는 실제로 어디로 갈까

질문을 입력하고 전송을 누르면 2초쯤 뒤에 답이 나타납니다. 그 속도 때문에 이 모든 일이 휴대폰 안에서 벌어진 것처럼 느껴집니다. 아닙니다. 당신의 말은 기기를 떠나 인터넷을 건너, 모델을 만든 회사가 소유한 특수 반도체로 가득한 데이터센터까지 갔다가, 거기서 처리된 뒤 돌아옵니다. 챗봇은 오프라인에서 조용히 도는 계산기 앱과는 전혀 다릅니다. 이메일을 보내거나 클라우드에 사진을 올리는 쪽에 훨씬 가깝습니다. 쓸모 있는 작업은 남의 컴퓨터에서 일어납니다. 기술 자체가 아직 흐릿하다면 AI란 무엇인가가 그 1층을 쉬운 말로 설명합니다.

당신의 텍스트가 회사 서버에 놓이고 나면, 그다음에 무슨 일이 일어나는지는 그 회사의 정책과 접근 통제가 정합니다. 당신 쪽의 어떤 물리적인 조건도 아닙니다. 그러면 파일에 대한 걱정도 제자리를 찾습니다. 챗봇이 스스로 당신의 휴대폰이나 메일함, 회사 드라이브를 뒤지고 다닐 수는 없습니다. 챗봇이 보는 건 당신이 건네준 것, 그리고 앱을 설치할 때 당신이 허용한 권한뿐입니다. 오늘 2분만 써볼 만한 일이 있습니다. 휴대폰 설정을 열고 그 앱을 찾아서, 쓰지 않는 기능이라면 카메라와 마이크, 사진 접근 권한을 꺼두세요. 제공사에 실제로 도달하는 것은 다음과 같습니다.

• 당신이 입력하거나 붙여넣은 텍스트. 문서에서 복사한 뒤 다시 읽어보지 않은 단락까지 전부요.
• 첨부한 파일. PDF, 사진, 스프레드시트. 당신이 고른 것만, 고른 그 순간에만요.
• 계정과 접속 정보. 이메일 주소, IP 주소로 추정한 대략적인 위치, 기기 종류와 앱 버전.
• 기기의 나머지는 아무것도. 사진첩도, 연락처도, 다른 앱도, 첨부하지 않은 문서도 가지 않습니다.
• 때로는 지난 대화. 요즘 많은 앱이 대화를 넘나드는 기억 기능을 갖췄는데, 편리한 대신 예전 메시지가 새 대화에 다시 떠오를 수 있다는 뜻입니다.

학습, 요금제, 그리고 아무도 열어보지 않는 설정

"AI가 내 데이터를 훔쳐가나"라는 두려움의 실체는 대개 절도보다 좁습니다. 사람들이 정말 알고 싶은 건 자기 말이 다음 버전의 모델 안에 들어가는지, 그리고 낯선 사람이 그걸 볼 가능성이 있는지입니다. 업계의 패턴은 설명할 수 있을 만큼 일관됩니다. 제공사마다 표현이 다르고 그 표현을 몇 달마다 다시 쓰기는 하지만요. 크게 보면 이렇습니다. 계정이 업무용에 가까울수록 당신의 내용이 학습에 쓰일 가능성은 줄어들고, 그 약속이 설정 스위치가 아니라 계약서에 적혀 있을 가능성은 커집니다.

지금 쓰는 요금제	흔한 패턴	확인할 것
무료 개인 계정	직접 끄지 않으면 대화가 모델 개선에 쓰일 수 있음	거부 스위치가 어디 있는지, 켜져 있는지
유료 개인 요금제 (월 20달러 안팎)	무료와 기본값이 같고 스위치도 같은 경우가 많음	돈을 냈으니 바뀌었으려니 넘겨짚지 마세요
비즈니스, 팀, 기업 요금제	보통 기본적으로 학습에서 빠지고 계약으로 보장	관리자 콘솔. 선택권이 나에게 없을 수 있음
개발자 또는 API	대개 기본적으로 학습에서 제외	제공사의 API 데이터 사용 안내 페이지

그 스위치는 주요 개인용 앱마다 있습니다. 데이터 관리, 데이터 및 개인정보, 활동 기록 같은 항목 아래에 있는데, 제공사들이 워낙 자주 옮겨서 여기에 메뉴 경로를 적어두면 한 달 안에 틀린 말이 됩니다. 민감한 내용이 쌓이기 전에 지금 가서 찾아두세요. 앱마다 한 번, 5분이면 되는 일입니다.

막상 해보면 두 가지가 사람들을 놀라게 합니다. 첫째, 학습을 끄는 것은 거의 언제나 앞으로에만 적용되고 과거로 소급되지 않습니다. 이미 나눈 대화는 원래 속해 있던 곳에 그대로 남아 있을 수 있습니다. 둘째, 끈다는 건 "학습에 쓰지 않는다"는 뜻이지 "저장하지 않는다"는 뜻이 아닙니다. 제공사들은 대체로 남용 감시와 안전 검토, 고객 지원을 위해 일정 기간, 흔히 30일 안팎 대화를 보관한 뒤 삭제 절차를 돌립니다. 당신이 직접 지운 대화도 마찬가지입니다. 당신이 쓰는 제공사의 구체적인 내용이 궁금하다면 그걸 요약한 글 말고 정책 원문을 읽으세요. 이 글도 요약일 뿐입니다.

절대 붙여넣지 말 것 목록, 그리고 공짜인 해결책

어떤 것들은 어느 제공사든, 어떤 설정이든 채팅창에 들어가서는 안 됩니다. 유출이 흔해서가 아니라, 한 번 잘못되면 피해를 되돌릴 수 없기 때문입니다. 주민등록번호는 보낸 것을 취소할 수 없습니다.

• 신분 확인 번호. 주민등록번호, 여권 번호, 운전면허 번호, 사업자등록번호.
• 카드와 은행 정보. 카드 전체 번호, 보안 코드, 계좌번호, 그리고 무엇보다 암호화폐 지갑의 복구 문구.
• 비밀번호와 접근 키. 곧 바꿀 거라고 스스로 다짐한 임시 비밀번호까지 포함입니다.
• 다른 사람의 사적인 일. 부모님의 진단명, 친구의 연봉, 고객의 집 주소. 그 동의는 당신이 대신 해줄 수 있는 것이 아닙니다.
• 회사 비밀유지 의무에 걸리는 모든 것. 공개 전 재무 자료, 고객 명단, 회사가 소유한 코드, 비밀유지계약이 걸린 문서. 혼자 판단하기 전에 회사에 승인된 도구가 있는지 먼저 확인하세요.
• 가리지 않은 계약서와 법률 문서. 서명된 계약서에는 대개 이름과 주소, 서명이 들어 있는데, 당신의 질문에 답하는 데 모델이 그것들을 알아야 할 이유는 없습니다.

해결책은 멋있지 않지만 통합니다. 붙여넣기 전에 민감한 부분을 자리표시자로 바꾸세요. 모델은 신원이 아니라 구조와 언어를 읽기 때문에, [임대인]이라고 적힌 조항도 실명이 들어간 조항과 똑같은 분석을 받습니다. 임대차 계약 조항 하나를 설명받고 싶다고 해봅시다. 계약서를 통째로 붙여넣는 대신 이렇게 보내면 됩니다.

주택 임대차 계약서의 이 조항을 검토해줘. 임차인은 [임차인], 임대인은 [임대인], 월세는 [금액], 주소는 [주소]야. 조항: "임차인은 건물 내부의 모든 수리와 유지 보수에 대해 제한 없이 책임을 진다."

그런 다음 답을 읽고 실제 값은 당신이 직접 되돌려 놓으면 됩니다. 초보자가 실제로 AI에 가져오는 일, 그러니까 요약하고 초안 쓰고 설명하고 확인하는 일에서 자리표시자 때문에 떨어지는 품질은 거의 없습니다. 같은 습관이 업로드에도 적용됩니다. 첨부하기 전에 문서를 가리세요. AI로 PDF 요약하기 가이드가 그 과정을 하나씩 안내합니다.

당신을 물 가능성이 더 큰 위험

사람들이 묻는 위험은 개인정보입니다. 실제로 대가를 치르게 하는 위험은 정확성입니다. AI 모델은 맞을 때든 지어낼 때든 한결같은 확신의 높이로 글을 내놓고, 판례 인용이나 복용량, 환불 기한, 소수점까지 붙은 통계를 만들어낼 때도 목소리가 흔들리지 않습니다. 초보자는 유창함을 지식으로 읽습니다. 사람에게는 대체로 그것이 맞기 때문입니다. 가장 먼저 지워야 할 본능이 이것이고, 가장 빠른 치료법은 확신했던 답 서너 개를 직접 확인해 보고 무엇이 나오는지 보는 것입니다.

두 번째 실패는 시점입니다. 모델은 어느 마감 날짜까지 모은 글에서 배웁니다. 그래서 가격, 과세 기준, 법률, 제품 기능, 그리고 최근 몇 달의 일들이 아주 최신처럼 들리면서 조용히 낡아 있을 수 있습니다. 어떤 앱은 이를 메우려고 웹을 검색하고 어떤 앱은 하지 않는데, 방금 어느 쪽이었는지 알려주는 앱은 드뭅니다. 답이 실시간 숫자에 달려 있다면 검색을 했는지 대놓고 물어보고, 그러고 나서도 숫자는 원래 출처에서 확인하세요.

진짜 피해를 주는 건 세 번째입니다. 유창한 답변을 조언으로 받아들이는 것이죠. AI는 의료, 법률, 금융 상담을 준비하는 데는 정말 뛰어납니다. 용어가 무슨 뜻인지, 내 선택지를 뭐라고 부르는지, 어떤 질문이 물어볼 가치가 있는지 설명해 줍니다. 하지만 의사도, 변호사도, 자격을 갖춘 자문가도 아닙니다. 당신의 병력을 모르고, 당신을 진찰할 수 없으며, 자기 능력 밖이라는 사실도 알려주지 않습니다. 상담 대신이 아니라 상담 전에 쓰세요. AI가 틀리는 이유가 그 작동 원리를 설명하는데, 그걸 알면 행동에 옮기기 전에 틀린 답을 잡아내기가 쉬워집니다.

실제로 지키게 될 다섯 가지 습관

안전 수칙은 매번 수고를 요구하는 순간 실패합니다. 아래 다섯 가지는 처음 한 번 10분쯤 들고, 그 뒤로는 매번 몇 초면 됩니다. 바쁜 한 주와 부딪혀도 살아남는 이유가 그것입니다.

1. 데이터 설정을 오늘 한 번 확인하세요. 설정을 열고 데이터 관리나 개인정보 항목을 찾아, 내 대화가 학습에 쓰여도 되는지 정하고 넘어가세요. 앱을 바꿀 때만 다시 하면 됩니다.
2. 기본값으로 자리표시자를 쓰세요. [이름], [회사], [금액]. 그때그때 판단하지 말고 반사 반응으로 만드세요. 급할 때 무너지는 건 언제나 그때그때의 판단입니다.
3. 행동에 옮길 내용은 전부 검증하세요. 어떤 답 때문에 돈을 보내거나 서류에 서명하거나 약을 먹거나 상사에게 숫자를 보고하게 된다면, 챗봇이 아닌 곳에서 확인하세요.
4. 업무 계정과 개인 계정을 나누세요. 업무 자료는 회사가 승인한 도구로, 나머지는 내 계정으로 쓰세요. 이건 회사를 지키는 만큼 당신도 지켜줍니다.
5. 모든 답변을 첫 초안으로 대하세요. 어디론가 보내기 전에 당신의 말로 다시 쓰세요. 고치는 동안 오류가 잡히고, 결과물도 소프트웨어가 아니라 당신처럼 들립니다.

이렇게 해도 위험이 0이 되지는 않고, 0이 된다고 말하는 사람은 뭔가를 팔고 있는 겁니다. 다만 남은 위험이 당신이 이미 살고 있는 범주로 옮겨갑니다. 당신의 메일은 남의 서버에 있고, 사진은 남의 클라우드에 있으며, 그 거래가 그만한 값을 한다고 이미 오래전에 결정했습니다. AI는 반대편에 선 회사만 새로워진 같은 거래입니다. 그러니 공포도 맹신도 아닌, 평소만큼의 조심성이 맞습니다.

계정에 대한 실용적인 이야기 하나. 가입하는 제공사가 하나 늘 때마다 읽어야 할 개인정보 처리방침도, 보관 기간도, 찾아 들어가야 할 데이터 설정도 하나씩 늘어납니다. 계정이 넷이면 그 점검을 네 번 해야 하고, 최소 하나는 잊게 됩니다. 하나로 모으면 당신이 책임져야 할 정책의 개수가 줄어듭니다. Whizi는 GPT, Claude, Gemini와 이미지 모델을 구독 하나 뒤에 두어서, 설정 화면이 넷이 아니라 하나가 됩니다. 대신 사슬에 회사가 하나 더 붙습니다. 이건 안전 보장이 아니라 거래이고, 절대 붙여넣지 말 것 목록은 어느 쪽이든 똑같습니다. 이 모든 것의 쓸모 있는 절반이 궁금하다면 AI 사용법이 첫 일주일의 실제 작업을 펼쳐 놓고, AI와 대화하는 법이 어느 모델에서든 더 나은 답을 끌어내는 표현을 다룹니다.