AI 챗봇 개인정보 통계 2026: 챗봇 9개 중 7개가 묻지 않고 내 대화를 학습에 씁니다

AI 챗봇 9개 중 7개가 묻지 않고 대화를 학습에 씁니다

아래의 모든 AI 개인정보 통계는 이를 발표한 기업, 규제 기관, 연구 그룹에서 직접 열어 확인했습니다. 날짜 열은 누군가 그 수치를 인용한 날이 아니라 조사가 진행되었거나 데이터가 수집된 시점을 뜻합니다.

행마다 모수가 다릅니다. Pew는 미국 성인, Ipsos는 32개국 사람들, KPMG는 직원에게 물었습니다. Cyberhaven은 고객사 직원이 AI 도구로 옮기는 데이터를 측정하고, IBM은 침해를 겪은 조직만 연구합니다. 사고 건수는 개인정보와 무관한 것까지 모든 종류의 AI 피해를 포함합니다.

어떤 AI 챗봇이 대화를 학습에 사용할까요?

9개 중 6개는 직접 끄기 전까지 소비자 대화를 학습에 씁니다. ChatGPT, Gemini, Perplexity, Mistral의 Vibe, Grok, DeepSeek입니다. Meta AI도 대화로 학습하는데 설정 스위치는 없습니다. Anthropic은 모든 Claude 사용자에게 선택을 요구합니다. Microsoft는 업데이트된 Copilot 앱이 대화를 파운데이션 모델 학습에 쓰지 않는다고 밝힙니다. 2026년 10월 7일에 각 회사의 도움말과 정책 페이지를 직접 읽었습니다.

Grok은 판단이 필요했습니다. Grok을 만든 SpaceXAI는 학습에 "콘텐츠를 사용할 수 있다"고 하면서 사용자가 통제할 수 있다고 하지만 기본값은 밝히지 않습니다. X의 도움말 페이지는 자체 Grok 설정을 옵트아웃이라고 부릅니다. DeepSeek의 개인정보 처리방침은 학습을 처리 목적으로 적어 둡니다. 2026년 3월 27일에 마지막으로 업데이트된 이용약관은 "Improve the model for everyone"이라는 설정을 끄면 "옵트아웃할 수 있다"고 말합니다.

Meta는 2025년 4월 유럽 사용자에게 Meta AI와의 상호작용이 "모델을 학습시키고 개선하는 데도 사용될 것"이라고 알렸고, 출시 이후 다른 지역에서도 그렇게 학습해 왔다고 했습니다. 2025년 12월 16일부터는 대부분의 지역에서 그 대화를 사람들이 보는 게시물과 광고를 고르는 데도 씁니다. Meta는 매달 10억 명이 넘는 사람이 Meta AI를 쓴다고 밝힙니다.

두 회사는 1년 사이에 반대 방향으로 움직였습니다. Anthropic은 2025년 8월부터 Claude 사용자에게 학습 허용 여부를 묻기 시작했고, TechCrunch는 기존 사용자에게 보여 준 토글이 켜진 상태로 설정되어 있었다고 보도했습니다. Microsoft는 반대로 갔습니다. 2026년 8월 18일에 업데이트된 Copilot 앱은 프롬프트, 응답, 파일이 "파운데이션 모델 학습에 사용되지 않는다"고 밝힙니다. 이전 Copilot 앱을 쓰는 사람에게는 옛 규칙이 그대로 적용되어, 옵트아웃하지 않으면 대화로 학습합니다. 두 회사에 대한 더 자세한 내용은 Claude 통계와 Gemini 통계에서 볼 수 있습니다.

진짜 경계선은 유료 비즈니스 플랜입니다. OpenAI는 ChatGPT Business, Enterprise, Edu, API 트래픽을 기본적으로 학습에 쓰지 않는다고 하고, Anthropic도 Claude for Work와 API에 대해 같은 입장입니다. Google의 Gemini API도 마찬가지로 나뉩니다. 요금 페이지는 무료 등급의 콘텐츠는 "제품 개선에 사용되고" 유료 등급은 그렇지 않다고 적습니다. 이 페이지를 발행한 Whizi는 프롬프트, 파일, 대화를 Whizi 소유 모델 학습에 쓰지 않지만, 데이터 및 개인정보 보호 페이지에서 설명하듯 각 메시지는 여전히 선택한 모델의 제공업체로 전달됩니다. 업체별 설정은 가장 프라이빗한 AI 챗봇 비교에서 확인하세요.

AI 챗봇은 대화를 얼마나 오래 보관할까요?

대부분의 AI 챗봇은 사용자가 삭제하거나 계정을 닫을 때까지 대화를 보관합니다. 9개 중 5개가 이를 분명히 밝힙니다. OpenAI, SpaceXAI, Perplexity, Mistral, 그리고 채팅 입력을 "계정이 있는 동안" 보관하는 DeepSeek입니다. 현재 앱에서 기본 만료 기간을 밝히는 곳은 9개 중 Google뿐이며 18개월입니다. 이를 3개월로 줄일 수 있습니다. Microsoft의 이전 Copilot 앱도 대화를 18개월 동안 저장합니다.

대화를 삭제해도 모든 사본이 지워지는 것은 아닙니다. OpenAI, Anthropic, SpaceXAI는 삭제한 대화가 30일 이내에 시스템에서 사라진다고 밝힙니다. Anthropic은 학습이 켜져 있으면 비식별 처리된 대화를 학습 파이프라인에 최대 5년 보관합니다. Google은 검토자가 읽은 대화를 계정과 분리한 채 최대 3년 보관하며, 활동 기록을 삭제한 뒤에도 마찬가지입니다.

옵트아웃도 과거로 거슬러 적용되지 않습니다. Perplexity는 "이미 수집된 학습 데이터는 삭제하거나 제거할 수 없다"고 말합니다. Anthropic도 이미 학습된 모델에는 데이터가 남는다고 밝힙니다. 엄지 척 한 번이 옵트아웃을 무효로 만들 수도 있습니다. OpenAI는 피드백을 남기면 "대화 전체"가 학습에 보내질 수 있다고 하고, Anthropic은 피드백을 최대 5년 보관합니다.

법원이 삭제를 막을 수도 있습니다. 2025년 5월 미국 치안판사는 The New York Times 저작권 소송에서 OpenAI에 원래라면 삭제했을 ChatGPT 출력 로그를 보존하라고 명령했습니다. OpenAI는 그 의무가 2025년 9월 26일에 끝났다고 말합니다. 2025년 11월 같은 판사가 OpenAI에 비식별 처리된 ChatGPT 로그 2,000만 건을 넘기라고 명령했고, 지방법원 판사가 2026년 1월 이 명령을 유지했다고 Bloomberg Law와 ABA Journal이 보도했습니다.

사람들은 AI와 개인정보를 얼마나 걱정할까요?

대부분의 미국인은 AI가 자신의 데이터를 덜 안전하게 만들 것이라고 예상합니다. Pew Research Center에 따르면 미국 성인의 71%가 AI가 개인정보를 덜 안전하게 만들 것이라고 보며, 더 안전해질 것이라고 보는 사람은 3%뿐입니다. 2026년 2월 17일부터 23일까지 성인 5,119명을 조사했습니다(Pew). 같은 조사에서 59%는 미국 기업이 AI를 책임감 있게 개발하고 사용할 것이라고 확신하지 못했습니다. 67%는 정부가 AI를 규제할 능력에 대한 확신이 거의 또는 전혀 없었습니다.

미국인은 발언권도 원합니다. 2025년 6월 미국 성인의 61%가 Pew에 AI가 자신의 삶에 쓰이는 방식을 더 통제하고 싶다고 답했고, 이는 2024년보다 6포인트 늘어난 수치입니다(Pew). Pew의 2023년 수치도 여전히 널리 인용됩니다. 그해 AI를 들어 본 미국인의 70%는 기업이 AI를 책임감 있게 쓸 것이라는 신뢰가 거의 또는 전혀 없었고, AI를 잘 아는 사람의 81%는 자신의 개인정보가 원치 않는 방식으로 쓰일 것으로 예상했습니다(Pew).

걱정하는 사람은 미국인만이 아닙니다. Ipsos는 2026년 3월 20일부터 4월 3일까지 32개국 성인 23,532명에게 AI를 쓰는 기업이 개인 데이터를 지켜 줄 것이라고 믿는지 물었습니다. 평균 47%가 그렇다고 답했습니다. 미국은 34%, 캐나다는 27%, 프랑스는 26%였습니다. 32개국 평균으로는 50%가 AI 제품과 서비스가 불안하게 만든다고 답했고, 미국은 64%였습니다.

KPMG와 멜버른 대학교는 2024년 11월부터 2025년 1월까지 47개국 48,340명을 조사했습니다. 이 가운데 82%가 AI 때문에 개인정보나 지식재산을 잃을 가능성을 적어도 어느 정도는 우려했습니다. IAPP가 2023년 19개국 소비자 약 5,000명을 조사한 결과, 57%가 AI의 개인 데이터 활용을 개인정보에 대한 중대한 위협으로 봤습니다(IAPP).

직원들은 AI 도구에 민감한 데이터를 얼마나 넣을까요?

업무에 AI를 쓰는 직원의 절반가량이 공개 AI 도구에 회사 정보를 넣어 본 적이 있습니다. KPMG와 멜버른 대학교는 48%가 재무, 영업, 고객 데이터 같은 회사 정보를 공개 AI 도구에 올렸다고 밝혔습니다. 그리고 70%는 무료로 공개된 도구를 썼습니다. 모수는 47개국 조사에서 업무에 AI를 쓰는 직원입니다(보고서 PDF).

이 트래픽을 지켜보는 업체들은 그 비중이 늘고 있다고 말합니다. 데이터 보안 소프트웨어를 파는 Cyberhaven에 따르면 2023년 3월 직원이 AI 도구에 넣은 회사 데이터 중 민감한 데이터는 10.7%였습니다. 1년 뒤에는 27.4%로, 2025년 4월 보고서에서는 34.8%로 올랐습니다(Cyberhaven). 2026년 2월 보고서에서는 상호작용 단위로 세어 AI 도구로 옮겨진 데이터의 39.7%에서 민감 데이터를 찾았고, 업무용 ChatGPT 사용의 32.3%는 개인 계정을 거쳤습니다.

Harmonic Security는 프롬프트 단위로 세기 때문에 수치가 더 낮습니다. 2024년 말 프롬프트의 8.5%에서 민감 데이터를 찾았고, 그중 고객 데이터가 45.77%를 차지했습니다(Harmonic). 브라우저 보안 업체 LayerX는 2025년 10월 "사용자의 77%가 GenAI 도구에 데이터를 붙여넣는다"고 썼으며, 그 붙여넣기의 82%는 관리되지 않는 계정에서 나왔습니다.

집에서도 마찬가지입니다. Cisco는 생성형 AI 사용자의 30%가 개인정보나 기밀 정보를 도구에 입력하지만, 84%는 입력한 내용이 공개될까 걱정한다는 것을 확인했습니다. 2024년 6월 12개국 소비자 2,600명에게 물은 결과입니다. 이 습관에서 안전한 쪽을 다룬 글은 AI 챗봇에 절대 붙여넣으면 안 되는 것에 있습니다.

동시에 기업들은 규칙을 느슨하게 하고 있습니다. IT, 보안, 개인정보 담당자 5,200명 넘게 조사한 Cisco의 2026년 벤치마크에서, 생성형 AI 전면 금지나 입력 제한을 둔 조직의 비율은 1년 만에 28%에서 7%로 떨어졌습니다. 그리고 90%는 AI 때문에 개인정보 보호 프로그램이 커졌다고 답했습니다.

AI 개인정보 사고와 유출은 얼마나 될까요?

Stanford AI Index 2026에 따르면 AI Incident Database에 기록된 AI 사고는 2024년 233건에서 2025년 362건으로 늘었습니다. 자체 계산으로 55% 증가이고, 전년에는 56.4% 증가했습니다. 이 데이터베이스는 개인정보뿐 아니라 모든 종류의 AI 피해를 세며, 공개 목록에는 2026년 10월 7일 기준 1,700건이 넘는 사고가 있었습니다(AI Incident Database). 틀린 답변은 별개의 문제이며 AI 환각 통계에서 다룹니다.

OECD가 추적하는 내용에서도 개인정보는 큰 부분을 차지합니다. 뉴스 보도를 바탕으로 만든 AI Incidents and Hazards Monitor에는 2026년 10월 7일 기준 사고와 위험 18,123건이 올라 있었습니다. 그중 약 7,577건, 자체 집계로 41.8%에 OECD AI 원칙 "Privacy & data governance" 태그가 붙어 있습니다. 한 항목에 태그가 둘 이상 붙을 수 있습니다.

기업이 겪는 침해 가운데 AI 시스템을 노린 것이 늘고 있습니다. IBM의 2026년 Cost of a Data Breach 보고서는 2025년 3월부터 2026년 2월 사이에 침해를 겪은 조직 602곳을 살폈습니다. 20% 넘는 조직이 AI 모델이나 애플리케이션을 노린 침해를 겪었고, 그중 92%는 제대로 된 AI 접근 통제가 없었습니다. 1년 전 IBM은 이 비율을 13%와 97%로 봤습니다(IBM 2025). IBM의 2025년 보고서는 다섯 곳 중 한 곳이 직원이 승인 없이 쓰는 섀도 AI와 관련된 침해를 겪었다는 점도 확인했습니다. 섀도 AI가 많은 조직은 침해 한 건당 평균 $670,000를 더 냈습니다.

일부 챗봇은 스스로 대화를 흘리기도 했습니다. OpenAI에 따르면 2023년 3월의 ChatGPT 버그로 9시간 동안 활동한 ChatGPT Plus 구독자의 1.2%의 결제 정보가 노출되었을 수 있습니다. 카드 번호 전체는 노출되지 않았습니다. 2025년 7월 Fast Company는 Google 검색 결과에서 공유된 ChatGPT 대화 약 4,500건을 찾았고, OpenAI는 검색에 노출되게 하던 옵션을 없앴습니다. 한 달 뒤 Forbes는 Google이 Grok 대화 37만 건 넘게 색인했다고 보도했습니다.

개인정보 문제로 AI 기업에 과징금을 부과한 규제 기관은 어디일까요?

이탈리아 개인정보 보호 당국 Garante는 2024년 12월 이후 챗봇 제작사 최소 세 곳에 과징금을 부과했습니다. 그달 ChatGPT와 관련해 OpenAI에 1,500만 유로를 부과했는데, 법적 근거 없는 학습, 2023년 3월 침해 미신고, 연령 확인 생략이 이유였습니다. 로마 법원은 2026년 3월 18일 이 결정을 취소했습니다(판결문). Garante가 GDPR의 원스톱숍 규정상 권한이 없다고 판단했으며, OpenAI의 다른 주장에 대해서는 판단하지 않았습니다.

Garante는 2025년 5월 Replika를 만든 Luka에 500만 유로를(Garante), 2026년 7월 Character.AI에 158,000유로를 부과했습니다. 또 2025년 1월에는 DeepSeek에 이탈리아인의 데이터 처리를 중단하라고 명령했습니다. 한국에서는 개인정보보호위원회가 2025년 2월 15일부터 DeepSeek의 신규 다운로드를 중단시켰습니다. 2025년 4월에는 DeepSeek이 별도 동의 없이 사용자의 프롬프트를 베이징의 회사로 보낸 사실을 확인했습니다(PIPC).

이 페이지에서 가장 큰 금액은 얼굴 인식 사건에서 나왔습니다. 네덜란드 개인정보 보호 당국은 2024년 9월 Clearview AI가 사진 300억 장이 넘는 불법 데이터베이스를 만들었다는 이유로 3,050만 유로를 부과했습니다(Dutch DPA). 텍사스주는 2024년 7월 Facebook이 텍사스 법이 요구하는 동의 없이 생체 데이터를 수집한 건으로 Meta와 $1.4 billion에 합의했습니다.

미국에서는 연방거래위원회(FTC)가 2025년 9월 AI 컴패니언 챗봇을 운영하는 일곱 개 회사(Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap, xAI)에 명령서를 보냈습니다. 사람들이 챗봇에 말한 내용을 어떻게 사용하거나 공유하는지 물었습니다(FTC). 이것은 제재가 아니라 조사입니다. 아일랜드 데이터 보호 위원회는 2025년 4월 X가 유럽인의 게시물을 Grok 학습에 쓴 건에 대한 조사에 착수했고, 2026년 10월 기준 결정을 발표하지 않았습니다.

EU AI Act에서 금지된 AI 관행에 대한 금지 규정은 2025년 2월 2일부터 적용되고 있습니다. 이를 위반하면 기업은 최대 3,500만 유로 또는 전 세계 연간 매출의 7% 중 더 높은 금액을 물 수 있습니다(European Commission).

이 수치를 어떻게 정리했나요

모든 수치를 2026년 10월 7일에 출처에서 직접 열어 확인했습니다. 업체의 도움말과 정책 페이지, 규제 기관과 법원의 결정, 그리고 설문이나 보고서 원문입니다. 기본값 집계에는 Pew가 2026년 2월 조사에서 물은 챗봇 여섯 개, 즉 ChatGPT, Gemini, Copilot, Meta AI, Grok, Claude를 넣었습니다. 여기에 Similarweb의 2026년 8월 웹 트래픽 기준으로 그다음인 DeepSeek과 Perplexity를 더했습니다. Mistral의 Vibe는 유럽의 대표 주자로 넣었습니다. 이렇게 고른 근거가 된 시장 수치는 AI 챗봇 시장 점유율 페이지에 있습니다. 소비자 대화를 학습에 쓰면서 사용자에게 선택을 묻지 않으면 묻지 않고 학습하는 챗봇으로 셉니다. Claude는 묻지만, TechCrunch는 기존 사용자에게 보여 준 토글이 켜진 상태로 설정되어 있었다고 보도했습니다. Claude를 포함하면 9개 중 8개가 됩니다.

Cyberhaven, Harmonic, LayerX, IBM은 모두 보안 제품이나 서비스를 팔기 때문에 이들의 보고서는 업체 조사라고 밝혔습니다. 출처에서 직접 열어 볼 수 없었던 것은 뺐습니다. 그래서 조직의 "약 40%"가 AI 개인정보 사고를 겪었다거나 직원의 "약 15%"가 민감 데이터를 붙여넣는다는 식으로 다른 페이지에서 반복되는 출처 없는 수치를 제외했습니다. 보고서를 열 수 없었던 Edelman의 2026년 글로벌 AI 신뢰 수치와, 언론 보도로만 읽을 수 있었던 브라질의 Grok 관련 명령도 뺐습니다. 모든 수치와 출처의 원문 표현, URL은 리서치 로그에 있습니다.

챗봇 정책은 바뀌므로 기본값 표는 2026년 10월 7일 기준 스냅샷으로 읽어 주세요. 업체가 약관을 바꾸면 다시 확인하겠습니다.

이 AI 개인정보 통계를 인용하는 방법

이 페이지의 수치나 표는 이 페이지로 링크만 걸면 자유롭게 쓰실 수 있습니다. 다른 곳에서 가져온 수치는 원래 출처도 함께 밝혀 주세요. 아래와 같은 간단한 출처 표기면 충분합니다.

출처: Whizi Research, "AI privacy statistics 2026: 7 of 9 AI chatbots train on your chats without asking", whizi.io/resources/ai-privacy-statistics, 2026년 10월 업데이트.

같은 시리즈의 다른 글: ChatGPT 통계, AI 데이터센터 에너지 소비 통계, 교육 분야 AI 통계.