챗GPT 출처는 지어낸 걸까? 연구별로 인용의 7%에서 69%가 가짜

챗GPT는 출처를 얼마나 자주 지어낼까? 모델과 연도에 따라 인용의 7%에서 69%

ChatGPT가 만든 인용 중 지어낸 출처의 측정 비율은 모델과 연도에 따라 7%에서 69%입니다. 가장 오래된 측정이 가장 나쁩니다. Gravel과 동료들은 2023년 초 ChatGPT에 의학 질문을 했고, 참고문헌 59건 중 41건, 69%가 날조였음을 확인했습니다. 가장 최근 측정이 가장 좋습니다. Bernstein과 동료들은 2026년 초 브라우징을 켠 ChatGPT-5에 정형외과 가이드라인 권고 70개의 근거 문헌을 물었고, 7.13%가 존재하지 않았습니다. 0%를 기록한 연구는 없었고, 우리가 직접 돌린 실험에서는 문제없이 열리는 DOI가 엉뚱한 논문으로 이어졌습니다.

네 줄은 서로 다른 과제를 다룬 네 건의 연구이므로, 곡선이 아니라 방향으로 읽어야 합니다. 아래 표는 원문을 직접 열어 볼 수 있었던 모든 연구를 모델에 질의한 연도, 표본, 존재하지 않은 인용의 비율과 함께 정리한 것입니다. 의학, 법률, 일반 학술 참고문헌이 모두 들어 있는 이유는 어느 분야에서나 같은 실패가 나타나기 때문입니다.

표에서 헤드라인 비율보다 중요한 점이 두 가지 있습니다. 첫째, 날조 비율은 피해의 절반일 뿐입니다. Walters와 Wilder에 따르면 "55% of the GPT-3.5 citations but just 18% of the GPT-4 citations are fabricated. Likewise, 43% of the real (non-fabricated) GPT-3.5 citations but just 24% of the real GPT-4 citations include substantive citation errors." 실제로 존재하더라도 연도, 권, 저자가 틀린 참고문헌은 심사자 앞에서 똑같이 탈락합니다. 둘째, 비율은 주제가 얼마나 생소한지에 따라 움직입니다. Linardon과 동료들이 GPT-4o에 세 가지 장애에 대한 리뷰를 요청했더니 주요 우울장애는 6%, 폭식장애는 28%, 신체이형장애는 29%의 인용이 지어낸 것이었습니다. 질문이 좁을수록 답의 더 많은 부분이 추측입니다.

챗GPT는 왜 출처를 지어낼까? 기록이 아니라 인용의 모양을 쓰기 때문

ChatGPT가 출처를 지어내는 이유는 가장 그럴듯한 다음 단어를 만들어 내기 때문이고, 인용은 성, 이니셜, 연도, 제목, 학술지, 권, 쪽수, DOI로 이어지는 매우 규칙적인 문자열이기 때문입니다. 이 패턴의 모든 부분은 이어 쓰기 쉽고, 어느 것도 조회되지 않습니다. 참고문헌을 쓴 모델은 데이터베이스를 연 적이 없으므로, 진짜 기록과 형식만 갖춘 기록을 구별할 수단이 과정 어디에도 없습니다.

OpenAI 연구진 스스로 메커니즘의 나머지 절반이 학습에 있다고 말합니다. Why Language Models Hallucinate(Kalai, Nachum, Vempala, Zhang, 2025년 9월)의 초록은 이렇게 시작합니다. "Like students facing hard exam questions, large language models sometimes guess when uncertain, producing plausible yet incorrect statements instead of admitting uncertainty." 찍은 인용이 우연히 맞으면 점수가 되고, "모르겠다"는 점수가 없으니 모델은 찍는 법을 배웁니다. 이 논문은 AI 환각이란 무엇인가에서 자세히 다룹니다.

날조는 대개 무작위가 아닙니다. 아래 실험에서 모델은 2006년 Journal of Adolescent Health에 카페인과 청소년에 관한 글을 실제로 낸 실존 저자 두 사람을 제시한 뒤, 틀린 제목, 틀린 호, 틀린 쪽수, 다른 논문의 DOI를 붙였습니다. 각 항목이 진실 근처에서 뽑혀 온 셈입니다. 그래서 가짜 인용은 흘끗 봐서는 통과하고, 네 번째 섹션의 확인법이 인용을 기억과 대조하지 않고 항목끼리 서로 대조하는 이유가 여기에 있습니다.

웹 검색을 켜면 챗GPT가 출처를 지어내지 않을까? 비율은 줄지만 0은 아니다

웹 검색은 가짜 인용을 크게 줄이지만 없애지는 못합니다. 브라우징을 켠 ChatGPT-5도 Bernstein과 동료들의 2026년 연구에서 참고문헌 2,736건의 7.13%를 지어냈고, 초록은 이렇게 끝납니다. "Citation errors and fabricated references persist in ChatGPT-5. Independent verification of generated references therefore remains necessary." 검색 증강 모델과 딥 리서치 에이전트가 인용한 URL 53,090개를 분석한 Rao, Wong, Callison-Burch(2026년 4월)는 3%에서 13%가 존재하지 않는 페이지를 가리켰고, 가장 많이 인용하는 에이전트가 가장 많이 환각을 냈다고 밝혔습니다. 검색이 기본으로 들어 있는 법률 분야에서도 Stanford의 Magesh와 동료들(2024)은 Lexis+ AI와 Thomson Reuters의 도구가 "each hallucinate between 17% and 33% of the time"이라고 밝혔습니다.

우리도 2026년 9월 27일에 Whizi의 GPT-5.6 Luna로 직접 비교를 돌렸습니다. Whizi에서는 웹 검색이 입력창의 토글입니다. 프롬프트 하나를 검색 끔과 켬으로 두 번 보냈습니다. "List five peer-reviewed journal articles on caffeine and sleep latency in adolescents. For each give authors, year, article title, journal, volume, pages and DOI." 그런 다음 모든 DOI를 doi.org와 Crossref API에 넣고, 돌아온 기록을 모델이 쓴 내용과 항목별로 비교했습니다.

두 번 모두 다섯 건은 나오지 않았습니다. 검색을 끈 쪽은 두 건만 주고 나머지는 "want to invent or misstate DOI details"하고 싶지 않다며 거절했습니다. 검색을 켠 쪽은 PubMed 링크가 붙은 세 건을 주고 나머지 두 건은 결과가 뒷받침하지 않는다고 말했습니다. 문제가 된 인용 하나는 검색을 끈 쪽에서 나왔고, 교훈이 되는 유형입니다. DOI가 연결되므로 DOI 확인만으로는 통과하고, 도착 페이지의 제목을 읽어야만 잡힙니다. 단서가 두 가지 있습니다. 이 실험은 Whizi 자체 시스템 프롬프트가 작동하는 환경에서 돌렸으므로 한 날짜의 한 모델일 뿐 비율이 아닙니다. 그리고 이 페이지의 주제에서 Whizi는 약점이 있습니다. 2026년 9월 기준 인용 검증기가 없어서 답변 속 링크는 여전히 직접 열어 봐야 하고, 280+ 모델 중 이 과제를 측정한 것은 없어서 모델 선택기로는 가장 덜 지어내는 모델을 알 수 없습니다. 웹 검색 토글이 하는 일은 모델에게 인용할 실시간 페이지를 주는 것이고, 확인을 통과한 세 건의 참고문헌이 바로 거기서 나왔습니다.

챗GPT 인용을 60초 안에 확인하는 방법은? 이 순서대로 네 단계

ChatGPT 인용은 항목을 데이터베이스와 대조해서 확인합니다. 정확한 제목을 검색하고, DOI를 열어 도착 페이지를 읽고, 권과 쪽수를 해당 연도의 학술지와 맞춰 보고, 저자의 업적 목록을 여는 순서입니다. 각 단계는 앞 단계가 놓치는 실패를 잡아내며, 두 번만 해 보면 참고문헌 하나당 전체 과정이 1분 정도 걸립니다.

1. 정확한 제목 검색. 제목을 큰따옴표로 묶어 Google Scholar나 Crossref 검색창에 붙여 넣습니다. 진짜 논문은 같은 저자와 함께 한 번 나타납니다. 결과가 없거나 저자가 다르면 확인은 거기서 끝이고, 그 인용은 쓰여 있는 그대로는 쓸 수 없습니다.
2. DOI 열기, 그다음 읽기. https://doi.org/ 뒤에 DOI를 붙여 넣습니다. 404면 DOI를 지어낸 것입니다. 페이지가 열린다고 통과는 아니므로 그 페이지의 제목을 읽어야 합니다. 우리의 Orbeta 인용은 HPV 논문으로 깔끔하게 연결됐고, Crossref 기록은 모델이 쓴 2006년 38(3)이 아니라 2005년 37권 6호였습니다.
3. 연도에 맞는 권과 쪽수. 학술지 사이트에서 인용이 말하는 권을 열어 연도와 쪽수 범위를 확인합니다. Walters와 Wilder는 GPT-4의 실제 인용 중 24%가 중대한 항목에서 틀렸다고 밝혔고, 틀린 것은 이 단계에서 드러납니다.
4. 저자의 업적 목록. 제1저자의 Google Scholar 프로필, ORCID 기록, 소속 학과 페이지를 열어 그 논문을 찾습니다. 함께 쓴 적 없는 실존 저자 두 사람을 묶는 것은 흔한 날조이고, 이 단계 전까지는 보이지 않습니다.

모델이 식별자를 내놓게 하면 확인이 더 빨라집니다. 출처를 요청할 때마다 이 문장을 덧붙이세요. "Give the DOI and the PubMed ID for every reference, and mark any reference you cannot give a DOI for as unverified." 검색을 켠 모델은 링크를 붙여 주고, 검색을 끈 모델은 열어 볼 수 있는 DOI를 주거나 없다고 인정합니다. 우리 실험에서는 후자였습니다. 모델에게 자기 인용이 진짜인지 묻지는 마세요. 그 확인은 인용을 만든 방식과 똑같이 생성된 것입니다. AI 답변 팩트체크 방법은 주장, 숫자, 인용문을 위한 일반적인 2분 방법이고, 이 순서는 그중 인용에 특화된 부분입니다.

제출하거나 공개할 참고문헌이라면 네 단계를 모두 하세요. 읽기만 할 참고문헌이라면 1단계만으로도 계속 읽을지 판단할 수 있습니다.

챗GPT는 믿을 만한 출처일까? 인용 자체로는 아니며, 법원이 그 값을 매겼다

ChatGPT는 인용에 관한 한 믿을 만한 출처가 아닙니다. 인용은 기록 자체가 아니라 기록에 대한 주장이기 때문이며, 후보 논문을 빨리 찾는 수단일 뿐 그 실제 기록은 직접 열어 봐야 합니다. 이 구분에는 이미 청구서가 쌓이고 있습니다. 당사자가 환각 자료에 의존한 법원 판결을 모은 Damien Charlotin의 데이터베이스에는 2026년 9월 27일 기준 2,086건이 올라 있고, 그중 미국이 1,430건, 변호사 제출이 828건, 판사 관련이 33건입니다. 법원이 잡아내서 기록한 서류만 이 정도입니다. 판사 앞에 가지 못한 오류는 AI가 틀리는 이유에서 다룹니다.

그래서 판단 기준은 이렇습니다. 채팅 모델이 준 인용은 데이터베이스가 달리 말해 주기 전까지 단서일 뿐이고, 단서의 가치는 확인에 드는 1분만큼입니다.