
如何查核AI資訊?先列出主張,再做四項檢查
查核AI答案的方法,是先抽出其中可查證的主張,再讓每一項主張通過四項檢查:第二個模型、打開出處、反方論證,以及每個數字各搜尋一次。錯誤的答案總是在可預期的地方出錯(模型編造的細節、不存在或並未寫過該內容的出處、因為你這樣問而附和的個案、訓練結束時還正確的數字),所以你只要查這些地方,其餘略過即可。先讓模型列出它的主張:
把你上面答案中的每一項事實主張列成編號清單,每項一句話。每個數字、人名、日期、引言、出處和「研究顯示」都算一項主張。不要加入新資訊。
| 檢查 | 時間預算 | 能抓出什麼 | 你要輸入什麼 |
|---|---|---|---|
| 1. 問另一間實驗室的第二個模型 | 40秒 | 編造的細節,因為兩間實驗室很少編出同一個 | 同一個問題,再加上分歧提示詞 |
| 2. 要出處並打開它 | 40秒 | 捏造的引用,以及真實存在但並未寫出答案所稱內容的出處 | 「給我那項主張的確切出處」 |
| 3. 讓它反方論證 | 20秒 | 包裝成分析的附和,以及模型最沒把握的那項主張 | 「現在請論證相反的立場」 |
| 4. 橫向閱讀,每個數字搜尋一次 | 20秒 | 過時的價格、錯誤的日期、記錯的統計,以及兩個模型共有的迷思 | 加上引號的數字,連同它的名詞 |
這些時間是我們訂下的預算,目的是讓習慣能維持下去,並沒有人實際量測過。最後一節會說明哪些答案要做滿四項檢查,哪些只做一項。
每間實驗室的頂級模型都比最佳得分模型更愛編造,所以沒有模型能免檢
沒有任何AI模型準確到可以免檢,付費使用某間實驗室的頂級模型也不會降低風險。在Vectara幻覺排行榜(最後更新於2026年9月22日)上,六間實驗室各自榜上最強大的模型,加入無依據主張的頻率都高於該實驗室自己的最佳得分模型。
Vectara給每個模型一份短文件,計算它的摘要有多常出現文件並不支持的主張。這是模型能遇到的最簡單的事實任務,因為事實就在提示詞裡,所以請把這些比率當作憑記憶回答問題時的下限。圖表背後的規則是:每間實驗室取榜上最低的比率,對照榜上最強大的模型(Gemini 3.1 Pro 列為預覽版)。六間實驗室平均下來,頂級模型是每100篇11.0篇,最佳得分模型是5.2篇,約為兩倍。其他數據也指向同一個方向。2026年9月22日發布的GPT-6 Sol得分6.5,仍是GPT-5.4 nano的3.1的兩倍,而Grok 4.1 Fast在開啟推理後升到19.2。整個榜上最低的比率是1.8,來自螞蟻集團的Finix S1 32B。沒有任何模型是零。
步驟1:另一間實驗室的第二個模型,會在兩者不一致處揪出編造的細節
第二個模型能抓出第一個模型編造的細節,因為不同實驗室訓練的系統,很少會編出同一個數字、人名、日期或出處。把同一個問題一字不差地貼到另一家公司的模型,再對照兩份答案,找出不一致的細節。意見一致證明不了什麼,意見不一致則明確告訴你該查哪一句。如果答案很長,就讓其中一個模型來做比對:
以下是對同一個問題的兩份答案。列出兩者不一致的每一項具體主張:數字、人名、日期、出處、是或否。忽略用字、長度或語氣的差異。如果兩者完全一致,請用一行說明。
兩個分頁開兩個免費方案就能完成這件事。同時詢問多個AI模型比較了能把一則提示詞送給多個模型的工具,Whizi的並排檢視也在其中。意見一致只有一種已知的失靈方式:兩個模型都從同一個公開網路學習,所以全網路都錯的說法,兩個模型會一起答錯。這種情況就要靠步驟4。
步驟2:十秒內辨別AI引用是不是假的
假的AI引用過不了一個十秒測試,而且完全不必問模型:把DOI貼到doi.org,真的會導向出版商,虛構的會回傳404。我在2026年9月26日做過這個測試。下面引用的Walters和Wilder論文,DOI為10.1038/s41598-023-41032-5,回傳302導向nature.com;同樣的前綴加上虛構的後綴10.1038/s41598-023-99999-9,則回傳404。沒有DOI的話,把標題加上引號貼到Google學術搜尋,真實的論文會出現,作者也相同。
至於主張本身,請它給一個出處並打開來看:
給我那項主張的確切出處:標題、作者或出版者、年份和連結。如果你沒有具體的出處,請直接說沒有,不要編一個看似合理的。
最後一句讓「我沒有」成為可能的回覆,否則這很少會發生。如果答案來自網路搜尋,引用本來就附在上面,那就是該點開的東西:打開它,在頁面上找到那個數字,因為過時的部落格文章排名可能和廠商頁面一樣高。接著找出捏造的參考資料難以避免的矛盾,例如期刊和年份對不上、卷號與年份不符、兩位真實存在的作者從未合寫過文章,或是案號屬於另一個案件。
這個規模是有實測的。Walters和Wilder於2023年9月7日發表在Scientific Reports,檢查了ChatGPT文獻回顧中的636筆引用:GPT-3.5有55%、GPT-4有18%並不存在。Damien Charlotin的資料庫在2026年9月25日列出2,079件涉及幻覺內容的法院裁判,其中827件由律師提出。第一起著名案例Mata v. Avianca中,紐約聯邦法院在2023年6月22日對兩名律師及其事務所處以$5,000罰款,判決書引述律師的說法:當他詢問其中一個虛構的案例時,ChatGPT回答它「確實存在」。請模型確認自己的引用,是唯一永遠無效的檢查;什麼是AI幻覺解釋了為什麼確認的說法會和捏造一樣流暢。
步驟3:AI能查核自己嗎?只有在你讓它反方論證時才行
只有改變AI的任務,它才能檢查自己。「你確定嗎?」大多只會換來附和,因為附和符合有幫助的回覆的樣子;而要求它論證相反的立場,會讓反對這個答案的論述成為最可能的下一段文字。提示詞:
現在請論證相反的立場。給我最有力的理由,說明上面的答案是錯的,並指出這些理由所依據的具體主張。然後指出原始答案中你最沒把握的那一項主張。
你會得到兩樣東西。反方論述告訴你這個問題是否真有另一面,而模型自己點名最弱的那項主張,直接進入步驟4。模型無法從自己的語氣讀出自己的把握程度(AI為什麼會出錯說明了機制),但它能產生反對的論述,而錯誤的細節往往會在那裡浮現。
大多數嘗試自我查核的人用的是比較弱的方法。在F-Secure的調查中,1,500位美國和英國的AI使用者(2026年9月23日發布)有35.3%曾用AI來查核AI,47.3%表示答案一聽起來對就不再質疑。在同一個對話裡問同一個模型是否同意自己,大多只會得到附和。反方提示詞和另一間實驗室的模型,才是能給你東西去查的做法。
步驟4:橫向閱讀,每個日期、價格和統計各搜尋一次
橫向閱讀是指離開AI答案,在新分頁中對照掌握該事實的來源逐項查核主張,馬里蘭大學和德州農工大學科珀斯克里斯蒂分校的圖書館指南都以此教導如何查核AI輸出。這個詞出自Sam Wineburg和Sarah McGrew的研究,對象是45位經驗豐富的網路使用者(Teachers College Record,2019)。給他們與10位歷史學博士和25位史丹佛大學大學生相同的網站,10位專業事實查核員「橫向閱讀,快速瀏覽後就離開網站」,在短得多的時間內得出更有依據的結論。
對AI答案來說,做法很機械化。把數字連同它的名詞加上引號貼到搜尋引擎,打開掌握該事實的來源:價格看廠商頁面,法律看政府網站,研究發現看原始論文,而不是任何一篇轉述文章。價格在訓練結束後會變動,日期會被調換,統計會被記成錯的分母。路透新聞研究所的2026年數位新聞報告顯示最後一種有多容易發生:使用AI聊天機器人獲取新聞的人中,有42%表示總是或經常點進來源,搜尋是44%,社群媒體是36%。那42%是聊天機器人新聞使用者中的比例,不是所有人,而漏掉這個限定條件的答案,會把一個真實的數字變成錯誤的主張。
對於新聞和瘋傳的說法,Snopes、PolitiFact和FactCheck.org通常已經做過橫向閱讀。對於冷門的技術、法律或醫療主張,掌握該事實的來源是專家,而AI的答案就變成要帶去請教他們的問題清單。
哪些AI答案需要做滿四項檢查?任何你要寄出、簽署、提交或付款的內容
凡是你要寄出、簽署、提交、發布或付款的內容,四項檢查都做;只是想確保正確的內容,只做步驟1;一眼看得出沒問題的草稿,就跳過。這條規則補上的缺口是有數據的:在同一份F-Secure調查中,近90%的AI使用者表示查核答案是自己的責任,70%只是有時、很少或從不查核,而25.2%曾依照AI的建議做出重大的現實決定。什麼都要查的習慣撐不過一週。依風險高低訂的規則才能持久,在這條規則下,凡是含有數字、人名、日期或連結的答案,在四項檢查有碰過那一句之前,都只是草稿。
- 在查核任何東西之前,先請模型把它的事實主張列成編號清單
- 把同一個問題貼到另一家公司的第二個模型,只看不一致的細節
- 對你在意的每項主張要一個確切的出處,然後打開它,在頁面上找到那個數字
- 引用前,把任何DOI貼到doi.org,把任何論文標題加上引號貼到Google學術搜尋
- 不要問模型它自己的引用是不是真的,因為確認的說法和引用是用同樣的方式產生的
- 執行「論證相反立場」的提示詞,把它點名為最弱的主張拿去搜尋
- 橫向閱讀:每個價格、日期和統計各搜尋一次,打開掌握該事實的來源,而不是轉述文章
- 凡是你要寄出、簽署、提交、發布或付款的內容,給它完整的兩分鐘
常見問題
ChatGPT的答案可以相信嗎?
結構、推理和起草可以信任ChatGPT,具體細節則要查核。在Vectara 2026年9月22日的排行榜上,即使提示詞中附有來源文件,GPT-6 Astra每100篇摘要仍有8.7篇加入無依據的主張,GPT-6 Sol則是6.5篇,而憑記憶回答的難度還更高。上面的四項檢查就是信任的實際做法。
AI可以查核自己嗎?
只能部分做到。問同一個模型「你確定嗎?」大多只會得到附和,而要求它論證相反立場並指出最弱的主張,會給你一項具體的主張去驗證。另一間實驗室的模型是更強的檢查,因為它不會有第一個模型特有的漏洞。在F-Secure 2026年9月的調查中,35.3%的AI使用者曾用AI來查核AI。
如何分辨AI的引用是不是假的?
把DOI貼到doi.org:真的會導向出版商,虛構的會回傳404。把標題加上引號貼到Google學術搜尋,真實的論文會出現,作者也相同。留意期刊和年份不符,或兩位從未合寫過文章的作者。不要去問模型:在Mata v. Avianca案中,ChatGPT告訴律師一個虛構的案例「確實存在」。
AI答案的橫向閱讀是什麼?
橫向閱讀是離開AI答案,在新分頁中對照掌握該事實的來源逐項查核主張。這個詞出自Wineburg和McGrew 2019年的研究,其中10位專業事實查核員用這種方式評判網站,在更短的時間內得出比歷史學博士和史丹佛大學大學生更有依據的結論。對AI輸出來說,這就是步驟4:每個日期、價格和統計各搜尋一次。