Hallucination คือคำตอบที่ดูสมเหตุสมผลแต่บังเอิญเป็นเท็จ
ลองถามโมเดลภาษาให้บอกเลขหน้าของคำพูดในหนังสือที่มันเคยอ่านเกี่ยวกับมาแต่ไม่เคยเห็นตัวจริง มันจะให้เลขหน้ามาเลย มันจะไม่พูดว่า "ฉันไม่สามารถรู้เรื่องนั้นได้" ตัวเลขนั้นถูกจัดรูปแบบอย่างถูกต้อง อยู่ในประโยคที่ฟังดูเหมือนการอ้างอิงอื่น ๆ ทุกอันในข้อมูลฝึกของมัน และมันถูกแต่งขึ้นมาเอง
นั่นคือ hallucination คือคำกล่าวที่ลื่นไหลและมั่นใจโดยไม่มีข้อเท็จจริงรองรับ คำนี้เป็นคำเปรียบเทียบที่ทำให้เข้าใจผิดเล็กน้อย เพราะไม่มีอะไรทำงานผิดพลาดเลย โมเดลถูกขอให้สร้างข้อความที่น่าจะต่อจากการอ้างอิงมากที่สุด และมันก็สร้างมันขึ้นมา ในคำถามที่คำตอบที่ฟังดูน่าจะเป็นที่สุดก็เป็นคำตอบจริงด้วย ซึ่งเป็นคำถามส่วนใหญ่ กระบวนการเดียวกันนี้เองที่ทำให้โมเดลมีประโยชน์
รูปแบบที่มันแสดงออกมานั้นคาดเดาได้ ได้แก่ การอ้างอิงและ URL ที่แต่งขึ้น สถิติที่ไม่มีแหล่งที่มา คำพูดที่ถูกอ้างว่าเป็นของคนจริงที่ไม่เคยพูดแบบนั้น คุณสมบัติของสินค้าที่ไม่มีอยู่จริง และคำกล่าวทางกฎหมายหรือการแพทย์ที่ถูกนำเสนอราวกับเป็นข้อเท็จจริงที่ยุติแล้ว Why AI gets things wrong พาไปดูวิธีจับแต่ละประเภท ส่วนหน้านี้พูดถึงเหตุผลว่าทำไมมันถึงเกิดขึ้นตั้งแต่แรก
ทำไมโมเดลที่อ่านอินเทอร์เน็ตทั้งหมดมาแล้วยังแต่งเรื่องขึ้นมา
มีสองกลไก และมันซ้อนทับกัน
โมเดลทำนาย ไม่ได้ค้นหาข้อมูล โมเดลภาษาไม่มีดัชนีข้อเท็จจริง ทุกอย่างที่มันอ่านถูกบีบอัดเข้าไปในพารามิเตอร์ของมัน และตอนที่ตอบคำถามมันสร้างข้อความใหม่ทีละโทเคนจากการบีบอัดนั้น โดยเลือกแต่ละโทเคนตามความน่าจะเป็น เมื่อคำตอบที่ถูกต้องพบบ่อยในข้อมูลฝึก คำต่อที่น่าจะเป็นที่สุดก็คือคำตอบที่ถูกต้อง แต่เมื่อมันหายาก ไม่มีอยู่ หรือถูกขัดแย้ง โมเดลก็ยังต้องเลือกโทเคนอยู่ดี และมันก็เลือกอันที่ดูสมเหตุสมผล What is an LLM อธิบายสถาปัตยกรรมนี้ไว้ สรุปสั้น ๆ คือไม่มีขั้นตอนไหนที่โมเดลถามตัวเองว่าประโยคที่มันกำลังเขียนอยู่เป็นเรื่องจริงหรือไม่
การฝึกให้รางวัลการเดา ในเดือนกันยายน 2025 OpenAI เผยแพร่งานวิจัยชื่อ "Why Language Models Hallucinate" ที่ระบุว่าเกณฑ์วัดผลที่ใช้ให้คะแนนโมเดลนั้นให้คะแนนคำตอบผิดกับคำตอบเว้นว่างเท่ากันคือศูนย์ ในขณะที่การเดาที่โชคดีได้คะแนนเต็ม โมเดลที่ถูกปรับให้เหมาะสมกับเกณฑ์แบบนั้นเรียนรู้บทเรียนเดียวกับที่นักเรียนเรียนรู้ในข้อสอบปรนัยที่ไม่มีการหักคะแนนคำตอบผิด นั่นคือให้เดาไว้เสมอ ข้อเสนอของงานวิจัยนี้คือเปลี่ยนวิธีให้คะแนนเพื่อให้ "ฉันไม่ทราบ" มีค่ามากกว่าการเดาผิดอย่างมั่นใจ
คดีความสองคดีที่ตีราคาความเสียหายจาก hallucination
Mata v. Avianca, นิวยอร์ก, 2023 ทนายความสองคนยื่นคำแถลงที่อ้างอิงคำตัดสินศาลหกคดีที่ ChatGPT เป็นผู้สร้างขึ้น ไม่มีคดีไหนในหกคดีนั้นมีอยู่จริงเลย ผู้พิพากษาลงโทษทนายทั้งสองเป็นเงิน $5,000 ในเดือนมิถุนายน 2023 และให้เขียนจดหมายถึงผู้พิพากษาที่ถูกอ้างว่าเป็นผู้ออกความเห็นที่แต่งขึ้นเหล่านั้น ภาพหน้าจอที่ยื่นพร้อมคำให้การของทนายแสดงให้เห็นว่าเขาถาม ChatGPT ว่าคดีเหล่านั้นมีอยู่จริงหรือไม่ และ ChatGPT ยืนยันว่ามีจริง
Moffatt v. Air Canada, บริติชโคลัมเบีย, 2024 แชทบอทบนเว็บไซต์ของ Air Canada บอกลูกค้าว่าเขาสามารถจองตั๋วราคาเต็มสำหรับงานศพแล้วขอส่วนลดกรณีเสียชีวิตในภายหลังได้ นโยบายจริงของสายการบินระบุตรงกันข้าม เมื่อ Air Canada โต้แย้งว่าแชทบอทเป็นนิติบุคคลแยกต่างหากที่รับผิดชอบต่อคำพูดของตัวเอง Civil Resolution Tribunal ปฏิเสธข้อโต้แย้งนี้ในเดือนกุมภาพันธ์ 2024 และสั่งให้สายการบินจ่ายเงิน C$812.02
ไม่มีโมเดลไหนเสียหาย แต่ละตัวสร้างคำตอบที่ฟังดูสมเหตุสมผลที่สุดต่อคำถามที่คำตอบจริงอยู่นอกเหนือความสามารถของมัน ค่าใช้จ่ายตกอยู่กับคนที่ไม่ได้ตรวจสอบ
Hallucination เป็นหนึ่งในสี่ประเภทความผิดพลาด และวิธีแก้ก็ต่างกัน
ผู้คนใช้คำนี้กับคำตอบผิดทุกแบบ ซึ่งทำให้มองข้ามความจริงที่ว่าความผิดพลาดทั่วไปทั้งสี่แบบมีสาเหตุต่างกันสี่แบบ
| ความผิดพลาด | เกิดอะไรขึ้น | วิธีสังเกต | วิธีแก้ |
|---|---|---|---|
| Hallucination | โมเดลแต่งข้อเท็จจริงขึ้นเพื่อให้ประโยคดูสมเหตุสมผล | เจาะจง ตรวจสอบได้ ไม่มีแหล่งที่มา | ขอแหล่งที่มา แล้วเปิดดู ถามโมเดลตัวที่สอง |
| ความรู้ล้าสมัย | ข้อเท็จจริงเป็นจริงตอนฝึกโมเดล แต่ตอนนี้ไม่จริงแล้ว | ราคา เวอร์ชัน ผู้ดำรงตำแหน่ง สิ่งที่มีวันที่กำกับ | เปิดใช้การค้นหาเว็บหรือวางหน้าปัจจุบันให้ดู |
| ค้นข้อมูลพลาด | การค้นหาหรือไฟล์ที่อัปโหลดดึงข้อความผิดส่วนมา | คำตอบอ้างอิงเอกสารของคุณแต่ตอบคำถามอื่น | อ่านข้อความที่ถูกอ้างอิง ไม่ใช่แค่ดูว่ามีการอ้างอิง |
| อ่านผิดคำถาม | โมเดลตอบคำถามที่ต่างจากที่คุณถามเล็กน้อย | คำตอบถูกต้องแต่เป็นเรื่องอื่น | ระบุคำถามใหม่พร้อมเงื่อนไขให้ชัดเจน |
มีเพียงแถวแรกเท่านั้นที่เป็น hallucination ในความหมายที่เคร่งครัด แถวที่สองและสามเป็นปัญหาด้านการอ้างอิงข้อมูลและแก้ได้เกือบทั้งหมดด้วยการให้โมเดลมีอะไรให้อ่าน แถวที่สี่เป็นปัญหาของพรอมป์ การมองทั้งสี่อย่างเป็นข้อบกพร่องลึกลับเดียวกันทำให้คนเลือกวิธีแก้ผิด ซึ่งมักจะเป็น "ใช้โมเดลที่ใหญ่กว่า" ซึ่งช่วยแถวแรกน้อยที่สุด
การตรวจสอบด้วยสองโมเดล และค่าใช้จ่าย
วิธีที่น่าเชื่อถือที่สุดสำหรับ hallucination แบบเคร่งครัดคือถามโมเดลตัวที่สองซึ่งต่างจากตัวแรกด้วยคำถามเดียวกันแล้วเปรียบเทียบ โมเดลสองตัวจากค่ายต่างกัน ฝึกด้วยข้อมูลต่างกันและ post-training ต่างกัน แทบไม่แต่งการอ้างอิงเดียวกันขึ้นมาเลย การที่คำตอบตรงกันเป็นหลักฐานอ่อน ๆ ว่าข้อเท็จจริงนั้นจริง ส่วนการที่คำตอบไม่ตรงกันเป็นสัญญาณแรงว่าควรไปตรวจสอบก่อนลงมือทำ
เหตุผลที่วิธีนี้ได้ผลในขณะที่ "ให้โมเดลเดิมตรวจสอบซ้ำ" ไม่ได้ผล คือการตรวจซ้ำโดยโมเดลเดิมเป็นแค่ตัวทำนายเดิมเดาใหม่จากการบีบอัดชุดเดิม ส่วนโมเดลอื่นคือการบีบอัดที่ต่างกัน
ความเห็นที่สองไม่จำเป็นต้องมาจากโมเดลราคาแพง จากดัชนี Artificial Analysis Intelligence Index ซึ่งเป็นดัชนีรวมของการวัดผลด้านการให้เหตุผล การเขียนโค้ด และความรู้สาธารณะ อ่านค่าเมื่อ 2026-09-17 DeepSeek V4 Flash ได้ 40 คะแนนและมีค่าใช้จ่าย 1 เครดิต Whizi ต่อข้อความ ส่วน Claude Sonnet 5 ได้ 38 คะแนนและมีค่าใช้จ่าย 10 เส้นประคือเส้นชายแดน คะแนนสูงสุดที่แต่ละราคา และทุกจุดบนเส้นนี้มาจากค่ายที่ต่างกัน การตรวจสอบไขว้จากสองค่ายที่ 1 และ 10 เครดิตรวมเป็น 11 เครดิต และ side-by-side view ส่งคำถามเดียวไปให้ทั้งสองโมเดลบนหน้าจอเดียว ทนายความในคดี Mata v. Avianca จ่ายไป $5,000 สำหรับการตรวจสอบที่พวกเขาไม่ได้ทำ
อะไรช่วยลด hallucination ได้บ้าง เรียงตามผลที่ได้
- การอ้างอิงข้อมูล (Grounding) การค้นหาเว็บ เอกสารที่อัปโหลด หรือแหล่งข้อมูลที่วางให้ เปลี่ยนงานจาก "การจำ" เป็น "การอ่านและสรุป" ซึ่งโมเดลทำได้แม่นยำกว่ามาก นี่คือการลดที่ได้ผลมากที่สุดเพียงข้อเดียว และเป็นการตั้งค่าของผลิตภัณฑ์ ไม่ใช่เทคนิคการเขียนพรอมป์
- โมเดลตัวที่สอง การฝึกที่ต่างกัน รูปแบบความผิดพลาดที่ต่างกัน จับข้อมูลที่แต่งขึ้นได้ส่วนใหญ่
- ขอแหล่งที่มาแล้วเปิดดู โมเดลที่ถูกขอให้อ้างอิงจะอ้างอิงให้ สิ่งที่ต้องตรวจคือการอ้างอิงนั้นมีอยู่จริงและพูดตรงกับสิ่งที่คำตอบอ้างหรือไม่
- อนุญาตให้ปฏิเสธได้ "ถ้าไม่แน่ใจให้บอกมา" เปลี่ยนสิ่งที่น่าจะเป็นคำต่อไปที่สุด ทำให้ในคำถามยาก ๆ โมเดลปฏิเสธที่จะตอบบ่อยขึ้นแทนที่จะแต่งขึ้นมา
- โมเดลที่ใหญ่กว่า โมเดลระดับแนวหน้าแต่งเรื่องน้อยกว่าโมเดลเล็กในความรู้ทั่วไป แต่ช่องว่างนี้แคบที่สุดตรงจุดที่สำคัญที่สุด คือข้อเท็จจริงที่หายากและเฉพาะเจาะจง
ลำดับนี้คือประเด็นสำคัญ คนส่วนใหญ่มักหยิบข้อห้าขึ้นมาก่อน ทั้งที่มันเป็นเครื่องมือที่อ่อนที่สุดในรายการนี้
- ถือว่าคำกล่าวอ้างที่เจาะจงและตรวจสอบได้แต่ไม่มีแหล่งที่มาเป็นสิ่งที่ยังไม่ได้ยืนยัน เช่น การอ้างอิง สถิติ คำพูด คุณสมบัติสินค้า
- เปิดใช้การค้นหาเว็บหรือแนบเอกสารทุกครั้งที่คำตอบขึ้นอยู่กับสิ่งที่เพิ่งเกิด เป็นข้อมูลส่วนตัว หรือต้องการความแม่นยำสูง
- ถามโมเดลตัวที่สองจากค่ายอื่นก่อนลงมือทำตามตัวเลขหรือการอ้างอิง ถ้าคำตอบไม่ตรงกันให้ไปตรวจสอบ
- เปิดแหล่งที่มาที่ถูกอ้างอิงและยืนยันว่ามันพูดตรงกับสิ่งที่คำตอบอ้าง ไม่ใช่แค่ตรวจว่ามันมีอยู่จริง
- เพิ่มคำว่า "ถ้าไม่แน่ใจให้บอกมา" ในพรอมป์สำหรับคำถามยาก ๆ
คำถามที่พบบ่อย
ทำไมโมเดล AI ถึงเกิด hallucination
เพราะมันสร้างคำถัดไปที่น่าจะเป็นไปได้มากที่สุดแทนที่จะค้นหาข้อเท็จจริง และเพราะการฝึกโมเดลให้รางวัลการเดาอย่างมั่นใจมากกว่าการยอมรับว่าไม่รู้ งานวิจัยของ OpenAI เดือนกันยายน 2025 ชื่อ "Why Language Models Hallucinate" แสดงให้เห็นว่าเกณฑ์วัดผลให้คะแนนคำตอบเว้นว่างกับคำตอบผิดเท่ากัน การเดาจึงเป็นกลยุทธ์ที่ชนะซึ่งโมเดลเรียนรู้
ป้องกัน AI hallucination ได้อย่างสมบูรณ์หรือไม่
ยังไม่ได้ด้วยโมเดลปัจจุบัน เพราะกลไกเดียวกันที่สร้างข้อความที่ดูสมเหตุสมผลคือกลไกที่สร้างทั้งคำตอบที่ถูกต้องและคำตอบที่แต่งขึ้น แต่ลดได้มาก การให้โมเดลอ้างอิงผลการค้นหาหรือเอกสาร การถามโมเดลตัวที่สอง และการเรียกร้องแหล่งที่มาแล้วเปิดดู ล้วนช่วยตัดออกได้เป็นสัดส่วนใหญ่ สิ่งที่เหลืออยู่คือความเสี่ยงบนข้อเท็จจริงที่หายากและเฉพาะเจาะจง
AI ตัวไหน hallucinate น้อยที่สุด
โมเดลระดับแนวหน้าจาก OpenAI, Anthropic และ Google แต่งเรื่องน้อยกว่าโมเดลเล็กในความรู้ทั่วไป แต่ความต่างจะแคบลงในข้อเท็จจริงที่หายากและเฉพาะเจาะจง ซึ่งเป็นจุดที่ความเสียหายเกิดขึ้น โมเดลเล็กที่มีการอ้างอิงข้อมูลพร้อมเปิดใช้การค้นหาเว็บมักเอาชนะโมเดลแนวหน้าที่ไม่มีการอ้างอิงในคำถามเชิงข้อเท็จจริง ดังนั้นการตั้งค่าจึงสำคัญกว่าตราสัญลักษณ์
Hallucination เหมือนกับความผิดพลาดทั่วไปหรือไม่
มันเป็นหนึ่งในหลายประเภท Hallucination คือข้อเท็จจริงที่แต่งขึ้นแล้วนำเสนออย่างมั่นใจ ส่วนความรู้ล้าสมัย (จริงตอนฝึกแต่ไม่จริงแล้วตอนนี้) การค้นข้อมูลพลาด (ดึงข้อความผิดส่วนมา) และการอ่านคำถามผิด เป็นความผิดพลาดที่ต่างกันและแก้ต่างกัน มีเพียงแบบแรกเท่านั้นที่ตอบสนองต่อ "ขอแหล่งที่มา"
เกิดอะไรขึ้นในคดีทนายความ ChatGPT
ในคดี Mata v. Avianca ที่ยื่นในนิวยอร์ก ทนายความสองคนยื่นคำแถลงที่อ้างอิงคดีหกคดีที่ ChatGPT แต่งขึ้น ศาลลงโทษพวกเขาเป็นเงิน $5,000 ในเดือนมิถุนายน 2023 หนึ่งปีต่อมา ในคดี Moffatt v. Air Canada ศาลอนุญาโตตุลาการสั่งให้สายการบินจ่าย C$812.02 หลังแชทบอทของบริษัทแต่งนโยบายส่วนลดกรณีเสียชีวิตขึ้นมาเอง โดยปฏิเสธข้อโต้แย้งที่ว่าแชทบอทรับผิดชอบต่อคำพูดของตัวเอง
