हेलुसिनेशन एक संभावित जवाब है जो संयोग से झूठा निकलता है
किसी भाषा मॉडल से उस किताब में किसी कोटेशन का पेज नंबर पूछें जिसके बारे में उसने पढ़ा तो है पर देखी नहीं है, और वह आपको एक पेज नंबर बता देगा। वह यह नहीं कहेगा "मैं यह जान नहीं सकता"। वह नंबर सही ढंग से फॉर्मेट किया गया होता है, ऐसे वाक्य में बैठता है जो उसके ट्रेनिंग डेटा के हर दूसरे हवाले जैसा लगता है, और पूरी तरह गढ़ा हुआ होता है।
यही हेलुसिनेशन है: एक धाराप्रवाह, भरोसेमंद बयान जिसके पीछे कोई तथ्य नहीं होता। यह शब्द एक रूपक है और थोड़ा गुमराह करने वाला भी, क्योंकि यहां कुछ भी खराब नहीं हो रहा। मॉडल से एक हवाले की सबसे संभावित अगली कड़ी मांगी गई थी और उसने वही दे दी। जिस सवाल पर सबसे संभावित लगने वाला जवाब ही सच भी होता है, यानी ज़्यादातर सवालों पर, वही प्रक्रिया मॉडल को उपयोगी बनाती है।
इसके रूप अनुमानित होते हैं: गढ़े हुए संदर्भ और URL, बिना स्रोत के आंकड़े, असली लोगों से जोड़े गए ऐसे कोटेशन जो उन्होंने कभी कहे ही नहीं, किसी प्रोडक्ट की ऐसी विशेषताएं जो मौजूद नहीं हैं, और कानूनी या मेडिकल दावे जो तय तथ्य की तरह पेश किए जाते हैं। AI गलतियां क्यों करता है हर प्रकार को पकड़ने का तरीका बताता है; यह पेज इस बारे में है कि ये होते ही क्यों हैं।
जिस मॉडल ने पूरा इंटरनेट पढ़ा, वह अब भी बातें क्यों गढ़ता है
दो तंत्र हैं, और वे साथ में काम करते हैं।
मॉडल अनुमान लगाता है, वह खोज नहीं करता। किसी भाषा मॉडल के पास तथ्यों का कोई इंडेक्स नहीं होता। जो कुछ भी उसने पढ़ा वह उसके पैरामीटर्स में संकुचित हो गया, और जवाब देते वक़्त वह उसी संकुचन से एक-एक टोकन करके टेक्स्ट फिर से बनाता है, हर टोकन को संभावना के आधार पर चुनते हुए। जब सही जवाब ट्रेनिंग डेटा में आम था, तो संभावित अगली कड़ी ही सच वाली निकलती है। जब वह दुर्लभ था, मौजूद ही नहीं था, या उसका खंडन हो चुका था, तब भी मॉडल को कोई टोकन चुनना ही पड़ता है, और वह एक संभावित लगने वाला टोकन चुन लेता है। LLM क्या है आर्किटेक्चर समझाता है; छोटी बात यह है कि कोई ऐसा चरण नहीं है जहां मॉडल खुद से पूछे कि जो वाक्य वह लिख रहा है वह असली है या नहीं।
ट्रेनिंग अंदाज़ा लगाने को इनाम देती है। सितंबर 2025 में, OpenAI ने "Why Language Models Hallucinate" नाम से एक पेपर छापा था जिसमें कहा गया कि मॉडलों को आंकने वाले बेंचमार्क गलत जवाब और खाली जवाब को एक जैसा, यानी शून्य, स्कोर देते हैं, जबकि एक भाग्यशाली अंदाज़ा पूरे अंक ले जाता है। ऐसी स्कोरिंग के हिसाब से ऑप्टिमाइज़ किया गया मॉडल वही सबक सीखता है जो एक छात्र मल्टीपल-चॉइस टेस्ट में सीखता है जहां गलत जवाब पर कोई पेनल्टी नहीं होती: हमेशा अंदाज़ा लगाओ। पेपर का सुझाव है कि स्कोरिंग बदली जाए ताकि "मुझे नहीं पता" कहने की कीमत एक भरोसेमंद चूक से ज़्यादा हो।
दो अदालती मामले जिन्होंने हेलुसिनेशन की कीमत डॉलर में तय की
Mata v. Avianca, न्यूयॉर्क, 2023। दो वकीलों ने एक बयान दाखिल किया जिसमें छह अदालती फैसलों का हवाला दिया गया था जो ChatGPT ने बनाए थे। इनमें से एक भी मौजूद नहीं था। जज ने जून 2023 में वकीलों पर $5,000 का जुर्माना लगाया और उन्हें उन जजों को पत्र लिखने को कहा जिनके नाम पर गढ़े हुए फैसले जोड़े गए थे। वकील के हलफनामे के साथ दाखिल स्क्रीनशॉट में वह ChatGPT से पूछता दिख रहा है कि क्या ये मामले असली हैं, और ChatGPT यह पुष्टि कर रहा है कि हां।
Moffatt v. Air Canada, ब्रिटिश कोलंबिया, 2024। Air Canada की वेबसाइट के चैटबॉट ने एक ग्राहक को बताया कि वह अंतिम संस्कार के लिए पूरा किराया देकर टिकट बुक कर सकता है और बाद में शोक छूट का दावा कर सकता है। एयरलाइन की असली नीति इसके ठीक उलट थी। जब Air Canada ने दलील दी कि चैटबॉट अपने शब्दों के लिए जिम्मेदार एक अलग कानूनी इकाई है, तो सिविल रिजॉल्यूशन ट्राइब्यूनल ने फरवरी 2024 में इसे खारिज कर दिया और एयरलाइन को C$812.02 चुकाने का आदेश दिया।
कोई भी मॉडल खराब नहीं हुआ था। हर एक ने ऐसे सवाल का सबसे संभावित लगने वाला जवाब दिया जिसका सच उसकी पहुंच में था ही नहीं। जिसने जांच नहीं की, कीमत उसी को चुकानी पड़ी।
हेलुसिनेशन चार तरह की गड़बड़ियों में से एक है, और इलाज अलग-अलग हैं
लोग हर गलत जवाब के लिए यही शब्द इस्तेमाल कर लेते हैं, और इससे यह छिप जाता है कि इन चार आम गड़बड़ियों के चार अलग-अलग कारण हैं।
| गड़बड़ी | क्या हुआ | कैसे पहचानें | इलाज |
|---|---|---|---|
| हेलुसिनेशन | मॉडल ने एक संभावित वाक्य पूरा करने के लिए तथ्य गढ़ लिया | खास, जांचने लायक, बिना स्रोत का | स्रोत मांगें, फिर उसे खोलें; दूसरे मॉडल से पूछें |
| पुराना ज्ञान | तथ्य ट्रेनिंग खत्म होने पर सही था, अब नहीं है | कीमतें, वर्ज़न, पद पर बैठे लोग, कोई भी तारीख वाली चीज़ | वेब सर्च चालू करें या मौजूदा पेज पेस्ट करें |
| रिट्रीवल मिस | सर्च या अपलोड की गई फाइल ने गलत हिस्सा लौटाया | जवाब आपके दस्तावेज़ का हवाला देता है पर किसी और सवाल का जवाब देता है | सिर्फ हवाले को नहीं, हवाला दिए गए हिस्से को पढ़ें |
| गलत समझना | मॉडल ने आपके पूछे सवाल से थोड़ा अलग सवाल का जवाब दिया | जवाब किसी और चीज़ के बारे में सही है | शर्त को साफ करते हुए सवाल दोबारा लिखें |
सिर्फ पहली पंक्ति सख़्त मायने में हेलुसिनेशन है। दूसरी और तीसरी पंक्ति ग्राउंडिंग की समस्याएं हैं और मॉडल को कुछ पढ़ने के लिए देकर काफी हद तक हल हो जाती हैं। चौथी पंक्ति प्रॉम्प्ट की समस्या है। इन चारों को एक रहस्यमयी खराबी मान लेना लोगों को गलत इलाज तक ले जाता है, आमतौर पर "बड़ा मॉडल इस्तेमाल करो", जो पहली पंक्ति में सबसे कम मदद करता है।
टू-मॉडल जांच, और इसकी कीमत क्या है
सख़्त किस्म के हेलुसिनेशन के लिए सबसे भरोसेमंद आदत है एक दूसरे, अलग मॉडल से वही सवाल पूछना और मिलान करना। अलग-अलग लैब्स के दो मॉडल, अलग डेटा पर ट्रेन किए गए, अलग पोस्ट-ट्रेनिंग के साथ, शायद ही कभी एक जैसा हवाला गढ़ते हैं। सहमति इस बात का कमज़ोर सबूत है कि तथ्य असली है। असहमति एक मजबूत संकेत है कि कदम उठाने से पहले जाकर जांच कर लें।
यह वहां काम करता है जहां "उसी मॉडल से दोबारा जांच कराओ" नहीं करता, इसकी वजह यह है: उसी मॉडल का दूसरा पास वही प्रेडिक्टर है जो उसी संकुचन से फिर से अंदाज़ा लगा रहा है। एक अलग मॉडल एक अलग संकुचन है।
दूसरी राय किसी महंगे मॉडल से ही आनी ज़रूरी नहीं। Artificial Analysis इंटेलिजेंस इंडेक्स पर, जो सार्वजनिक रीज़निंग, कोडिंग और नॉलेज बेंचमार्क का मिश्रण है और 2026-09-17 को पढ़ा गया, DeepSeek V4 Flash 40 स्कोर करता है और प्रति मैसेज 1 Whizi क्रेडिट लगता है; Claude Sonnet 5 38 स्कोर करता है और 10 लगते हैं। बिंदीदार रेखा फ्रंटियर है, हर कीमत पर सबसे बेहतर स्कोर, और उस पर हर बिंदु एक अलग लैब का है। 1 और 10 क्रेडिट वाली दो लैब्स से क्रॉस-चेक कुल 11 क्रेडिट का पड़ता है, और साइड-बाय-साइड व्यू एक ही सवाल एक स्क्रीन पर दोनों को भेज देता है। Mata v. Avianca के वकीलों ने उस जांच के लिए $5,000 चुकाए जो उन्होंने कभी की ही नहीं।
क्या चीज़ हेलुसिनेशन घटाती है, और कितना, उसके हिसाब से क्रम
- ग्राउंडिंग। वेब सर्च, अपलोड किया गया दस्तावेज़, या पेस्ट किया गया स्रोत काम को "याद करने" से बदलकर "पढ़ने और सार निकालने" में बदल देता है, जो मॉडल कहीं ज़्यादा भरोसे के साथ करते हैं। यह सबसे बड़ी कमी लाता है और यह एक प्रॉडक्ट सेटिंग है, कोई प्रॉम्प्ट ट्रिक नहीं।
- एक दूसरा मॉडल। अलग ट्रेनिंग, अलग तरह की गड़बड़ियां। यह ज़्यादातर गढ़े हुए खास तथ्यों को पकड़ लेता है।
- स्रोत मांगना और उन्हें खोलना। हवाला देने को कहा गया मॉडल हवाला देगा; जांच यह है कि क्या वह हवाला मौजूद है और वही कहता है जो जवाब में दावा किया गया है।
- ना कहने की इजाज़त। "अगर आप पक्का नहीं हैं, तो बता दें" यह बदल देता है कि सबसे संभावित अगली कड़ी क्या है, इसलिए मुश्किल सवालों पर मॉडल गढ़ने की बजाय ज़्यादा बार मना कर देता है।
- एक बड़ा मॉडल। फ्रंटियर मॉडल आम जानकारी पर छोटे मॉडलों से कम हेलुसिनेट करते हैं, पर यह फर्क वहीं सबसे कम होता है जहां मायने रखता है, यानी दुर्लभ और खास तथ्यों पर।
यह क्रम ही असली बात है। ज़्यादातर लोग सबसे पहले पांचवें नंबर की तरफ जाते हैं, जबकि यह इस सूची का सबसे कमज़ोर उपाय है।
- किसी भी खास, जांचने लायक दावे को जिसमें कोई स्रोत न हो, असत्यापित मानें: कोई हवाला, आंकड़ा, कोटेशन, या प्रोडक्ट फीचर
- जब भी जवाब किसी हाल की, निजी या सटीक चीज़ पर निर्भर करे, वेब सर्च चालू करें या दस्तावेज़ अटैच करें
- किसी आंकड़े या हवाले पर कदम उठाने से पहले अलग लैब के दूसरे मॉडल से पूछें; असहमति का मतलब है जांच करें
- हवाला दिए गए स्रोत को खोलें और पुष्टि करें कि वह वही कहता है जो जवाब में दावा किया गया है, सिर्फ यह नहीं कि वह मौजूद है
- मुश्किल सवालों पर प्रॉम्प्ट में "अगर आप पक्का नहीं हैं तो बता दें" जोड़ें
अक्सर पूछे जाने वाले सवाल
एआई मॉडल हेलुसिनेट क्यों करते हैं?
क्योंकि वे तथ्य खोजने के बजाय सबसे संभावित अगले शब्द बनाते हैं, और क्योंकि उनकी ट्रेनिंग अनजान होने की स्वीकृति से ज़्यादा भरोसेमंद अंदाज़े को इनाम देती है। OpenAI के सितंबर 2025 के पेपर "Why Language Models Hallucinate" में दिखाया गया है कि बेंचमार्क खाली जवाब और गलत जवाब को एक जैसा स्कोर देते हैं, इसलिए अंदाज़ा लगाना ही वह जीतने वाली रणनीति है जो मॉडल सीखता है।
क्या एआई हेलुसिनेशन को पूरी तरह रोका जा सकता है?
मौजूदा मॉडलों से नहीं, क्योंकि संभावित लगने वाला टेक्स्ट बनाना ही वह तंत्र है जो सही जवाब और गढ़े हुए जवाब, दोनों बनाता है। इसे काफी हद तक घटाया जा सकता है: मॉडल को सर्च रिजल्ट या दस्तावेज़ पर आधारित करना, दूसरे मॉडल से पूछना, और स्रोत मांगकर उन्हें खुद खोलना, ये तीनों एक बड़ा हिस्सा हटा देते हैं। जो बचता है वह दुर्लभ, खास तथ्यों पर बचा हुआ जोखिम है।
कौन सा एआई सबसे कम हेलुसिनेट करता है?
OpenAI, Anthropic और Google के फ्रंटियर मॉडल आम जानकारी पर छोटे मॉडलों से कम हेलुसिनेट करते हैं, पर यह फर्क दुर्लभ और खास तथ्यों पर घट जाता है, जहां असली नुकसान होता है। वेब सर्च चालू किया हुआ ग्राउंडेड छोटा मॉडल अक्सर बिना ग्राउंडिंग वाले फ्रंटियर मॉडल से तथ्यात्मक सवालों पर बेहतर निकलता है, इसलिए सेटिंग बैज से ज़्यादा मायने रखती है।
क्या हेलुसिनेशन और गलती एक ही चीज़ हैं?
यह एक किस्म है। हेलुसिनेशन एक गढ़ा हुआ तथ्य है जो भरोसे के साथ पेश किया जाता है। पुराना ज्ञान (ट्रेनिंग के समय सही, अब गलत), रिट्रीवल मिस (गलत हिस्सा खोजा गया) और गलत समझा गया सवाल, ये अलग-अलग गड़बड़ियां हैं जिनके इलाज अलग हैं, और इनमें से सिर्फ पहली ही "स्रोत मांगने" से हल होती है।
ChatGPT वकील वाले मामले में क्या हुआ था?
Mata v. Avianca में, जो न्यूयॉर्क में दाखिल हुआ था, दो वकीलों ने एक बयान जमा किया जिसमें छह ऐसे मामलों का हवाला था जो ChatGPT ने गढ़े थे। अदालत ने जून 2023 में उन पर $5,000 का जुर्माना लगाया। एक साल बाद, Moffatt v. Air Canada में, एक ट्राइब्यूनल ने एयरलाइन को C$812.02 चुकाने का आदेश दिया, इसके बाद कि उसके चैटबॉट ने एक शोक छूट की गढ़ी हुई नीति बता दी थी, और यह दलील खारिज कर दी कि चैटबॉट अपने बयानों के लिए खुद जिम्मेदार था।
