बिना शब्दजाल के, यह चीज़ काम कैसे करती है
जब आप किसी AI चैटबॉट से कोई सवाल पूछते हैं, तो वह कहीं कुछ ढूंढ नहीं रहा होता। वह एक बार में कुछ अक्षर जोड़ते हुए ऐसा टेक्स्ट बना रहा होता है जो इस पैटर्न पर फिट बैठे कि उस सवाल का सही जवाब आमतौर पर कैसे लिखा जाता है। बस यही उसका पूरा काम है। पैटर्न पर फिट बैठना और सच होना, ये दो अलग निशाने हैं, और इस प्रक्रिया में कुछ भी दूसरे निशाने पर नहीं लगा है।
ज़्यादातर समय आपको इसका पता ही नहीं चलता, क्योंकि ये दोनों निशाने आपस में ओवरलैप करते हैं। जिस टेक्स्ट से इन सिस्टम ने सीखा, वह ज़्यादातर उन लोगों ने लिखा था जो ज़्यादातर सही थे, इसलिए जवाब जैसा दिखने वाला टेक्स्ट आमतौर पर सही टेक्स्ट भी होता है। किनारों पर यह ओवरलैप पतला पड़ जाता है: वे तथ्य जो दुर्लभ हैं, ताज़ा हैं, बहुत खास हैं, या मॉडल ने जो पढ़ा उसमें थे ही नहीं। उन किनारों पर भी सही जवाब का आकार बना देना आसान रहता है। उसका असली मज़मून बना देना नहीं। आपको जो मिलता है वह एक तथ्य की तरह गढ़ा गया वाक्य होता है, सही जगह पर एक आंकड़े और भरोसेमंद लगते नाम के साथ, जो ऐसी किसी चीज़ का ब्योरा देता है जो कभी हुई ही नहीं।
इसी से यह भी समझ आता है कि सबसे स्पष्ट अगला सवाल क्यों नाकाम रहता है। "क्या तुम्हें यकीन है?" पूछना ऑडिट जैसा लगता है। ऑडिट है नहीं। सहमति एक मददगार जवाब के पैटर्न पर फिट बैठती है, इसलिए दबाव आमतौर पर सहमति ही पैदा करता है, और मॉडल अक्सर माफ़ी मांगकर सही जवाब को किसी कमज़ोर जवाब से बदल देगा। दो मिनट में इसे आज़माएं: कुछ ऐसा पूछें जो आप पहले से जानते हैं, सही जवाब मान लें, फिर कहें "यह सही नहीं लग रहा" और देखें। जो लौटकर आता है वह वही मशीनरी है जो सहमति वाला टेक्स्ट बना रही है, कोई दूसरी राय नहीं। यह सब बनता कैसे है, इसकी सबसे बुनियादी समझ के लिए AI असल में है क्या बिना गणित के यही बात कवर करता है।
वे पांच जगहें जहां यह सबसे ज़्यादा गलती करता है
गलतियां हर उस चीज़ पर बराबर नहीं फैली होतीं जो आप पूछ सकते हैं। वे झुंड बनाती हैं। इन पांच झुंडों को पहचान लेना आपके अंदर एक छोटा अलार्म लगा देता है जो ठीक सही मौके पर बजता है, और यह उस आम सावधानी से कहीं ज़्यादा काम का है जो हर वक्त बजती रहती है और फिर बजना ही बंद कर देती है।
| कहां फिसलता है | कैसा दिखता है | एक पंक्ति का उदाहरण |
|---|---|---|
| खास तथ्य और आंकड़े | सटीक आंकड़ा, जिसके पीछे कुछ नहीं | कहता है दुकान 1987 में खुली, जबकि वह 1994 में खुली |
| हवाले, उद्धरण, लिंक | असली लगते शीर्षक, असली दिखते URL, कोई खुलता नहीं | दो असली शोधकर्ताओं का, असली जर्नल में छपा अध्ययन, जो लिखा ही नहीं गया |
| प्रशिक्षण कट-ऑफ के बाद की हर बात | ऐसी दुनिया पर आत्मविश्वास भरे जवाब जो महीनों पहले रुक गई | उस प्लान की पिछले साल वाली कीमत बताता है जो मार्च में बदल गया |
| जोड़-घटाव और गिनती | तरीका सही, जोड़ गलत | बिल की ग्यारह लाइनें जोड़ता है और 40 डॉलर चूक जाता है |
| ऐसे सवाल जिनमें जवाब छिपा है | विश्लेषण के भेस में सहमति | "X बेहतर विकल्प क्यों है?" पर X के पक्ष में दलील, कोई सवाल नहीं |
आखिरी पंक्ति वाली गलती आप खुद पैदा करते हैं, और असली इस्तेमाल में यही सबसे आम है। "X, Y से बेहतर क्यों है" पूछना लगभग तय कर देता है कि X के पक्ष में दलील मिलेगी, और जिस सवाल में "ज़ाहिर है" या "यह सच है न कि" जुड़ा हो, उस पर आमतौर पर हां ही मिलती है। इसकी जगह यह पूछें: "इस स्थिति के लिए X और Y की तुलना करो, फिर तुमने जिसे चुना उसके खिलाफ़ सबसे मज़बूत दलील दो।" सवालों को इस तरह लिखना कि उनमें जवाब चोरी-छिपे न घुसा हो, वही आधा हिस्सा है जिसे लोग प्रॉम्प्टिंग कहते हैं, और बाकी आधा AI से बात कैसे करें में है। एक और बात शुरू में ही जान लेना अच्छा है। बहुत लंबी बातचीत में, या कोई बहुत लंबा दस्तावेज़ पेस्ट करने के बाद, शुरुआत के ब्योरे मॉडल की नज़र से फिसल सकते हैं, और वह आपको यह बताने के बजाय कि उसका सिरा छूट गया, उस खाली जगह को भर देगा। यह सच्चाई की नहीं, क्षमता की सीमा है, और यह छत कहां लगती है, यह कॉन्टेक्स्ट विंडो क्या है समझाता है।
आत्मविश्वास भरा लहज़ा कोई दिखावा नहीं है
ज़्यादातर लोग यहां एक वाजिब लगती धारणा के साथ पहुंचते हैं: कि यह चीज़ जानती है कि वह कितनी आश्वस्त है और काबिल दिखने के लिए अपना संदेह छिपा लेती है। यह धारणा गलत है, और यह मायने रखती है, क्योंकि इसके चलते आप ऐसे भरोसे के संकेत की तलाश में लग जाते हैं जो कभी था ही नहीं।
कोई भरोसे का मीटर नहीं है जिसे आपसे छिपाया जा रहा हो। सिस्टम के पास कोई निजी आंकड़ा नहीं बैठा है जो 62 प्रतिशत दिखाता हो और वह 100 जैसा सुनाई देना चुन रहा हो। वह गलत जवाब उसी प्रक्रिया से, उसी रवानी के साथ बनाता है जिससे सही जवाब बनाता है। ठीक इसीलिए यहां लहज़ा एक संकेत के तौर पर बेकार है, जबकि इंसानों के मामले में ऐसा नहीं होता। "मुझे पूरा यकीन नहीं है, लेकिन" जैसी हिचक भी बनाया हुआ टेक्स्ट ही है। वह इसलिए आती है क्योंकि ऐसे आकार के सवालों पर यह वाक्यांश फिट बैठता है, इसलिए नहीं कि अंदर किसी चीज़ ने चेतावनी दी हो। किसी मॉडल से दस में से अपना भरोसा आंकने को कहें और आपको एक नंबर मिलेगा, अक्सर ऊंचा नंबर, ठीक उस हवाले के बगल में जो उसने खुद गढ़ा है। वह रेटिंग भी उसी प्रक्रिया से बनी है जिससे वह हवाला बना।
इसलिए "सिर्फ़ तभी जवाब दो जब तुम्हें यकीन हो" या "कुछ भी मत गढ़ो" जैसे निर्देश उतनी मदद नहीं करते जितनी लोग उम्मीद करते हैं। किसी ज़रूरी सवाल में "अगर नहीं पता तो कह दो कि नहीं पता" जोड़ना फिर भी काम की बात है, क्योंकि नए मॉडल पहले से ज़्यादा आसानी से मना कर देते हैं, लेकिन इसे एक इशारा मानें, गारंटी नहीं। इसी विचार का भरोसेमंद रूप बाहर की तरफ़ इशारा करता है: जवाब से ऐसी कोई चीज़ दिखवाएं जिसे आप खुद खोल सकें। जब कोई ऐप वेब पर खोजता है और लिंक जोड़ता है, तो आप खुद वह पेज पढ़ सकते हैं और किसी भी बात पर उसकी ज़बान मानना बंद कर सकते हैं। जब वह सिर्फ़ अपनी याददाश्त से जवाब देता है, तो उसकी ज़बान के अलावा आपके पास कुछ है ही नहीं।
चार जांचें, सबसे कम खर्चीली से शुरू
आप हर चीज़ जांचने वाले नहीं हैं, और कोशिश का अंजाम यह होगा कि आप कुछ भी नहीं जांचेंगे। आपको ऐसी जांच चाहिए जो उस गलती से सस्ती पड़े। ये चार जांचें लगभग मुफ़्त से लेकर थोड़ी झंझट वाली तक हैं, और ज़्यादातर सवालों के लिए पहली ही जांच काफ़ी होती है।
- स्रोत मांगें, फिर उन्हें खोलें। "अपने स्रोत बताओ" कहकर रस्म पूरी मत करें। उन पर क्लिक करें। एक मरा हुआ लिंक, या ऐसा चालू पेज जिसमें वह दावा है ही नहीं, दस सेकंड में मामला निपटा देता है।
- किसी नई चैट में दोबारा पूछें। वही सवाल, नई बातचीत, पहले की कोई बहस नहीं। अगर आंकड़े, नाम या तारीखें अलग लौटती हैं, तो मॉडल कुछ याद नहीं कर रहा था, खाली जगहें भर रहा था। इसमें कुछ खर्च नहीं होता और गढ़े हुए ब्योरों का हैरान करने वाला हिस्सा पकड़ में आ जाता है।
- किसी दूसरे मॉडल से पूछें। तथ्य वाले सवालों के लिए यह सबसे काम की जांच है। वही सवाल किसी दूसरे प्रदाता के मॉडल में पेस्ट करें और लहज़े की नहीं, ब्योरों की तुलना करें।
- इसे सामान्य तरीके से सर्च करें। जो कुछ आप भेजने, साइन करने, प्रकाशित करने या जिस पर पैसा खर्च करने वाले हैं, उसे सर्च इंजन में नब्बे सेकंड दें। AI एक बेहतरीन पहला दौर है। पहला दौर सत्यापन नहीं है।
तीसरी बात अपनी जगह कमाती है। अलग-अलग कंपनियों के बनाए दो मॉडल, जो अलग डेटा पर अलग तरीकों से प्रशिक्षित हुए हैं, एक ही सवाल पर दोनों गलत हो सकते हैं। लेकिन वे शायद ही कभी एक जैसा गलत ब्योरा गढ़ते हैं, क्योंकि गढ़ा हुआ ब्योरा किसी एक खास सिस्टम की खास खाली जगहों से निकलता है। जब Claude और ChatGPT अलग-अलग आपको वही एक आंकड़ा देते हैं, तो वह आंकड़ा शायद असली है। जब वे आपस में असहमत होते हैं, तो आपने ठीक वही वाक्य ढूंढ लिया है जिसे जांचना चाहिए, और यह इस धुंधले एहसास से कहीं बेहतर है कि जवाब में कहीं कुछ गड़बड़ है। कभी-कभार की जांच के लिए दो प्रदाताओं के फ्री टियर काफ़ी हैं और उनमें कुछ खर्च नहीं होता। लेकिन जैसे ही क्रॉस-चेक करना आदत बन जाए, यह मुफ़्त नहीं रहता, क्योंकि पेड एक्सेस प्रति प्रदाता करीब 20 डॉलर महीने का पड़ता है, और यही वह फ़ासला है जिसे Whizi जैसी मल्टी-मॉडल सदस्यता पाटती है। कई मॉडल एक साथ इस्तेमाल करना इस तरीके को कदम दर कदम बताता है।
यह कहां मायने रखता है, और कहां सचमुच नहीं
हर चीज़ पर लागू होने वाली सत्यापन की आदत एक हफ़्ते में ढह जाती है। आप जो कुछ पूछते हैं उसमें से ज़्यादातर में दांव कम होता है और जांच अपने आप हो जाती है। अपने ही ईमेल का छोटा संस्करण मांगें और आप खुद देख सकते हैं कि वह छोटा हुआ या नहीं और उसमें वही बात बची या नहीं जो आप कहना चाहते थे। यही बात विचार जुटाने, नाम सोचने, रूपरेखा बनाने, ड्राफ्ट लिखने, ऐसे संदेश का अनुवाद करने जिसे आप भेजने से पहले पढ़ लेंगे, या बिखरे नोट्स को सूची में बदलने पर लागू होती है। जांच आप खुद हैं, और गलती तुरंत आपके सामने आ जाती है।
दो सवाल किसी भी काम को सही खाने में डाल देते हैं, और खुद से ये पूछने में करीब तीन सेकंड लगते हैं।
- अगर यह गलत हुआ, तो किसे पता चलेगा, और कब? आपको, अभी दस सेकंड बाद पढ़ते हुए, या किसी क्लाइंट को, तीन महीने बाद?
- क्या मैं इसे पलट सकता हूं? एक खराब पैराग्राफ़ मिटाना मुफ़्त है। टैक्स रिटर्न दोबारा भरना, भेजा हुआ कोटेशन वापस लेना या भुगतान पलटना मुफ़्त नहीं है।
अगर इनमें से किसी भी जवाब पर आप ठिठकते हैं, तो कुछ भी करने से पहले हर खास दावा जांच लें। इस खाने के साफ़ सदस्य ये हैं: दवाओं के नाम और खुराक, कानूनी और फ़ाइलिंग की समय-सीमाएं, टैक्स के आंकड़े, कॉन्ट्रैक्ट की शर्तें, किसी की सेहत या इमिग्रेशन स्थिति से जुड़ी हर बात, और ऐसा कोड जो पैसा हिलाता है या निजी डेटा संभालता है। ईमेल में एक गलत पर्यायवाची से आप एक दिन के लिए थोड़े अजीब लगेंगे। गलत खुराक या चूकी हुई समय-सीमा को AI बाद में नहीं संभालता। AI सुरक्षित है या नहीं इस पहलू को और गहराई से कवर करता है, साथ ही यह भी कि आपको कभी क्या पेस्ट नहीं करना चाहिए। एक आदत से शुरुआत करें: जिस पल किसी जवाब में कोई आंकड़ा, नाम, तारीख या लिंक आए, उसी हिस्से को असत्यापित मानें और जांच लें। बाकी आमतौर पर ठीक होता है।
- जवाब में आए हर आंकड़े, नाम, तारीख और लिंक को तब तक असत्यापित मानें जब तक जांच न लें।
- जांच के तौर पर "क्या तुम्हें यकीन है?" पूछना छोड़ दें, क्योंकि दबाव सुधार नहीं, सहमति पैदा करता है।
- स्रोत मांगें, उन्हें खोलें, और पक्का करें कि पेज पर सचमुच वही लिखा है जो जवाब में दावा किया गया।
- किसी ज़रूरी सवाल को नई चैट में दोबारा पूछें और देखें कि ब्योरे वही रहते हैं या नहीं।
- तथ्य वाले सवालों पर भरोसा करने से पहले उन्हें किसी दूसरी कंपनी के मॉडल से भी पूछें।
- इशारा करते सवालों को दोबारा लिखें ताकि वे मॉडल को यह न बता दें कि आपको कौन सा जवाब चाहिए।
- खुद से पूछें कि गलती होने पर किसे पता चलेगा और क्या आप उसे पलट सकते हैं, फिर उसी हिसाब से जांचें।
अक्सर पूछे जाने वाले सवाल
AI हैलुसिनेशन क्या होता है?
हैलुसिनेशन वह आत्मविश्वास भरा, सुगढ़ जवाब है जो बस सच नहीं होता: गढ़ा हुआ आंकड़ा, ऐसा हवाला जो मौजूद ही नहीं, कोई ऐसी सुविधा जो किसी प्रोडक्ट में कभी थी ही नहीं। यह नाम दुर्भाग्यपूर्ण है, क्योंकि कुछ कल्पना नहीं किया जा रहा। सिस्टम ने ऐसा टेक्स्ट बनाया जो सही जवाब के पैटर्न पर फिट बैठता है, और उस मौके पर पैटर्न और सच्चाई एक जगह नहीं मिले।
AI यह कहने के बजाय कि उसे नहीं पता, चीज़ें गढ़ क्यों लेता है?
"मुझे नहीं पता" कहना उन कई जवाबों में से सिर्फ़ एक है जो सवाल पर फिट बैठते हैं, और एक रवां जवाब आमतौर पर बेहतर फिट बैठता है। मॉडल में कोई अलग कदम नहीं है जो किसी तथ्य को बनाने से पहले उसे जांचे, इसलिए मना करने की वजह बनती ही नहीं। नए मॉडल पुराने मॉडलों से ज़्यादा बार मना करते हैं, और सीधे यह कहना कि "पता न हो तो कह देना" थोड़ी मदद ज़रूर करता है।
क्या AI के जवाबों पर भरोसा किया जा सकता है?
तर्क, ढांचे और लिखाई पर भरोसा करें, यही वे जगहें हैं जहां ये टूल सचमुच मज़बूत हैं। बिना जांचे ब्योरों पर भरोसा मत करें: आंकड़े, नाम, तारीखें, उद्धरण, हवाले और हर ताज़ा बात। यही बंटवारा यहां भरोसे का व्यावहारिक रूप है, और इसी की बदौलत आप रोज़ AI इस्तेमाल कर सकते हैं और फिर भी चोट नहीं खाते।
क्या "क्या तुम्हें यकीन है?" पूछने से गलत जवाब ठीक हो जाता है?
बहुत कम, और इससे बात बिगड़ भी सकती है। मॉडल आपकी आपत्ति के साथ चल पड़ने की ओर झुकते हैं, इसलिए वे अक्सर सही जवाब छोड़कर उसकी जगह कमज़ोर जवाब रख देते हैं। वही सवाल नई चैट में पूछना कहीं बेहतर जांच है, क्योंकि दूसरा जवाब आपके संदेह के दबाव के बिना बनता है।
AI के जवाब को जल्दी कैसे जांचें?
उसने जो भी स्रोत दिए हैं उन्हें खोलें और पक्का करें कि उनमें वही लिखा है जो दावा किया गया। अगर कोई स्रोत नहीं है, तो वही सवाल नई चैट में पूछें और देखें कि ब्योरे टिकते हैं या नहीं। जिस भी तथ्य पर आप अमल करने वाले हैं, उसे किसी दूसरे प्रदाता के मॉडल से भी पूछ लें, क्योंकि दो सिस्टम शायद ही कभी एक जैसा ब्योरा गढ़ते हैं।