AI गलत जवाब क्यों देता है, और नुकसान होने से पहले उसे कैसे पकड़ें

बिना शब्दजाल के, यह चीज़ काम कैसे करती है

जब आप किसी AI चैटबॉट से कोई सवाल पूछते हैं, तो वह कहीं कुछ ढूंढ नहीं रहा होता। वह एक बार में कुछ अक्षर जोड़ते हुए ऐसा टेक्स्ट बना रहा होता है जो इस पैटर्न पर फिट बैठे कि उस सवाल का सही जवाब आमतौर पर कैसे लिखा जाता है। बस यही उसका पूरा काम है। पैटर्न पर फिट बैठना और सच होना, ये दो अलग निशाने हैं, और इस प्रक्रिया में कुछ भी दूसरे निशाने पर नहीं लगा है।

ज़्यादातर समय आपको इसका पता ही नहीं चलता, क्योंकि ये दोनों निशाने आपस में ओवरलैप करते हैं। जिस टेक्स्ट से इन सिस्टम ने सीखा, वह ज़्यादातर उन लोगों ने लिखा था जो ज़्यादातर सही थे, इसलिए जवाब जैसा दिखने वाला टेक्स्ट आमतौर पर सही टेक्स्ट भी होता है। किनारों पर यह ओवरलैप पतला पड़ जाता है: वे तथ्य जो दुर्लभ हैं, ताज़ा हैं, बहुत खास हैं, या मॉडल ने जो पढ़ा उसमें थे ही नहीं। उन किनारों पर भी सही जवाब का आकार बना देना आसान रहता है। उसका असली मज़मून बना देना नहीं। आपको जो मिलता है वह एक तथ्य की तरह गढ़ा गया वाक्य होता है, सही जगह पर एक आंकड़े और भरोसेमंद लगते नाम के साथ, जो ऐसी किसी चीज़ का ब्योरा देता है जो कभी हुई ही नहीं।

इसी से यह भी समझ आता है कि सबसे स्पष्ट अगला सवाल क्यों नाकाम रहता है। "क्या तुम्हें यकीन है?" पूछना ऑडिट जैसा लगता है। ऑडिट है नहीं। सहमति एक मददगार जवाब के पैटर्न पर फिट बैठती है, इसलिए दबाव आमतौर पर सहमति ही पैदा करता है, और मॉडल अक्सर माफ़ी मांगकर सही जवाब को किसी कमज़ोर जवाब से बदल देगा। दो मिनट में इसे आज़माएं: कुछ ऐसा पूछें जो आप पहले से जानते हैं, सही जवाब मान लें, फिर कहें "यह सही नहीं लग रहा" और देखें। जो लौटकर आता है वह वही मशीनरी है जो सहमति वाला टेक्स्ट बना रही है, कोई दूसरी राय नहीं। यह सब बनता कैसे है, इसकी सबसे बुनियादी समझ के लिए AI असल में है क्या बिना गणित के यही बात कवर करता है।

वे पांच जगहें जहां यह सबसे ज़्यादा गलती करता है

गलतियां हर उस चीज़ पर बराबर नहीं फैली होतीं जो आप पूछ सकते हैं। वे झुंड बनाती हैं। इन पांच झुंडों को पहचान लेना आपके अंदर एक छोटा अलार्म लगा देता है जो ठीक सही मौके पर बजता है, और यह उस आम सावधानी से कहीं ज़्यादा काम का है जो हर वक्त बजती रहती है और फिर बजना ही बंद कर देती है।

हवालों वाली पंक्ति की कीमत मशहूर है। जून 2023 में एक संघीय जज ने न्यूयॉर्क के दो वकीलों और उनकी फर्म पर 5,000 डॉलर का जुर्माना लगाया, क्योंकि उन्होंने ऐसा दस्तावेज़ दाखिल किया था जो ChatGPT की गढ़ी हुई छह अदालती मिसालों पर टिका था, नाम, हवाले और उद्धृत अंश समेत (Mata बनाम Avianca)। पर आखिरी पंक्ति वाली गलती आप खुद पैदा करते हैं, और असली इस्तेमाल में यही सबसे आम है। "X, Y से बेहतर क्यों है" पूछना लगभग तय कर देता है कि X के पक्ष में दलील मिलेगी, और जिस सवाल में "ज़ाहिर है" या "यह सच है न कि" जुड़ा हो, उस पर आमतौर पर हां ही मिलती है। इसकी जगह यह पूछें: "इस स्थिति के लिए X और Y की तुलना करो, फिर तुमने जिसे चुना उसके खिलाफ़ सबसे मज़बूत दलील दो।" सवालों को इस तरह लिखना कि उनमें जवाब चोरी-छिपे न घुसा हो, वही आधा हिस्सा है जिसे लोग प्रॉम्प्टिंग कहते हैं, और बाकी आधा AI से बात कैसे करें में है। एक और बात शुरू में ही जान लेना अच्छा है। बहुत लंबी बातचीत में, या कोई बहुत लंबा दस्तावेज़ पेस्ट करने के बाद, शुरुआत के ब्योरे मॉडल की नज़र से फिसल सकते हैं, और वह आपको यह बताने के बजाय कि उसका सिरा छूट गया, उस खाली जगह को भर देगा। यह सच्चाई की नहीं, क्षमता की सीमा है, और यह छत कहां लगती है, यह कॉन्टेक्स्ट विंडो क्या है समझाता है।

आत्मविश्वास भरा लहज़ा कोई दिखावा नहीं है

ज़्यादातर लोग यहां एक वाजिब लगती धारणा के साथ पहुंचते हैं: कि यह चीज़ जानती है कि वह कितनी आश्वस्त है और काबिल दिखने के लिए अपना संदेह छिपा लेती है। यह धारणा गलत है, और यह मायने रखती है, क्योंकि इसके चलते आप ऐसे भरोसे के संकेत की तलाश में लग जाते हैं जो कभी था ही नहीं।

कोई भरोसे का मीटर नहीं है जिसे आपसे छिपाया जा रहा हो। सिस्टम के पास कोई निजी आंकड़ा नहीं बैठा है जो 62 प्रतिशत दिखाता हो और वह 100 जैसा सुनाई देना चुन रहा हो। वह गलत जवाब उसी प्रक्रिया से, उसी रवानी के साथ बनाता है जिससे सही जवाब बनाता है। ठीक इसीलिए यहां लहज़ा एक संकेत के तौर पर बेकार है, जबकि इंसानों के मामले में ऐसा नहीं होता। "मुझे पूरा यकीन नहीं है, लेकिन" जैसी हिचक भी बनाया हुआ टेक्स्ट ही है। वह इसलिए आती है क्योंकि ऐसे आकार के सवालों पर यह वाक्यांश फिट बैठता है, इसलिए नहीं कि अंदर किसी चीज़ ने चेतावनी दी हो। किसी मॉडल से दस में से अपना भरोसा आंकने को कहें और आपको एक नंबर मिलेगा, अक्सर ऊंचा नंबर, ठीक उस हवाले के बगल में जो उसने खुद गढ़ा है। वह रेटिंग भी उसी प्रक्रिया से बनी है जिससे वह हवाला बना।

इसलिए "सिर्फ़ तभी जवाब दो जब तुम्हें यकीन हो" या "कुछ भी मत गढ़ो" जैसे निर्देश उतनी मदद नहीं करते जितनी लोग उम्मीद करते हैं। किसी ज़रूरी सवाल में "अगर नहीं पता तो कह दो कि नहीं पता" जोड़ना फिर भी काम की बात है, क्योंकि नए मॉडल पहले से ज़्यादा आसानी से मना कर देते हैं, लेकिन इसे एक इशारा मानें, गारंटी नहीं। इसी विचार का भरोसेमंद रूप बाहर की तरफ़ इशारा करता है: जवाब से ऐसी कोई चीज़ दिखवाएं जिसे आप खुद खोल सकें। जब कोई ऐप वेब पर खोजता है और लिंक जोड़ता है, तो आप खुद वह पेज पढ़ सकते हैं और किसी भी बात पर उसकी ज़बान मानना बंद कर सकते हैं। जब वह सिर्फ़ अपनी याददाश्त से जवाब देता है, तो उसकी ज़बान के अलावा आपके पास कुछ है ही नहीं।

चार जांचें, सबसे कम खर्चीली से शुरू

आप हर चीज़ जांचने वाले नहीं हैं, और कोशिश का अंजाम यह होगा कि आप कुछ भी नहीं जांचेंगे। आपको ऐसी जांच चाहिए जो उस गलती से सस्ती पड़े। ये चार जांचें लगभग मुफ़्त से लेकर थोड़ी झंझट वाली तक हैं, और ज़्यादातर सवालों के लिए पहली ही जांच काफ़ी होती है।

1. स्रोत मांगें, फिर उन्हें खोलें। "अपने स्रोत बताओ" कहकर रस्म पूरी मत करें। उन पर क्लिक करें। एक मरा हुआ लिंक, या ऐसा चालू पेज जिसमें वह दावा है ही नहीं, दस सेकंड में मामला निपटा देता है।
2. किसी नई चैट में दोबारा पूछें। वही सवाल, नई बातचीत, पहले की कोई बहस नहीं। अगर आंकड़े, नाम या तारीखें अलग लौटती हैं, तो मॉडल कुछ याद नहीं कर रहा था, खाली जगहें भर रहा था। इसमें कुछ खर्च नहीं होता और गढ़े हुए ब्योरों का हैरान करने वाला हिस्सा पकड़ में आ जाता है।
3. किसी दूसरे मॉडल से पूछें। तथ्य वाले सवालों के लिए यह सबसे काम की जांच है। वही सवाल किसी दूसरे प्रदाता के मॉडल में पेस्ट करें और लहज़े की नहीं, ब्योरों की तुलना करें।
4. इसे सामान्य तरीके से सर्च करें। जो कुछ आप भेजने, साइन करने, प्रकाशित करने या जिस पर पैसा खर्च करने वाले हैं, उसे सर्च इंजन में नब्बे सेकंड दें। AI एक बेहतरीन पहला दौर है। पहला दौर सत्यापन नहीं है।

तीसरी बात अपनी जगह कमाती है। अलग-अलग कंपनियों के बनाए दो मॉडल, जो अलग डेटा पर अलग तरीकों से प्रशिक्षित हुए हैं, एक ही सवाल पर दोनों गलत हो सकते हैं। लेकिन वे शायद ही कभी एक जैसा गलत ब्योरा गढ़ते हैं, क्योंकि गढ़ा हुआ ब्योरा किसी एक खास सिस्टम की खास खाली जगहों से निकलता है। जब Claude और ChatGPT अलग-अलग आपको वही एक आंकड़ा देते हैं, तो वह आंकड़ा शायद असली है। जब वे आपस में असहमत होते हैं, तो आपने ठीक वही वाक्य ढूंढ लिया है जिसे जांचना चाहिए, और यह इस धुंधले एहसास से कहीं बेहतर है कि जवाब में कहीं कुछ गड़बड़ है। कभी-कभार की जांच के लिए दो प्रदाताओं के फ्री टियर काफ़ी हैं और उनमें कुछ खर्च नहीं होता। लेकिन जैसे ही क्रॉस-चेक करना आदत बन जाए, यह मुफ़्त नहीं रहता, क्योंकि पेड एक्सेस प्रति प्रदाता करीब 20 डॉलर महीने का पड़ता है, और यही वह फ़ासला है जिसे Whizi जैसी मल्टी-मॉडल सदस्यता पाटती है। कई मॉडल एक साथ इस्तेमाल करना इस तरीके को कदम दर कदम बताता है।

यह कहां मायने रखता है, और कहां सचमुच नहीं

हर चीज़ पर लागू होने वाली सत्यापन की आदत एक हफ़्ते में ढह जाती है। आप जो कुछ पूछते हैं उसमें से ज़्यादातर में दांव कम होता है और जांच अपने आप हो जाती है। अपने ही ईमेल का छोटा संस्करण मांगें और आप खुद देख सकते हैं कि वह छोटा हुआ या नहीं और उसमें वही बात बची या नहीं जो आप कहना चाहते थे। यही बात विचार जुटाने, नाम सोचने, रूपरेखा बनाने, ड्राफ्ट लिखने, ऐसे संदेश का अनुवाद करने जिसे आप भेजने से पहले पढ़ लेंगे, या बिखरे नोट्स को सूची में बदलने पर लागू होती है। जांच आप खुद हैं, और गलती तुरंत आपके सामने आ जाती है।

दो सवाल किसी भी काम को सही खाने में डाल देते हैं, और खुद से ये पूछने में करीब तीन सेकंड लगते हैं।

1. अगर यह गलत हुआ, तो किसे पता चलेगा, और कब? आपको, अभी दस सेकंड बाद पढ़ते हुए, या किसी क्लाइंट को, तीन महीने बाद?
2. क्या मैं इसे पलट सकता हूं? एक खराब पैराग्राफ़ मिटाना मुफ़्त है। टैक्स रिटर्न दोबारा भरना, भेजा हुआ कोटेशन वापस लेना या भुगतान पलटना मुफ़्त नहीं है।

अगर इनमें से किसी भी जवाब पर आप ठिठकते हैं, तो कुछ भी करने से पहले हर खास दावा जांच लें। इस खाने के साफ़ सदस्य ये हैं: दवाओं के नाम और खुराक, कानूनी और फ़ाइलिंग की समय-सीमाएं, टैक्स के आंकड़े, कॉन्ट्रैक्ट की शर्तें, किसी की सेहत या इमिग्रेशन स्थिति से जुड़ी हर बात, और ऐसा कोड जो पैसा हिलाता है या निजी डेटा संभालता है। ईमेल में एक गलत पर्यायवाची से आप एक दिन के लिए थोड़े अजीब लगेंगे। गलत खुराक या चूकी हुई समय-सीमा को AI बाद में नहीं संभालता। AI सुरक्षित है या नहीं इस पहलू को और गहराई से कवर करता है, साथ ही यह भी कि आपको कभी क्या पेस्ट नहीं करना चाहिए। एक आदत से शुरुआत करें: जिस पल किसी जवाब में कोई आंकड़ा, नाम, तारीख या लिंक आए, उसी हिस्से को असत्यापित मानें और जांच लें। बाकी आमतौर पर ठीक होता है।