सीधी-सादी व्याख्या
कॉन्टेक्स्ट विंडो वह कुल टेक्स्ट है जिसे कोई मॉडल एक साथ अपनी नज़र में रख सकता है। हिंदी में इसे संदर्भ विंडो भी कहते हैं। आपकी मौजूदा बातचीत के बारे में मॉडल जो कुछ भी जानता है, वह सब इसी के अंदर समाना चाहिए: आपके निर्देश, आप दोनों के भेजे हुए सारे संदेश, आपकी अपलोड की हुई हर फ़ाइल, और वह जवाब जो वह अभी लिखने वाला है।
एक काम की तस्वीर दिमाग में रखिए: मॉडल को आपकी बातचीत बिल्कुल भी याद नहीं रहती। हर बार जब आप कोई संदेश भेजते हैं, अब तक की पूरी बातचीत उसे नए सिरे से थमा दी जाती है, वह पूरी पढ़ता है, और अगला जवाब लिखता है। कॉन्टेक्स्ट विंडो उस मेज़ का आकार है जिस पर यह पूरा रिकॉर्ड फैलाना है। मेज़ भर जाए तो कुछ न कुछ नीचे उतारना ही पड़ता है।
यही वजह है कि कोई AI बीस संदेशों तक तेज़ लगता है और फिर अपनी ही बात काटने लगता है, शुरुआत में तय की गई कोई शर्त भूल जाता है, या वही फ़ाइल दोबारा मांगता है जो आप उसे पहले ही दे चुके हैं। वह उलझा नहीं है। बातचीत का शुरुआती हिस्सा मेज़ से खिसककर गिर चुका है।
एक फ़र्क शुरू में ही साफ़ कर लीजिए, क्योंकि यहीं सबसे ज़्यादा भ्रम पैदा होता है: कॉन्टेक्स्ट विंडो और मेमोरी एक चीज़ नहीं हैं। ChatGPT और Claude जैसे प्रोडक्ट में मेमोरी नाम की एक अलग सुविधा होती है, जो अलग-अलग बातचीतों के बीच आपके बारे में तथ्य सहेजती है और चुपचाप उन्हें नई बातचीत में डाल देती है। वह मॉडल के ऊपर बनाया गया एक प्रोडक्ट फ़ीचर है। कॉन्टेक्स्ट विंडो खुद मॉडल की एक पक्की सीमा है, और कोई भी मेमोरी सुविधा उसे बड़ा नहीं करती।
टोकन, और उनका अंदाज़ा कैसे लगाएं
कॉन्टेक्स्ट विंडो शब्दों में नहीं, टोकन में नापी जाती है, क्योंकि मॉडल शब्द पढ़ते ही नहीं। टोकन उन शब्दों में से एक है जिसे AI शब्दावली एक वाक्य में परिभाषित करती है, उसके आस-पास मौजूद पचास-साठ और शब्दों के साथ। वे टुकड़े पढ़ते हैं: आम शब्द आमतौर पर एक टोकन होते हैं, लंबे या असामान्य शब्द कई हिस्सों में बंट जाते हैं, और विराम चिह्न तथा स्पेस भी गिने जाते हैं।
याद रखने लायक मोटे-मोटे हिसाब ये हैं:
- 1 टोकन अंग्रेज़ी के करीब 4 अक्षरों के बराबर है, यानी लगभग तीन-चौथाई शब्द। AI में टोकन क्या हैं यह इकाई पूरी तरह समझाता है।
- 1,000 टोकन मोटे तौर पर 750 शब्द होते हैं, यानी सामान्य गद्य के करीब डेढ़ पन्ने।
- कोड ज़्यादा सघन होता है। चिह्नों, इंडेंटेशन और अजीब नामों की वजह से वहां करीब तीन अक्षर पर एक टोकन मानकर चलिए।
- दूसरी भाषाएं कम किफ़ायती पड़ती हैं। जिन भाषाओं का हिस्सा टोकनाइज़र में कम है, उनमें वही बात कहने के लिए दो से तीन गुना टोकन लग सकते हैं। हिंदी उन्हीं में आती है, और अगर आप प्रति टोकन पैसे दे रहे हैं तो यह जानना ज़रूरी है।
इससे आपको उन आंकड़ों की तस्वीर मिल जाती है जो आप मार्केटिंग सामग्री में देखते हैं:
| कॉन्टेक्स्ट विंडो | मोटे तौर पर इतना |
|---|---|
| 8,000 टोकन | एक लंबा लेख |
| 32,000 टोकन | नोट्स के साथ एक छोटा शोध पत्र |
| 128,000 टोकन | 300 पन्नों की एक किताब |
| 200,000 टोकन | एक सघन तकनीकी मैनुअल, या मंझोले आकार का कोडबेस |
| 1,000,000 टोकन | कई किताबें, या साल भर की मीटिंग ट्रांसक्रिप्ट |
यह तालिका जो बात छिपा जाती है वह अहम है: सीमा पूरी बातचीत पर लागू होती है, हर संदेश पर अलग-अलग नहीं। 128,000 टोकन की विंडो का मतलब यह नहीं कि आप बार-बार 128,000 टोकन भेज सकते हैं। इसका मतलब है कि सब कुछ मिलाकर चलता हुआ कुल जोड़, जिसमें मॉडल के अपने जवाब भी शामिल हैं, उस आंकड़े से नीचे रहना चाहिए।
आपकी विंडो असल में भरता क्या है
लोग अक्सर हैरान होते हैं कि विंडो कितनी तेज़ी से भर जाती है, क्योंकि उसमें जाने वाला ज़्यादातर हिस्सा दिखता ही नहीं। एक आम चैट सेशन में मॉडल हर एक बारी पर यह सब पढ़ रहा होता है:
- सिस्टम प्रॉम्प्ट। वे निर्देश जो प्रोडक्ट आपके कुछ भी लिखने से पहले भेज देता है: कैसे व्यवहार करना है, कौन से टूल मौजूद हैं, आज की तारीख, सुरक्षा नियम। अक्सर हज़ारों टोकन, और वह आपको कभी दिखता नहीं।
- आपके कस्टम निर्देश या मेमोरी। आपके बारे में प्रोडक्ट ने जो कुछ सहेजा है और अपने आप जोड़ देता है।
- पिछला हर संदेश, आपका भी और मॉडल का भी, पूरा का पूरा। मॉडल के लंबे जवाब भी गिने जाते हैं, और आमतौर पर सबसे ज़्यादा जगह वही घेरते हैं।
- अपलोड की हुई हर फ़ाइल, या उसका निकाला हुआ हिस्सा। 40 पन्नों की एक PDF मोटे तौर पर 20,000 से 30,000 टोकन होती है।
- टूल और सर्च के नतीजे। पांच पन्ने खींच लाने वाली एक वेब सर्च आपकी अब तक की पूरी बातचीत से भी ज़्यादा जोड़ सकती है।
- जो जवाब बन रहा है, वह भी। आउटपुट उसी बजट में से खर्च होता है जिसमें से इनपुट।
इसीलिए जो बातचीत छोटी लगी थी, वह अपनी सीमा के पास पहुंच सकती है। आपने आठ छोटे संदेश भेजे, लेकिन मॉडल ने आठ लंबे जवाब लिखे, आपने दो दस्तावेज़ जोड़े, और उसने तीन बार सर्च चलाई। इसमें से जो आपको दिख रहा है वह शायद कुल का दस फ़ीसदी है।
और इसीलिए उलझी हुई बातचीत का इलाज अक्सर "नई चैट शुरू करो" ही होता है। आप मॉडल का मूड नहीं बदल रहे। आप मेज़ खाली कर रहे हैं।
विज्ञापित आकार बनाम काम लायक आकार
यही हिस्सा सबसे ज़्यादा मायने रखता है और सबसे कम चर्चा में आता है। मॉडल की गुणवत्ता सीमा तक एक जैसी टिकी नहीं रहती कि फिर अचानक धड़ाम से गिर जाए। वह धीरे-धीरे गिरती है, और गिरना सीमा से काफ़ी पहले शुरू हो जाता है।
इसका सबसे अच्छी तरह दर्ज किया गया रूप अक्सर "लॉस्ट इन द मिडल" कहलाता है, यानी बीच में खो जाने वाला असर। किसी लंबे दस्तावेज़ की शुरुआत में कोई खास तथ्य रख दीजिए, मॉडल उसे ढूंढ लेगा। आख़िर में रख दीजिए, तब भी ढूंढ लेगा। उसे बीचोंबीच दबा दीजिए और सटीकता गिर जाती है: मूल "लॉस्ट इन द मिडल" प्रयोगों (Liu et al., 2023, लिंक नीचे दिया है) में अहम दस्तावेज़ को इनपुट के किनारों से हटाकर बीच में रखने पर मॉडलों की सटीकता करीब 20 अंक गिर गई। लंबे इनपुट में ध्यान बराबर नहीं बंटता, और किनारों को उसका ज़्यादा हिस्सा मिलता है।
मामला तब और मुश्किल हो जाता है जब काम के लिए लंबे इनपुट में बिखरे कई तथ्यों को आपस में जोड़ना पड़े। भूसे के ढेर में एक सुई ढूंढना हल हो चुकी समस्या है। चार सुइयां ढूंढकर उनके आपसी रिश्ते पर तर्क करना नहीं, और लोग बड़ी कॉन्टेक्स्ट विंडो इस्तेमाल ही ठीक इसी काम के लिए करते हैं।
इसलिए विज्ञापित आंकड़े को अधिकतम क्षमता मानिए, आराम से काम करने का दायरा नहीं। असली इस्तेमाल से निकला एक व्यावहारिक नियम: विज्ञापित विंडो के करीब आधे हिस्से तक व्यवहार भरोसेमंद रहता है, और उससे आगे की हर बात पर भरोसा करने के बजाय उसे जांच लेना चाहिए। अगर कोई मॉडल कहे कि 300 पन्नों के इस अनुबंध में समाप्ति की कोई शर्त नहीं है, तो जांच लीजिए, खासकर तब जब वह शर्त बीच में पड़ने वाली हो।
तुलना के लिहाज़ से इसका मतलब यह है कि दस लाख टोकन की विंडो वाला मॉडल लंबे दस्तावेज़ों में 200,000 वाले मॉडल से अपने आप बेहतर नहीं हो जाता। वह उन्हें अंदर लेने में बेहतर है। पूरे इनपुट पर वह अच्छा तर्क करता है या नहीं, यह अलग सवाल है, और जानने का इकलौता तरीका है ऐसे दस्तावेज़ पर टेस्ट करना जिसका जवाब आपको पहले से पता हो।
जब जगह खत्म हो जाती है तब क्या होता है
अलग-अलग प्रोडक्ट ओवरफ़्लो को अलग-अलग तरीके से संभालते हैं, और आप कौन सा इस्तेमाल कर रहे हैं यह जान लेने भर से बहुत सारा अजीब व्यवहार समझ में आ जाता है।
| व्यवहार | आपको क्या दिखता है | कहां होता है |
|---|---|---|
| सीधी एरर | लंबाई का संदेश देकर रिक्वेस्ट ठुकरा दी जाती है | ज़्यादातर सीधे API इस्तेमाल में |
| बिना बताए कटौती | सबसे पुराने संदेश बिना बताए हटा दिए जाते हैं | कई चैट इंटरफ़ेस में |
| रोलिंग सारांश | पुराने संदेश दबाकर एक सारांश में बदल दिए जाते हैं | चैट प्रोडक्ट में लगातार आम होता जा रहा है |
| रिट्रीवल | हर बारी पर आपके दस्तावेज़ों का सिर्फ़ ज़रूरी हिस्सा लाया जाता है | दस्तावेज़ और नॉलेज-बेस टूल में |
असली दिक्कत बिना बताए होने वाली कटौती से होती है, क्योंकि इसकी कोई सूचना ही नहीं मिलती। लक्षण यह है कि मॉडल अचानक शुरुआत में तय किया गया कोई नियम अनदेखा कर देता है, एक घंटा पहले सुधारे गए लहज़े पर लौट आता है, या वही सवाल पूछता है जिसका जवाब आप दे चुके हैं। मॉडल में कुछ खराब नहीं हुआ है। वे निर्देश बस अब मेज़ पर नहीं हैं।
रोलिंग सारांश इससे बेहतर हैं, पर उनमें भी नुकसान होता है। सारांश मूल भाव रख लेता है और ब्योरा छोड़ देता है, इसलिए "'तालमेल' शब्द कभी मत लिखना" वाली शर्त बचकर "उपयोगकर्ता की शैली को लेकर कुछ पसंद-नापसंद हैं" बन जाती है, जिससे आपका कोई भला नहीं होता।
वे व्यावहारिक तरीके जो सच में काम करते हैं
इन्हें मेहनत के मुकाबले असर के हिसाब से क्रम में रखा गया है।
विषय बदलते ही नई चैट शुरू करें। यह सबसे ज़्यादा फ़ायदा देने वाली एक अकेली आदत है। लंबी बातचीत अपने साथ उससे पहले की हर चीज़ का बोझ ढोती है, उन बातों का भी जो अब बेमतलब हो चुकी हैं। लंबी बातचीतें ज़्यादा जानकार नहीं होतीं, वे बस ज़्यादा महंगी और ज़्यादा पतली होती हैं।
अपना सवाल लंबी सामग्री के बाद रखें, पहले नहीं। अगर आप कोई दस्तावेज़ पेस्ट करके फिर सवाल पूछते हैं, तो सवाल उस जगह के पास होता है जहां जवाब बनता है, और लंबे इनपुट पर इससे सटीकता नापने लायक हद तक सुधरती है। पहले पेस्ट, बाद में सवाल।
ज़रूरी शर्तों को बीच-बीच में दोहराते रहें। करीब पंद्रह आदान-प्रदान से लंबी किसी भी बातचीत में, जो नियम मायने रखते हैं उन्हें उसी संदेश में दोहराइए जहां वे मायने रखते हैं: "याद दिला दूं, हिंदी में लिखना है, बुलेट पॉइंट नहीं, 400 शब्दों के अंदर"। इसमें आपकी एक लाइन खर्च होती है और यह कटौती के बाद भी बची रहती है।
पूरी किताब नहीं, काम के पन्ने भेजें। अगर आपको मॉडल से क्षतिपूर्ति वाली शर्त जंचवानी है, तो उसे वही शर्त और उसके आसपास का हिस्सा दीजिए। मात्रा से बेहतर सटीक चुनाव है, यह तेज़ भी है, सस्ता भी, और ज़्यादा सही भी।
सोच-समझकर सारांश बनाइए और दोबारा शुरू कीजिए। जब कोई काम का सेशन लंबा खिंच जाए, तो एक व्यवस्थित हैंडऑफ़ मांगिए: अभी की स्थिति, लिए गए फैसले, खुले सवाल, बाधाएं। उसे एक नई चैट में पेस्ट कर दीजिए। सार बचा रहता है और शोर छूट जाता है, और आप देखेंगे कि मॉडल तुरंत तेज़ हो जाता है।
जो समाता ही नहीं, उसके लिए रिट्रीवल इस्तेमाल करें। अगर आपकी सामग्री सचमुच किसी भी विंडो से बड़ी है, तो इलाज बड़ी विंडो नहीं है, बल्कि हर सवाल पर काम के हिस्से खोजकर लाना है। दस्तावेज़ वाले टूल भीतर-भीतर यही करते हैं।
सिर्फ़ एरर नहीं, गुणवत्ता गिरने पर भी नज़र रखें। अगर जवाब धुंधले होने लगें, ज़्यादा गोल-मोल हो जाएं, या फ़ॉर्मेट के निर्देश अनदेखा करने लगें, तो आप शायद विंडो में काफ़ी गहरे उतर चुके हैं। यह मान लेने से पहले कि मॉडल खराब हो गया है, नए सिरे से शुरू कीजिए।
आपको असल में कितनी बड़ी विंडो चाहिए?
सबसे बड़ा आंकड़ा खरीदने के बजाय विंडो को काम से मिलाइए। किसी ख़ास मॉडल का मौजूदा आंकड़ा जानने के लिए, कॉन्टेक्स्ट विंडो तुलना टेबल पूरी सूची टोकन और पन्नों में देती है।
| आपका काम | आपको क्या चाहिए | क्यों |
|---|---|---|
| ईमेल, ड्राफ्टिंग, छोटे सवाल | कोई भी आधुनिक मॉडल | आप सीमा के आसपास भी नहीं पहुंचेंगे |
| लंबे दस्तावेज़ों का संपादन | 100,000 से ऊपर | दस्तावेज़, और उसके साथ उस पर होने वाली बातचीत भी |
| अनुबंध और नीति की समीक्षा | 200,000 से ऊपर, और जांच के साथ | दस्तावेज़, और उस पर होने वाला तर्क भी, ऊपर बताई चेतावनी समेत |
| पूरे कोडबेस पर तर्क | जो सबसे बड़ा उपलब्ध हो | कोड में टोकन सघन होते हैं और फ़ाइलों के आर-पार तर्क के लिए फैलाव चाहिए |
| महीनों की ट्रांसक्रिप्ट का विश्लेषण | जो सबसे बड़ा उपलब्ध हो, या रिट्रीवल | ताकत झोंकने से बेहतर अक्सर रिट्रीवल पड़ता है |
| API पर कोई प्रोडक्ट बनाना | आपकी सोच से छोटी, साथ में कैशिंग | लागत और देरी, दोनों की सबसे बड़ी वजह लंबे प्रॉम्प्ट होते हैं |
ज़्यादातर लोगों के लिए ईमानदार जवाब यह है कि सदस्यता चुनते वक्त कॉन्टेक्स्ट विंडो निर्णायक बात नहीं होती। लेखन की गुणवत्ता, इकोसिस्टम और कीमत ज़्यादा मायने रखते हैं। यह ठीक एक ही हालत में निर्णायक बन जाती है: जब आपके काम में नियमित रूप से इतनी सामग्री डालनी पड़े जितनी सामान्य विंडो में समाती ही नहीं। उस हालत में फ़र्क मामूली नहीं होता, वह मुमकिन और नामुमकिन का फ़र्क होता है।
अगर आप इसे खुद परखना चाहते हैं, तो व्यावहारिक तरीका यह है कि वही लंबा दस्तावेज़ दो-तीन मॉडलों से गुज़ारें और जवाबों को किसी ऐसी बात से मिलाकर देखें जो आपको पहले से पता हो। Whizi जैसा वर्कस्पेस यह आसान कर देता है, क्योंकि GPT, Claude, Gemini, Grok और DeepSeek एक ही सदस्यता के पीछे बैठे हैं, और Gemini की बहुत बड़ी विंडो, Claude के सावधान संश्लेषण से सिर्फ़ एक क्लिक दूर है। मॉडलों की साथ-साथ तुलना देखें, या बड़े फैसले के लिए AI मॉडल कैसे चुनें पढ़ें।
- टोकन का अंदाज़ा इस नियम से लगाएं कि 1,000 टोकन करीब 750 शब्द होते हैं
- याद रखें कि सिस्टम प्रॉम्प्ट, फ़ाइलें, सर्च के नतीजे और जवाब, सब एक ही बजट में से खर्च होते हैं
- विज्ञापित विंडो के करीब आधे हिस्से को ही भरोसेमंद कामकाजी दायरा मानें
- लंबी सामग्री पहले पेस्ट करें और अपना सवाल उसके बाद पूछें
- लंबी बातचीतों में ज़रूरी शर्तें दोहराते रहें ताकि वे कटौती के बाद भी बची रहें
- लंबी बातचीत को खींचने के बजाय लिखित हैंडऑफ़ के साथ नई चैट शुरू करें
अक्सर पूछे जाने वाले सवाल
आसान भाषा में कॉन्टेक्स्ट विंडो क्या है?
यह वह कुल टेक्स्ट है जिसे मॉडल एक साथ अपनी नज़र में रख सकता है, जिसमें आपके निर्देश, अब तक की पूरी बातचीत, अपलोड की हुई फ़ाइलें और जो जवाब लिखा जा रहा है, सब शामिल हैं। जब कुल जोड़ सीमा से आगे निकल जाता है, तो सबसे पुराने हिस्से बाहर हो जाते हैं, और इसीलिए लंबी चैट चीज़ें भूलने लगती हैं।
क्या बड़ी कॉन्टेक्स्ट विंडो हमेशा बेहतर होती है?
नहीं। बड़ी विंडो मॉडल को ज़्यादा इनपुट लेने देती है, लेकिन इनपुट बढ़ने के साथ सटीकता धीरे-धीरे गिरती है, खासकर बीच में दबे तथ्यों के मामले में। दस लाख टोकन की विंडो वाला मॉडल लंबे दस्तावेज़ों में 200,000 वाले से अपने आप बेहतर नहीं होता, इसलिए ऐसी सामग्री से टेस्ट करें जिसका सही जवाब आपको पहले से पता हो।
128,000 टोकन कितने शब्द होते हैं?
मोटे तौर पर 96,000 शब्द, यानी करीब 300 पन्नों की एक किताब। आम हिसाब यह है कि एक टोकन अंग्रेज़ी के करीब चार अक्षरों के बराबर है, इसलिए 1,000 टोकन करीब 750 शब्द हुए। कोड और गैर-अंग्रेज़ी टेक्स्ट उतनी ही सामग्री के लिए ज़्यादा टोकन खाते हैं।
ChatGPT मेरी पहले कही बात क्यों भूल जाता है?
क्योंकि बातचीत कॉन्टेक्स्ट विंडो से आगे बढ़ गई और जगह बनाने के लिए सबसे पुराने संदेश हटा दिए गए या दबाकर छोटे कर दिए गए। ज़्यादातर चैट इंटरफ़ेस यह बिना बताए करते हैं। अपनी ज़रूरी शर्तें दोबारा लिख देना, या एक छोटे सारांश के साथ नई चैट शुरू कर देना, इसे तुरंत ठीक कर देता है।
क्या कॉन्टेक्स्ट विंडो और AI मेमोरी एक ही चीज़ हैं?
नहीं। कॉन्टेक्स्ट विंडो एक बातचीत पर लगी पक्की सीमा है। मेमोरी एक अलग प्रोडक्ट फ़ीचर है, जो अलग-अलग बातचीतों के बीच आपके बारे में तथ्य सहेजता है और उन्हें नई बातचीत में डाल देता है। मेमोरी विंडो को बड़ा नहीं करती, वह उसी का एक हिस्सा खर्च करती है।
