Knowledge cutoff क्या है?

मॉडल ने एक तारीख पर पढ़ना बंद कर दिया, और उसे खुद यह तारीख पता नहीं

एक भाषा मॉडल टेक्स्ट के एक तय समूह से सीखता है जो ट्रेनिंग शुरू होने से पहले जुटाया जाता है। What is an LLM में ट्रेनिंग के दोनों चरण बताए गए हैं; यहां बात यह है कि दोनों चरणों में एक अंतिम तारीख तक का डेटा इस्तेमाल होता है। उस तारीख के बाद प्रकाशित कुछ भी मॉडल में नहीं है। न चुनाव, न कीमत में बदलाव, न खुद मॉडल के बारे में खबर।

वेंडर यह तारीख model card पर प्रकाशित करते हैं, और अब कई बार दो तारीखें देते हैं। Anthropic एक "training data cutoff" बताता है, यानी जिस आखिरी तारीख तक का डेटा शामिल किया गया, और एक "reliable knowledge cutoff", यानी उससे पहले की एक तारीख जिससे पहले तक की जानकारी इतनी घनी है कि उस पर भरोसा किया जा सके। इन दोनों के बीच का अंतर इसलिए है क्योंकि किसी घटना के बारे में इंटरनेट पर लिखने में महीनों लगते हैं: मार्च में हुई कोई रिलीज़ अप्रैल में मुट्ठी भर पन्नों पर होती है और सितंबर तक हजारों पर। जुलाई में ट्रेन किया गया मॉडल मार्च को अच्छी तरह जानता है और जुलाई को मुश्किल से।

मॉडल खुद इनमें से कोई तारीख नहीं बता सकता। उसके पास न कोई कैलेंडर है, न अपनी ट्रेनिंग का कोई रिकॉर्ड; "आपका knowledge cutoff क्या है" पूछने पर, वह अपने ट्रेनिंग डेटा में उस सवाल का सबसे संभावित जवाब बनाता है, जो अक्सर किसी पुराने मॉडल के बारे में पढ़ी गई तारीख होती है। Anthropic के प्रकाशित system prompt Claude को उसका cutoff साफ़ शब्दों में बताते हैं, जो यह कबूल करता है कि मॉडल को यह वैसे पता नहीं होता। तारीख हमेशा model card से लें, चैट से कभी नहीं।

मॉडल लॉन्च के दिन कितना पुराना होता है, नापकर देखा गया

ट्रेनिंग में महीनों लगते हैं, और evaluation व safety का काम उससे ज़्यादा, इसलिए मॉडल लॉन्च होते ही पीछे होता है। यह chart आठ model card पढ़ता है: reliable या बताया गया knowledge cutoff बनाम सार्वजनिक रिलीज़ की तारीख, पूरे महीनों में।

दो पैटर्न दिखते हैं। OpenAI के flagship मॉडल सबसे ज़्यादा पीछे रिलीज़ हुए, GPT-4.1 और GPT-5 दोनों के लिए दस महीने, जबकि Anthropic और Google दो से चार महीने पर टिके रहे। और सेवा में रहते हुए यह अंतर बढ़ता ही जाता है: GPT-4o लॉन्च के एक साल बाद भी ChatGPT का डिफ़ॉल्ट मॉडल बना रहा, जब तक उसका ज्ञान 19 महीने पुराना हो चुका था। रोज़ इस्तेमाल होने वाला मॉडल आमतौर पर एक साल या उससे ज़्यादा पीछे होता है जब आप उससे कुछ पूछते हैं।

ऊपर दी गई तारीखें वेंडर की अपनी हैं, इस पेज के अंत में जुड़े model card से ली गई हैं। AI model timeline में साइट पर ट्रैक किए जाने वाले हर मॉडल की रिलीज़ तारीख है।

जब आप लाइन के बाद का पूछते हैं तो मॉडल क्या करता है

वह जवाब देता है। यही असली दिक्कत है। मॉडल के पास कोई lookup step नहीं होता जो "नहीं मिला" लौटाए; वह सबसे संभावित जवाब बनाता है, और पिछले महीने के किसी सवाल के लिए यह जवाब ट्रेनिंग डेटा में मौजूद मिलते-जुलते सवालों के पैटर्न से बनता है। cutoff के बाद रिलीज़ हुए किसी प्रोडक्ट के बारे में पूछें और मॉडल बताएगा कि ऐसा प्रोडक्ट कैसा हो सकता है। मौजूदा कीमत पूछें और वह cutoff के समय की कीमत present tense में बताएगा।

What is an AI hallucination में बताया गया है कि मॉडल अनिश्चित होने की बजाय आत्मविश्वास से जवाब क्यों देता है, लेकिन cutoff वाले मामले में एक पहचान है जो आप इस्तेमाल कर सकते हैं: जवाब सुसंगत तो होता है पर थोड़ा पुराना। मॉडल का नाम एक वर्ज़न पीछे होता है, कीमत पिछले साल की होती है, "latest" फीचर वह होता है जो ट्रेनिंग के दौरान मौजूद था। पुराना जवाब गलत नहीं दिखता; वह बीते हुए समय जैसा दिखता है।

इलाज है search, और यह उन मॉडल पर भी चलता है जिनके पास खुद कोई search नहीं है

cutoff को हिलाया नहीं जा सकता, इसलिए इलाज यह है कि जवाब देते समय मॉडल को मौजूदा टेक्स्ट थमाया जाए। इसके दो तरीके हैं। डॉक्यूमेंट अपलोड करने से आपका टेक्स्ट prompt में आ जाता है, और मॉडल उसी से जवाब देता है। Web search पन्ने लाकर खुले वेब के साथ यही करता है। दोनों grounding हैं, और दोनों वही तंत्र हैं जो what is RAG में बताया गया है: मॉडल फिर भी अनुमान लगाता है, बस उस सामग्री से जो उसकी ट्रेनिंग के बाद की है।

Whizi में, web search डिफ़ॉल्ट रूप से चालू रहता है, यह composer में attach बटन के बगल में होता है, और आप जो भी मॉडल चुनें उस पर लागू होता है। यही सबसे काम की बात है। Claude हो या कोई Llama मॉडल: टॉगल चालू होने पर, हर एक इस हफ्ते के किसी सवाल का जवाब लाइव स्रोतों से देता है। यह टॉगल कमांड नहीं बल्कि अनुमति देता है, इसलिए किसी कविता के अनुरोध पर search नहीं चलता और तारीख वाले सवाल पर चलता है। Search में कोई क्रेडिट नहीं लगता; मैसेज की कीमत वही होती है जो जवाब देने वाले मॉडल की क्रेडिट श्रेणी है, search के बिना भी उतनी ही।

एक सीमा साफ़ बता देना ज़रूरी है। Search पुराने होने की समस्या ठीक करता है; भरोसेमंदी की नहीं। एक पुरानी ब्लॉग पोस्ट उतनी ही आसानी से मिल जाती है जितनी किसी वेंडर का पेज, इसलिए कीमत या स्पेसिफिकेशन के लिए उस पर काम करने से पहले दिए गए लिंक को खोलकर देखें, और जो बात मायने रखती है उसके लिए search चालू रखकर किसी दूसरे मॉडल से भी पूछें और तुलना करें।

छह महीने पीछे मान लें, फिर सवाल को छांटें

मान लें कि हर मॉडल कम से कम छह महीने पीछे है, और जो मॉडल आप कुछ समय से इस्तेमाल कर रहे हैं वह एक साल या उससे ज़्यादा पीछे है। फिर सवाल को छांटें। अगर जवाब उस तारीख के बाद की दुनिया के तथ्यों पर निर्भर करता है, तो search चालू करें या स्रोत अपलोड करें। अगर जवाब बातचीत में पहले से मौजूद किसी बात पर तर्क करने से जुड़ा है, तो cutoff मायने नहीं रखता और search बंद रखा जा सकता है।

तारीख के लिए मॉडल से नहीं, model card से जांच करें। और जब कोई मॉडल खुद कहे "as of my last update", तो इसे मॉडल का अपने ट्रेनिंग डेटा से हवाला मानें, अपने बारे में कोई तथ्य बताना नहीं, और उसके बाद जो भी कहा जाए उसे उसी शक की नज़र से देखें।