मॉडल कभी शब्द नहीं चुनता। वह लिस्ट में से चुनता है
आपका प्रॉम्प्ट पढ़ने के बाद, एक लैंग्वेज मॉडल अपनी शब्दावली के हर token के लिए एक स्कोर बनाता है, मौजूदा मॉडलों में 100,000 से 200,000 तक, और उन स्कोर को probabilities में बदल देता है: "leaves" 45 प्रतिशत, "weather" 25, "colours" 15, और इसी तरह एक लंबी पूंछ में नीचे तक। LLM क्या है में बताया गया है कि यह इस तरह क्यों काम करता है। फिर यह उस लिस्ट से एक token खींचता है, उसे जोड़ता है, और यह सब फिर से करता है।
Temperature स्कोर और ड्रॉ के बीच लागू होता है। probabilities निकालने से पहले हर स्कोर को temperature से भाग दिया जाता है। 1 से कम नंबर से भाग देने पर स्कोर के बीच का अंतर बढ़ जाता है, इसलिए फेवरेट और आगे निकल जाता है। 1 से ज़्यादा नंबर से भाग देने पर अंतर घट जाता है, इसलिए लंबी पूंछ को असली मौका मिलता है। ठीक 0 पर गणना सिमट कर "हमेशा टॉप स्कोर लो" बन जाती है, इसी वजह से 0 को deterministic बताया जाता है।
यह नाम फिज़िक्स से लिया गया है, जहां गर्म गैस में कणों की गति ज़्यादा रैंडम होती है। ज़्यादा गर्म मॉडल में शब्दों का चुनाव ज़्यादा रैंडम होता है। मॉडल की जानकारी में कुछ नहीं बदलता; सिर्फ़ ड्रॉ बदलता है।
यह नंबर probabilities के साथ क्या करता है, उदाहरण से समझें
एक प्रॉम्प्ट लें जिसके अगले शब्द को मॉडल पांच कैंडिडेट के तौर पर 45, 25, 15, 10 और 5 प्रतिशत आंकता है। यही temperature 1 पर distribution है। इसी फॉर्मूला को 0.5 और 2 पर लगाएं और वही पांच कैंडिडेट नीचे दिए अनुसार आते हैं। ये प्रतिशत फॉर्मूला से निकाले गए हैं, मापे नहीं गए, और यह आकार हर असली distribution में दिखता है।
तीनों पैनल में पांचवां कैंडिडेट देखें: 1 प्रतिशत से कम, फिर 5, फिर 11। 500-token के जवाब में, हर token पर पांचवें सबसे अच्छे शब्द को चुनने का 11 प्रतिशत मौका जुड़कर ऐसा टेक्स्ट बना देता है जो भटकता है, गढ़ता है और आख़िर में समझ से बाहर हो जाता है, जो तब दिखता है जब कोई प्लेग्राउंड स्लाइडर को 2 तक धकेलता है। और टॉप कैंडिडेट देखें: 0.5 पर भी यह तीन में से एक ड्रॉ हार जाता है, इसलिए कम temperature स्थिर है, तय नहीं।
यह आख़िरी बात "deterministic" शब्द के लिए मायने रखती है। Anthropic का API रेफ़रेंस कहता है कि 0 पर भी नतीजे "fully deterministic" नहीं होंगे, और यह एहतियात असली है: पैरेलल हार्डवेयर पर फ्लोटिंग-पॉइंट गणना और प्रोवाइडर-साइड बैचिंग की वजह से 0 पर वही प्रॉम्प्ट फिर भी दो अलग जवाब दे सकता है। अगर आपको एक जैसा आउटपुट चाहिए, तो उसे सेव करें; सेटिंग पर भरोसा न करें।
हर प्रोवाइडर क्या इजाज़त देता है, और डिफ़ॉल्ट क्या हैं
| Provider | Range | Default | Notes |
|---|---|---|---|
| OpenAI | 0 से 2 | 1 | Reasoning मॉडल (o-series, reasoning वाला GPT-5) यह पैरामीटर स्वीकार नहीं करते |
| Anthropic | 0 से 1 | 1 | Opus 4.1 और उसके बाद दोनों सेट करने वाली रिक्वेस्ट को रिजेक्ट करता है |
| Google Gemini | 0 से 2 | 1 | AI Studio में स्लाइडर के तौर पर दिखाया जाता है |
| OpenRouter | पास-थ्रू करता है | प्रोवाइडर डिफ़ॉल्ट | वह रूट जिससे Whizi हर मॉडल तक पहुंचता है |
तीन चीज़ें ध्यान देने लायक हैं। हर प्रोवाइडर डिफ़ॉल्ट रूप से 1 पर सेट है, यानी मॉडल की अपनी probabilities से sample करना, इसलिए एक साधारण चैट में मिलने वाले जवाब पहले से ही कई ड्रॉ में से एक हैं। Anthropic का स्केल 1 पर रुक जाता है, इसलिए Claude का temperature 1 सीमा है जबकि OpenAI का 1 मध्य बिंदु है; ये नंबर वेंडर के बीच तुलनीय नहीं हैं। और reasoning मॉडल इस सेटिंग को रिजेक्ट करते हैं: OpenAI o-series और GPT-5 के लिए temperature को असमर्थित बताता है और भेजने पर एरर देता है, और Anthropic को extended thinking चालू होने पर हमेशा 1 चाहिए होता है।
किस काम के लिए कौन सी सेटिंग
नियम एक लाइन का है: जिस काम का एक सही जवाब है उसके लिए कम रखें, जिसके कई अच्छे जवाब हो सकते हैं उसके लिए ज़्यादा।
| Task | Temperature | Why |
|---|---|---|
| टेबल या JSON में एक्सट्रैक्शन, क्लासिफिकेशन, कोड | 0 से 0.3 | एक सही आकार; वेरिएशन एक दोष है |
| सारांश, अनुवाद, तथ्यात्मक सवाल | 0.3 से 0.7 | शब्दों में कुछ आज़ादी, गढ़ने की गुंजाइश नहीं |
| ड्राफ्टिंग, फिर से लिखना, ब्रेनस्टॉर्मिंग | 0.7 से 1 | प्रोवाइडर डिफ़ॉल्ट; विविध लेकिन सुसंगत |
| फिक्शन, नाम, स्लोगन, जान-बूझकर अजीब आइडिया | 1 से 1.3 | लॉन्ग-टेल शब्द ही मक़सद हैं |
| 1.5 से ऊपर | शायद ही कभी | नयापन बढ़ने से पहले सुसंगति घट जाती है |
दो सावधानियां। Temperature सच्चाई को कंट्रोल नहीं करता। 0 पर मॉडल अपना सबसे संभावित जवाब चुनता है, और अगर सबसे संभावित जवाब गलत है, तो यह हर बार पूरे भरोसे के साथ गलत होता है, जिसे AI hallucination क्या है ट्रेनिंग साइड से समझाता है। और temperature टोन या लंबाई के लिए लीवर नहीं है। वे इंस्ट्रक्शन में तय होते हैं, और शुरुआती लोगों के लिए prompt engineering इसे कवर करता है; यह नंबर सिर्फ़ यह तय करता है कि मॉडल किसी शब्द पर कितनी बार दांव लगाता है।
आपने चैट ऐप में कभी यह स्लाइडर क्यों नहीं देखा
ChatGPT, Claude ऐप, Gemini और Whizi कोई temperature कंट्रोल नहीं दिखाते। यह सेटिंग डेवलपर प्लेग्राउंड और API में रहती है, और तीनों वेंडर में से कोई भी अपने ऐप में इस्तेमाल होने वाली वैल्यू नहीं बताता। Whizi कोई वैल्यू नहीं भेजता, इसलिए यहां हर मॉडल अपने प्रोवाइडर डिफ़ॉल्ट यानी 1 पर चलता है। वजह वही ऊपर वाली है: डिफ़ॉल्ट पहले से ही वह सेटिंग है जो ज़्यादातर काम चाहते हैं, और गलत जगह लगा स्लाइडर एक अच्छे असिस्टेंट को बिना किसी संकेत के खराब बना देता है कि कौन सा बटन इसकी वजह बना।
मल्टी-मॉडल वर्कस्पेस इसकी जगह एक बड़ा लीवर देता है। दो अलग मॉडल दो अलग probability लिस्ट होते हैं, और इनके बीच स्विच करना किसी भी temperature से कहीं ज़्यादा जवाब बदल देता है। स्लाइडर की जगह लेने वाली आदत: जिस काम का एक सही जवाब है, उसके लिए दूसरे मॉडल से पूछें और सिर्फ़ वहीं भरोसा करें जहां दोनों सहमत हों; जिस काम के कई अच्छे जवाब हो सकते हैं, उसके लिए दो मॉडल से पूछें और चुनें। Whizi में यह बातचीत के बीच मॉडल बदलना है, और बातचीत के बीच मॉडल बदलना बताता है कि क्या साथ चलता है।
अगर आपको यह कंट्रोल चाहिए ही है, तो यह प्रोवाइडर के अपने API या प्लेग्राउंड में, हर रिक्वेस्ट पर मिलता है, और ऊपर टेबल की रेंज लागू होती हैं।
- जिस भी चीज़ का एक सही आकार है उसके लिए 0 से 0.3 इस्तेमाल करें: एक्सट्रैक्शन, क्लासिफिकेशन, कोड
- ड्राफ्टिंग और फिर से लिखने के लिए डिफ़ॉल्ट 1 ही रहने दें; हर प्रोवाइडर ने इसी के लिए ट्यून किया है
- 0 को कभी एक जैसे आउटपुट की गारंटी न मानें; जो जवाब रखना है उसे सेव करें
- टोन, लंबाई या सटीकता ठीक करने के लिए temperature का सहारा न लें; वे इंस्ट्रक्शन की समस्याएं हैं
- जब किसी चैट ऐप में स्लाइडर न हो, तो इसकी जगह मॉडल बदलें, जो किसी भी temperature से ज़्यादा जवाब बदलता है
अक्सर पूछे जाने वाले सवाल
AI में temperature 0 का मतलब क्या है?
Temperature 0 पर मॉडल sample करने की बजाय हमेशा अपना सबसे संभावित अगला token लेता है, इसलिए वही प्रॉम्प्ट लगभग हर बार वही जवाब देता है। Anthropic का API रेफ़रेंस कहता है कि 0 पर भी नतीजे "fully deterministic" नहीं होंगे, क्योंकि हार्डवेयर और बैचिंग अब भी छोटे अंतर ला सकते हैं। यह एक्सट्रैक्शन, क्लासिफिकेशन और कोड के लिए सही सेटिंग है, और यह सबसे संभावित जवाब को ज़्यादा सही नहीं बनाता।
ChatGPT के लिए सबसे अच्छा temperature क्या है?
ChatGPT ऐप आपको इसे सेट करने नहीं देता, और OpenAI यह नहीं बताता कि ऐप में कौन सी वैल्यू इस्तेमाल होती है। API के ज़रिए, स्ट्रक्चर्ड आउटपुट और तथ्यात्मक एक्सट्रैक्शन के लिए 0 से 0.3, लिखने के लिए 0.7 से 1, और सिर्फ़ जान-बूझकर विविध क्रिएटिव टेक्स्ट के लिए 1 से ऊपर इस्तेमाल करें। OpenAI के reasoning मॉडल यह पैरामीटर भेजने पर एरर देते हैं।
Temperature और top-p में क्या फ़र्क़ है?
Temperature पूरी probability लिस्ट को फिर से आकार देता है, उसे तेज़ या समतल करता है। Top-p लिस्ट को काट देता है, सिर्फ़ उन सबसे संभावित token को रखता है जिनकी probabilities जोड़कर p बनती हैं, और उन्हीं में से चुनता है। दोनों रैंडमनेस को घटा या बढ़ा सकते हैं। OpenAI इनमें से एक ही बदलने की सलाह देता है, और Anthropic उस रिक्वेस्ट को रिजेक्ट करता है जो Opus 4.1 और उसके बाद दोनों सेट करती है।
क्या ज़्यादा temperature AI को ज़्यादा क्रिएटिव बनाता है?
यह मॉडल को कम संभावित शब्द ज़्यादा बार चुनवाता है, जो लगभग 1.3 तक क्रिएटिव लगता है और लगभग 1.5 के बाद असंगत। एक उदाहरण में, temperature को 1 से 2 करने पर पांचवें सबसे अच्छे कैंडिडेट का मौका हर token पर 5 प्रतिशत से बढ़कर 11 प्रतिशत हो जाता है, और यह लंबे जवाब में जुड़ता जाता है। बेहतर आइडिया वाली क्रिएटिविटी प्रॉम्प्ट और मॉडल से आती है, डायल से नहीं।
क्या मैं Whizi में temperature बदल सकता हूं?
नहीं। Whizi कोई temperature नहीं भेजता, इसलिए हर मॉडल अपने प्रोवाइडर डिफ़ॉल्ट पर चलता है; ChatGPT, Claude ऐप और Gemini भी कोई कंट्रोल नहीं दिखाते और कोई वैल्यू नहीं बताते। मल्टी-मॉडल वर्कस्पेस में इसके बराबर लीवर मॉडल पिकर है: दो मॉडल दो अलग probability distribution होते हैं, और बातचीत के बीच स्विच करना किसी भी temperature सेटिंग से ज़्यादा जवाब बदल देता है।
