ماڈل کبھی لفظ نہیں چنتا۔ یہ فہرست سے چنتا ہے
آپ کا prompt پڑھنے کے بعد، زبان کا ماڈل اپنی لغت کے ہر token کے لیے ایک سکور بناتا ہے، موجودہ ماڈلز پر 100,000 سے 200,000 تک، اور ان سکورز کو امکانات میں بدل دیتا ہے: "پتے" 45 فیصد، "موسم" 25، "رنگ" 15، اور اسی طرح ایک لمبی دم تک۔ LLM کیا ہے بتاتا ہے کہ یہ اس طرح کیوں کام کرتا ہے۔ پھر یہ اس فہرست سے ایک token نکالتا ہے، اسے جوڑتا ہے، اور یہ سب دوبارہ کرتا ہے۔
Temperature سکورز اور قرعہ اندازی کے درمیان لگایا جاتا ہے۔ ہر سکور کو امکانات نکالنے سے پہلے temperature سے تقسیم کیا جاتا ہے۔ 1 سے کم نمبر سے تقسیم کریں تو سکورز کے درمیان فرق بڑھ جاتا ہے، اس لیے پسندیدہ آگے نکل جاتا ہے۔ 1 سے زیادہ نمبر سے تقسیم کریں تو فرق سکڑ جاتا ہے، اس لیے لمبی دم کو حقیقی موقع ملتا ہے۔ عین 0 پر حساب سمٹ کر "ہمیشہ سب سے اوپر والا سکور لو" بن جاتا ہے، یہی وجہ ہے کہ 0 کو deterministic کے طور پر بیچا جاتا ہے۔
یہ نام فزکس سے لیا گیا ہے، جہاں گرم گیس میں ذرات زیادہ بے ترتیبی سے حرکت کرتے ہیں۔ گرم ماڈل میں الفاظ زیادہ بے ترتیبی سے چنے جاتے ہیں۔ ماڈل کی معلومات میں کچھ نہیں بدلتا؛ صرف قرعہ اندازی بدلتی ہے۔
یہ نمبر امکانات کے ساتھ کیا کرتا ہے، تفصیل سے
ایک prompt لیں جس کے اگلے لفظ کو ماڈل پانچ امیدواروں کے طور پر 45، 25، 15، 10 اور 5 فیصد پر ریٹ کرتا ہے۔ یہ temperature 1 پر تقسیم ہے۔ فارمولا 0.5 اور 2 پر لگائیں تو وہی پانچ امیدوار نیچے کی طرح نکلتے ہیں۔ فیصد فارمولے سے حساب کیے گئے ہیں، ناپے نہیں گئے، اور یہ شکل وہی ہے جو ہر حقیقی تقسیم کرتی ہے۔
تینوں پینلز میں پانچویں امیدوار کو دیکھیں: 1 فیصد سے کم، پھر 5، پھر 11۔ 500-token کے جواب میں، ہر token پر پانچویں بہترین لفظ چننے کا 11 فیصد امکان جمع ہو کر ایسا متن بناتا ہے جو بھٹکتا ہے، گھڑتا ہے اور آخرکار بامعنی رہنا چھوڑ دیتا ہے، جو لوگ اس وقت دیکھتے ہیں جب وہ playground کا سلائیڈر 2 تک لے جاتے ہیں۔ اور سب سے اوپر والے امیدوار کو دیکھیں: 0.5 پر بھی یہ تین میں سے ایک قرعہ اندازی ہار جاتا ہے، اس لیے کم temperature مستقل ہے، طے شدہ نہیں۔
یہ آخری بات لفظ "deterministic" کے لیے اہم ہے۔ Anthropic کا API حوالہ کہتا ہے کہ 0 پر بھی نتائج "مکمل طور پر deterministic نہیں ہوں گے"، اور یہ احتیاط حقیقی ہے: متوازی ہارڈویئر پر floating-point حساب اور فراہم کنندہ کی طرف کی batching کا مطلب ہے کہ 0 پر ایک ہی prompt پھر بھی دو مختلف جواب دے سکتا ہے۔ اگر آپ کو ایک جیسا output چاہیے، اسے محفوظ کریں؛ سیٹنگ پر بھروسہ نہ کریں۔
ہر فراہم کنندہ کیا اجازت دیتا ہے، اور ڈیفالٹس کیا ہیں
| فراہم کنندہ | رینج | ڈیفالٹ | نوٹس |
|---|---|---|---|
| OpenAI | 0 سے 2 | 1 | ریزننگ ماڈلز (o-series، ریزننگ کے ساتھ GPT-5) یہ پیرامیٹر قبول نہیں کرتے |
| Anthropic | 0 سے 1 | 1 | Opus 4.1 اور بعد کے ماڈلز پر دونوں سیٹ کرنے والی درخواستیں مسترد کرتا ہے |
| Google Gemini | 0 سے 2 | 1 | AI Studio میں سلائیڈر کے طور پر ظاہر ہوتا ہے |
| OpenRouter | آگے پہنچاتا ہے | فراہم کنندہ کا ڈیفالٹ | وہ راستہ جو Whizi ہر ماڈل تک پہنچنے کے لیے استعمال کرتا ہے |
تین باتیں نمایاں ہیں۔ ہر فراہم کنندہ ڈیفالٹ 1 پر ہے، جس کا مطلب ہے ماڈل کے اپنے امکانات سے نمونہ لینا، اس لیے عام چیٹ میں آپ کو ملنے والے جواب پہلے ہی کئی میں سے ایک قرعہ اندازی ہیں۔ Anthropic کا پیمانہ 1 پر رکتا ہے، اس لیے Claude کا temperature 1 حد ہے جبکہ OpenAI کا 1 درمیانی نقطہ ہے؛ نمبرز فراہم کنندگان کے درمیان موازنہ کے قابل نہیں۔ اور ریزننگ ماڈلز یہ سیٹنگ مسترد کرتے ہیں: OpenAI temperature کو o-series اور GPT-5 کے لیے غیر معاون قرار دیتا ہے اور بھیجنے پر خرابی لوٹاتا ہے، اور Anthropic کو extended thinking آن ہونے پر ہمیشہ 1 چاہیے ہوتا ہے۔
کس کام کے لیے کون سی سیٹنگ
قاعدہ ایک سطر کا ہے: جن کاموں کا ایک درست جواب ہے ان کے لیے کم، اور جن کے کئی اچھے جواب ہیں ان کے لیے زیادہ۔
| کام | Temperature | وجہ |
|---|---|---|
| ٹیبل یا JSON میں استخراج، classification، کوڈ | 0 سے 0.3 | ایک درست شکل؛ فرق ایک خرابی ہے |
| خلاصے، ترجمہ، حقائق پر مبنی سوالات | 0.3 سے 0.7 | کچھ لفظوں کی آزادی، کوئی گھڑنت نہیں چاہیے |
| ڈرافٹنگ، دوبارہ لکھنا، برین سٹارمنگ | 0.7 سے 1 | فراہم کنندہ کا ڈیفالٹ؛ متنوع مگر باربط |
| افسانہ، نام، نعرے، جان بوجھ کر انوکھے خیالات | 1 سے 1.3 | لمبی دم کے الفاظ ہی مقصد ہیں |
| 1.5 سے اوپر | شاذ و نادر | نئی بات بڑھنے سے پہلے ربط گھٹ جاتا ہے |
دو احتیاطیں۔ Temperature سچائی کو کنٹرول نہیں کرتا۔ ماڈل 0 پر اپنا سب سے زیادہ امکان والا جواب چنتا ہے، اور اگر سب سے زیادہ امکان والا جواب غلط ہے، تو یہ ہر بار مکمل اعتماد کے ساتھ غلط ہوتا ہے، جسے AI hallucination کیا ہے ٹریننگ کے پہلو سے بتاتا ہے۔ اور temperature لہجے یا لمبائی کا lever نہیں ہے۔ وہ ہدایات میں شامل ہوتے ہیں، اور مبتدیوں کے لیے prompt engineering انہیں بتاتا ہے؛ یہ نمبر صرف یہ طے کرتا ہے کہ ماڈل کسی لفظ پر کتنی بار جوا کھیلتا ہے۔
آپ نے چیٹ ایپ میں سلائیڈر کبھی کیوں نہیں دیکھا
ChatGPT، Claude ایپ، Gemini اور Whizi کوئی temperature کنٹرول ظاہر نہیں کرتے۔ یہ سیٹنگ ڈویلپر playgrounds اور APIs میں رہتی ہے، اور تینوں فراہم کنندگان میں سے کوئی بھی اپنی ایپ کی استعمال شدہ ویلیو شائع نہیں کرتا۔ Whizi کوئی نہیں بھیجتا، اس لیے یہاں ہر ماڈل اپنے فراہم کنندہ کے ڈیفالٹ 1 پر چلتا ہے۔ وجہ وہی اوپر والی ہے: ڈیفالٹ پہلے ہی وہ سیٹنگ ہے جو زیادہ تر کاموں کو چاہیے، اور غلط جگہ پر سلائیڈر ایک اچھے assistant کو برے میں بدل دیتا ہے بغیر کسی اشارے کے کہ کون سا knob اس کی وجہ بنا۔
ملٹی ماڈل ورک سپیس اس کی جگہ آپ کو ایک بڑا lever دیتا ہے۔ دو مختلف ماڈلز دو مختلف امکانی فہرستیں ہیں، اور ان کے درمیان تبدیلی کسی بھی temperature سے کہیں زیادہ جواب بدلتی ہے۔ سلائیڈر کی جگہ لینے والی عادت: ایک درست جواب والے کام کے لیے، دوسرے ماڈل سے پوچھیں اور صرف وہاں عمل کریں جہاں وہ متفق ہوں؛ کئی اچھے جوابوں والے کام کے لیے، دو ماڈلز سے پوچھیں اور چنیں۔ Whizi میں یہ درمیانی گفتگو میں ماڈل تبدیل کرنا ہے، اور درمیانی گفتگو میں ماڈلز تبدیل کرنا بتاتا ہے کہ کیا منتقل ہوتا ہے۔
اگر آپ کو واقعی یہ knob چاہیے، تو یہ فراہم کنندہ کے اپنے API یا playground میں، فی درخواست موجود ہے، اور اوپر جدول میں دی گئی رینجز لاگو ہوتی ہیں۔
- ایک درست شکل والے کسی بھی کام کے لیے 0 سے 0.3 استعمال کریں: استخراج، classification، کوڈ
- ڈرافٹنگ اور دوبارہ لکھنے کے لیے ڈیفالٹ 1 رہنے دیں؛ یہی وہ ہے جس کے لیے ہر فراہم کنندہ نے ٹیون کیا ہے
- 0 کو کبھی ایک جیسے output کی ضمانت نہ سمجھیں؛ جو جواب رکھنا ہو اسے محفوظ کر لیں
- لہجہ، لمبائی یا درستی ٹھیک کرنے کے لیے temperature کی طرف نہ جائیں؛ یہ ہدایات کے مسائل ہیں
- جب چیٹ ایپ میں سلائیڈر نہ ہو، اس کی جگہ ماڈل بدلیں، جو کسی بھی temperature سے زیادہ جواب بدلتا ہے
عمومی سوالات
AI میں temperature 0 کا کیا مطلب ہے؟
Temperature 0 پر ماڈل ہمیشہ نمونہ لینے کی بجائے اپنا واحد سب سے زیادہ امکان والا اگلا token لیتا ہے، اس لیے ایک ہی prompt تقریباً ہر بار ایک ہی جواب دیتا ہے۔ Anthropic کا API حوالہ کہتا ہے کہ 0 پر بھی نتائج "مکمل طور پر deterministic نہیں ہوں گے"، کیونکہ ہارڈویئر اور batching اب بھی چھوٹے فرق پیدا کر سکتے ہیں۔ یہ استخراج، classification اور کوڈ کے لیے درست سیٹنگ ہے، اور یہ سب سے زیادہ امکان والے جواب کو زیادہ درست بنانے میں کچھ نہیں کرتا۔
ChatGPT کے لیے بہترین temperature کیا ہے؟
ChatGPT ایپ آپ کو ایک سیٹ کرنے نہیں دیتی، اور OpenAI وہ ویلیو شائع نہیں کرتا جو ایپ استعمال کرتی ہے۔ API کے ذریعے، ساختہ output اور حقائق پر مبنی استخراج کے لیے 0 سے 0.3 استعمال کریں، لکھائی کے لیے 0.7 سے 1، اور جان بوجھ کر متنوع تخلیقی متن کے لیے صرف 1 سے اوپر۔ OpenAI کے ریزننگ ماڈلز اگر آپ یہ پیرامیٹر بھیجیں تو خرابی لوٹاتے ہیں۔
Temperature اور top-p میں کیا فرق ہے؟
Temperature پوری امکانی فہرست کو نئی شکل دیتا ہے، اسے تیز یا ہموار کرتا ہے۔ Top-p فہرست کاٹ دیتا ہے، صرف وہ سب سے زیادہ امکان والے tokens رکھتا ہے جن کے امکانات مل کر p بنتے ہیں اور انہی سے نمونہ لیتا ہے۔ دونوں بے ترتیبی کم یا زیادہ کرتے ہیں۔ OpenAI ایک یا دوسرے کو بدلنے کا مشورہ دیتا ہے، اور Anthropic Opus 4.1 اور بعد کے ماڈلز پر دونوں سیٹ کرنے والی درخواست مسترد کرتا ہے۔
کیا زیادہ temperature AI کو زیادہ تخلیقی بناتا ہے؟
یہ ماڈل کو کم امکان والے الفاظ زیادہ بار چننے پر مجبور کرتا ہے، جو تقریباً 1.3 تک تخلیقی اور تقریباً 1.5 کے بعد بے ربط محسوس ہوتا ہے۔ ایک تفصیلی مثال میں، temperature کو 1 سے 2 تک بڑھانے سے پانچواں بہترین امیدوار ہر token پر 5 فیصد سے بڑھ کر 11 فیصد امکان تک پہنچ جاتا ہے، اور یہ لمبے جواب میں جمع ہوتا رہتا ہے۔ بہتر خیال کے معنوں میں تخلیقی صلاحیت prompt اور ماڈل سے آتی ہے، dial سے نہیں۔
کیا میں Whizi میں temperature تبدیل کر سکتا ہوں؟
نہیں۔ Whizi کوئی temperature نہیں بھیجتا، اس لیے ہر ماڈل اپنے فراہم کنندہ کے ڈیفالٹ پر چلتا ہے؛ ChatGPT، Claude ایپ اور Gemini بھی کوئی کنٹرول ظاہر نہیں کرتے اور کوئی ویلیو شائع نہیں کرتے۔ ملٹی ماڈل ورک سپیس میں اس کے برابر lever ماڈل picker ہے: دو ماڈلز دو مختلف امکانی تقسیمات ہیں، اور گفتگو کے درمیان تبدیلی کسی بھی temperature سیٹنگ سے زیادہ جواب بدلتی ہے۔
