মডেল কখনো একটা শব্দ বেছে নেয় না। এটা একটা তালিকা থেকে বেছে নেয়
আপনার প্রম্পট পড়ার পর, একটা ভাষা মডেল তার শব্দভাণ্ডারের প্রতিটা টোকেনের জন্য একটা স্কোর তৈরি করে, বর্তমান মডেলগুলোতে যা 100,000 থেকে 200,000, আর সেই স্কোরগুলোকে সম্ভাবনায় রূপান্তর করে: "পাতা" 45 শতাংশ, "আবহাওয়া" 25, "রং" 15, আর এভাবে একটা লম্বা লেজ ধরে চলতে থাকে। LLM কী এতে কেন এভাবে কাজ করে তা নিয়ে লিখেছে। এরপর এটা সেই তালিকা থেকে একটা টোকেন বেছে নেয়, জুড়ে দেয়, আর পুরো প্রক্রিয়াটা আবার করে।
Temperature প্রয়োগ হয় স্কোর আর বাছাইয়ের মাঝখানে। সম্ভাবনা হিসাব করার আগে প্রতিটা স্কোরকে temperature দিয়ে ভাগ করা হয়। 1-এর কম কোনো সংখ্যা দিয়ে ভাগ করলে স্কোরগুলোর মধ্যে ফাঁক বেড়ে যায়, তাই ফেভারিট আরও এগিয়ে যায়। 1-এর বেশি সংখ্যা দিয়ে ভাগ করলে ফাঁক কমে যায়, তাই লম্বা লেজটা একটা সত্যিকারের সুযোগ পায়। ঠিক 0-তে গণিতটা "সবসময় সবচেয়ে বেশি স্কোরটা নাও"-এ ভেঙে পড়ে, যে কারণে 0-কে ডিটারমিনিস্টিক বলে বিক্রি করা হয়।
নামটা পদার্থবিজ্ঞান থেকে ধার করা, যেখানে গরম গ্যাসের কণাগুলো বেশি এলোমেলোভাবে চলে। একটা গরম মডেলে শব্দ বাছাই বেশি এলোমেলো হয়। মডেলের জ্ঞানে কিছু বদলায় না; শুধু বাছাইটাই বদলায়।
সংখ্যাটা সম্ভাবনায় কী করে, ধাপে ধাপে
এমন একটা প্রম্পট ধরুন যার পরবর্তী শব্দকে মডেল পাঁচটা প্রার্থী হিসেবে 45, 25, 15, 10 আর 5 শতাংশে র্যাংক করে। এটাই temperature 1-এ বণ্টন। সূত্রটা 0.5 আর 2-এ প্রয়োগ করলে একই পাঁচ প্রার্থী নিচের মতো বেরিয়ে আসে। শতাংশগুলো সূত্র থেকে হিসাব করা, মাপা নয়, আর এই আকৃতিটাই প্রতিটা বাস্তব বণ্টন করে।
তিনটা প্যানেল জুড়ে পঞ্চম প্রার্থীকে দেখুন: 1 শতাংশের নিচে, তারপর 5, তারপর 11। 500-টোকেনের একটা উত্তরে, প্রতি টোকেনে পঞ্চম-সেরা শব্দ নেওয়ার 11 শতাংশ সুযোগ জমতে জমতে এমন লেখা তৈরি করে যা ঘুরপাক খায়, বানিয়ে বলে আর শেষমেশ অর্থহীন হয়ে যায়, যা মানুষ তখন দেখে যখন তারা প্লেগ্রাউন্ডের স্লাইডার 2-তে নিয়ে যায়। আর শীর্ষ প্রার্থীকে দেখুন: এমনকি 0.5-তেও এটা তিনবারে একবার হারে, তাই কম temperature নিয়মমাফিক, স্থির নয়।
এই শেষ বিষয়টা "ডিটারমিনিস্টিক" শব্দটার জন্য গুরুত্বপূর্ণ। Anthropic-এর API রেফারেন্স বলে এমনকি 0-তেও ফলাফল "সম্পূর্ণ ডিটারমিনিস্টিক হবে না", আর এই সতর্কতাটা বাস্তব: প্যারালাল হার্ডওয়্যারে ফ্লোটিং-পয়েন্ট গণনা আর প্রোভাইডার-সাইড ব্যাচিং মানে একই প্রম্পট 0-তেও দুটো ভিন্ন উত্তর দিতে পারে। আপনার যদি একই আউটপুট দরকার হয়, সেটা সেভ করে রাখুন; সেটিংয়ের ওপর ভরসা করবেন না।
প্রতিটা প্রোভাইডার কী অনুমতি দেয়, আর ডিফল্ট কী
| প্রোভাইডার | রেঞ্জ | ডিফল্ট | নোট |
|---|---|---|---|
| OpenAI | 0 থেকে 2 | 1 | রিজনিং মডেল (o-সিরিজ, GPT-5 রিজনিং সহ) এই প্যারামিটার গ্রহণ করে না |
| Anthropic | 0 থেকে 1 | 1 | Opus 4.1 আর পরবর্তীতে দুটোই সেট করা রিকোয়েস্ট প্রত্যাখ্যান করে |
| Google Gemini | 0 থেকে 2 | 1 | AI Studio-তে একটা স্লাইডার হিসেবে দেখানো হয় |
| OpenRouter | পাস থ্রু করে | প্রোভাইডারের ডিফল্ট | যে রুট দিয়ে Whizi প্রতিটা মডেলে পৌঁছায় |
তিনটা জিনিস চোখে পড়ে। প্রতিটা প্রোভাইডার ডিফল্টে 1 ব্যবহার করে, যার মানে মডেলের নিজের সম্ভাবনা থেকেই নমুনা নেওয়া, তাই সাধারণ একটা চ্যাটে আপনি যে উত্তর পান তা এমনিতেই অনেকগুলো বাছাইয়ের একটা। Anthropic-এর স্কেল 1-এ থেমে যায়, তাই একটা Claude temperature 1 হলো সিলিং, যেখানে OpenAI-র 1 মধ্যবিন্দু; সংখ্যাগুলো ভেন্ডর জুড়ে তুলনীয় নয়। আর রিজনিং মডেলগুলো এই সেটিং প্রত্যাখ্যান করে: OpenAI o-সিরিজ আর GPT-5-এর জন্য temperature-কে সমর্থিত নয় বলে তালিকাভুক্ত করে আর পাঠালে এরর ফেরত দেয়, আর extended thinking চালু থাকলে Anthropic সবসময় 1 চায়।
কোন কাজের জন্য কোন সেটিং
নিয়মটা এক লাইনে: একটা সঠিক উত্তরওয়ালা কাজের জন্য কম, অনেকগুলো ভালো উত্তরওয়ালা কাজের জন্য বেশি।
| কাজ | Temperature | কেন |
|---|---|---|
| টেবিল বা JSON-এ এক্সট্র্যাকশন, ক্লাসিফিকেশন, কোড | 0 থেকে 0.3 | একটাই সঠিক আকার; ভিন্নতা একটা ত্রুটি |
| সারাংশ, অনুবাদ, তথ্যভিত্তিক প্রশ্ন | 0.3 থেকে 0.7 | কিছুটা ভাষাগত স্বাধীনতা, কোনো বানানো তথ্য নয় |
| খসড়া তৈরি, পুনর্লিখন, ব্রেনস্টর্মিং | 0.7 থেকে 1 | প্রোভাইডারের ডিফল্ট; বৈচিত্র্যময় কিন্তু সংলগ্ন |
| কথাসাহিত্য, নাম, স্লোগান, ইচ্ছাকৃতভাবে অদ্ভুত আইডিয়া | 1 থেকে 1.3 | লম্বা-লেজের শব্দগুলোই আসল লক্ষ্য |
| 1.5-এর বেশি | কালেভদ্রে | সংলগ্নতা কমে, তারপর নতুনত্ব বাড়ে |
দুটো সতর্কতা। Temperature সত্যতা নিয়ন্ত্রণ করে না। 0-তে একটা মডেল তার সবচেয়ে সম্ভাব্য উত্তরটাই বেছে নেয়, আর সবচেয়ে সম্ভাব্য উত্তরটা ভুল হলে, এটা প্রতিবারই পূর্ণ আত্মবিশ্বাসে ভুল হবে, যা AI hallucination কী প্রশিক্ষণের দিক থেকে ব্যাখ্যা করে। আর টোন বা দৈর্ঘ্যের জন্য temperature কোনো লিভার নয়। সেগুলো নির্দেশনায় থাকে, আর শুরুর জন্য প্রম্পট ইঞ্জিনিয়ারিং সেগুলো নিয়ে লিখেছে; সংখ্যাটা শুধু ঠিক করে মডেল কত ঘন ঘন একটা শব্দে জুয়া খেলে।
কেন আপনি একটা চ্যাট অ্যাপে কখনো স্লাইডারটা দেখেননি
ChatGPT, Claude অ্যাপ, Gemini আর Whizi কোনো temperature নিয়ন্ত্রণ দেখায় না। সেটিংটা ডেভেলপার প্লেগ্রাউন্ড আর API-তে থাকে, আর তিনটা ভেন্ডরের কেউই তাদের নিজেদের অ্যাপ কোন মান ব্যবহার করে তা প্রকাশ করে না। Whizi কোনোটাই পাঠায় না, তাই এখানে প্রতিটা মডেল তার প্রোভাইডারের ডিফল্ট 1-এ চলে। কারণটা আগের মতোই: ডিফল্টটাই এমনিতে বেশিরভাগ কাজের জন্য চাওয়া সেটিং, আর ভুল জায়গায় একটা স্লাইডার একটা ভালো অ্যাসিস্ট্যান্টকে খারাপ বানিয়ে দেয়, কোন নব সেটা করলো তার কোনো সংকেত ছাড়াই।
একটা মাল্টি-মডেল ওয়ার্কস্পেস এর বদলে আপনাকে একটা বড় লিভার দেয়। দুটো ভিন্ন মডেল মানে দুটো ভিন্ন সম্ভাবনা তালিকা, আর তাদের মধ্যে সুইচ করলে যেকোনো temperature-এর চেয়ে উত্তর অনেক বেশি বদলে যায়। স্লাইডারের বদলে যে অভ্যাসটা কাজে লাগে: একটা সঠিক উত্তরওয়ালা কাজের জন্য, একটা দ্বিতীয় মডেলকে জিজ্ঞেস করুন আর শুধু যেখানে তারা একমত হয় সেখানেই কাজ করুন; অনেকগুলো ভালো উত্তরওয়ালা কাজের জন্য, দুটো মডেলকে জিজ্ঞেস করুন আর একটা বেছে নিন। Whizi-তে এটা মানে কথোপকথনের মাঝপথে মডেল বদলানো, আর কথোপকথনের মাঝপথে মডেল বদলানো দেখায় কী কী বহাল থাকে।
আপনার যদি সত্যিই এই নবটা দরকার হয়, এটা প্রোভাইডারের নিজস্ব API বা প্লেগ্রাউন্ডে, প্রতি রিকোয়েস্টে পাওয়া যায়, আর ওপরের টেবিলের রেঞ্জগুলো প্রযোজ্য।
- একটাই সঠিক আকারওয়ালা যেকোনো কিছুর জন্য 0 থেকে 0.3 ব্যবহার করুন: এক্সট্র্যাকশন, ক্লাসিফিকেশন, কোড
- খসড়া তৈরি আর পুনর্লিখনের জন্য 1-এর ডিফল্ট রেখে দিন; প্রতিটা প্রোভাইডার এটাই টিউন করেছে
- 0-কে কখনো একই আউটপুটের নিশ্চয়তা হিসেবে ধরবেন না; যে উত্তরটা রাখতে চান তা সেভ করুন
- টোন, দৈর্ঘ্য বা সঠিকতা ঠিক করতে temperature-এর দিকে হাত বাড়াবেন না; সেগুলো নির্দেশনার সমস্যা
- একটা চ্যাট অ্যাপে যখন কোনো স্লাইডার নেই, তখন মডেল বদলান, যা যেকোনো temperature-এর চেয়ে উত্তর বেশি বদলায়
প্রায়ই জিজ্ঞাসিত প্রশ্ন
AI-তে temperature 0 মানে কী?
Temperature 0-তে মডেল নমুনা নেওয়ার বদলে সবসময় তার একমাত্র সবচেয়ে সম্ভাব্য পরবর্তী টোকেনটা নেয়, তাই একই প্রম্পট প্রায় প্রতিবারই একই উত্তর দেয়। Anthropic-এর API রেফারেন্স বলে ফলাফল 0-তেও "সম্পূর্ণ ডিটারমিনিস্টিক হবে না", কারণ হার্ডওয়্যার আর ব্যাচিং তখনও ছোট ছোট পার্থক্য আনতে পারে। এক্সট্র্যাকশন, ক্লাসিফিকেশন আর কোডের জন্য এটাই সঠিক সেটিং, আর সবচেয়ে সম্ভাব্য উত্তরকে বেশি সঠিক বানাতে এটা কিছুই করে না।
ChatGPT-র জন্য সেরা temperature কী?
ChatGPT অ্যাপ আপনাকে একটা সেট করতে দেয় না, আর OpenAI অ্যাপটা কোন মান ব্যবহার করে তা প্রকাশ করে না। API দিয়ে, স্ট্রাকচার্ড আউটপুট আর তথ্যভিত্তিক এক্সট্র্যাকশনের জন্য 0 থেকে 0.3, লেখার জন্য 0.7 থেকে 1, আর ইচ্ছাকৃতভাবে বৈচিত্র্যময় সৃজনশীল লেখার জন্যই শুধু 1-এর বেশি ব্যবহার করুন। OpenAI-র রিজনিং মডেলগুলো এই প্যারামিটার পাঠালে একেবারেই এরর ফেরত দেয়।
Temperature আর top-p-এর মধ্যে পার্থক্য কী?
Temperature পুরো সম্ভাবনা তালিকাকে নতুন আকার দেয়, তীক্ষ্ণ বা সমান করে। Top-p তালিকাটা কেটে দেয়, শুধু সেই সবচেয়ে সম্ভাব্য টোকেনগুলো রাখে যাদের সম্ভাবনা যোগ করলে p হয়, আর সেখান থেকেই বাছাই করে। দুটোই এলোমেলোতা কমায় বা বাড়ায়। OpenAI একটা বা অন্যটা বদলানোর পরামর্শ দেয়, আর Anthropic Opus 4.1 আর পরবর্তীতে দুটোই সেট করা রিকোয়েস্ট প্রত্যাখ্যান করে।
উচ্চ temperature কি AI-কে বেশি সৃজনশীল করে?
এটা মডেলকে কম সম্ভাব্য শব্দ বেশি ঘন ঘন বেছে নিতে বাধ্য করে, যা প্রায় 1.3 পর্যন্ত সৃজনশীল আর প্রায় 1.5-এর পর অসংলগ্ন মনে হয়। একটা ধাপে ধাপে উদাহরণে, temperature 1 থেকে 2-এ নিলে পঞ্চম-সেরা প্রার্থীর সুযোগ প্রতি টোকেনে 5 শতাংশ থেকে 11 শতাংশে ওঠে, আর এটা একটা লম্বা উত্তরে জমতে থাকে। একটা ভালো আইডিয়া অর্থে সৃজনশীলতা আসে প্রম্পট আর মডেল থেকে, নব থেকে নয়।
Whizi-তে কি temperature বদলাতে পারি?
না। Whizi কোনো temperature পাঠায় না, তাই প্রতিটা মডেল তার প্রোভাইডারের ডিফল্টে চলে; ChatGPT, Claude অ্যাপ আর Gemini-ও কোনো নিয়ন্ত্রণ দেখায় না আর কোনো মান প্রকাশ করে না। একটা মাল্টি-মডেল ওয়ার্কস্পেসে সমতুল্য লিভারটা হলো মডেল পিকার: দুটো মডেল মানে দুটো ভিন্ন সম্ভাবনা বণ্টন, আর কথোপকথনের মাঝপথে সুইচ করলে যেকোনো temperature সেটিংয়ের চেয়ে উত্তর বেশি বদলায়।
