Модель ніколи не обирає слово. Вона обирає зі списку
Прочитавши ваш запит, мовна модель обчислює оцінку для кожного токена у своєму словнику (від 100 000 до 200 000 у сучасних моделях) і перетворює ці оцінки на ймовірності: "листя" 45 відсотків, "погода" 25, "кольори" 15, і так далі вздовж довгого хвоста. Що таке LLM пояснює, чому це працює саме так. Потім вона витягує один токен з цього списку, додає його і повторює все спочатку.
Температура застосовується між оцінками і самим вибором. Кожну оцінку ділять на температуру перед тим, як обчислюють імовірності. Поділіть на число менше 1, і розриви між оцінками збільшуються, тож фаворит іде ще далі вперед. Поділіть на число більше 1, і розриви скорочуються, тож довгий хвіст отримує реальний шанс. Точно при 0 математика зводиться до "завжди бери найвищу оцінку", тому 0 і продають як детермінований варіант.
Назва запозичена з фізики, де гарячіший газ має більше хаотично рухомих частинок. У гарячішої моделі більше хаотично обраних слів. У знаннях моделі нічого не змінюється, змінюється лише сам вибір.
Що це число робить з імовірностями, розібрано детально
Візьмемо запит, для якого модель оцінює наступне слово серед п'яти кандидатів з імовірностями 45, 25, 15, 10 і 5 відсотків. Це розподіл при температурі 1. Застосуйте формулу при 0,5 і при 2, і ті самі п'ять кандидатів дадуть результат нижче. Відсотки обчислені за формулою, а не виміряні, і форма розподілу відповідає тому, що показує кожен реальний розподіл.
Простежте за п'ятим кандидатом на трьох панелях: менше 1 відсотка, потім 5, потім 11. У відповіді на 500 токенів шанс 11 відсотків на токен обрати п'яте за рангом слово накопичується у текст, який блукає, вигадує і зрештою перестає мати сенс, і саме це бачать люди, коли зсувають повзунок у пісочниці до 2. А тепер погляньте на найкращого кандидата: навіть при 0,5 він програє один вибір з трьох, тож низька температура є стабільною, а не фіксованою.
Цей останній момент важливий для слова "детермінований". У довідці API Anthropic сказано, що навіть при 0 результати "не будуть повністю детермінованими", і це застереження реальне: обчислення з плаваючою комою на паралельному апаратному забезпеченні та групування запитів на боці провайдера означають, що той самий запит при 0 усе одно може дати дві різні відповіді. Якщо вам потрібен ідентичний результат, збережіть його; не покладайтеся на це налаштування.
Що дозволяє кожен провайдер і які значення за замовчуванням
| Провайдер | Діапазон | За замовчуванням | Примітки |
|---|---|---|---|
| OpenAI | від 0 до 2 | 1 | Моделі міркування (серія o, GPT-5 з міркуванням) не приймають цей параметр |
| Anthropic | від 0 до 1 | 1 | Відхиляє запити, де задано обидва параметри, на Opus 4.1 і новіших |
| Google Gemini | від 0 до 2 | 1 | Показаний як повзунок в AI Studio |
| OpenRouter | Передає без змін | За замовчуванням провайдера | Маршрут, яким Whizi звертається до кожної моделі |
Виділяються три речі. Кожен провайдер за замовчуванням ставить 1, тобто семплює з власних імовірностей моделі, тож відповіді, які ви отримуєте у звичайному чаті, це вже один вибір серед багатьох. Шкала Anthropic зупиняється на 1, тож температура 1 у Claude, це стеля, тоді як 1 в OpenAI, це середина; ці числа не порівнянні між провайдерами. А моделі міркування відхиляють це налаштування: OpenAI вказує температуру як непідтримувану для серії o і GPT-5 та повертає помилку, якщо ви її надішлете, а Anthropic вимагає 1, коли увімкнено розширене мислення.
Яке налаштування для якого завдання
Правило вміщується в один рядок: нижче для завдань з однією правильною відповіддю, вище для завдань з багатьма хорошими відповідями.
| Завдання | Температура | Чому |
|---|---|---|
| Витягування у таблицю чи JSON, класифікація, код | від 0 до 0,3 | Одна правильна форма; варіативність, це дефект |
| Резюме, переклад, фактичні питання | від 0,3 до 0,7 | Трохи свободи у формулюваннях, вигадки не потрібні |
| Чернетки, переписування, мозковий штурм | від 0,7 до 1 | Значення за замовчуванням у провайдера; різноманітно, але зв'язно |
| Художній текст, назви, слогани, навмисно незвичні ідеї | від 1 до 1,3 | Слова з довгого хвоста, це і є мета |
| Вище 1,5 | Рідко | Зв'язність падає раніше, ніж зростає новизна |
Дві застороги. Температура не контролює правдивість. Модель при 0 обирає свою найімовірнішу відповідь, і якщо найімовірніша відповідь неправильна, вона буде неправильною щоразу з повною впевненістю, що що таке галюцинація ШІ пояснює з боку навчання. І температура, це не важіль для тону чи довжини. Це належить до інструкцій, і промпт-інжиніринг для початківців охоплює це; число лише визначає, як часто модель ризикує зі словом.
Чому ви ніколи не бачили цей повзунок у чат-застосунку
ChatGPT, застосунок Claude, Gemini і Whizi не показують керування температурою. Це налаштування живе у розробницьких пісочницях і API, і жоден з трьох провайдерів не публікує значення, яке використовує його власний застосунок. Whizi не надсилає жодного значення, тож кожна модель тут працює за замовчуванням провайдера, тобто при 1. Причина та сама, що й вище: значення за замовчуванням вже є тим, чого хоче більшість завдань, а повзунок не на своєму місці перетворює хорошого асистента на поганого без жодного сигналу про те, яка саме ручка це спричинила.
Натомість мультимодельне робоче середовище дає вам більший важіль. Дві різні моделі, це два різні списки ймовірностей, і перемикання між ними змінює відповідь набагато сильніше, ніж будь-яка температура. Звичка, яка замінює повзунок: для завдання з однією правильною відповіддю запитайте другу модель і дійте лише там, де вони збігаються; для завдання з багатьма хорошими відповідями запитайте дві моделі і оберіть краще. У Whizi це зміна моделі посеред розмови, і перемикання моделей посеред розмови описує, що переноситься між моделями.
Якщо вам справді потрібна ця ручка, вона є у власному API чи пісочниці провайдера, на кожен запит окремо, і застосовуються діапазони з таблиці вище.
- Використовуйте від 0 до 0,3 для всього з однією правильною формою: витягування, класифікація, код
- Залиште значення за замовчуванням 1 для чернеток і переписування; саме під нього налаштований кожен провайдер
- Ніколи не сприймайте 0 як гарантію ідентичного результату; збережіть відповідь, яку хочете зберегти
- Не використовуйте температуру, щоб виправити тон, довжину чи точність; це проблеми інструкцій
- Якщо в чат-застосунку немає повзунка, змініть модель замість цього, бо це змінює відповідь сильніше за будь-яку температуру
Поширені запитання
Що означає температура 0 в AI?
При температурі 0 модель завжди бере свій єдиний найімовірніший наступний токен замість семплування, тож той самий запит майже щоразу дає ту саму відповідь. У довідці API Anthropic сказано, що результати "не будуть повністю детермінованими" навіть при 0, бо апаратне забезпечення і групування запитів усе одно можуть вносити крихітні відмінності. Це правильне налаштування для витягування, класифікації і коду, і воно ніяк не робить найімовірнішу відповідь правильнішою.
Яка найкраща температура для ChatGPT?
Застосунок ChatGPT не дозволяє її налаштувати, і OpenAI не публікує значення, яке використовує застосунок. Через API використовуйте від 0 до 0,3 для структурованого виводу і фактичного витягування, від 0,7 до 1 для написання текстів, і вище 1 лише для навмисно різноманітного художнього тексту. Моделі міркування OpenAI повертають помилку, якщо ви взагалі надсилаєте цей параметр.
У чому різниця між температурою і top-p?
Температура перебудовує весь список імовірностей, роблячи його гострішим або більш згладженим. Top-p обрізає список, залишаючи лише найімовірніші токени, сума ймовірностей яких дорівнює p, і вибираючи з них. Обидва параметри зменшують чи збільшують випадковість. OpenAI радить змінювати лише один з них, а Anthropic відхиляє запит, де задано обидва, на Opus 4.1 і новіших.
Чи робить вища температура AI креативнішим?
Вона змушує модель частіше обирати менш імовірні слова, що сприймається як креативність приблизно до 1,3 і як безлад приблизно після 1,5. У розібраному прикладі підвищення температури з 1 до 2 піднімає шанс п'ятого за рангом кандидата з 5 відсотків до 11 на кожному токені, і це накопичується вздовж довгої відповіді. Креативність у сенсі кращої ідеї походить від запиту і моделі, а не від цього регулятора.
Чи можу я змінити температуру у Whizi?
Ні. Whizi не надсилає жодну температуру, тож кожна модель працює за замовчуванням свого провайдера; ChatGPT, застосунок Claude і Gemini також не показують такого керування і не публікують значення. Еквівалентний важіль у мультимодельному робочому середовищі, це вибір моделі: дві моделі, це два різні розподіли ймовірностей, і перемикання посеред розмови змінює відповідь сильніше, ніж будь-яке налаштування температури.
