Рассуждающая модель думает токенами, прежде чем ответить токенами
Задайте обычной модели сложный вопрос, и она сразу начнёт писать ответ. Всё её "размышление" происходит внутри сети между чтением запроса и генерацией первого слова.
Рассуждающая модель обучена делать иначе: сначала выписать цепочку рассуждений, часто на тысячи токенов, и лишь потом дать ответ. Эти рассуждения, текст, который модель генерирует для себя. Она пробует подход, замечает противоречие, откатывается назад, проверяет арифметику и в итоге приходит к решению. Большинство продуктов скрывают эту цепочку или показывают её краткое изложение, называя всё это "размышлением".
Размышление, это то же самое предсказание следующего токена, которое описывает что такое LLM, только направленное на задачу дольше. Рассуждающая модель, это языковая модель, которую с помощью обучения с подкреплением на задачах с проверяемыми ответами научили тратить больше токенов перед принятием решения. Поэтому она помогает больше всего там, где ход рассуждений можно проверить, и меньше всего там, где проверять нечего.
Откуда взялась эта идея: три даты
В январе 2022 года Джейсон Вэй и его коллеги из Google показали, что добавление в промпт нескольких пошаговых примеров решения повышает результаты модели в математике и логике. Это назвали chain-of-thought prompting (подсказкой цепочкой рассуждений), и работало это потому, что выписывание шагов давало модели больше токенов, а значит и больше вычислений на задачу.
В сентябре 2024 года OpenAI выпустила o1, первую широко доступную модель, обученную делать это по умолчанию, а не по запросу. Обучение с подкреплением, лежащее в её основе, поощряло цепочки, которые вели к верным ответам в математике и коде, поэтому модель сама научилась выстраивать длинные, самокорректирующиеся рассуждения.
В январе 2025 года DeepSeek выпустила R1 с открытыми весами и статьёй, описывающей рецепт обучения, что позволило воспроизвести подход любой лаборатории. За год рассуждение превратилось из отдельной модели в режим: переключатель внутри GPT, Claude и Gemini, а также семейство отдельных строк, таких как Kimi K2 Thinking, в более широком каталоге.
Когда размышление окупается, а когда это чистые расходы
Закономерность одинакова на всех бенчмарках и в любой реальной задаче: рассуждение помогает пропорционально тому, сколько шагов в задаче и насколько проверяем ответ.
| Задача | Режим размышления | Почему |
|---|---|---|
| Многошаговая математика, текстовые задачи, перевод единиц | Оправдано | Шаги можно проверить; без хода рассуждений ошибки накапливаются |
| Отладка, поиск причины сбоя в коде | Оправдано | Модель проверяет гипотезы на коде, прежде чем принять решение |
| Планирование расписания, миграции, бюджета с ограничениями | Оправдано | Ограничения взаимодействуют друг с другом; первый черновик обычно нарушает одно из них |
| Логические головоломки, доказательства, правила с исключениями | Оправдано | Весь смысл в цепочке рассуждений |
| Поиск факта ("в каком году произошло X") | Бесполезно | Шагов нет; модель либо знает, либо нет |
| Переписывание, перевод, изложение, смена тона | Бесполезно | Задача решается за один проход; размышление добавляет задержку без прироста качества |
| Обычный разговор, мозговой штурм списка | Бесполезно | Проверять нечего; больше токенов ради того же ответа |
Два честных ограничения. Размышление не устраняет галлюцинации по фактам; модель, не знающая столицу страны, с ещё большей уверенностью придёт к неверному ответу через рассуждение. И длинные цепочки могут ошибаться там, где короткий ответ не ошибся бы: модель отговаривает себя от верной первой догадки. На лёгких вопросах длинная цепочка иногда заканчивается результатом хуже, чем первый ответ обычной модели.
Во что обходится размышление: токены, секунды и кредиты
Цепочка рассуждений, это выходные токены, самые дорогие, и что такое токены в ИИ показывает, что вывод стоит в пять-шесть раз дороже ввода в любой крупной модели. Ход рассуждения, выписывающий 3000 токенов размышлений перед ответом в 300 токенов, сгенерировал в десять раз больше вывода, чем обычный ответ. Он также занимает примерно в десять раз больше времени, потому что вывод генерируется по одному токену за раз.
Рейтинги теперь напрямую оценивают эту шкалу в деньгах. Artificial Analysis оценивает каждую модель на каждом уровне усилий, доступном у провайдера, поэтому налог измерим: одна и та же модель на минимальном и максимальном уровне рассуждения с показателем Intelligence Index над каждым концом. Три лестницы ниже были сняты 2026-09-17.
Если построить график по каждому уровню, кривые пересекутся показательным образом. GPT-6 Astra достигает 53 баллов при $2.31 за миллион токенов; Claude Fable 5.1 достигает тех же 53 баллов при $5.98. Claude Opus 5 на максимальном усилии выходит на 51 балл, на два ниже обоих, при $5.86. Усилие приносит баллы на каждой кривой, но именно кривая решает, во сколько эти баллы обойдутся.
Роутер Auto от Whizi превращает это в фиксированную цену, которую видно сразу. Auto читает каждое сообщение и направляет его на одну из шести ступеней; ступень определяет стоимость в кредитах, и многошаговое рассуждение стоит на верхней ступени на Powerhouse. Pro доходит максимум до ступени кода за 10 кредитов, а Starter остаётся на домашней модели за 1 кредит.
Ход рассуждения стоит 20 кредитов против 1 за быстрый вопрос: разброс 20 к 1, отражающий стоимость токенов под капотом. Auto также не тратит их впустую. Новое сообщение, которое он классифицирует как переписывание или поиск факта, идёт на ступень за 1 или 2 кредита, а ответ в цепочке, которая уже заслужила ступень рассуждения, остаётся на ней, потому что модель предыдущего хода служит нижней границей. Как Auto выбирает модель содержит таблицу ступеней с моделью за каждой строкой.
Как использовать режим размышления, не переплачивая за него везде
Относитесь к размышлению как к инструменту, который берут в руки, а не как к настройке, оставленной включённой навсегда.
- По умолчанию используйте быструю модель. Большинство сообщений, это поиск, переписывание и короткие вопросы. Размышление добавляет секунды и кредиты, ничего не меняя.
- Включайте его на сложном ходу. Когда вопрос состоит из нескольких шагов и имеет проверяемый ответ, переключите именно это сообщение на рассуждающую модель или включите размышление, затем переключитесь обратно.
- Дайте ей ограничения прямо в промпте. Рассуждающая модель раскрывается лучше всего, когда у неё есть правила, по которым можно сверить план. "Уложиться в 40 часов, без встреч по пятницам, запуск 12-го числа", вот такой промпт оправдывает ожидание.
- Читайте ход рассуждения, если он показан. Именно в цепочке модель раскрывает неверное допущение. Если первый шаг неверен, ответ будет неверным независимо от того, как долго она думала.
- Не используйте её для проверки фактов. Для этого используйте поиск, документ или мнение второй модели; что такое галлюцинация ИИ объясняет, почему больше размышлений тут не помогает.
Правило принятия решения в одной фразе: если вы хотели бы увидеть чей-то ход рассуждений, прежде чем доверять его ответу, используйте рассуждающую модель. Если нет, не платите за неё.
- Оставьте быструю модель настройкой по умолчанию и включайте режим размышления на конкретном сложном ходу
- Используйте рассуждение для математики, логики, планирования с ограничениями и отладки
- Пропускайте его при поиске, переписывании, переводе и изложении; там оно медленнее и не лучше
- Прописывайте ограничения прямо в промпте, чтобы модели было с чем сверять свой план
- Проверяйте факты поиском или второй моделью, а не более длинной цепочкой рассуждений
Частые вопросы
Что рассуждающая модель на самом деле делает иначе?
Она выписывает цепочку промежуточных шагов перед итоговым ответом: пробует подходы, проверяет арифметику и откатывается назад, всё в виде сгенерированного текста. Обычная модель сразу начинает писать ответ. Рассуждение, это то же предсказание следующего токена, только потраченное на задачу дольше, поэтому оно помогает в многошаговых задачах и не помогает при поиске фактов.
Режим размышления всегда лучше?
Нет. На поиске фактов, переписывании, переводе и обычных вопросах он медленнее, стоит больше токенов и не улучшает ответ. На лёгких вопросах длинная цепочка может отговорить модель от верной первой догадки. Он лучше в математике, логике, планировании с ограничениями и отладке, где ответ состоит из шагов, которые можно проверить.
Почему режим размышления медленнее и дороже?
Потому что размышление, это выходные токены, генерируемые по одному, а вывод стоит в пять-шесть раз дороже ввода в любой крупной модели. Ход, который выписывает 3000 токенов рассуждений перед ответом в 300 токенов, генерирует в десять раз больше вывода, чем обычный ответ, и занимает примерно в десять раз больше времени.
Какие модели являются рассуждающими?
o1 от OpenAI в сентябре 2024 года стала первой широко доступной, а DeepSeek R1 в январе 2025 года опубликовала рецепт с открытыми весами. С тех пор рассуждение обычно является режимом внутри GPT, Claude и Gemini, а не отдельным продуктом, наряду с отдельными строками вроде Kimi K2 Thinking. Whizi автоматически направляет многошаговые вопросы на свою ступень рассуждения.
Рассуждающая модель галлюцинирует меньше?
На многошаговых задачах да, потому что она отлавливает собственные ошибки в арифметике и логике прямо в цепочке. По фактам нет: модель, не знающая чего-то, придёт к неверному ответу через рассуждение с ещё большей уверенностью. Для фактов работает опора на поиск или документ и мнение второй модели; более длинная цепочка рассуждений не помогает.