什么是推理模型?

快速解答

推理模型是一种语言模型,经过训练会在给出最终答案之前,先写出一整条中间推理步骤,为此多花一些Token和时间。它在数学、多步逻辑、规划和高难度代码上很有帮助,而在查询、改写以及那些第一个答案本来就对的简单问题上,只会增加成本和延迟。

推理模型先用Token思考,再用Token回答

向一个普通模型提出一个难题,它会立刻开始写答案。它唯一的“思考”,就是网络内部在读取你的提示词和生成第一个字之间发生的那些运算。

推理模型经过训练要做一件不同的事:先写出一整条推理过程,往往长达数千个Token,然后才写出答案。这段推理过程是模型自己生成的文字:它会尝试一种思路,发现矛盾,回退重来,核对运算,最终得出结论。大多数产品会隐藏这条推理链,或者只展示它的摘要,并把整个过程统称为“思考”。

这种“思考”本质上仍是什么是LLM里描述的那种下一个Token预测,只是把这个过程用在同一个问题上更久。推理模型是一种语言模型,它通过在“答案可核实”的问题上做强化学习训练,学会了在下结论之前多花一些Token。这也是为什么它在过程可核实的问题上帮助最大,而在根本没有过程可走的问题上帮助最小。

这个想法从何而来:三个关键日期

2022年1月,Google的Jason Wei和同事们证明,在提示词里放入几个逐步演算的示例,能提升模型在数学和逻辑题上的得分。他们把这种方法称为“思维链提示”(chain-of-thought prompting),它之所以有效,是因为写出步骤让模型在每道题上获得了更多Token,也就是更多计算量。

2024年9月,OpenAI发布了o1,这是第一个被广泛使用、默认(而非按需)就会这样做的模型。它背后的强化学习会奖励那些在数学和代码题上得出正确答案的推理链,于是模型自己学会了生成又长又能自我纠正的推理过程。

2025年1月,DeepSeek发布了开放权重的R1,并公开了描述训练方法的论文,这意味着任何实验室都能复现这套方法。在这一年里,“推理”从一个独立模型变成了一种模式:GPT、Claude和Gemini里都有一个开关可以切换,更广的模型目录中也出现了像Kimi K2 Thinking这样专门的档位。

思考什么时候物有所值,什么时候纯属成本

在所有基准测试和真实任务中,规律都是一样的:推理带来的帮助,跟问题的步骤数量以及答案的可核实程度成正比。

任务思考模式原因
多步数学题、应用题、单位换算值得步骤可以核实;不写过程就会累积错误
调试代码、追踪代码中的故障值得模型会在下结论前用代码验证自己的假设
制定有约束条件的日程、迁移方案或预算值得各项约束会相互影响;初稿通常会违反其中一条
逻辑谜题、证明题、带例外情况的规则值得整个任务的重点就在于推理链本身
事实性查询(“X是哪一年发生的”)浪费没有步骤;模型要么知道要么不知道
改写、翻译、摘要、改变语气浪费任务本身就是一次性完成的;思考只会增加延迟,不会提升质量
闲聊、头脑风暴列清单浪费没什么可核实的;多花Token也得到同样的答案

这里有两个老实的局限。思考并不能修正事实性幻觉:一个不知道某国首都的模型,只会更自信地“推理”出一个错误答案。而且长推理链会犯下短回答不会犯的错误:模型会把自己原本正确的第一直觉说服掉。在简单问题上,长链有时反而会得出比普通模型的第一反应更差的结果。

思考的代价:Token、秒数和credit

推理链是输出Token,也就是更贵的那一种,AI中的Token是什么指出,在几乎所有主流模型上,输出的价格都是输入的五到六倍。一次推理式回复如果在给出300个Token的答案前,先写了3,000个Token的推理过程,那它产生的输出量就是普通回复的十倍。由于输出是一个Token一个Token生成的,它耗费的时间也大约是普通回复的十倍。

现在的排行榜已经把这个刻度直接标上了价格。Artificial Analysis会对每个模型在其服务商开放的每一档“推理强度”上打分,因此这份“思考税”是可以量化的:同一个模型在最低和最高推理强度下,各自对应一个Intelligence Index分数。下面这三组数据读取于2026-09-17。

最高强度的价格是最低档的1.6到4倍,能多换来3到7分
$0$2$4$6$8每百万TokenClaude Fable 5.14753最低强度最高强度3.2倍价格,+6分GPT-6 Astra4653最低强度最高强度4.0倍价格,+7分Claude Opus 54851最低强度最高强度1.6倍价格,+3分

把每一档强度都画出来,几条曲线交叉的方式很能说明问题。GPT-6 Astra在每百万Token $2.31时就达到了53分;Claude Fable 5.1要到$5.98才达到同样的53分。Claude Opus 5在最高强度下落在51分,比两者都低两分,价格是$5.86。每条曲线上,强度都能换来分数,但你处在哪条曲线上,决定了这些分数的价格。

同样的53分,GPT-6 Astra只需$2.31,Claude Fable 5.1则要$5.98
444648505254$0$2$4$6$8该强度下每百万Token的价格Intelligence IndexGPT-6 AstraClaude Fable 5.1Claude Opus 5

Whizi的Auto路由器把这些差异变成了一个你能看得见的固定价格。Auto会读取每一条消息,把它派发到六个档位之一;档位决定了credit花费,而多步推理在Powerhouse上处于最高档。Pro最高只能到10-credit的代码档位,Starter则始终停留在1-credit的内置模型上。

一次推理式回复要花20个credit,一个简单问题只要1个,这20比1的差距,正对应着底层Token成本的差距。Auto也不会浪费这份成本:如果新消息被判断为改写或查询,就会派发到1或2-credit的档位;而如果一段对话已经用上了推理档位,后续的追问也会留在这个档位,因为上一轮用过的模型会成为一个下限。Auto如何选择模型里有完整的档位表,列出了每一档背后对应的模型。

如何使用思考模式,而不是为它到处付费

把“思考”当作一个你需要时才拿出来用的工具,而不是一个一直开着的设置。

  1. 默认使用快速模型。大多数消息都是查询、改写和简短问题,思考只会多花秒数和credit,结果却毫无变化。
  2. 遇到难题再打开。当问题有多个步骤、答案又可以核实时,把这一条消息切换到推理模型,或打开思考模式,用完再切回来。
  3. 把约束条件写进提示词。推理模型在有规则可以核对方案时表现最好。“必须在40小时内完成,周五不安排会议,发布日期是12号”这类提示词,才值得花时间等待。
  4. 如果展示了推理过程,就去读一读。模型的错误假设往往就藏在这条推理链里;只要第一步错了,无论想了多久,答案都是错的。
  5. 不要用它来核实事实。核实事实请用搜索、文档或另一个模型;什么是AI幻觉解释了为什么多想并不能解决这个问题。

一句话总结判断标准:如果你会想先看看对方的推导过程再相信答案,就用推理模型;如果不需要,就不用为此付费。

操作清单
  • 默认使用快速模型,只在遇到具体的难题时才启用思考模式
  • 把推理用在数学、逻辑、有约束条件的规划和调试上
  • 查询、改写、翻译和摘要就跳过它;它只会更慢,效果也不会更好
  • 把约束条件写进提示词,让模型有东西可以用来核对自己的方案
  • 用搜索或另一个模型来核实事实,而不是靠更长的推理链

常见问题

推理模型到底做了哪些不一样的事?

它会在给出最终答案之前,先写出一整条中间步骤:尝试思路、核对运算、回退重来,这一切都是模型生成出来的文字。普通模型会立刻开始写答案。这种推理本质上仍是同一种下一个Token预测,只是在同一个问题上花的时间更长,这也是它在多步骤任务上有帮助,而在查询类任务上没有帮助的原因。

思考模式是不是总是更好?

不是。在事实性查询、改写、翻译和闲聊类问题上,它更慢、耗费更多Token,也不会让答案变得更好。在简单问题上,一条很长的推理链甚至可能把模型原本正确的第一反应说服掉。它真正更好的地方,是在数学、逻辑、有约束条件的规划和调试这类答案有步骤可核实的任务上。

为什么思考模式更慢、也更贵?

因为思考本身就是输出Token,而输出是一个一个生成的,在几乎所有主流模型上,输出的价格都是输入的五到六倍。一次回复如果在给出300个Token的答案前先写了3,000个Token的推理过程,产生的输出量就是普通回复的十倍,耗时也大约是十倍。

哪些模型属于推理模型?

OpenAI在2024年9月推出的o1是第一个被广泛使用的推理模型,DeepSeek在2025年1月发布的R1则公开了开放权重的训练方法。此后,“推理”通常是GPT、Claude和Gemini内置的一种模式,而不是单独的产品,此外也有Kimi K2 Thinking这样的专门档位。Whizi会自动把多步问题派发到自己的推理档位。

推理模型的幻觉会更少吗?

在多步骤问题上会更少,因为它能在推理链中发现自己的运算和逻辑错误。但在事实性问题上不会:一个不知道答案的模型,只会更自信地“推理”出一个错误答案。要处理事实问题,用搜索或文档做支撑,再参考另一个模型的意见才有效,更长的推理链没有用。