推理模型的诞生：慢思考 vs 快思考

Kahneman 的双系统理论

诺贝尔经济学奖得主 Daniel Kahneman 在《思考，快与慢》中提出人类认知的两种模式，这个框架意外地成为理解推理模型最好的类比。System 1 和 System 2 并非比喻，而是神经科学上可以被实验验证的两套认知回路。

普通 LLM（GPT-4、Claude 3.5 Sonnet）本质上是 System 1：它们在毫秒级内生成 token，依靠训练数据中习得的"直觉"。对于"法国首都在哪"这样的问题，System 1 绰绰有余。

但面对需要多步推导的问题（数学竞赛、复杂代码审查、多跳逻辑推理），System 1 会犯直觉性错误。推理模型通过让模型在回答之前"想一想"，强制引入了 System 2 机制——在输出最终答案前，允许（甚至强制）模型生成大量中间推理步骤。

关键名词解释

推理模型的关键创新：思考与答案分离

传统 LLM 的输出结构是"单次前向传播"：

这个架构的根本局限是：模型在生成第 N 个 token 时，无法"意识到"第 N+50 个 token 会出错，然后回头纠正。一旦错误路径开始，就会一路错下去。

推理模型的输出结构引入了显式中间步骤：

o1 发布的冲击：数字说话

2024 年 9 月 OpenAI o1 发布时，几个关键数据令业界震惊，展示了 Test-Time Compute 的威力：

推理模型的两条技术路径

目前训练推理模型主要有两条路径，代表了不同的技术哲学：

推理模型 vs 普通 LLM：使用场景对比

2024–2026 推理模型发展时间线

主要推理模型横向对比（2025）

目前市场上的主要推理模型，在能力、成本、可访问性上各有侧重：

推理模型的底层机制：为什么多 Token 能提升精度

理解推理模型的物理直觉：每个 token 生成都是一次神经网络的前向传播。推理 token 实质上是让模型进行了更多的前向传播次数，每次传播的结果（推理步骤）成为下一次传播的输入。

这就是为什么更多的推理 token（更大的 budget_tokens）通常带来更好的结果——不是因为"思考时间更长"，而是因为模型进行了更多次的前向传播迭代，每次迭代都能基于前一步的推理结果继续推进。

第一个推理模型 API 调用

感受推理模型与普通 LLM 最直观的差异——开启扩展思考后，响应时间更长但答案质量更高：

import anthropic

client = anthropic.Anthropic()

# ── 普通 LLM 调用（快速，约 0.5-2 秒）────────────────────
normal_response = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1024,
    messages=[{"role": "user",
               "content": "证明 sqrt(2) 是无理数"}]
)
print("普通输出：", normal_response.content[0].text[:100])

# ── 推理模型调用（带 Extended Thinking）─────────────────
# thinking: {"type": "enabled", "budget_tokens": N} 启用思考
# budget_tokens 是思考 token 的上限（不是保证值）
# max_tokens 必须大于 budget_tokens
thinking_response = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=8000,
    thinking={"type": "enabled", "budget_tokens": 5000},
    messages=[{"role": "user",
               "content": "证明 sqrt(2) 是无理数"}]
)

# 响应包含两种 block：thinking block 和 text block
for block in thinking_response.content:
    if block.type == "thinking":
        print(f"思考过程（{len(block.thinking)} 字符）")
    elif block.type == "text":
        print("最终答案：", block.text)