测试时计算
也叫：Test-time Compute · 推理时计算 · 测试时扩展
测试时计算在模型回答阶段追加推理、候选和验证，以提高部分难题表现，同时增加延迟与算力成本。
他们说
在推理阶段增加候选生成、搜索、验证或迭代步骤
老白翻译
模型训练完以后，遇到难题时让它多试几次再选答案。
它到底是什么
测试时计算指模型在回答阶段额外使用的计算。系统可以延长单条推理，也可以生成多份候选，再通过规则、验证器或模型比较选出结果。
生活里的例子
代码任务可以生成几种实现并逐个跑测试。第一份已经通过全部检查时就停止，失败时再追加候选。
常见误解
- 误解：多生成几次一定更准。 选择器判断错误时，好答案仍可能被淘汰。
- 误解：每道题都该分到同样预算。 简单题的额外计算收益通常很小。
- 误解：小模型多算几次总能超过大模型。 研究结果受题目、模型和验证方法限制。
普通人怎么用
按任务难度记录正确率、耗时和 token 成本，只给多算以后稳定改善的题目追加预算。