广度推理而非深度推理：将推理溢价摊销为蒸馏技能
文章背景与核心概要
尽管推理型语言模型在多智能体任务中的表现远超标准模型，但其代价高昂：每个任务周期会产生 3 到 6 倍的 Token 开销，且大部分计算资源被浪费在重复推导领域流程上。
本文提出了一种“摊销”这种循环计算成本的方法。研究团队不再依赖单次任务中的深度搜索，而是通过编码智能体分析训练轨迹语料库，将其编译为紧凑的自然语言技能，并直接注入到非推理模型的系统提示词（System Prompt）中。在四个不同的基准测试中，该技术在完全不使用推理 Token 的情况下，实现了 55% 到 100% 以上的推理性能差距弥补，同时减少了 2.7 到 6 倍的输出 Token。
核心贡献与发现
- 广度搜索 vs. 深度搜索： 测试时推理（Test-time reasoning）在单个孤立任务中进行深度搜索，每次部署都需要支付计算成本。而语料库蒸馏则是在多个任务间进行广度搜索，只需支付一次成本。
- Wide Search vs. Deep Search: Test-time reasoning acts as deep search within a single isolated episode, requiring payment at every deployment. Corpus distillation acts as a wide search across multiple episodes, which is paid for just once.
- 显著的性能恢复： 在 ALFWorld、tau²-bench（电信和零售领域）以及 SpreadsheetBench-Verified 等基准测试中，蒸馏后的技能使
GPT-5.4-mini（非推理模型）在四个基准测试中的两个上完全恢复或超过了推理模式的基准水平。
- Significant Performance Recovery: Tested across ALFWorld, tau²-bench (telecom and retail), and SpreadsheetBench-Verified, distilled skills allowed
GPT-5.4-mini(a non-reasoning model) to completely recover or exceed the reasoning mode baseline on two out of four benchmarks.
- 效率提升： 该方法完全消除了推理 Token 的使用，并将输出 Token 减少了 2.7 到 6 倍。
- Efficiency Gains: The proposed approach eliminated reasoning tokens entirely and slashed output tokens by 2.7x to 6x.
- 对推理轨迹的独立性： 有趣的是，仅从“非推理轨迹”中蒸馏出的技能，其竞争力与从配对的推理/非推理语料库中蒸馏出的技能相当，尽管在不同领域间仍存在差异。
- Independence from Reasoning Traces: Interestingly, skills distilled purely from non-reasoning trajectories remain surprisingly competitive with those distilled from paired reasoning/non-reasoning corpora, though domain-dependent differences do apply.
- 剩余差距： 在某些领域（如电信和 SpreadsheetBench）出现的性能瓶颈表明，在这些场景下，针对每个实例的深度搜索仍然是根本必要的。
- The Residual Gap: Performance plateaus on certain domains (such as telecom and SpreadsheetBench) highlight where per-instance deep search remains fundamentally necessary.
获取完整论文
(查看许可协议)