跳转至

文章背景与核心概要

随着大语言模型（LLM）智能体被广泛应用于涉及推理、工具调用和序列决策的复杂、多步骤现实任务中，如何在不重新训练底层行动模型的情况下提升其可靠性成为了一个关键问题。传统的运行时干预方法往往依赖于沉重的专家求解器或大型任务评价器，这带来了巨大的计算成本和容量需求。

为了克服这一挑战，本文作者推出了“仅比较微型顾问”（Comparison-Only Tiny Advisor，简称 COTA），这是一个用于建设性运行时干预的轻量级框架。COTA 不直接解决任务，而是利用一个微型比较器模型来判断采样得到的替代方案是否比行动模型的初始提议带来更好的后续执行效果。通过成对监督和非约束性建议，COTA 使原始行动模型能够进行有效的重新规划。在 WebShop、ALFWorld 和 \(\tau^3\)-Retail 上的评估表明，COTA 提升了所有九个评估设置的性能，并优于现有的基线——这证明了即使使用显著弱于主行动模型的辅助模型，建设性的运行时干预也能取得成功。

不要解决，只需比较：用于LLM智能体运行时干预的微型顾问

arXiv: 2608.21027 [cs.AI]
Submitted: August 21, 2026
Authors: Yanze Jiang, Mingxuan Li, Yuhao Wang, Shengfang Zhai, Jiaheng Zhang

📋 摘要

大语言模型（LLM）智能体正日益被用于涉及推理、工具使用和序列决策的复杂、多步骤现实任务中。随着这些智能体在更长的时间范围内运行，运行时干预（runtime intervention）提供了一种关键机制，能够在无需重新训练底层行动模型的前提下提高可靠性。

然而，单纯的故障检测是不够的；有效的干预需要具备可操作的恢复方向。传统方法要么依赖于沉重的专家求解器，要么依赖于大型、具备任务能力的批评家（critic），从而导致显著的计算成本和容量需求。

为了克服这一问题，作者推出了 “仅比较微型顾问”（Comparison-Only Tiny Advisor，简称 COTA），这是一个用于建设性运行时干预的轻量级框架。COTA 不直接解决任务，而是利用一个微型比较器模型来判断采样的替代方案是否比行动模型的初始提议带来更好的后续执行效果。通过依赖成对监督和非约束性建议，COTA 使得原始行动模型能够进行有效的重新规划。在 WebShop、ALFWorld 和 \(\tau^3\)-Retail 上的评估表明，COTA 提升了所有九个评估设置的性能，并且优异于现有的基线——这证明了即使辅助模型明显弱于主行动模型，建设性的运行时干预也能获得成功。

arXiv: 2608.21027 [cs.AI]
Submitted: August 21, 2026
Authors: Yanze Jiang, Mingxuan Li, Yuhao Wang, Shengfang Zhai, Jiaheng Zhang

📋 Summary

Large Language Model (LLM) agents are increasingly utilized for complex, multi-step real-world tasks involving reasoning, tool use, and sequential decision-making. As these agents operate over longer horizons, runtime intervention provides a crucial mechanism to improve reliability without needing to retrain the underlying actor model.

However, simple failure detection is insufficient; effective intervention requires actionable recovery directions. Traditional approaches either rely on heavy expert solvers or large task-capable critics, incurring significant computational costs and capacity demands.

To overcome this, the authors introduce the Comparison-Only Tiny Advisor (COTA), a lightweight framework for constructive runtime intervention. Instead of solving tasks directly, COTA uses a tiny comparator model to judge whether sampled alternatives lead to better continuations than the actor's initial proposal. By relying on pairwise supervision and non-binding advice, COTA enables the original actor to replan effectively. Evaluations across WebShop, ALFWorld, and \(\tau^3\)-Retail demonstrate that COTA improves performance across all nine evaluation settings while outperforming existing baselines—proving that constructive runtime intervention can succeed even with auxiliary models substantially weaker than the primary actor.

📑 论文元数据与信息

字段 详情
标题 不要解决，只需比较：用于LLM智能体运行时干预的微型顾问
主学科 人工智能 (cs.AI)
引用为 arXiv:2608.21027 [cs.AI]
DOI 10.48550/arXiv.2608.21027
备注 21 页，1 个图，预印本
许可证 知识共享 署名-非商业性使用-禁止演绎 4.0 license icon

📑 Paper Metadata & Information

Field Details
Title Don't Solve, Just Compare: Tiny Advisors for Runtime Intervention in LLM Agents
Primary Subject Artificial Intelligence (cs.AI)
Cite As arXiv:2608.21027 [cs.AI]
DOI 10.48550/arXiv.2608.21027
Comments 21 pages, 1 figure, Preprint
License Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 license icon

🔗 获取与资源

外部工具与参考

🔗 Access & Resources

External Tools & References