盲目的策展人：有偏见的评判者如何悄无声息地阻碍自进化智能体的技能淘汰

文章背景与核心概要

本文探讨了自进化人工智能体（Self-evolving AI Agents）中一个关键的失效模式：即“技能淘汰”（Skill Retirement）机制的崩溃。在智能体通过剔除无效技能来优化自身能力的系统中，整个过程高度依赖于评判者（Judge）对失败案例的准确识别。

研究指出，当使用本质上存在偏见的大语言模型（LLM）作为评判者时，系统面临的不仅仅是噪声干扰，而是一种被称为“虚假通过”（False-pass）的特定偏见。这种偏见将失败误判为成功，充当了一个“静默开关”，彻底禁用了策展机制。研究发现，当虚假通过率超过 0.45 的临界点时，基于贡献度的技能淘汰机制将完全失效，且无法通过增加数据量来弥补。由于这种失效在聚合性能指标中难以察觉，它构成了开发者面临的隐蔽且危险的风险。

核心发现 (Key Findings)

1. “静默”失效机制

作者区分了对称噪声（Symmetric noise）与“虚假通过”偏见。对称噪声允许系统维持其淘汰流程，而虚假通过偏见则会导致结构性失效。由于系统无法区分真正的成功与被误标为成功的失败，它无法淘汰劣质技能，从而导致智能体内部技能库的退化。

The authors distinguish between symmetric noise and "false-pass" bias. While symmetric noise allows the system to maintain its retirement processes, false-pass bias creates a structural failure. Because the system cannot distinguish between a genuine success and a failure that was mislabeled as a pass, it fails to retire bad skills, leading to a degradation of the agent's internal library.

2. 0.45 临界点

研究确定了一个关键的转折点： * 虚假通过率低于 0.45： 策展机制保持功能正常。 * 虚假通过率高于 0.45： 机制实际上被禁用，无论增加多少额外数据都无法弥补策展完整性的丧失。

The research identifies a critical tipping point: * Below 0.45 false-pass rate: The curator mechanism remains functional. * Above 0.45 false-pass rate: The mechanism is effectively disabled, and no amount of additional data can compensate for the loss of curation integrity.

3. 行为安全性与性能表现

论文强调，这是一个关于“行为安全性”而非性能的结果。由于这种失效是“静默”的，智能体在聚合指标上可能表现良好，但其底层的技能库却在悄悄积累“垃圾”或无效行为。这使得系统在部署过程中极易遭受突发且不可预见的故障。

The paper emphasizes that this is a behavioral safety result rather than a performance one. Because the failure is "silent," the agent may appear to be performing adequately in aggregate metrics while its underlying skill library is quietly accumulating "junk" or ineffective behaviors. This makes the system vulnerable to sudden, unexpected failures during deployment.

技术元数据 (Technical Metadata)

访问与资源 (Access & Resources)

• 查看 PDF
• HTML 版本 (实验性)
• TeX 源码