跳转至

ETHOS：面向临床多智能体系统的模块化伦理框架

文章背景与核心概要

随着大语言模型（LLM）在临床多智能体系统（MAS）中的快速集成，医疗领域在处理多模态患者数据及辅助复杂决策方面获得了强大的能力。然而，将这些系统部署到真实的医疗环境中，在安全性、公平性、问责制、透明度以及患者信任等方面引发了严峻的伦理挑战。

为了弥合高层概念性准则（如WHO和国家医学科学院提出的准则）与实际运行时执行之间的鸿沟，研究人员提出了 ETHOS（通过分层监督系统实现伦理与信任）。ETHOS 作为一个模块化的治理元智能体，旨在无缝集成到任何现有的临床 MAS 架构中，且无需对底层结构进行根本性修改。

该系统在肝脏病学临床决策支持 MAS 中进行了测试。通过确定性检查、上下文审查和伦理评估器，ETHOS 能够持续评估推理过程及最终输出，从而有效抑制不安全的建议，显著提升了决策的可靠性与患者安全性。

文章元数据

  • arXiv ID: arXiv:2608.15424 [cs.MA]
  • 学科分类: 多智能体系统 (cs.MA), 人工智能 (cs.AI), 机器学习 (cs.LG)
  • 提交日期: 2026年8月15日
  • 备注: 提交至 2027年太平洋生物计算研讨会 (PSB) (World Scientific Publishing Company) 审阅的预印本。

作者

  • Rakesh Sharma, Sydney Pugh, Cameron Beeche, Pankhuri Singhal, Rachel Wu, Margaret Eby, Jeffrey Duda, James Gee, Kyra O'Brien, Hersh Sagreiya, Marina Serper, Victoria Gershuni, Angela Bradbury, Anurag Verma, Eric Eaton, Kevin B. Johnson, and Walter Witschey.

摘要

大语言模型的快速普及推动了临床多智能体系统（MAS）的发展，使其能够整合多模态患者数据并支持日益复杂的临床决策。然而，在现实医疗环境中部署这些系统引发了关于安全性、公平性、问责制、透明度和患者信任的关键伦理问题。

尽管包括世界卫生组织（WHO）、国家医学科学院（National Academy of Medicine）和 FUTURE-AI 联盟在内的众多组织已经提出了医疗 AI 的伦理框架和治理原则，但这些努力大多仍停留在概念层面。为了应对这一挑战，我们提出了 ETHOS（通过分层监督系统实现伦理与信任），这是一个模块化的伦理框架，设计为治理元智能体，可以与任何现有的多智能体系统集成，而无需更改其底层架构。

ETHOS 通过分层治理方法将利益相关者知情的伦理要求转化为可执行的运行时监督，该方法包括确定性检查、上下文审查和最终伦理评估器。这些组件持续评估中间推理步骤和最终输出，使系统能够识别伦理风险、请求修订或抑制不符合预定义安全和信任标准的响应。

我们在肝脏病学临床决策支持 MAS 中演示了 ETHOS。结果表明，ETHOS 通过检测不完整、不一致或超出范围的证据，并在无法支持安全建议时适当地增加弃权，从而提高了决策的可靠性。通过将伦理治理直接嵌入系统运行中，ETHOS 为将高层 AI 伦理原则转化为可部署的保障措施提供了一种实用且可审计的机制。

ETHOS 的核心特性

  1. 模块化架构： 作为治理元智能体运行，能够插入现有的多智能体系统，无需进行底层结构重构。
  2. 分层监督机制：
  3. 确定性检查： 对规则和约束进行硬编码验证。
  4. 上下文审查： 针对特定患者数据和临床场景评估推理步骤。
  5. 最终伦理评估器： 在交付前对系统最终输出进行整体评估。
  6. 临床验证： 在现实世界的肝脏病学临床决策支持框架中进行了测试，证明了其在必要时检测不完整、不一致或超出范围的证据，并触发安全系统弃权的能力。

全文及资源链接