跳转至

人工共情:迈向无监督智能体检测与策略重构的框架

文章背景与核心概要

本文探讨了人工智能系统如何仅通过观察,独立识别并建模环境中其他智能体的能力。这种能力对于实现现实世界中的协作行为至关重要。尽管该问题与逆向强化学习(Inverse Reinforcement Learning)有相似之处,但目前仍处于探索阶段,且面临的约束条件更少,研究难度更大。

为了解决这一挑战,作者提出了一个全新的框架。该框架利用一个在独立任务上预训练的强化学习智能体作为“智能体动力学”的先验知识,从而实现了对环境中其他智能体的检测以及对其行为策略的重构。


摘要

我们研究了人工智能系统如何仅通过观察来识别和建模环境中的其他智能体,这是现实世界中实现协作行为所必需的能力。这个问题比逆向强化学习的约束更少,且在很大程度上尚未得到探索。我们提出了一个框架,该框架使用一个在独立任务上训练的强化学习智能体作为关于智能体动力学的先验,以执行智能体检测和策略重构。

We study how an AI system can identify and model other agents in its environment from observation alone, which is a capability necessary for cooperative behaviour in the real world. This problem is less constrained than inverse reinforcement learning and remains largely unexplored. We propose a framework that uses a reinforcement learning agent, trained on an independent task as a prior about agentic dynamics, to perform agency detection and policy reconstruction.


元数据与参考信息


获取与资源


文章许可图标

license icon