跳转至

文章背景与核心概要

从数据中学习机理或因果世界模型是科学研究的核心目标，它使研究人员能够解释现象并回答干涉性的“如果……会怎样”（what if）问题。然而，由于被动观测数据无法充分识别底层机制，实验必不可少，但进行实验往往成本高昂。

为了实现数据高效的模型发现，本文引入了模型发现智能体（Model Discovery Agent, MDA）。MDA 集成了三个核心组件：1. SMC\(^3\) 算法：一种在三个嵌套层级（模型、参数和潜变量）上运行的新型序贯蒙特卡洛方法；2. 大语言模型（LLM）：在当前模型空间不足时，用于动态提出新的假设（M-open 贝叶斯推断）；3. 信息价值（VoI）最大化：一种能够战略性选择最具信息量动作的实验设计器。

MDA 在三个现有基准测试（DPbench、CHEMbench 和 boxing）上树立了新的行业领先水平（SOTA）。此外，作者还引入了 HHbench——一个更具挑战性的随机单神经元电生理学基准测试。凭借其抗噪的贝叶斯基础，MDA 在该基准上展现出了强劲的性能。

Model Discovery Agent: LLM-assisted Bayesian Experiment Design for Data-Efficient Discovery of Mechanistic World Models

arXiv: 2608.09696 [cs.AI]
Authors: Kevin Murphy
Submitted: 10 Aug 2026 (Last revised 25 Aug 2026, Version v4)

📌 Summary

Learning mechanistic or causal world models from data is a central goal of science, allowing researchers to explain phenomena and answer interventional "what if" questions. Because passive data leaves mechanisms unidentified, experiments are necessary—yet conducting them can be costly.

To achieve data-efficient model discovery, this paper introduces the Model Discovery Agent (MDA). MDA integrates three core components: 1. SMC\(^3\) Algorithm: A novel sequential Monte Carlo method operating across 3 nested levels (models, parameters, and latents). 2. Large Language Model (LLM): Used to dynamically propose new hypotheses when the current model space is insufficient (M-open Bayesian inference). 3. Value of Information (VoI) Maximization: An experiment designer that strategically selects the most informative actions.

MDA establishes a new State-of-the-Art (SOTA) across three existing benchmarks (DPbench, CHEMbench, and boxing). Furthermore, the author introduces HHbench—a significantly more challenging stochastic single-neuron electrophysiology benchmark—on which MDA demonstrates robust performance thanks to its noise-robust Bayesian foundations.

从数据中学习机理或因果世界模型是科学研究的核心目标，它使研究人员能够解释现象并回答干涉性的“如果……会怎样”（what if）问题。由于被动观测数据无法充分识别底层机制，实验必不可少，但进行实验往往成本高昂。

为了实现数据高效的模型发现，本文引入了模型发现智能体（Model Discovery Agent, MDA）。MDA 集成了三个核心组件： 1. SMC\(^3\) 算法：一种在三个嵌套层级（模型、参数和潜变量）上运行的新型序贯蒙特卡洛方法。 2. 大语言模型（LLM）：在当前模型空间不足时，用于动态提出新的假设（M-open 贝叶斯推断）。 3. 信息价值（VoI）最大化：一种能够战略性选择最具信息量动作的实验设计器。

MDA 在三个现有基准测试（DPbench、CHEMbench 和 boxing）上树立了新的行业领先水平（SOTA）。此外，作者还引入了 HHbench——一个更具挑战性的随机单神经元电生理学基准测试。凭借其抗噪的贝叶斯基础，MDA 在该基准上展现出了强劲的性能。

🛠️ Key Components & Methodology

  • Model Discovery Agent (MDA): Combines hypothesis generation via LLMs with rigorous statistical inference.
  • SMC\(^3\) Framework: Nested sequential Monte Carlo sampling over models, continuous parameters, and latent variables.
  • Experiment Design: Driven by maximizing the expected Value of Information (VoI) to minimize required experimental samples.

🛠️ 核心组件与方法论

  • 模型发现智能体（MDA）： 将大模型的假设生成与严谨的统计推断相结合。
  • SMC\(^3\) 框架： 跨模型、连续参数和潜变量的嵌套序贯蒙特卡洛采样。
  • 实验设计： 由最大化期望信息价值（VoI）驱动，以最小化所需的实验样本量。

📊 Benchmarks and Evaluation

MDA was rigorously tested across multiple scientific domains: * DPbench: Physics benchmark (updated prompt evaluation in v4). * CHEMbench: Chemistry benchmark (updated prompt evaluation in v4). * Boxing Gym (boxing): Requires generating executable code (NumPyro). * HHbench (New): A stochastic single-neuron electrophysiology benchmark designed to test noise-robust inference under high-difficulty settings.

📊 基准测试与评估

MDA 在多个科学领域进行了严格测试： * DPbench： 物理学基准测试（在 v4 中更新了提示词评估）。 * CHEMbench： 化学基准测试（在 v4 中更新了提示词评估）。 * Boxing Gym (boxing)： 要求生成可执行代码（NumPyro）。 * HHbench（新）： 一个随机单神经元电生理学基准测试，旨在测试高难度环境下的抗噪推断能力。

License: Creative Commons Attribution 4.0 International
license icon

🔗 链接与资源

许可协议：知识共享署名 4.0 国际版 (Creative Commons Attribution 4.0 International)
license icon