相同事实，不同更新：推理设置如何塑造大模型在医疗资源分配中的行为
文章背景与核心概要
本研究探讨了大语言模型（LLM）在医疗资源分配等敏感领域中，推理设置与累积上下文如何显著影响其决策过程。研究发现，当模型面对完全相同的临床信息更新时，仅仅因为是否在当前上下文中保留了之前的回答，模型往往会表现出截然不同、甚至完全相反的概率偏移。
该研究通过对比实验揭示了模型行为对上下文的高度依赖性。研究结果强调，在将大模型部署于高风险决策环境时，必须进行严谨的上下文工程设计，并开展深入的行为学研究，以确保模型在面对动态信息更新时能够保持决策的一致性与可靠性。
论文元数据 (Paper Metadata)
- arXiv ID: arXiv:2608.18108 [cs.CL]
- 学科分类: 计算与语言 (
cs.CL)；人工智能 (cs.AI)；人机交互 (cs.HC)；多智能体系统 (cs.MA) - 提交日期: 2026年6月10日
- 会议录用: 已被 ICML 2026 AI4GOOD 研讨会（韩国首尔）录用
- 作者: Spencer Gibson, Tyler Crosse, Magnus Saebo, Achyutha Menon, Eyon Jang, Diogo Cruz
摘要 (Abstract)
大语言模型正被整合到几乎所有领域的敏感且重要的决策过程中。虽然先前的研究已经探讨了模型在输入和场景框架方面的偏见，但模型也可能因为部署过程中累积的上下文而表现出意想不到且不理想的行为。
Large language models are being incorporated into sensitive and important decision-making processes across nearly all fields. While prior work studies model bias around inputs and scenario framing, models can also behave in unexpected and undesirable ways due to context accumulated over their deployment.
在这项工作中，我们研究了一个医疗案例：模型被要求根据简短的临床背景为两人分配资源概率，随后在保留或不保留之前回答的情况下，再次查看包含对比性患者信息的相同场景。
In this work, we study a medical example in which a model is asked to assign resource-allocation probabilities to two people given brief clinical context, and then sees the same scenario with a single extra sentence containing contrasting patient information, either with or without its previous response in context.
在四个受测模型中的三个模型上，配对上下文（paired-context）实验和独立推理（independent-inference）实验产生了不同的概率偏移，当提供新信息时，这些偏移往往方向相反（即偏向于支持人 B 与偏向于支持人 A）。我们还包含了额外的配对上下文实验，以展示跨场景维度改变属性的影响。
Across three of four tested models, the paired-context and independent-inference experiments have different probability shifts, often in opposite directions (in favor of Person B vs. in favor of Person A) when new information is provided. We include additional paired-context experiments to show the effect of varying attributes across scenario axes.
我们的研究结果展示了患者信息在敏感医疗用例中对上下文的依赖效应。从更广泛的角度来看，我们的工作表明了将基于 LLM 的系统纳入决策过程、进行上下文工程以及开展进一步模型行为研究的重要性。
Our findings show the context-dependent effect of patient information in a sensitive medical use case. More broadly, our work shows the importance of carefully incorporating LLM-based systems into decision-making processes, context engineering, and further model behavioral studies.
