跳转至

大语言模型中战略选择的内部解剖

文章背景与核心概要

本文研究了大语言模型（LLMs）内部处理和执行战略决策的机制，并将其内部运作方式与人类的选择行为进行了比较。研究人员在 144 个严格的序数 \(2\times2\) 博弈中，记录了四个开源模型（包括稠密模型、混合专家模型，以及一组匹配的基础与指令微调模型对）的激活状态。他们发现，尽管模型成功模拟了人类随博弈复杂度上升而表现下降的趋势，并保留了可解码的动机，但其底层的计算路径却存在显著差异。

值得注意的是，指令微调可以在不明显改变外部输出行为或内部可解码信息的前提下，极大地改变表征动机传递至最终决策的方式。这项研究表明，相似的外部行为可能建立在不同的计算基础之上，后训练能够重塑从表征动机到决策的路径，同时使整体行为和可解码信息保持基本不变。

元数据与文档信息

属性 详情
arXiv ID arXiv:2609.07478 [cs.AI]
提交日期 2026年9月7日
作者 Vinícius Ferraz, Leon Houf, Enrico Ferrea
主学科 人工智能 (cs.AI)
次学科 计算机科学与博弈论 (cs.GT)
MSC 分类 68T07（主）；91A26, 91A05（次）
ACM 分类 I.2.6; I.2.7; J.4
DOI 10.48550/arXiv.2609.07478

摘要

大语言模型既充当战略智能体，又作为人类选择的模型，然而，像战略智能体一样进行选择并不意味着像它们那样进行计算。我们在 144 个严格的序数 \(2\times2\) 博弈的单次博弈（one-shot play）中，记录了四个开源模型（包含稠密模型和混合专家模型，其中包含一组匹配的基础与指令微调模型对）的激活状态。我们追踪了从提示词中的预设动机，到激活状态，再到最终选择的完整路径。

稠密模型模拟了人类随博弈复杂度上升而表现下降的未调整趋势。动机和选择在所有模型中均可被检测到，但模型之间存在差异：包括动机是否能够传递至选择、是否与选择保持一致，以及在受测情况下，强化动机是否会改变偏好。基础版与指令微调版的 Qwen2.5 模型在基线状态下的选择几乎完全相同，但在动机是否传递至选择这一点上存在差异。固定的决策线索在内部是可区分的，但会选择性地改变最终选择。

相似的行为可能依赖于不同的计算过程；后训练可以重塑从表征动机到决策的路径，同时使行为和可解码信息基本保持完整。

Large language models act as strategic agents and models of human choice, yet choosing like a strategic agent does not mean computing like one. We recorded activations from four open-weight models — dense and mixture-of-experts, including a matched base–instruct pair — in one-shot play of 144 strict ordinal \(2\times2\) games. We followed a prespecified incentive from prompt, through activations, to choice.

Dense models mirrored the unadjusted human decline with game complexity. Incentive and choice were detectable in every model, but models differed in whether incentive reached the choice, aligned with it and, where tested, whether strengthening it shifted preference. The base and instruction-tuned Qwen2.5 models chose almost identically at baseline yet differed in whether incentive reached choice. Fixed decision cues were distinguishable internally but changed choices selectively.

Similar behaviour can rest on different computation; post-training can reshape the path from represented incentive to decision while leaving behaviour and decodable information largely intact.

访问与资源