文章背景与核心概要
当前的语言模型基于激活值的工具（如探测器、稀疏自编码器以及自然语言解释器）通常绑定于特定模型的原生隐空间之中。每当推出新模型时，这种局限性都会导致人们不得不付出高昂的成本去重新构建或重新探索这些工具，极大地限制了技术的复用与扩展。
为了解决这一痛点，本文作者提出了通用激活总线（Universal Activation Bus），这是一个在兼容的语言模型之间建立通用激活接口的新型框架。通过利用少量源模型，研究人员学习出一个共享的稠密空间，并为每个模型训练一对轻量级的线性编码器-解码器适配器。一旦源模型训练完成，该接口便会被冻结，新模型只需通过无标签的匹配文本拟合其专用的适配器对即可无缝接入。
该方法实现了基于激活值的工具（包括探测器和SAE特征）在不同模型间的高效共享。在五个模型上进行的实验结果表明，语义相关的文本在这个共享空间中形成了高度一致的邻域，从而在无需重新训练的情况下实现了工具的有效复用。此外，研究还表明，一个模型的中间激活值可以被另一个模型冻结的高层网络所利用来生成预测，这确立了一种稳定且与模型无关的“激活契约”。
每个模型一个适配器对：语言模型的通用激活接口 (One Adapter Pair per Model: A Universal Activation Interface for Language Models)
作者： Su-Hyeon Kim, Jiwan Mun, Yo-Sub Han
日期： 2026年8月10日
arXiv ID: 2608.09521
学科： 人工智能 (cs.AI)
摘要 (Summary)
Current activation-based tools for language models (such as probes, sparse autoencoders, and natural-language interpreters) are typically tethered to a specific model's native hidden space. This limitation necessitates the costly rebuilding or rediscovery of these tools whenever a new model is introduced.
当前的语言模型基于激活值的工具（如探测器、稀疏自编码器以及自然语言解释器）通常绑定于特定模型的原生隐空间之中。每当推出新模型时，这种局限性都会导致人们不得不付出高昂的成本去重新构建或重新探索这些工具。
The authors propose the Universal Activation Bus, a novel framework that establishes a common activation interface across compatible language models. By utilizing a small set of source models, the researchers learn a shared dense space alongside a lightweight linear encoder-decoder adapter pair for each model. Once the source training is complete, the interface is frozen. New models can be integrated by simply fitting their specific adapter pair on unlabeled matched text.
作者提出了通用激活总线（Universal Activation Bus），这是一个在兼容的语言模型之间建立通用激活接口的新型框架。通过利用一小部分源模型，研究人员学习出一个共享的稠密空间，并为每个模型配置了一对轻量级的线性编码器-解码器适配器。一旦源模型训练完成，该接口即被冻结。新模型只需通过无标签的匹配文本拟合其特定的适配器对，即可实现集成。
This approach allows for the seamless sharing of activation-based tools—including probes and SAE features—across different models. Experimental results across five models demonstrate that semantically related texts form consistent neighborhoods in this shared space, enabling effective tool reuse without retraining. Furthermore, the study shows that intermediate activations from one model can be leveraged by the frozen upper layers of another to generate predictions, establishing a stable, model-agnostic "activation contract."
这种方法使得基于激活值的工具（包括探测器和SAE特征）能够在不同模型之间进行无缝共享。在五个模型上进行的实验结果表明，语义相关的文本在这个共享空间中形成了高度一致的邻域，从而在无需重新训练的情况下实现了有效的工具复用。此外，研究表明，一个模型的中间激活值可以被另一个模型的冻结高层网络所利用来生成预测，从而确立了一个稳定且与模型无关的“激活契约”。
核心特性 (Key Features)
- Universal Activation Bus: A framework providing a unified interface for model activations.
- 通用激活总线： 为模型激活提供统一接口的框架。
- Lightweight Integration: New models join the ecosystem by training only a single, small linear encoder-decoder adapter pair.
- 轻量级集成： 新模型只需训练单个小型线性编码器-解码器适配器对即可加入生态系统。
- Tool Interoperability: Enables the reuse of probes, sparse autoencoders (SAEs), and natural-language interpreters across diverse models.
- 工具互操作性： 允许在不同的模型之间复用探测器、稀疏自编码器（SAE）和自然语言解释器。
- Cross-Model Prediction: Demonstrates that activations are sufficiently consistent to allow one model's intermediate outputs to drive another model's predictions.
- 跨模型预测： 证明了激活值具有足够的 一致性，允许一个模型的中间输出驱动另一个模型的预测。