跳转至

可解释架构的图形化设计

文章背景与核心概要

设计和实现可解释的机器学习架构通常缺乏统一的形式化表示方法。传统的符号方程难以提供架构的全局概览，而概率图模型和流程图则往往掩盖了张量层面的操作细节，从而限制了研究的可复现性。

为了解决这一问题，本文引入了一种改编自 Penrose 张量符号的图形化表示法。该符号系统能够提供架构的高层全局视图，并能与 PyTorch einsum 代码实现一一对应。作者通过该方法展示了多种“构造性可解释”架构（如概念瓶颈模型、稀疏探测、原型网络等），并详细解析了前沿可解释语言模型 Steerling-8B 的核心架构组件。

摘要

Designing, implementing, and comparing interpretable architectures requires a formal language to represent them. The most common representations fall short in one of two ways. Symbolic equations give no global view of an architecture at a glance. Probabilistic graphical models and flowcharts do not describe actual tensor manipulations, thus hiding key insights and limiting reproducibility. To close this gap, we introduce a graphical notation for designing interpretable AI architectures, adapted from Penrose tensor notation. This graphical notation gives a global view of an architecture and maps one to one onto PyTorch einsum code. We first use this notation to describe architectures that are interpretable by construction, including concept bottlenecks, sparse probes, prototype networks, neural additive models, and mixtures of linear models. We then diagram the key architectural components of Steerling-8B, a frontier interpretable language model. The diagram yields global insights into the architecture (e.g., showing that Steerling is a residual model), a geometric interpretation of each individual operation, and a direct translation into 33 lines of PyTorch code.

设计、实现和比较可解释架构需要一种形式化语言来进行表示。目前最常见的表示方法在两个方面存在不足：符号方程无法一眼提供架构的全局视图；概率图模型和流程图则无法描述实际的张量操作，从而隐藏了关键见解并限制了可复现性。为了弥补这一差距，我们引入了一种用于设计可解释 AI 架构的图形化符号，该符号改编自 Penrose 张量符号。这种图形化符号提供了架构的全局视图，并能与 PyTorch einsum 代码实现一一对应。我们首先使用该符号描述了构造性可解释的架构，包括概念瓶颈模型、稀疏探测、原型网络、神经加性模型和线性模型混合体。随后，我们绘制了前沿可解释语言模型 Steerling-8B 的关键架构组件图。该图表不仅提供了对架构的全局洞察（例如，显示 Steerling 是一个残差模型），还为每个单独的操作提供了几何解释，并能直接转换为 33 行 PyTorch 代码。

文档元数据

  • arXiv ID: arXiv:2608.18936 [cs.LG]
  • 主要学科: 机器学习 (cs.LG)
  • 次要学科: 人工智能 (cs.AI), 神经与进化计算 (cs.NE)
  • 作者: Pietro Barbiero
  • 提交日期: 2026年8月19日 (最后修订于 2026年8月20日)
  • DOI: 10.48550/arXiv.2608.18936

全文及访问链接

外部资源与工具