跳转至

文章背景与核心概要

随着大规模 AI 模型在各行业的广泛应用，如何在不泄露模型权重及输入数据的前提下，将高强度的计算任务外包给不可信的高性能服务器，已成为隐私计算领域的核心挑战。现有的安全外包方案往往因计算和通信开销过大而难以在大型 Transformer 模型上落地。

本文提出的 MOSAIC 协议通过一种创新的矩阵乘法掩码技术，在保证安全性的同时，通过引入可控的微量噪声实现了计算效率的飞跃。该方案基于 LWE 和 LPN 假设，通过随机 Hadamard 旋转机制有效管理了深度模型中的误差累积，使得在 70B 参数量级模型上的推理表现与全精度 BF16 相当，为大规模机密 AI 推理提供了一种高效、可扩展的解决方案。

MOSAIC：安全 AI 计算的掩码外包方案

arXiv: [2607.29221 [cs.CR]]
主要学科: 密码学与安全 (cs.CR)
其他学科: 人工智能 (cs.AI)
作者: James Hsin-yu Chiang, Sheila Zingg, Kari Kostiainen, Srdjan Capkun
提交日期: 2026年7月31日提交；2026年8月25日修订 (v2)

执行摘要

本文介绍了 MOSAIC，这是一种新颖的密码学方案，旨在将 AI 计算从受信任但计算能力受限的客户端安全且高效地外包给不可信的高性能服务器。在此威胁模型中，客户端同时提供输入数据和 AI 模型，而不可信服务器对两者均一无所知。

通过采用一种专门的矩阵乘法掩码协议，MOSAIC 以极小的噪声注入换取了计算的正确性，从而有效地扩展到现代大规模工作负载（如大型 Transformer 推理），实现了渐近的客户端开销，且其实际运行速度显著快于现有解决方案。

The paper introduces MOSAIC, a novel cryptographic approach designed to securely and efficiently outsource AI computations from a trusted, computationally constrained client to an untrusted, high-performance server. In this threat model, the client provides both the input data and the AI model, while the untrusted server learns nothing about either.

By employing a specialized matrix-multiplication masking protocol that trades off strict correctness via minimal noise injection, MOSAIC scales effectively to massive modern workloads—such as large transformer inference—achieving asymptotic client overhead and concrete runtimes significantly faster than prior solutions.

摘要与主要贡献

1. 核心挑战与协议

安全外包 AI 计算通常会给客户端带来高昂的计算和通信开销。MOSAIC 通过引入以下机制克服了这一问题： * 矩阵乘法掩码： 相比以往方法，该技术可扩展至规模大得多的矩阵，保护工作负载免受不可信加速器的威胁。 * 松弛正确性： 在乘法结果中安全地引入少量噪声，其安全性基于判定性 LWE（学习带误差问题）和 LPN（带噪声学习奇偶校验问题）假设。

1. The Core Challenge & Protocol

Securely outsourcing AI typically incurs prohibitive computational and communication overheads for the client. MOSAIC overcomes this by introducing: * Matrix-Multiplication Masking: Scales to vastly larger matrices than previous methods, securing workloads against untrusted accelerators. * Relaxed Correctness: Safely introduces small amounts of noise into the multiplication results, with security guarantees grounded in the decisional LWE (Learning With Errors) and LPN (Learning Parity with Noise) assumptions.

2. 管理深度模型中的误差增长

由于噪声会在 Transformer 模型的众多层中自然累积，MOSAIC 通过实现一种基于随机 Hadamard 旋转的误差缩放机制解决了这一问题。 * 在 70B 大规模 Transformer 模型上，MOSAIC 的困惑度（perplexity）与主流量化方法相当。 * 值得注意的是，它在 HumanEval 基准测试中达到了与全精度 BF16 推理相当的水平。

2. Managing Error Growth in Deep Models

Because noise naturally accumulates across the numerous layers of a transformer model, MOSAIC resolves this by implementing an error-scaling mechanism based on random Hadamard rotations. * On large 70B transformer models, MOSAIC yields a perplexity comparable to popular quantization methods. * Notably, it matches full-precision BF16 inference benchmarks on HumanEval.

3. 数据中心集成与机密 AI

现代非机密推理架构通过跨阶段（预填充/解码）、跨层和跨时间分配任务来最大化异构硬件的利用率，并使用类似 RDMA 的网络来传输激活值、键值（KV）缓存和权重。

MOSAIC 通过以下方式与该范式保持一致，从而实现大规模机密 AI： * 保持可信计算基（TCB）最小化。 * 将繁重的 AI 计算任务安全地卸载到不可信的加速器上。

3. Data Center Integration & Confidential AI

Modern non-confidential inference architectures distribute tasks across phases (prefill/decode), layers, and time to maximize heterogeneous hardware utilization, using RDMA-like networking to transfer activations, key-value (KV) caches, and weights.

MOSAIC aligns with this paradigm to enable large-scale confidential AI by: * Keeping the Trusted Computing Base (TCB) minimal. * Offloading the heavy lifting of the AI computations onto untrusted accelerators securely.

其他元数据

链接与资源