跳转至

提示词注入的解构:一种用于结构化分析的组件模型

文章背景与核心概要

本文针对人工智能安全分析领域长期存在的一个局限性:自2022年发现提示词注入(Prompt Injection)以来的四年间,相关攻击记录大多仍停留在脆弱的逐字字符串层面,而非结构化的漏洞利用分析。为了突破这一瓶颈,作者 Jeremy McHugh 提出了一种用于结构化分析的“七组件模型”。

该框架不再依赖于表层的措辞(因为大语言模型对自然语言变体的理解往往是一致的),而是聚焦于攻击者的意图,即工具目标、汇点(sinks)和效应。该模型由五个工件字段和两个环境字段组成,旨在弥合现有分类法(如 HOUYI 载荷分解、提示词软件杀伤链等)之间的鸿沟,并为行业威胁情报(CTI)模式提供标准化的分析记录。


提示词注入的解构:一种用于结构化分析的组件模型

摘要

本文解决了人工智能安全威胁分析中持续存在的局限性:在 2022 年发现提示词注入四年后,攻击记录仍主要以脆弱的逐字字符串形式存在,而非结构化的漏洞利用。为了克服这一局限,作者 Jeremy McHugh 提出了一个用于结构化分析的七组件模型

This paper addresses the ongoing limitation in analyzing AI security threats: four years after the discovery of prompt injection in 2022, attacks are still primarily documented as fragile, verbatim strings rather than structured exploits. To move past this limitation, author Jeremy McHugh proposes a seven-component model for structured analysis.

该框架不依赖于表层措辞(尽管存在自然语言差异,大语言模型仍能对其进行相同的解释),而是聚焦于攻击者意图(工具目标、汇点和效应)。该模型由五个工件字段两个环境字段组成: 1. 载体 (Carrier) 2. 投递向量 (Delivery Vector) 3. 隐蔽手段 (Concealment) 4. 上下文中断 (Context-Break) 5. 权限提升 (Privilege Escalation) 6. 载荷 (Payload) 7. 返回通道 (Return Channel)

Rather than relying on surface wording—which large language models can interpret identically despite natural-language variations—this framework focuses on attacker intent (tool targets, sinks, and effects). The model consists of five artifact fields and two environment fields: 1. Carrier 2. Delivery Vector 3. Concealment 4. Context-Break 5. Privilege Escalation 6. Payload 7. Return Channel

该框架弥合了现有的分类法(如 HOUYI 的载荷分解、提示词软件杀伤链以及活动分类法),并使诸如 ReNeLLM 等最小化越狱框架形式化。它包含了清晰的标记规则、映射到行业 CTI 模式的逻辑分析记录、实战案例(包括 EchoLeak CVE-2025-32711 和一个野外恶意软件 AI 规避样本),以及一个说明性的代理流程图。

The framework bridges existing taxonomies (such as HOUYI's payload decomposition, the Promptware Kill Chain, and campaign taxonomies) and formalizes minimal jailbreak frameworks like ReNeLLM. It includes clear labeling rules, logical analysis records mapped to industry CTI schemas, worked examples (including the EchoLeak CVE-2025-32711 and an in-the-wild malware AI-evasion sample), and an illustrative agentic flowchart.


元数据与文档信息

属性 详情
arXiv ID arXiv:2608.07808
主要学科 密码学与安全 (cs.CR)
次要学科 人工智能 (cs.AI)
作者 Jeremy McHugh
提交日期 2026年8月7日
DOI 10.48550/arXiv.2608.07808
许可协议 知识共享署名 4.0
Attribute Details
arXiv ID arXiv:2608.07808
Primary Subject Cryptography and Security (cs.CR)
Secondary Subjects Artificial Intelligence (cs.AI)
Author Jeremy McHugh
Submission Date August 7, 2026
DOI 10.48550/arXiv.2608.07808
License Creative Commons Attribution 4.0

访问与资源


许可图标参考: license icon