跳转至

这不是一只烟斗：将 AI 系统视为语义抽象的形式化框架

Ceci n'est pas une pipe: AI systems as semantic abstractions

  • arXiv ID: arXiv:2607.09489 [cs.AI]
  • Subjects: Artificial Intelligence (cs.AI); Programming Languages (cs.PL)
  • Authors: Jade Alglave, Patrick Cousot
  • Submitted: July 10, 2026; Revised: September 10, 2026 (v2)
  • DOI: 10.48550/arXiv.2607.09489

文章背景与核心概要

正如著名超现实主义画作《这不是一只烟斗》所揭示的“画作并非烟斗本体”，AI 系统的输出同样不是客观世界事实本身，而是一种由工程化构建出来的符号表示与语义抽象。本文由抽象解释理论奠基人 Patrick Cousot 与形式化验证学者 Jade Alglave 共同撰写，旨在打破当前大模型仅凭“表面流畅性”制造事实幻觉的困局。作者通过严密的形式化语义框架，解耦了领域公认知识、外部参考源以及系统可访问信息三个核心维度，为 AI 的各类典型失效模式 (如过度外推、被推翻断言、数据源不匹配等) 奠定了数学诊断基础。这一框架为未来 AI 智能体在调用工具、引用事实和执行关键决策时，从单纯的“概率生成”迈向“权威可验证”提供了坚实的理论支柱。

📌 内容概要

Summary

**《这不是一只烟斗：将 AI 系统视为语义抽象》 (Ceci n'est pas une pipe: AI systems as semantic abstractions) ** 提出了一个严谨的形式化语义框架，用于深入分析 AI 系统输出的正确性。该论文由 Jade Alglave 与 Patrick Cousot 联合撰写，核心论点指出：AI 的输出结果绝不应被直接等同于客观事实或真实世界状态，而应被视作一种经过工程化构造的表征 (即一种语义抽象) 。

"Ceci n'est pas une pipe: AI systems as semantic abstractions" proposes a formal semantic framework to analyze the correctness of AI system outputs. Authored by Jade Alglave and Patrick Cousot, the paper argues that an AI's output should be treated as an engineered representation (an abstraction) rather than an objective fact or direct description of the world.

通过严格区分公认的领域知识、外部参考源信息以及当前系统可调用的信息，作者建立了一套完备而严密的词汇体系，能够精准诊断 AI 常见的各类失效模式——例如主观过度外推、缺乏证据或已被证伪的断言、数据源与背景知识冲突、引用过时信息等。这有助于将 AI 的行为牢固锚定在明确的权威依据之上，而非仅仅停留在表面上的语言流畅度。

By distinguishing between accepted domain knowledge, reference sources, and accessible system information, the authors establish a rigorous vocabulary to precisely diagnose common AI failure modes—such as extrapolation, refuted or unsupported assertions, source mismatches, and stale references—helping to ground AI actions in explicit authority rather than superficial fluency.

📑 论文元数据

Metadata

  • arXiv 编号： arXiv:2607.09489 [cs.AI]
  • 学科领域： 人工智能 (cs.AI)；程序设计语言 (cs.PL)
  • 论文作者： Jade Alglave, Patrick Cousot
  • 首次提交： 2026年7月10日
  • 最新修订： 2026年9月10日 (v2)
  • DOI 链接： 10.48550/arXiv.2607.09489
  • arXiv ID: arXiv:2607.09489 [cs.AI]
  • Subjects: Artificial Intelligence (cs.AI); Programming Languages (cs.PL)
  • Authors: Jade Alglave, Patrick Cousot
  • Submitted: July 10, 2026
  • Revised: September 10, 2026 (v2)
  • DOI: 10.48550/arXiv.2607.09489

📄 论文摘要

Abstract

AI 系统的输出并不是它看似正在描述的客观事实或现实世界状态，而是一种工程化构建的表征。我们提出了一个用于刻画 AI 系统的语义框架，以便能够系统检验此类表征的正确性。为此，我们严格区分了公认领域知识所证实的范畴、参考来源所陈述的内容，以及系统当前实际能够利用的信息。基于这套界定，我们能够为常见的 AI 失效模式给出精确定义：包括过度外推、被驳斥或缺乏支撑的论断、数据源与背景知识的不匹配、失效或过时的引用来源、擅自添加假设、未经授权的操作等等。我们期望该框架能够提供一套实用的规约与验证词汇，从而对 AI 系统的输出内容、引用依据、工具调用以及改变现实世界的行动进行严格审查，使其必须立足于可信断言与显式权威授权，而不再被表面上的顺畅表达所蒙蔽。

An AI system's output is not the fact or world state it appears to describe, but rather an engineered representation. We propose a semantic framework to describe AI systems, to be able to examine the correctness of such representations. To do so, we distinguish what is justified by accepted domain knowledge, what reference sources say, and what the system can currently use. This allows us to give precise definitions to common failures: extrapolation, refuted or unsupported assertion, sources versus knowledge mismatch, stale or refuted source, added hypotheses, unsupported use... We hope our framework gives a useful vocabulary for specifying and checking AI systems whose outputs, citations, tool calls, and world-changing actions must be justified by reliable claims and explicit authority rather than apparent fluency.

🔗 访问链接与资源

Links & Resources