跳转至

文章背景与核心概要

本文探讨了人类输入（如提示词、提示、批判或问题陈述）在引导大语言模型（LLM）生成证明、程序和科学假设等构件时的经济与计算价值。传统的经济学框架难以客观地量化这种价值，为此，作者拉斐尔·帕斯（Rafael Pass）引入了一种概率列文-柯尔莫哥洛夫复杂度（\(pKt\)）的大模型相对形式。该研究将LLM本身视为通用图灵机，将其生成过程视为随机纸带，并通过算法互信息来定义提示词的价值。

最终，该方法证明了：一个带有 \(b\) 比特价值的提示词可以使目标构件的获取难度降低 \(2^b\) 倍——这既可以通过指数级提升模型的采样成功概率来实现，也可以通过缩减其所需的计算时间来实现。此外，该框架允许进行高效的估计，证明了在没有高价值提示词的情况下复现某个构件所需的平均Token成本，大约是使用该提示词复现时的 \(2^b\) 倍。

提示词的价值：一种大模型相对柯尔莫哥洛夫复杂度的方法

The Value of a Prompt: An LLM-Relative Kolmogorov-Complexity Approach

摘要

本文研究了人类输入（如提示词、提示、批判或问题陈述）的经济和计算价值，这些输入用于引导大语言模型（LLM）生成构件，如证明、程序和科学假设。

Summary

This paper investigates the economic and computational value of human inputs—such as prompts, hints, critiques, or problem statements—used to guide Large Language Models (LLMs) in generating artifacts like proofs, programs, and scientific hypotheses.

传统的经济框架难以客观地量化这一价值。为了解决这个问题，作者拉斐尔·帕斯（Rafael Pass）引入了概率列文-柯尔莫哥洛夫复杂度（\(pKt\)）的LLM相对公式。通过将LLM本身视为通用图灵机，将其生成过程视为随机纸带，该论文通过算法互信息定义了提示词的价值。

Traditional economic frameworks struggle to quantify this value objectively. To address this, author Rafael Pass introduces an LLM-relative formulation of probabilistic Levin–Kolmogorov complexity (\(pKt\)). By treating the LLM itself as the universal Turing machine and its generation process as a random tape, the paper defines prompt value through algorithmic mutual information.

最终，这一方法表明，携带 \(b\) 比特价值的提示词使目标构件获得起来容易 \(2^b\) 倍——或者通过指数级提高模型的采样成功概率，或者通过划分其所需的计算时间。此外，该框架允许进行有效估计，证明在没有有价值的提示词的情况下复现构件所需的代币（token）中位数成本大约是有提示词复现时的 \(2^b\) 倍。

Ultimately, this approach demonstrates that a prompt carrying \(b\) bits of value makes a target artifact \(2^b\) times easier to obtain—either by exponentially boosting the model's sampling success probability or by dividing its required computation time. Furthermore, the framework allows for efficient estimation, proving that reproducing an artifact without a valuable prompt requires a median token cost roughly \(2^b\) times higher than reproducing it with the prompt.

文档元数据

Document Metadata

  • arXiv ID: arXiv:2608.16438
  • 主要学科: 人工智能 (cs.AI)
  • 次要学科: 计算复杂度 (cs.CC)、信息论 (cs.IT)
  • 作者: 拉斐尔·帕斯 (Rafael Pass)
  • 提交时间: 2026年8月17日
  • DOI: 10.48550/arXiv.2608.16438
  • arXiv ID: arXiv:2608.16438
  • Primary Subject: Artificial Intelligence (cs.AI)
  • Secondary Subjects: Computational Complexity (cs.CC), Information Theory (cs.IT)
  • Author: Rafael Pass
  • Submitted on: August 17, 2026
  • DOI: 10.48550/arXiv.2608.16438

链接与资源