DiffIE:基于扩散模型的开放式信息抽取
文章背景与核心概要
开放式信息提取(OpenIE)面临着一项根本性挑战:单个句子通常包含多个有效的情境三元组,因此它本质上是一个多输出任务。传统的神经系统通常通过缓慢且冗余的自回归生成,或者通过固定槽位预测来解决这一问题,但这会将抽取规模与训练过程死板地绑定在一起。
为了克服这些局限性,DiffIE 引入了一种新颖的机制,利用条件离散扩散模型的随机性来进行信息抽取。通过在每个Token的角色标签上生成独立的逆向扩散轨迹,该系统构建了一个候选三元组池,然后通过宽松匹配和排序将其聚合成最终输出。这使得抽取的规模和返回结果的数量能够在推理阶段进行动态调整。
摘要
Open Information Extraction (OpenIE) presents a fundamental challenge because a single sentence often contains multiple valid relational triplets, making it a multi-output task. Traditional neural systems approach this either through slow and redundant autoregressive generation or through fixed-slot prediction, which rigidly couples the extraction budget to the training process.
开放式信息提取(OpenIE)面临着一项根本性挑战:单个句子通常包含多个有效的情境三元组,因此它本质上是一个多输出任务。传统的神经系统通常通过缓慢且冗余的自回归生成,或者通过固定槽位预测来解决这一问题,但这会将抽取规模与训练过程死板地绑定在一起。
To overcome these limitations, DiffIE introduces a novel mechanism that uses the stochasticity of conditional discrete diffusion for extraction. By generating independent reverse-diffusion trajectories over per-token role tags, the system builds a pool of candidate triplets, which are then clustered using lenient matching and ranked to form the final output. This allows the extraction budget and the number of returned results to be adjusted dynamically at inference time.
为了克服这些局限性,DiffIE 引入了一种新颖的机制,利用条件离散扩散模型的随机性来进行信息抽取。通过在每个Token的角色标签上生成独立的逆向扩散轨迹,该系统构建了一个候选三元组池,然后通过宽松匹配和排序将其聚合成最终输出。这使得抽取的规模和返回结果的数量能够在推理阶段进行动态调整。
核心亮点与性能表现
Key Highlights & Performance
-
State-of-the-Art Performance: DiffIE achieves new state-of-the-art results on both F1 and AUC metrics for CaRB (1-1) and outperforms the strongest rule-based system (ClausIE) on BenchIE.
-
最先进的性能: DiffIE 在 CaRB (1-1) 的 F1 和 AUC 指标上均达到了最新的 SOTA(最优)水平,并在 BenchIE 上超越了最强的基于规则的系统(ClausIE)。
-
Robust Competitiveness: Maintains highly competitive performance on standard CaRB and WiRe57 benchmarks, delivering the best average score among all systems reporting across all four benchmarks.
-
强劲的竞争力: 在标准的 CaRB 和 WiRe57 基准测试中保持了极具竞争力的性能,在所有四个基准测试中报告结果的系统中取得了最高的平均得分。
-
Ablation Insights: Experiments demonstrate that uniform discrete diffusion outperforms absorbing state diffusion in this context, and that a matched non-diffusion stochastic tagger cannot replicate these performance gains—highlighting diffusion stochasticity as a powerful tool for structured prediction tasks with multiple valid outputs.
-
消融实验洞察: 实验表明,在此场景下,均匀离散扩散优于吸收态扩散,并且相匹配的非扩散随机标注器无法复制这些性能提升——这凸显了扩散模型的随机性作为处理具有多个有效输出的结构化预测任务的强大工具的潜力。
元数据与参考信息
Metadata & Reference Information
- arXiv ID:
arXiv:2609.02315 [cs.CL] - DOI: 10.48550/arXiv.2609.02315
- Authors: Konstantin Fedorov, Valentin Malykh
- Primary Subject: Computation and Language (
cs.CL) - Secondary Subject: Artificial Intelligence (
cs.AI) -
Submitted: September 2, 2026
-
arXiv ID:
arXiv:2609.02315 [cs.CL] - DOI: 10.48550/arXiv.2609.02315
- 作者: Konstantin Fedorov, Valentin Malykh
- 主分类: 计算与语言 (
cs.CL) - 次分类: 人工智能 (
cs.AI) - 提交时间: 2026年9月2日
Article License
文章许可协议
Creative Commons Attribution 4.0 International