跳转至

条件流匹配何时可以替代逐点负对数似然?

文章背景与核心概要

在无似然对齐方法中,条件流匹配(CFM)损失经常被用来替代端点负对数似然(NLL),但在理论上这种替代是否严谨、二者在对数似然比上的差异如何,一直缺乏深入探讨。本文重点研究了在何种条件下条件流匹配能够合法地替代逐点负对数似然,并针对线性高斯路径推导出了端点 NLL 的精确分解形式,将其拆解为熵、加权 CFM 目标、内部速度-得分残差以及边界残差。

研究结果表明,标准的 CFM 在离策略总体最优解下通常并不是一个逐点 NLL 估计器,不过特定的权重函数(例如 \(w_{\mathrm{sc}}(t) = (1-t)/t\))可以消除内部残差。然而,这一积极结论并不能普遍推广到训练或在策略对齐阶段,在此类场景中对数比率仍然可能存在偏差。通过对不同维度、分布和几何形态的实验验证,本文不仅证实了上述理论结论,也进一步揭示了为什么不精确的比率在实际应用中依然有效。


论文元数据 (Paper Metadata)