跳转至

PRISM:通过地形诊断进行排列优化的预测性协议

文章背景与核心概要

排列优化(Permutation Optimization)是一类广泛存在但极具挑战性的问题:系统组件本身固定,但其排列顺序对最终性能具有决定性影响。传统的寻优过程往往需要付出高昂的计算成本,且盲目选择搜索策略容易陷入低效。为此,本文推出了名为 PRISM 的全新预测性协议。PRISM 在启动高成本搜索之前,利用低成本的地形诊断技术(如单步移动自相关和适应度-距离相关性),能够精准预测最优的变异算子,判断结构化搜索是否优于随机采样,并识别出排列搜索收效甚微的优化区围。

通过在合成地形、神经架构搜索、科学机器学习流水线以及大语言模型指令排序等多个领域的广泛验证,PRISM 展现出了极高的搜索行为预测准确性。研究表明,指令排序会引发显著的性能波动,这种波动不仅可以在不同模型系列之间迁移,而且即使在提示词措辞已经优化之后仍然至关重要。总体而言,PRISM 并非定位为一个全能的优化器,而是一个科学的决策框架,用以指导何时应当使用排列搜索、选择何种表示形式与算子,以及何时简单的替代方案更为可取。


文档元数据

元数据字段 详情
arXiv ID arXiv:2608.08344 [cs.LG]
标题 PRISM: A Predictive Protocol for Permutation Optimization via Landscape Diagnostics
作者 Blessings Mambwe
提交日期 2026年8月8日
主分类 机器学习 (cs.LG)
次分类 人工智能 (cs.AI);优化与控制 (math.OC)
MSC 类别 90C27, 68W20
ACM 类别 I.2.6; I.2.8; G.1.6
许可协议 知识共享署名 4.0

摘要

Permutation optimization arises whenever the components of a system are fixed but their ordering affects performance. We introduce PRISM, a predictive protocol for permutation optimization that measures a fitness landscape before selecting a search strategy. PRISM uses inexpensive landscape diagnostics, including one-step move autocorrelation and fitness-distance correlation, to predict useful mutation operators, identify when structured search is likely to outperform random sampling, and detect regimes in which search provides little advantage. Across synthetic permutation landscapes, neural architecture benchmarks, scientific machine learning pipelines, and large-language-model instruction ordering, the protocol makes testable predictions about search behavior before optimization begins. Exhaustive instruction-ordering experiments reveal substantial performance variation induced solely by permutation, while cross-model experiments show that useful ordering structure can transfer across model families and task difficulty. Additional experiments demonstrate that instruction ordering remains consequential after prompt wording is optimized, indicating that content optimization and ordering optimization are complementary. The results position PRISM not as a universally superior optimizer, but as a framework for determining when permutation search is useful, which representation and operator should be used, and when simpler alternatives are preferable.

排列优化问题出现在系统组件固定但其排序会影响性能的所有场景中。我们引入了 PRISM,这是一种用于排列优化的预测性协议,它在选择搜索策略之前先对适应度地形进行测量。PRISM 使用廉价的地形诊断技术(包括单步移动自相关和适应度-距离相关性)来预测有用的变异算子,识别结构化搜索何时可能优于随机采样,并检测搜索提供微弱优势的区制。在合成排列地形、神经架构基准测试、科学机器学习流水线以及大语言模型指令排序中,该协议在优化开始前对搜索行为做出可检验的预测。详尽的指令排序实验揭示了仅由排列引起的巨大性能变化,而跨模型实验表明,有用的排序结构可以在模型系列和任务难度之间进行迁移。其他实验表明,在提示词措辞优化后,指令排序仍然具有重要影响,这表明内容优化和排序优化是互补的。这些结果将 PRISM 定位为一个框架,而不是一个普遍优秀的优化器,它用于确定排列搜索何时有用、应该使用哪种表示和算子,以及何时更倾向于更简单的替代方案。


全文与开源构件链接

Access Paper: View PDF | HTML (Experimental) | TeX Source External Citations & Tools: * Google Scholar * Semantic Scholar * NASA ADS Code & Reproducibility: Artifacts and code are made available alongside the preprint, featuring theoretical analyses and reproducible benchmarks across multiple domains.