跳转至

通过全视界压缩循环实现符号音乐语言模型整曲训练

文章背景与核心概要

现代语言模型通常采用碎片化、独立采样且固定长度的序列进行训练，以最大化计算效率。然而，由于音乐结构自然是在完整的作品中展开，而非孤立的片段，这种碎片化训练阻碍了对整部作品的连续条件建模。

本文介绍了全视界压缩循环（Full-Horizon Compressed Recurrence, FHCR）这一实用框架，它在保持循环记忆完整时间视界的同时，压缩了键-值（KV）表示的维度，从而在有限的GPU显存下使整曲训练成为可能。此外，作者还提出了KV重置上下文利用率（KV-Reset Context Utilization, KRCU）这一评估期诊断工具，用于衡量长距离依赖关系。在 MAESTRO 数据集上的实验表明，全能视界模型能够利用远超局部片段窗口的上下文，而 FHCR 能够成功保留这种长距离依赖关系，同时大幅降低显存成本。

Summary

现代语言模型通常在碎片化、独立采样的固定长度序列上进行训练，以最大化计算效率。然而，由于音乐结构自然地在完整作品而非孤立片段中展开，这种碎片化阻碍了对整首作品的连续条件建模。

本文介绍了全视界压缩循环（Full-Horizon Compressed Recurrence, FHCR），这是一个实用的框架，它保留了循环记忆的完整时间视界，同时压缩了其键-值（KV）表示的维度，使得在有限的 GPU 显存下进行整曲训练成为可能。此外，作者还引入了KV重置上下文利用率（KV-Reset Context Utilization, KRCU），这是一个用于衡量长距离依赖关系的评估期诊断工具。在 MAESTRO 数据集上的实验表明，全视界模型能够利用远超局部片段窗口的上下文，并且 FHCR 成功保留了这种长距离依赖关系，同时大幅降低了显存成本。

Modern language models are typically trained on fragmented, independently sampled fixed-length sequences to maximize computational efficiency. However, because musical structure naturally unfolds across complete compositions rather than isolated excerpts, this fragmentation prevents continuous conditioning over entire works.

This paper introduces Full-Horizon Compressed Recurrence (FHCR), a practical framework that preserves the full temporal horizon of recurrent memory while compressing the dimensionality of its key-value (KV) representation, making whole-piece training feasible within limited GPU memory. Additionally, the authors introduce KV-Reset Context Utilization (KRCU), an evaluation-time diagnostic to measure long-range dependence. Experiments on the MAESTRO dataset demonstrate that full-horizon models leverage context far beyond local segment windows, and that FHCR successfully retains this long-range dependency while substantially lowering memory costs.

Metadata

  • arXiv ID: arXiv:2602.19816 [cs.SD]
  • Subjects: 声音 (cs.SD); 人工智能 (cs.AI); 机器学习 (cs.LG)
  • Authors: Yungang Yi, Weihua Li, Matthew Kuo, Catherine Shi, Quan Bai
  • Submission History:
  • [v1] 2026年2月23日 (周一)
  • [v2] 2026年3月2日 (周一)
  • [v3] 2026年8月16日 (周日) (此版本)
  • arXiv ID: arXiv:2602.19816 [cs.SD]
  • Subjects: Sound (cs.SD); Artificial Intelligence (cs.AI); Machine Learning (cs.LG)
  • Authors: Yungang Yi, Weihua Li, Matthew Kuo, Catherine Shi, Quan Bai
  • Submission History:
  • [v1] Mon, 23 Feb 2026
  • [v2] Mon, 2 Mar 2026
  • [v3] Sun, 16 Aug 2026 (This version)

Abstract

为了追求计算效率，现代语言模型通常在独立采样的固定长度序列上进行训练。符号音乐语言模型在很大程度上继承了这一范式，尽管音乐结构自然是在完整作品而非孤立片段中展开的。因此，将作品碎片化为独立的训练实例，阻碍了对完整作品的连续条件建模。

我们提出了一个通过全视界压缩循环（FHCR）对符号音乐语言模型进行整曲训练的实用框架。FHCR 保留了循环记忆的完整时间视界，同时降低了其键-值（KV）表示的维度，使得在有限的 GPU 显存下进行连续的整曲训练变得切实可行。

为了直接评估功能的长期依赖性，我们引入了评估期诊断工具——KV重置上下文利用率（KRCU）。在 MAESTRO 符号钢琴数据集上，KRCU 表明全视界模型能够利用远超局部片段窗口的上下文，而缩短循环记忆的时间跨度会大大削弱这种可测量的长距离依赖。FHCR 在大幅降低循环显存成本的同时，保留了长距离上下文的利用能力。

这些研究结果表明，保持循环历史的时间跨度对于高效的整曲建模非常重要，并且可以通过 KV 表示压缩来降低显存成本。

For computational efficiency, modern language models are typically trained on independently sampled fixed-length sequences. Symbolic music language models largely inherit this paradigm, despite musical structure naturally unfolding over complete compositions rather than isolated excerpts. Fragmenting compositions into independent training instances therefore prevents continuous conditioning over the complete work.

We present a practical framework for whole-piece training of symbolic music language models via Full-Horizon Compressed Recurrence (FHCR). FHCR preserves the full temporal horizon of recurrent memory while reducing the dimensionality of its key-value (KV) representation, making continuous whole-piece training practical under limited GPU memory.

To directly assess functional long-range dependence, we introduce KV-Reset Context Utilization (KRCU), an evaluation-time diagnostic. On the MAESTRO symbolic piano dataset, KRCU shows that full-horizon models utilize context far beyond the local segment window, whereas reducing the temporal extent of recurrent memory substantially weakens this measurable long-range dependence. FHCR preserves long-range context utilization while substantially reducing recurrent memory cost.

These findings show that preserving the temporal extent of recurrent history is important for efficient whole-piece modeling, and that memory cost can instead be reduced through KV representation compression.