文章背景与核心概要
传统的科尔莫哥洛夫-阿诺德网络(KANs)通过将传统标量权重替换为可学习的一元函数,提供了强大非线性函数逼近能力。然而,为每个网络连接分配独立的函数会导致大量的参数冗余,从而限制了其可扩展性和计算效率。
为了克服这一局限性,本文作者引入了双曲动态表示架构(HYperbolic Dynamic Representation Architecture,简称 HYDRA)。HYDRA 是 KAN 的一种参数高效的双曲扩展,它将基于样条函数的学习与庞加莱球(Poincaré ball)中的表示有机结合。该架构通过双曲潜空间映射、切空间更新、低秩原型块以及半径控制与可解释性设计,在大幅提高参数效率和表示可解释性的同时,实现了具有竞争力或更优的预测性能。
HYDRA: Hyperbolic Dynamic Representation Architecture for Kolmogorov-Arnold Networks
arXiv: arXiv:2608.12194 [cs.LG]
Submitted: August 12, 2026
Subjects: Machine Learning (cs.LG); Artificial Intelligence (cs.AI)
Authors: Zhao Su, Yuxin Xia, Haoran Li, Jun Shen, Qi Zhu, Qingguo Zhou, Binbin Yong
📌 Summary
Kolmogorov-Arnold Networks (KANs) offer powerful nonlinear function approximation by replacing traditional scalar weights with learnable univariate functions. However, assigning an independent function to every network connection introduces substantial parameter redundancy, limiting scalability and computational efficiency.
科尔莫哥洛夫-阿诺德网络(KANs)通过将传统的标量权重替换为可学习的一元函数,提供了强大的非线性函数逼近能力。然而,为每个网络连接分配独立的函数会导致大量的参数冗余,从而限制了其可扩展性和计算效率。
To overcome this limitation, the authors introduce HYperbolic D}ynamic Representation Architecture (HYDRA**). HYDRA is a parameter-efficient hyperbolic extension of KAN that synergizes spline-based functional learning with representations in the Poincaré ball.
为了克服这一局限性,作者引入了双曲动态表示架构(HYperbolic Dynamic Representation Architecture,简称 HYDRA)。HYDRA 是 KAN 的一种参数高效的双曲扩展,它将基于样条的函数学习与庞加莱球中的表示协同结合。
Key architectural highlights include: * Hyperbolic Latent Mapping: Maps vector-valued inputs directly into a bounded hyperbolic latent space. * Tangent Space Updates: Performs KAN-style functional updates efficiently within the tangent space. * Low-Rank Prototype Blocks: Shares functional transformations across hidden dimensions to drastically reduce parameter redundancy. * Radius Control & Interpretability: Leverages structured radial coordinates for enhanced model interpretability while improving training stability by preventing boundary saturation.
核心架构亮点包括: * 双曲潜空间映射: 将向量值输入直接映射到有界的双曲潜空间中。 * 切空间更新: 在切空间内高效执行 KAN 风格的函数更新。 * 低秩原型块: 在隐藏维度之间共享函数变换,大幅减少参数冗余。 * 半径控制与可解释性: 利用结构化径向坐标增强模型可解释性,同时通过防止边界饱和来提高训练稳定性。
Extensive evaluations across eight benchmark datasets demonstrate that HYDRA achieves competitive or superior predictive performance while substantially improving both parameter efficiency and representation interpretability.
在八个基准数据集上的广泛评估表明,HYDRA 在显著提高参数效率和表示可解释性的同时,实现了具有竞争力或更优的预测性能。
🔗 Quick Links & Resources
- Access Paper: View PDF | HTML (Experimental) | TeX Source
- Persistent Identifiers: DOI
- External Indices: Google Scholar | Semantic Scholar | NASA ADS
🔗 快速链接与资源
- 访问论文: 查看 PDF | HTML(实验性) | TeX 源码
- 持久标识符: DOI
- 外部索引: Google Scholar | Semantic Scholar | NASA ADS