跳转至

基于曲率感知半径收缩的自适应最近邻分类

文章背景与核心概要

传统的 \(k\) 最近邻 (\(k\)-NN) 分类算法在整个特征空间中依赖于统一的邻域基数，然而当数据表现出变化的局部几何复杂度时，这种假设往往表现不佳。为了解决这一问题，本文引入了 CARSANN（Curvature-Aware Radius Shrinkage for Adaptive Nearest Neighbor Classification，基于曲率感知半径收缩的自适应最近邻分类），这是一个由几何驱动的框架，能够根据局部几何复杂度动态调整邻域的空间支撑范围。

CARSANN 通过估计内在维度（使用 TwoNN）、构建内在表示（使用 PCA）以及评估局部平均曲率（使用基于形状算子的方法），在高度弯曲的区域施加更强的半径收缩，同时在较平坦的区域保持更广泛的空间支撑。对 70 多个真实世界 OpenML 数据集的大规模评估表明，CARSANN 显著提高了平均平衡准确率，并优于标准的 \(k\)-NN 方法，为空间自适应提供了一种稳健且具备曲率感知能力的新范式。

摘要与文档信息

属性 详情
arXiv ID arXiv:2608.27634 [cs.LG]
标题 Curvature-Aware Radius Shrinkage for Adaptive Nearest Neighbor Classification
作者 Alexandre L. M. Levada
提交时间 2026年8月27日
主分类 机器学习 (cs.LG)
次分类 人工智能 (cs.AI)、计算机视觉与模式识别 (cs.CV)、机器学习 (stat.ML)
文档统计 28 页，2 张图表，3 个表格
许可协议 知识共享署名 4.0 国际许可协议 license icon

摘要 (Abstract)

最近邻分类从根本上依赖于局域性的定义方式，然而传统的 \(k\)-NN 在整个特征空间中强加了相同的邻域基数。对于底层流形上的局部几何结构变化显著的数据，这种假设可能并不充分。

Nearest neighbor classification relies fundamentally on how locality is defined, yet conventional \(k\)-NN imposes the same neighborhood cardinality throughout the feature space. This assumption can be inadequate for data whose local geometry varies substantially across the underlying manifold.

我们引入了 CARSANN（基于曲率感知半径收缩的自适应最近邻分类，Curvature-Aware Radius Shrinkage for Adaptive Nearest Neighbor Classification），这是一个几何驱动的框架，它根据局部几何复杂度调整每个邻域的空间支撑。CARSANN 首先使用 TwoNN 估计内在维度，并通过主成分分析构建内在表示。随后，利用基于形状算子的公式估计局部平均曲率，并以此控制邻域尺度：高度弯曲的区域获得更强的半径收缩，而近似平坦的区域则保持更广泛的空间支撑。

We introduce Curvature-Aware Radius Shrinkage for Adaptive Nearest Neighbor Classification (CARSANN), a geometry-driven framework that adapts the spatial support of each neighborhood according to local geometric complexity. CARSANN first estimates intrinsic dimensionality using TwoNN and constructs an intrinsic representation through principal component analysis. Local mean curvature is then estimated using a shape-operator-based formulation and controls neighborhood scale: highly curved regions receive stronger radius shrinkage, whereas approximately flat regions retain broader spatial support.

与仅修改邻居数量或局部度量的方法不同，CARSANN 显式地适应了局部证据的空间范围。在 70 多个真实世界 OpenML 数据集上进行的实验表明，CARSANN 在标准 \(k\)-NN 的基础上实现了持续改进，并且能够与自适应最近邻方法相媲美。在使用相同基础邻域大小的对照比较中，CARSANN 在 45 个数据集中的 40 个上实现了更高的平衡准确率，将平均平衡准确率从 0.6506 提高到了 0.7528。与固定 \(k=5\) 的 \(k\)-NN 相比，这一优势同样存在。弗里德曼（Friedman）检验和内梅尼（Nemenyi）检验确认这些改进具有统计学显着性。这些结果表明，局部流形曲率可以作为调节邻域支撑的有效几何控制变量，从而为基于基数的最近邻自适应提供一种互补的范式。

Unlike methods that modify only the number of neighbors or the local metric, CARSANN explicitly adapts the spatial extent of local evidence. Experiments on more than 70 real-world OpenML datasets show that CARSANN consistently improves upon standard \(k\)-NN and is competitive with adaptive nearest-neighbor methods. In a controlled comparison using the same base neighborhood size, CARSANN achieves higher balanced accuracy on 40 of 45 datasets, increasing mean balanced accuracy from 0.6506 to 0.7528. The advantage also persists against \(k\)-NN with fixed \(k=5\). Friedman and Nemenyi tests confirm that the improvements are statistically significant. These results indicate that local manifold curvature can serve as an effective geometric control variable for adapting neighborhood support, providing a complementary paradigm to cardinality-based nearest-neighbor adaptation.

访问与资源 (Access & Resources)