跳转至

文章背景与核心概要

无监督特征选择(UFS)旨在从无标签数据中识别出紧凑且具信息量的特征子集,但由于缺乏显式的类别标签来定义特征效用,这一任务在历史上一直充满挑战。传统方法严重依赖于间接的结构标准,例如局部性、相似性保持、稀疏性、聚类几何结构或重构误差。

本文引入了用于无监督特征选择的倒置对比学习(ICLFS),这是一个新颖的特征级对比框架,它将无监督特征选择重新构想为针对“特征”而非“样本”的表征学习问题:1. 矩阵倒置:对数据矩阵进行倒置,使得各个特征通过其样本剖面向量(sample-profile vectors)来表示。2. 对比学习:生成多个掩码正视图和一个混洗负视图,利用基于 InfoNCE 的目标函数来学习对结构化扰动具有鲁棒性的投影空间表征。3. 基于范数的显著性与精炼:利用 InfoNCE 和基于余弦相似度的训练会影响嵌入范数的洞察,将投影空间嵌入的大小直接用作显著性信号。然后通过拉普拉斯门控排名修正(Laplacian-Gated Ranking Correction)对该初始排名进行微调,从而抑制冗余候选特征并突显显著特征。

通过使用标准的基于聚类的 UFS 协议对 12 个基准数据集进行评估,ICLFS 在其中的 10 个数据集上取得了最高的聚类准确率,性能超越了传统基线和神经网基线模型。


当特征成为样本:用于无监督特征选择的倒置对比学习 (When Features Become Instances: Inverted Contrastive Learning for Unsupervised Feature Selection)

license icon

license icon

  • arXiv ID: arXiv:2609.00782 [cs.AI]
  • Primary Subject: Artificial Intelligence (cs.AI)
  • Secondary Subject: Computation and Language (cs.CL)
  • Authors: Utsab Ghosh, Roshni Chakraborty
  • Submitted: September 1, 2026
  • DOI: 10.48550/arXiv.2609.00782
  • arXiv ID: arXiv:2609.00782 [cs.AI]
  • Primary Subject: Artificial Intelligence (cs.AI)
  • Secondary Subject: Computation and Language (cs.CL)
  • Authors: Utsab Ghosh, Roshni Chakraborty
  • Submitted: September 1, 2026
  • DOI: 10.48550/arXiv.2609.00782

摘要 (Summary)

无监督特征选择(UFS)旨在从无标签数据中识别出一个紧凑、具信息量的特征子集。由于缺乏明确的类标签来定义特征效用,这一任务在历史上一直较为复杂。传统方法严重依赖于间接的结构准则,例如局部性、相似性保持、稀疏性、聚类几何或重构误差。

Unsupervised feature selection (UFS) aims to identify a compact, informative subset of features from unlabelled data, a task historically complicated by the lack of explicit class labels to define feature utility. Traditional methods rely heavily on indirect structural criteria such as locality, similarity preservation, sparsity, cluster geometry, or reconstruction error.

本文介绍了用于无监督特征选择的倒置对比学习(ICLFS),这是一个新颖的特征级对比框架,它将无监督特征选择重新构想为针对特征而非样本的表征学习问题: 1. 矩阵倒置:对数据矩阵进行倒置,使得单个特征通过其样本剖面向量来表示。 2. 对比学习:生成多个掩码正视图和一个混洗负视图,利用基于 InfoNCE 的目标函数来学习对结构化扰动具有鲁棒性的投影空间表征。 3. 基于范数的显著性与精炼:利用 InfoNCE 和基于余弦训练会影响嵌入范数的洞察,将投影空间嵌入的大小作为直接的显著性信号应用。然后通过拉普拉斯门控排名修正对该初始排名进行微调,从而在突显显著特征的同时抑制冗余候选者。

This paper introduces Inverted Contrastive Learning for Unsupervised Feature Selection (ICLFS), a novel feature-wise contrastive framework that re-conceptualizes UFS as a representation learning problem over features instead of instances: 1. Matrix Inversion: The data matrix is inverted so that individual features are represented through their sample-profile vectors. 2. Contrastive Learning: Multiple masked positive views and a shuffled negative view are generated, utilizing an InfoNCE-based objective to learn projector-space representations resilient to structured perturbations. 3. Norm-Based Saliency & Refinement: Leveraging insights that InfoNCE and cosine-based training influence embedding norms, projector-space embedding magnitude is applied as a direct saliency signal. This initial ranking is then fine-tuned via Laplacian-Gated Ranking Correction, which suppresses redundant candidates while highlighting salient features.

在涵盖 12 个基准数据集并使用标准基于聚类的 UFS 协议的评估中,ICLFS 在 10 个数据集上实现了最高的聚类准确率,优于传统的和基于神经网络的基线方法。

Evaluated across 12 benchmark datasets using standard clustering-based UFS protocols, ICLFS achieved the highest clustering accuracy on 10 datasets, outperforming both classical and neural baselines.



参考文献与外部工具 (References & External Tools)