研究 / 官方
用图算法挖掘UMAP内部kNN图的隐藏价值
UMAP是探索高维数据的主流工具,但现有工作流通常只关注其生成的低维嵌入结果,忽略了UMAP在内部构建的k近邻图(kNN graph)。这一内部图结构在二维投影引入失真之前,完整保留了数据在原始高维空间中的流形信息,蕴含着丰富的结构信号。苹果机器学习研究团队发表论文,系统展示了这一内部表示的潜力:将PageRank算法应用于kNN图可识别具有代表性的数据点;k-core分解能够揭示数据的稠密核心区域与稀疏外围;聚类系数则可检测出由高度相似数据点构成的紧密邻域。研究团队在MNIST和Fashion MNIST数据集上进行了定量与定性评估,结果表明这些基于图的分析方法不仅实用,在典型任务上的表现可与k-medoids、HDBSCAN等专用方法相媲美,甚至形成互补。
UMAP(统一流形近似与投影)是当前高维数据可视化与探索领域最常用的降维工具之一。然而,研究人员和从业者在使用UMAP时,通常将注意力集中在其输出的二维或三维嵌入结果上,而忽略了UMAP在计算过程中构建的一个关键中间产物——k近邻图(kNN graph)。这一图结构在降维投影发生之前就已形成,完整编码了数据在原始高维空间中的拓扑关系。
苹果机器学习研究团队的这篇论文由Duen Horng Chau、Donghao Ren、Fred Hohman和Dominik Moritz共同撰写,核心论点是:UMAP的kNN图本身就是一个高质量的数据表示,值得被独立分析和利用。二维投影不可避免地会引入几何失真,而kNN图则在一定程度上规避了这一问题,保留了更为真实的高维数据结构。
研究团队将三种经典图算法应用于UMAP的kNN图,并验证了各自的分析价值。PageRank算法通过衡量节点在图中的连接重要性,能够从数据集中筛选出最具代表性的样本点,这一功能类似于专用的k-medoids聚类方法;k-core分解则通过逐层剥离低度节点,清晰地区分出数据的稠密核心区域与稀疏外围,揭示数据密度的层次结构;聚类系数衡量节点邻居之间的互连程度,可有效识别由高度相似数据点构成的紧密局部社区,与HDBSCAN等密度聚类方法形成互补。
在MNIST手写数字数据集和Fashion MNIST服装图像数据集上的实验表明,上述图算法的分析结果在定量指标和定性解读两个维度上均表现出色。以代表性样本选取任务为例,基于PageRank的方法与k-medoids的结果高度吻合,同时无需额外的距离计算开销。这说明kNN图中已经隐含了足够丰富的结构信息,可以支撑多种下游分析任务。
这项研究的实践意义在于,它为数据科学家提供了一条低成本的分析路径:在不改变现有UMAP工作流的前提下,通过提取并分析已经生成的kNN图,即可获得额外的数据洞察。这种方式将降维方法与网络科学工具有机结合,拓展了UMAP在数据理解(sensemaking)场景中的应用边界,也为人机交互与可视化分析领域提供了新的方法论参考。
要点
- UMAP内部构建的kNN图在二维投影之前就已编码高维数据的流形结构,是一个被长期低估的高质量数据表示。
- PageRank、k-core分解和聚类系数三种标准图算法可直接应用于kNN图,分别实现代表性样本识别、密度层次分析和紧密邻域检测。
- 在MNIST和Fashion MNIST上的评估显示,这些图算法的表现可与k-medoids、HDBSCAN等专用方法相媲美或形成互补,且无需额外的计算开销。
- 该研究将降维方法与网络科学工具结合,为数据科学家提供了在现有工作流基础上低成本获取额外数据洞察的实用路径。
原始标题:Dimensionality Reduction Meets Network Science: Sensemaking on UMAP’s kNN Graph
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。