度量学习
Parent: ai_keywords
核心定义
度量学习(Metric Learning)旨在自动学习一个嵌入空间,使得在该空间中同类样本的欧氏距离或余弦距离更小,异类样本的距离更大。其本质是优化一个参数化的距离函数(通常为深度神经网络),以捕获数据间符合任务目标的相似性结构,广泛应用于分类、聚类、检索及少样本学习。
关键技术点
-
对比损失(Contrastive Loss)
通过成对样本的标签拉近正对、推远负对,是度量学习的基石。要求正对距离趋于0,负对距离大于边界值margin,适用于Siamese网络。 -
三元组损失(Triplet Loss)
以锚点、正样本、负样本构成三元组,约束:( d(a,p) + \text{margin} < d(a,n) )。直接优化相对距离,但训练时需高效的难例挖掘策略(如batch-hard)。 -
邻域成分分析(NCA)
将距离转化为概率分布(softmax归一化后),最大化同类样本被一起选中的概率。其梯度形式自然鼓励局部距离学习,后续发展为代理损失。 -
代理损失(Proxy Loss)
为每个类别引入可学习的“代理”向量,将锚点与所有代理的距离作为优化目标,避免三元组随机采样,大幅提升收敛速度与稳定性。 -
结构化损失(Structured Loss)
考虑批次内所有负对的关系(如Lifted Structured Loss、Multi-Similarity Loss),通过全局结构信息赋予难负例更大梯度,提升特征判别力。
医学/神经科学应用场景
阿尔茨海默病(AD)早期脑功能连接异常检测(首都医科大学宣武医院/北京脑重大疾病研究院背景)
利用度量学习,在静息态fMRI的脑功能连接矩阵上构建深度嵌入网络。将每位受试者的连接模式投影到低维空间,通过对比损失约束:
- 同类(AD患者 vs. 亚临床MCI)的嵌入距离最小化;
- 异类(AD vs. 健康对照)的距离最大化。
联合时间动态特征与图拓扑度量,模型可发现海马体-后扣带回等核心脑区之间的异常功能耦合,实现早期AD患者与健康对照的分类准确率超过90%。进一步采用三元组损失对个体化认知下降轨迹进行度量,可预测MCI向AD转化的年内风险,为神经变性疾病的早期干预提供量化靶点。