度量学习

Parent: ai_keywords

核心定义

度量学习(Metric Learning)旨在自动学习一个嵌入空间,使得在该空间中同类样本的欧氏距离或余弦距离更小,异类样本的距离更大。其本质是优化一个参数化的距离函数(通常为深度神经网络),以捕获数据间符合任务目标的相似性结构,广泛应用于分类、聚类、检索及少样本学习。


关键技术点

  1. 对比损失(Contrastive Loss)
    通过成对样本的标签拉近正对、推远负对,是度量学习的基石。要求正对距离趋于0,负对距离大于边界值margin,适用于Siamese网络。

  2. 三元组损失(Triplet Loss)
    以锚点、正样本、负样本构成三元组,约束:( d(a,p) + \text{margin} < d(a,n) )。直接优化相对距离,但训练时需高效的难例挖掘策略(如batch-hard)。

  3. 邻域成分分析(NCA)
    将距离转化为概率分布(softmax归一化后),最大化同类样本被一起选中的概率。其梯度形式自然鼓励局部距离学习,后续发展为代理损失。

  4. 代理损失(Proxy Loss)
    为每个类别引入可学习的“代理”向量,将锚点与所有代理的距离作为优化目标,避免三元组随机采样,大幅提升收敛速度与稳定性。

  5. 结构化损失(Structured Loss)
    考虑批次内所有负对的关系(如Lifted Structured Loss、Multi-Similarity Loss),通过全局结构信息赋予难负例更大梯度,提升特征判别力。


医学/神经科学应用场景

阿尔茨海默病(AD)早期脑功能连接异常检测(首都医科大学宣武医院/北京脑重大疾病研究院背景)
利用度量学习,在静息态fMRI的脑功能连接矩阵上构建深度嵌入网络。将每位受试者的连接模式投影到低维空间,通过对比损失约束:

  • 同类(AD患者 vs. 亚临床MCI)的嵌入距离最小化;
  • 异类(AD vs. 健康对照)的距离最大化。
    联合时间动态特征与图拓扑度量,模型可发现海马体-后扣带回等核心脑区之间的异常功能耦合,实现早期AD患者与健康对照的分类准确率超过90%。进一步采用三元组损失对个体化认知下降轨迹进行度量,可预测MCI向AD转化的年内风险,为神经变性疾病的早期干预提供量化靶点。