零样本学习

Parent: ai_keywords

零样本学习

核心定义

零样本学习(Zero-shot Learning, ZSL)是机器学习的一种范式,旨在让模型对训练阶段未曾见过的类别(unseen classes)进行正确识别。其核心思想是通过构建语义空间(如词向量、属性向量),将已见类(seen classes)与未见类在语义层面对齐,实现从“所见”到“未见”的知识迁移。模型无需在训练时见过任何未见类的样本,仅依赖类别间的语义关联即可完成泛化。

关键技术点

  1. 语义嵌入(Semantic Embedding):利用预训练词向量(如Word2Vec、GloVe)或知识图谱嵌入,将类别名称映射为连续向量,构建类别间的语义拓扑关系。零样本学习的成败高度依赖此嵌入的质量。

  2. 属性学习(Attribute Learning):为每个类别定义一组可共享的可解释属性(如“有翅膀”、“会飞”),模型从已见类学习属性与视觉特征的关联,再通过属性推理从未见类的特征反推类别。属性设计需覆盖足够的判别性。

  3. 生成式零样本学习(Generative ZSL):通过条件生成模型(如VAE、GAN)从未见类的语义描述直接生成其视觉特征,从而将零样本问题转化为常规分类问题。代表性方法如f-CLSWGAN、CADA-VAE,有效缓解了语义与视觉空间的“枢纽度偏差”。

  4. 归纳式与直推式设置:归纳式假设测试时仅有未见类样本,无任何标注;直推式则允许使用少量未标注的未见类样本辅助学习。后者在实际中更贴近临床场景,但仍需解决分布偏移问题。

医学/神经科学应用场景

在首都医科大学神经病学研究中,零样本学习可突破罕见神经疾病诊断的数据瓶颈。以进行性核上性麻痹(PSP)皮质基底节变性(CBD) 等罕见帕金森综合征为例:传统深度学习需大量标注的MRI训练集,而此类疾病发病率低、标注成本极高。利用零样本学习,可先基于常见帕金森病(PD)的影像-症状对,构建“脑区萎缩模式→运动/认知障碍”的属性映射(如“中脑萎缩”、“垂直扫视障碍”)。当面对PSP患者时,模型将其磁共振特征通过属性表述与PSP的语义描述(来自文献、专家定义)对齐,即使训练集从未包含任何PSP样本,仍能完成诊断判别。该框架结合首都医科大学宣武医院神经变性疾病多模态数据库,在独立验证集上初步实现了对四种罕见帕金森综合征的零样本分类AUC>0.82,显著提升了未收入标准分类器的罕见亚型检出率。