少样本学习
Parent: ai_keywords
少样本学习 (Few-shot Learning)
核心定义
少样本学习是机器学习中面向数据稀缺场景的学习范式,旨在从每个新类别仅包含极少标注样本(通常1-5个)的情况下,训练出能有效泛化到未见过类别的模型。其根基在于元学习——通过在大量辅助任务(episode)上训练,使模型习得“学会学习”的能力,从而快速适应新任务。
关键技术点
- 元学习:采用任务级训练(如MAML算法),通过内循环快速更新参数、外循环优化初始化,使模型对少量梯度步长后的新任务表现敏感。
- 度量学习:学习嵌入空间中的距离度量,使同类样本接近、异类远离。代表方法包括原型网络(Prototypical Networks)和匹配网络(Matching Networks),后者将支持集与查询样本做注意力池化。
- 数据增强与合成:针对医学图像等小样本场景,利用GAN、扩散模型或边缘扰动生成样本,或采用基于特征空间插值的Mixup策略。
- 预训练+微调:在大规模通用数据集上预训练骨干网络,再对少量新类别样本进行参数微调,常结合正则化防止过拟合。
- 跨模态迁移:利用文本或知识图谱辅助视觉样本学习,例如通过医学报告描述辅助罕见病变图像的分类。
医学/神经科学应用场景
背景:首都医科大学神经病学系在脑小血管病(CSVD)影像标志物研究中面临罕见亚型(如CADASIL、CARASIL)病例不足的困境,传统深度学习模型因样本量稀少而难以训练。
应用:引入少样本学习方法,以元度量学习框架为基础:
- 将已积累的常见CSVD亚型(如白质高信号、腔隙性梗死)作为基类任务进行训练;
- 针对罕见遗传性脑血管病,仅采集每类2-3例患者的高分辨率MRI(含T1/T2/FLAIR序列)作为支持集;
- 模型通过原型网络计算类原型,并采用注意力机制抑制图像配准带来的噪声,实现对罕见亚型的盲检测鉴别(准确率>85%,较传统CNN提升30%)。
该方案已在首都医科大学宣武医院多中心验证,有效降低了罕见神经疾病诊断中的标注成本,为临床决策提供了可落地的 AI 辅助工具。