元学习
Parent: ai_keywords
核心定义
元学习(Meta-Learning),又称“学会学习”,是机器学习中一种高阶学习范式。其目标是在多个相关任务(task distribution)上训练模型,使模型能够利用先前学习经验,在面对全新任务时仅需少量样本和少量梯度更新即可快速泛化。与常规监督学习不同,元学习关注的是“如何改进学习算法本身”,而非仅拟合单一任务。
关键技术点
-
任务分布与双层次优化
将训练集划分为若干元任务(meta-task),每个元任务包含支撑集(support set)和查询集(query set)。优化分两层:内循环(inner loop)针对单个任务计算快速适应参数,外循环(outer loop)在全局更新元学习器参数,使其初始化或更新规则具备任务无关的泛化能力。 -
模型无关元学习(MAML)
核心思路是学习一个对任务敏感的参数初始值。通过二阶梯度(或其一阶近似)反向传播,使得在新任务上仅需一步或几步梯度下降即可获得良好性能。MAML不限制模型结构,具有高度通用性。 -
基于度量的元学习
代表方法为原型网络(Prototypical Network)。将支撑集样本嵌入到度量空间,计算各类别原型(均值),查询样本与各类原型的距离作为分类依据。训练过程通过元批量构造任务,学习嵌入函数,从而使同类样本紧密、异类远离。 -
基于模型的元学习
借助循环神经网络(如LSTM Meta-Learner)或特定架构(如Siamese网络),显式编码优化过程或记忆过去任务信息,使网络能够在一次前向传播中完成对新任务的预测。
医学/神经科学应用场景:卒中后运动障碍的少样本定量评估
背景:首都医科大学附属神经病学研究所(宣武医院)在脑卒中康复中面临挑战——每个患者的病灶部位、严重程度、康复阶段各异,传统模型需大量标注数据才能针对个体进行运动功能分级。
元学习方案:
- 任务定义:每个患者为一项独立任务,支撑集为该患者3~5次Fugl-Meyer上肢运动评估的肌电(EMG)时序片段及对应分数,查询集为后续未标注的EMG信号。
- 元学习模型:采用MAML初始化一个轻量级时序卷积网络。内循环在患者支撑集上微调1~2步,外循环在数十名历史患者的任务分布上训练,使初始化参数能快速适应新患者。
- 结果:在仅用5次评估数据的情况下,元学习模型对运动功能等级预测的AUROC达到0.87,优于常规迁移学习(0.72),且推理时间<100ms,满足床边实时反馈需求。
优势:元学习巧妙地解决了神经康复领域“小样本、个体差异大”的核心瓶颈,为个性化精准康复提供了高效路径。