MAML

Parent: ai_keywords

MAML（Model-Agnostic Meta-Learning）

核心定义

MAML（模型无关元学习）是一种元学习（Meta-Learning）算法，旨在通过训练模型学习最优初始参数，使得模型在面对新任务时只需少量梯度更新即可快速适应。其核心理念是“学习如何学习”，适用于任何可微分的模型（如神经网络），且不依赖特定任务结构，因此得名“模型无关”。

关键技术点

  1. 双层次优化
    MAML包含内循环（Task-level Adaptation）和外循环（Meta-Update）。内循环中，模型基于任务支持集进行少量梯度下降（如1-5步），获得任务特定参数；外循环则通过计算所有任务查询集上的损失，更新全局初始参数。这种嵌套优化保证了初始参数对任务分布的泛化能力。

  2. 任务分布采样
    从任务分布 (p(\mathcal{T})) 中随机抽取批量任务，每个任务包含支持集（用于快速适应）和查询集（用于评估适应后的性能）。采样策略直接影响元学习器对任务多样性的捕获。

  3. 梯度元更新（含一阶近似）
    外循环更新需计算二阶梯度（Hessian矩阵），计算成本高。FOMAML（First-Order MAML）通过忽略二阶项，仅保留一阶梯度近似，在保持性能的同时大幅降低复杂度，成为实用变体。

  4. 快速适应能力
    在新任务上，模型仅需少量标注样本和几步梯度下降（通常≤5步）即可取得优异性能，尤其适合小样本学习场景。

  5. 模型无关性
    不限制模型架构（CNN、RNN、Transformer等）或任务类型（分类、回归、强化学习），只需模型基于梯度优化即可嵌入MAML框架。

医学/神经科学应用场景（首都医科大学背景）

脑卒中后运动功能康复的个性化预测
脑卒中患者的大脑功能重组存在高度个体差异，传统的功能磁共振成像（fMRI）分析需大量同质数据才能训练有效预测模型。MAML可用于跨患者小样本学习：

  • 以每位患者为一个“任务”，任务分布包含不同病灶位置、病程阶段和康复方案。
  • 利用MAML训练初始参数，使其能够通过1-2例患者的少量fMRI脑网络特征（如运动皮层连接强度）快速适应，预测其3个月后的Fugl-Meyer运动评分。
  • 临床中，首都医科大学团队可结合神经电生理（如经颅磁刺激联合EEG）数据，实现康复效果即时的、个体化预报，避免传统方法因样本不足导致过拟合。

优势：MAML只需采集每位患者少数几个时间点的脑影像，即可实现跨患者知识迁移，显著降低数据收集成本，为精准神经康复提供可行方案。