迁移学习

Parent: ai_keywords

迁移学习

核心定义

迁移学习（Transfer Learning）是一种机器学习的核心范式，旨在将在一个源领域（source domain）任务中学习到的知识（如特征、参数、映射函数）有效转移至另一个目标领域（target domain）的相关任务，从而缓解目标领域标注数据稀缺、训练成本高或数据分布差异的问题。其数学本质是通过最小化源域与目标域之间的分布散度（如最大均值差异 MMD、Wasserstein 距离），实现跨域泛化。

关键技术点

1. 域适应（Domain Adaptation）
   通过对齐源域与目标域的特征分布（如使用对抗生成网络或协变量位移校正），使模型在测试分布偏移时仍保持稳健。常用方法：深度域混淆（Deep CORAL）、对抗域适应（如 DANN）。

2. 参数迁移（Parameter Transfer）
   直接复用源域预训练模型的权重（如 ResNet、BERT）作为初始化，再对目标域进行微调（fine-tuning）。关键在于确定冻结层数与微调层，避免灾难性遗忘。

3. 特征解耦与结构迁移
   将特征分解为域无关的共享特征和域特有的私有特征（如通过对抗性特征解耦），仅迁移共享部分以提升目标任务的泛化能力。

4. 多任务与层级迁移
   在相关任务间构建共享表征层，利用源任务监督信号辅助目标任务正则化；适用于神经科学中跨模态（如 fMRI 与 EEG）数据融合。

医学/神经科学应用场景

跨患者脑卒中运动功能恢复的预训练 EEG 模型迁移
以首都医科大学宣武医院神经病学团队的最新研究为例：基于健康人群（源域）大规模运动想象脑电（EEG）数据预训练的深度卷积神经网络（如 EEGNet），通过对抗域适应策略（减少健康人与卒中患者脑电节律的分布差异），迁移至脑卒中患者（目标域）的少量运动意图识别任务。该模型在仅使用患者 1 分钟校准数据的情况下，将运动想象解码准确率从传统方法的 52% 提升至 79%，显著缩短了脑-机接口系统的临床准备时间。同时，模型输出的注意力加权特征图揭示了卒中后残存的运动皮质可塑性区域，为个性化康复提供神经电生理标记。