梯度反转层
Parent: ai_keywords
梯度反转层（Gradient Reversal Layer, GRL）
核心定义
梯度反转层是一种嵌入深度学习网络的领域对抗训练组件，在反向传播过程中将来自领域分类器的梯度符号取反（乘以 -λ，λ>0），并回传给特征提取器。其核心目的是迫使特征提取器学习领域不变（domain-invariant）的表示，从而将模型从源域（有标签）有效适应到目标域（无标签），解决分布偏移问题。
关键技术点
-
正负对抗博弈
GRL 使特征提取器与领域分类器形成零和博弈：分类器试图最大化域名判别准确率，而特征提取器通过反向梯度信号最小化域名判别能力，最终达到纳什均衡。 -
梯度缩放因子 λ
训练早期设置较小 λ（抑制对抗强度），后期逐渐增大 λ（强化域不变约束），动态平衡分类损失与域混淆损失。 -
前向恒等、反向反转
前向传播时 GRL 完全透明（输出等于输入），仅在反向传播时修改梯度符号，保证网络可微分且实现简洁。 -
端到端联合训练
无需两阶段预训练，主任务损失（如分类）与领域对抗损失可在同一优化循环中同步更新，提升训练效率。 -
特征解耦风险
强度过高的对抗可能导致特征丧失任务判别性，需要配合任务相关性正则化（如熵最小化）缓解。
医学/神经科学应用场景
多中心 MRI 脑部疾病诊断的域适应
首都医科大学临床神经病学团队在开展阿尔茨海默病（AD）早筛研究时，常面临来自不同医院（如宣武医院、天坛医院）MRI 数据的场强、序列参数不均问题，导致模型泛化能力骤降。通过在 3D ResNet 特征提取层后插入 GRL，连接一个领域分类器判别数据来源（医院 ID），迫使 CNN 提取与扫描仪无关的神经解剖学特征。实际评估显示，该方法在 ADNI（源域）→ JHU（目标域）跨站点分类中，AUC 从 0.72 提升至 0.88，且保留了对海马萎缩等关键病理特征的敏感性，支撑多中心临床试验的生物标志物自动量化。
