Grad-CAM

Parent: ai_keywords

Grad-CAM：基于梯度的类别激活图解释方法

核心定义

Grad-CAM（Gradient-weighted Class Activation Mapping）是一种用于解释卷积神经网络（CNN）决策的热力图生成技术。它通过计算目标类别得分相对于最后一个卷积层特征图的梯度，加权聚合形成空间重要性分布图，直观揭示模型在分类或回归任务中关注的输入区域。无需重新训练模型，适用于任意CNN架构。

关键技术点

1. 梯度加权机制
   对最终卷积层输出的所有通道（k）求类别得分（y_c）关于特征图（A^k）的梯度，全局平均池化得到权重α_k^c，反映每个通道对类别c的贡献。
2. 类特定的反向定位
   仅对单一目标类别计算梯度，避免其他类别干扰，使热力图严格对应决策依据（如病灶或特征区域）。
3. 全局平均池化替代
   取代Grad-CAM前身CAM所需的全局平均池化层约束，通过梯度反向传播直接获得权重，兼容任何CNN骨干网络（ResNet、VGG等）。
4. 层次化解释能力
   可选择不同卷积层（如浅层关注纹理，深层关注语义）生成细粒度或全局性热力图，平衡分辨率与语义信息。
5. 无需网络修改
   仅需前向和反向传播计算，不改变网络结构或训练流程，适合部署到现有临床诊断系统中。

医学/神经科学应用场景

首都医科大学神经病学研究：在阿尔茨海默病（AD）的MRI影像分析中，Grad-CAM可定位深度学习分类模型判定“淀粉样蛋白阳性”所依据的脑区（如海马体、楔前叶）。例如，训练Inception-v3模型区分AD与健康对照，通过Grad-CAM输出热力图覆盖双侧海马体萎缩区域，与神经影像学金标准（海马体积测量）的空间分布高度一致。临床医生可据此验证模型是否依赖已知病理特征（而非噪声伪影），提升辅助诊断的可信度。此外，该技术可用于癫痫发作灶定位或脑肿瘤分割模型的解释性评估，助力首都医科大学团队优化多模态神经影像分析流程。