显著图

Parent: ai_keywords

显著图（Saliency Map）

核心定义

显著图是一种可解释性可视化技术，通过计算深度学习模型输出对输入特征的梯度、注意力权重或扰动响应，生成与输入同维度的热力图，高亮显示对模型决策贡献最大的像素、体素或时间点。在医学图像分析中，它充当“模型决策的X光”，帮助临床专家验证模型推理的生物学合理性。

关键技术点

1. 基于梯度的显著图

   • 直接计算输出类别得分对输入（如MRI切片）的偏导，绝对值反映局部敏感性。
   • 局限：梯度噪声大，需配合平滑（如SmoothGrad）降低伪影。

2. 类激活映射（CAM）及变体（Grad-CAM）

   • 利用全局平均池化层的梯度加权特征图，生成类别特定的低分辨率热力图。
   • 优点：仅需前向与反向传播一次，适用于CNN架构。

3. 集成梯度（Integrated Gradients）

   • 沿基线（如全黑图像）到输入样本的直线路径累积梯度，满足敏感性与实现不变性公理。
   • 偏好场景：需严格归因解释的临床试验。

4. 基于扰动的显著性方法（RISE）

   • 随机遮挡输入区域并观测输出变化，统计各区域被遮挡时的概率降幅。
   • 适用性：不依赖梯度，适合非可微模型（如随机森林医学分类器）。

医学/神经科学应用场景

【首都医科大学附属宣武医院·脑卒中DWI梗死灶定位】
利用3D U-Net分割急性缺血性脑卒中DWI高信号区域，通过Grad-CAM生成显著图叠加于原图。临床验证显示：

• 模型高响应区域（红色）与神经科医师标注的梗死核心区（如大脑中动脉M1段供血区）重合度达0.84（Dice系数）。
• 显著图同时揭示模型对室管膜下区“不对称”征象的依赖，该征象是早期侧支循环不良的影像学标志，有助于个体化溶栓决策。
• 技术意义：避免模型误将伪影（如运动模糊）作为决策依据，提升AI辅助卒中诊断的临床可信度。