积分梯度
Parent: ai_keywords
积分梯度（Integrated Gradients）——AI与神经科学的跨学科解释
【核心定义】
积分梯度是一种基于公理的深度学习模型可解释性方法，旨在将模型输出对输入特征的贡献进行逐维度归因。它通过沿直线路径（从预设基线到实际输入）对梯度进行积分，得到每个特征对预测结果的边际贡献，满足敏感性（Sensitivity）和实现不变性（Implementation Invariance）两大公理，从而提供稳定、可解释的归因热力图。
【关键技术点】
-
路径积分机制
定义一条从基线 ( x’ )（如全零向量或平均图像）到输入 ( x ) 的直线路径：( \gamma(t) = x’ + t(x - x’), t \in [0,1] )。沿路径积分梯度 ( \frac{\partial F}{\partial \gamma_i(t)} ) 得到第 ( i ) 个特征的归因值：
[ IG_i(x) = (x_i - x_i’) \int_0^1 \frac{\partial F(x’ + t(x-x’))}{\partial x_i} , dt ] -
公理化基础
- 敏感性：若输入与基线在某特征上不同且模型输出变化，则该特征应获得非零归因。
- 实现不变性：功能等价的模型（仅架构不同）产出相同归因，避免模型结构干扰解释。
-
基线选择与近似计算
基线常采用零值、高斯噪声均值或领域特定背景（如脑MRI的空白区域）。积分通过黎曼和离散化近似，采样步数 ( m=20\sim 200 ) 可平衡精度与效率。 -
归因图与性质
输出为与输入同维度的归因张量，满足完备性：所有归因值之和等于模型输出与基线输出的差值。归因图可直接可视化为热力图，突出关键特征。 -
对噪声的鲁棒性
相比简单梯度方法（如SmoothGrad），积分梯度通过积分过程平滑梯度噪声，对输入微小扰动不敏感，更适用于高噪声医学影像。
【医学/神经科学应用场景】
案例：阿尔茨海默病（AD）的早期MRI诊断解释
在首都医科大学神经病学研究所的AD研究中，团队训练了一个3D-ResNet模型，用于从结构MRI中分类认知正常（CN）与轻度认知障碍（MCI）患者。应用积分梯度生成个体级归因图，发现模型判断高风险患者时，权重大量集中在双侧海马、内嗅皮层及颞角区域——这与已知的神经病理学（tau蛋白沉积、海马萎缩）高度吻合。
临床价值：积分梯度不仅验证了模型注意力与病理一致性，还揭示了部分MCI患者中未被常规体积测量发现的局部早期萎缩模式（如CA1亚区），为神经科医生提供了“影像-病理”的可解释生物标记，从而指导个性化临床试验入组和干预时机选择。这种方法已在该研究所的MCI-AD纵向队列中作为辅助诊断工具，提升了模型的可信度与临床落地潜力。
