DeepLIFT
Parent: ai_keywords
DeepLIFT 百科解释
核心定义
DeepLIFT（Deep Learning Important FeaTures）是一种基于反向传播的深度学习模型可解释性方法。它通过比较每个输入神经元与其**参考值（基线）**的激活差异，逐层计算贡献分数，量化输入特征对模型输出（相对于参考）的归因贡献。其核心思想是：输出变化可分解为各输入特征的线性叠加，从而揭示模型决策的关键驱动因素。
关键技术点
-
参考激活与差异传播
为每个神经元设置一个参考激活（如全零、平均图或扰动数据），计算实际激活与参考激活的差值。逐层反向传播这些差值，最终得到各输入特征的贡献分数。 -
乘性因子与链式法则
采用改进的链式法则：对于每个神经元，定义乘性因子（贡献权重），并沿网络反向传播，保证归因的完整性。可处理ReLU、sigmoid等非线性激活函数，通过线性化近似避免梯度饱和问题。 -
多层堆叠与分解一致性
支持层间分解，确保输出变化等于所有输入贡献分数之和（残差被显式归因），满足敏感性公理和实现不变性。 -
与Shapley值的理论联系
在特定参考值设定下，DeepLIFT可逼近Shapley值，提供博弈论层面的可解释性基础。
医学/神经科学应用场景
- 阿尔茨海默病早期诊断的神经影像特征解释
在首都医科大学神经病学研究中，研究者构建了基于静息态fMRI的深度学习分类模型，用于区分轻度认知障碍（MCI）与正常老化。
应用DeepLIFT对模型进行归因分析，发现默认模式网络（DMN）中后扣带回、内侧前额叶的脑区连接强度是模型决策的关键特征。该结果与临床神经病理学证据高度吻合（DMN受损是AD早期标志），为模型的可信度提供了可解释性支持，并进一步指导医生关注特定脑区进行靶向干预评估。
