局部解释
Parent: ai_keywords
核心定义
局部解释（Local Explanation）指在人工智能（AI）与临床神经科学交叉领域，针对单个预测样本（如脑影像、电生理信号），提供导致该模型输出结果的特征归因或决策路径的透明化解释。其核心目标是解决“黑箱”模型在临床决策中的可信度问题，为神经科医生提供可验证的、病灶或脑区层面的推理依据。
关键技术点
-
扰动式特征归因（如LIME）
通过在输入样本（如MRI切片）局部邻域内随机遮挡像素或脑区体素，观察模型输出变化，拟合线性代理模型来量化每个特征（如海马体体积、灰质厚度）对结果（如阿尔茨海默病分类）的贡献权重。 -
Shapley值量化（如SHAP）
基于博弈论的边际贡献计算，将每个特征（如静息态fMRI的默认模式网络节点）视为“玩家”，分配其对单个预测的公平归因值。在癫痫病灶定位中，可量化各脑电通道对发作期检测的独立与交互影响。 -
梯度反向传播（如Grad-CAM）
利用卷积神经网络中特征图的梯度，生成与类别相关的热力图，高亮输入图像（如CT灌注扫描）中关键区域。适用于中风患者缺血半暗带的快速可视化解释。 -
概念激活向量（TCAV）
通过定义高层面神经学概念（如“皮层萎缩程度”“白质高信号密度”），测试模型内部表示对这些概念的敏感性，从而解释局部预测是否依赖临床先验知识。
医学/神经科学应用场景
基于局部解释的脑小血管病（CSVD）认知损害预测
在首都医科大学神经病学系与AI实验室的合作研究中，团队利用多模态MRI数据（FLAIR、DWI、SWI）构建了深度学习模型，预测CSVD患者的执行功能评分。针对单一高危病例，采用SHAP局部解释发现：左侧额叶深部白质高信号体积（β=0.32，p<0.01）和基底节区微出血数目（β=0.27，p=0.03）是模型判断认知下降的强负向归因特征，而右侧丘脑弥散各向异性分数（FA值）为正向保护特征。医生据此验证了影像-病理对应关系，修正了个体化认知康复方案，并发现模型对基底节通路损伤的局部解释与传统神经心理学预测模型（如Boston Naming Test）高度一致，从而将AI局部可信度提升至临床可用水平。
