全局解释
Parent: ai_keywords
全局解释（Global Explanation）
核心定义
全局解释是指对机器学习模型整体行为模式、决策边界及特征依赖关系的透明化描述，旨在揭示模型在高维输入空间中的系统性决策逻辑。与局部解释（单个预测的归因）不同，全局解释关注模型在所有样本上的平均行为，例如特征全局重要性排序、决策规则提取或特征交互模式。在医学AI中，全局解释是验证模型临床合理性的关键工具，确保模型不依赖虚假关联（如扫描仪伪影）或非生理学特征。
关键技术点
-
全局特征重要性（Global Feature Importance）
通过置换测试（Permutation Importance）或SHAP全局值，量化每个特征对所有预测的平均贡献，识别模型依赖的核心变量（如脑区体积、神经心理学评分）。 -
决策规则提取（Rule Extraction）
将黑箱模型（如深度神经网络）蒸馏为可解释的决策树或逻辑规则，例如“若海马体积<2.5cm³且年龄>70岁，则预测AD概率>0.8”，实现全局逻辑的符号化。 -
高维特征可视化（High-Dimensional Visualization）
利用t-SNE或UMAP对模型中间层表征进行降维投影，结合类别标签观察样本聚类结构，评估模型是否区分疾病亚型（如AD vs. FTD）。 -
对抗性扰动分析（Adversarial Robustness）
生成全局性的对抗性噪声（如对MRI图像施加系统性扰动），测试模型决策边界是否存在非生理性脆弱区域，确保临床部署的鲁棒性。
医学/神经科学应用场景
案例：首都医科大学神经病学实验室的阿尔茨海默病（AD）MRI诊断模型验证
团队开发了一种基于3D-ResNet的AD分类模型，输入为T1加权MRI三维体积（256×256×256体素）。为验证模型是否真正学习到与ATN框架一致的病理特征，需进行全局解释：
- 全局重要性映射：通过Permutation Importance统计发现，模型预测高度依赖内嗅皮层和海马区域的体素簇（重要性评分>0.15），而颞叶白质区域权重极低（<0.02），这与AD早期NFT病理扩散模式一致。
- 高维聚类验证：将模型倒数第二层的特征向量（2048维）进行UMAP投影，显示MCI向AD转化患者的样本聚集于同一子簇，且与认知评分（MMSE）呈现梯度相关，验证模型捕捉了进展性萎缩的全局模式。
- 对抗性鲁棒性：对正常对照组的MRI添加模拟老年斑分布的系统性噪声（生理范围），模型输出未发生跃迁，表明决策边界符合病生理渐变规律。
该全局解释结果被首都医科大学神经影像委员会采纳，作为模型可解释性审计的依据，最终获准进入辅助诊断临床试验阶段。
