可解释性

Parent: ai_keywords

可解释性（Explainability）

核心定义

可解释性指人工智能模型以人类可理解的方式呈现其内部逻辑、决策依据及置信度的能力。在医学领域，尤其是临床神经科学中，它要求模型不仅能输出预测（如疾病分型、预后评估），还能提供“为什么”和“为什么不”的因果解释，从而弥合“黑箱”模型与临床决策之间的信任鸿沟。

关键技术点

1. 特征归因方法

   • SHAP / LIME：基于博弈论或局部近似，量化每个输入特征（如脑区灰质体积、脑电频段功率）对模型输出的贡献度，生成可解释的特征重要性图。

2. 注意力机制可视化

   • 在Transformer或图神经网络中，通过权重热图高亮模型关注的时空区域（如大脑默认模式网络的异常连通模式），为神经影像分析提供直观的病理定位。

3. 概念瓶颈模型

   • 将高维特征映射为临床可理解的概念（如“海马萎缩程度”“β-淀粉样蛋白沉积评分”），通过概念层级实现从影像到诊断的透明推理。

4. 反事实解释

   • 生成“最小变动”的假设样本（如“若该患者左侧丘脑体积增加2%，预测将转为健康组”），揭示决策边界的关键变量，辅助临床干预决策。

医学/神经科学应用场景

首都医科大学神经病学研究团队开发的阿尔茨海默病早期筛查系统，集成特征归因与概念瓶颈模型。当模型将某轻度认知障碍患者判定为“高风险进展为AD”时，系统输出：

• 可解释热图：在结构MRI上高亮双侧海马体前部、楔前叶及后扣带皮层，对应神经病理学中tau蛋白沉积早期靶区。
• 概念层反馈：显示“海马体积标准化 z 分数 = −2.1（超出正常衰老范围）”“默认模式网络功能连接降低28%”。
• 反事实干预：提示“若患者海马萎缩程度改善至z > −1.5，高风险预测将转为低风险”，直接指导医生启动胆碱酯酶抑制剂治疗并加强认知训练。

该框架使神经科医师能验证模型决策与经典诊断标准（NIA-AA临床分期）的一致性，并识别出传统量表难以捕捉的亚临床影像标志物，最终将误诊率从18.2%降至6.7%，显著提升了AI在早期痴呆临床路径中的采纳度。