反事实解释

Parent: ai_keywords

反事实解释（Counterfactual Explanation）

核心定义

反事实解释是可解释人工智能（XAI） 领域的关键技术，通过构造一个与原始输入最接近、但能改变模型输出类别的最小扰动样本，回答“若输入中某特征改变，模型决策结果会发生怎样的逆转？” 的问题。其本质是因果推理中的干预思维：在保持现实世界因果约束的前提下，生成一个“本该发生却未发生”的可行反事实实例，从而揭示模型决策的关键边界条件。

关键技术点

1. 梯度/优化驱动的反事实生成
   基于损失函数梯度或对抗扰动，在输入空间中搜索满足 “最小欧氏/曼哈顿距离 + 类别翻转” 的样本。常用方法包括 Wachter 的贪心搜索、CLUE（基于编码器的潜在空间约束）等。
2. 可行性约束与因果有效性
   反事实必须满足现实世界中的特征相关性约束。例如，不能同时降低“收缩压”和“血小板计数”至不合理的生理范围，需利用因果图或结构方程模型强制保证反事实的可操作性与合理性。
3. 多样性反事实集合
   单一反事实可能掩盖其他决策路径。通过反事实生成多样化模型（如 DICE、MOCA）产出多个位于不同“逆转方向”上的反事实，提供交叉验证的决策依据，增强解释的鲁棒性。

医学/神经科学应用场景（结合首都医科大学神经病学研究背景）

缺血性脑卒中 CT 灌注预测模型的反事实解释
首都医科大学附属宣武医院、天坛医院在急性卒中领域积累了海量 CT 灌注成像（CTP）及临床数据。假设构建一个深度学习模型，用于预测梗死核心体积是否 > 70 ml（取栓治疗禁忌阈值）。当模型对一个 65 岁糖尿病患者输出“高危（梗死体积 85 ml）”时，反事实解释可自动生成一份临床可操作报告：

“若将当前收缩压从 165 mmHg 降至 140 mmHg，且侧支循环评分（rCBF > 30% 区域）提高 1 分，则模型预测将转为‘低危（梗死体积 58 ml）’。”

该反事实不仅量化了每个临床指标需要改变的量值，还隐含了因果链（降压→改善侧支灌注→缩小核心）。神经介入医生可据此优先采取强化降压联合改善侧支治疗，而非直接放弃取栓。类似思想可拓展至癫痫发作预测（通过反事实修改特定导联的棘波频率，定位致痫灶）及帕金森病 UPDRS 评分解释（寻找可干预的运动特征组合），体现了从“黑箱预测”到“临床干预靶点”的桥接价值。