对抗反事实

Parent: ai_keywords

对抗反事实

核心定义

对抗反事实（Adversarial Counterfactual）是一种融合对抗样本生成与反事实因果推理的可解释人工智能方法。它通过寻找最小特征扰动，使机器学习模型的预测结果发生翻转（如从“患病”变为“健康”），从而揭示模型决策的因果边界与脆弱性。与单纯的反事实解释不同，对抗反事实刻意引入对抗性优化，迫使模型暴露其最敏感的决策路径。

关键技术点

1. 最小扰动原则
   采用梯度下降或基于距离的优化（如L2/L1范数约束），在特征空间中找到与原始样本距离最近但导致输出反转的“临界点”。

2. 因果约束
   限制扰动仅作用于与目标结果具有因果关联的特征（如脑区体积），避免改变无关特征产生无意义反事实。

3. 双目标优化
   同时最小化特征改动幅度与确保模型输出翻转，常用拉格朗日乘子法或混合整数规划求解。

4. 鲁棒性权衡
   对抗反事实样本可评估模型在决策边界附近的泛化能力：若扰动极其微小即导致误诊，提示模型过拟合或特征冗余。

医学/神经科学应用场景

在首都医科大学神经病学研究中，对抗反事实被用于阿尔茨海默病早期诊断模型的可解释性分析。给定一位轻度认知障碍患者的磁共振影像特征（海马体积、内嗅皮层厚度、脑室容积），算法自动生成一个最小改动版本，使模型输出从“高风险痴呆”转为“正常老化”。该反事实样本精准指出：仅需将海马体积增加3.2%、内嗅皮层厚度恢复0.15mm，便可使模型决策反转。这一结果提示临床医生：患者目前海马萎缩程度已处于诊断阈值附近，需重点监测该区域；同时揭示模型过度依赖海马体积而忽略其他生物标志物，存在决策偏见。通过对抗反事实，医生不仅获得可操作的干预靶点，还能验证模型的临床可信度。