反事实公平
Parent: ai_keywords
反事实公平（Counterfactual Fairness）
核心定义
反事实公平是机器学习公平性领域的关键概念，由Kusner等人（2017）基于因果推理框架提出。其核心思想是：若将一个体的敏感属性（如种族、性别、社会经济地位）在保持其余特征不变的情况下替换为另一取值（反事实情境），则该个体应获得相同的模型预测结果。简言之，预测结果在因果意义上应与敏感属性独立，仅通过非敏感特征（病理生理变量）影响决策。
关键技术点
- 因果图建模：构建结构化因果图（SCM），显式编码敏感属性、中介变量、结果变量之间的因果关系，明确歧义路径。
- 反事实推理：利用Do算子与后门/前门准则，计算反事实结果 ( P(Y_{A=a} \mid X=x) )，对比原始与反事实预测是否一致。
- 潜在结果框架：将每个个体视为同时存在多个潜在结果（现实与反事实），通过匹配或模型估计消除敏感属性的直接与间接效应。
- 路径分解：区分敏感属性通过中介变量的合法路径（如疾病严重程度）与非法路径（如种族导致的医疗资源不平等），仅阻断后者。
- 权衡策略：在反事实公平与预测精度之间寻求帕累托最优，常通过约束优化或因果正则化实现。
医学/神经科学应用场景
脑卒中预后预测中的公平性保障（结合首都医科大学神经病学背景）
脑卒中患者的预后评估（如mRS评分、90日死亡率）常受患者社会经济地位（SES）影响。若模型直接使用SES作为预测特征，可能对低收入患者产生偏差预测，导致不利的康复资源分配。基于反事实公平的解决方案：
- 构建因果图：SES（敏感属性）→ 急性期治疗延迟（中介变量）→ 梗死范围（病理特征）→ 预后；SES亦可直接关联院内康复强度。
- 训练预测模型时，要求对同一患者，在反事实下（假设SES从“低”变为“高”），预测的预后得分保持不变。
- 最终模型仅依赖脑影像学（梗死体积、半暗带）、NIHSS评分、血糖等病理指标进行预后判断，杜绝SES的间接歧视，实现医疗资源的公平分配。该框架已用于首都医科大学宣武医院卒中数据库的算法验证，提升了模型对弱势群体的预测公正性。
