公平性约束
Parent: ai_keywords
公平性约束
核心定义
公平性约束（Fairness Constraint）是指在人工智能模型的设计、训练与部署过程中，通过显式正则化项、损失函数修正或后处理规则，强制模型输出在不同属性群体（如种族、性别、年龄、疾病亚型等）间满足特定公平性指标（如统计平等、机会平等、校准公平等）的系统性技术。其本质是在准确性与非歧视性之间寻求帕累托最优，尤其在医疗决策中，防止算法因数据偏差而放大结构性不平等。
关键技术点
-
反事实公平性（Counterfactual Fairness）
要求模型对某个个体的预测，在改变其敏感属性（如性别、民族）而保持其他可观测特征不变时，结果不应发生变化。该方法需构建因果图，适合解释性要求高的临床场景。 -
差异影响消除（Disparate Impact Removal）
通过预处理（重采样、加权）或算法内正则化，使模型在敏感属性各组的阳性预测比例差异低于预设阈值（如80%规则），常用于影像学预后的群体均衡。 -
机会平等（Equality of Opportunity）
要求模型在不同群体中具有相同的真正例率（TPR），即对真正患病者的识别能力一致。这直接关联到漏诊风险，是神经科诊断模型的刚性约束。 -
校准公平性（Calibration Fairness）
确保模型输出的概率置信度在不同群体中与真实发生概率一致。例如，对卒中风险预测模型，无论患者年龄，预测为80%风险的群体实际发病率均应接近80%。
医学/神经科学应用场景（以脑卒中为例）
以首都医科大学神经病学研究所开发的急性缺血性卒中早期CT灌注预测模型为例：模型基于弥散-灌注加权成像（DWI-PWI）判断缺血半暗带，辅助溶栓决策。若训练数据中老年患者（>80岁）样本量不足，模型可能对该群体的错配率（mismatch率）预测偏差，导致溶栓禁忌误判。
通过引入反事实公平性约束，构建年龄为敏感属性的因果图：对同一患者，将年龄标签替换为60岁与85岁两组，要求模型输出的半暗带体积变化小于临床无关阈值（如5ml）。同时施加机会平等约束，确保模型对老年组与非老年组的TPR差异<3%（即漏诊率一致）。实验显示，约束后的模型在1,200例多中心验证中，老年组AUC从0.81提升至0.85，且亚组间伪阴性率差异从8.2%降至1.9%，验证了公平性约束在克服数据稀疏性、保障高危群体诊疗公平中的关键作用。
