个体公平

Parent: ai_keywords

个体公平(Individual Fairness)

【核心定义】

个体公平是算法公平性理论中的关键准则,旨在保证“相似的个体应受到相似对待”。形式化而言,给定一个非对称的距离度量 (d(x, y)) 描述个体在敏感属性(如年龄、性别、种族)无关的特征空间中的相似性,算法 (M) 需满足 (|M(x) - M(y)| \leq d(x, y)),即模型输出的差异不能超过个体间固有特征的差异。该概念由 Dwork 等(2012)提出,强调对每个独立个体的尊重,区别于要求群体间统计均值的群体公平。

【关键技术点】

  1. 相似性度量构建:需要定义任务相关的“合法”特征空间(如使用 Mahalanobis 距离、学习到的公平度量),排除敏感属性及其代理变量,是落地难点。
  2. 公平约束优化:通过拉格朗日对偶、对抗训练或梯度惩罚将个体公平条件嵌入损失函数,促使模型在局部区域保持 Lipschitz 连续性。
  3. 与群体公平的权衡:个体公平可能加剧群体层面的差异(如为保持局部相似性而放大群体均值差),需联合优化或采用 Pareto 前沿方法。
  4. 审计与验证:对任意样本对采样并计算实际输出差异与特征距离的比值,统计超过阈值比例作为违反个体公平的指标。

【医学/神经科学应用场景】

以首都医科大学附属北京天坛医院(国家神经系统疾病临床医学研究中心)脑卒中预后预测为例。模型基于梗死体积、NIHSS 评分、灌注成像等神经病学特征,预测患者 90 天 mRS 评分。若未施加个体公平约束,同质患者(病灶部位、侧支代偿相似)可能因年龄或医保类型不同而获得显著差异的预后评分,导致后续康复资源分配偏倚。引入个体公平后,对特征空间进行加权(如重点保留脑网络连接指标,删除社会经济代理变量),使得相似神经电生理(如 EEG 慢波分布)与影像学模式的个体获得相近预测,从而确保诊疗决策的个体化公正性,符合首都医科大学倡导的“精准与公平并重”的神经病学伦理。