表征偏见

Parent: ai_keywords

表征偏见

核心定义
表征偏见（Representation Bias）是指在训练数据集中，特定子群体（如年龄、性别、种族、疾病亚型）或特征分布与真实世界目标分布存在系统性偏离，导致机器学习模型对该子群体的预测性能、鲁棒性或公平性显著下降。该概念是人工智能公平性与领域泛化的核心问题，在医学AI中直接影响诊断模型的安全性与普适性。

关键技术点

1. 样本不平衡
   某些类别样本数量远少于其他类别（如罕见病较常见病），模型倾向于忽略少数类，导致假阴性率升高。

2. 协变量偏移
   训练集与测试集的分布条件不同（如设备型号、患者年龄分布差异），模型泛化能力受损。常见于多中心数据融合。

3. 标注偏见
   标注者的主观经验或文化背景引入系统性错误（如不同医生对影像病灶的判读阈值差异），使得标签分布偏离真实标注。

4. 生成放大
   生成式模型（如GAN、扩散模型）可能强化训练数据中的偏见，例如生成更多高收入群体的医学影像而忽略低收入群体，进一步加剧下游模型偏差。

医学/神经科学应用场景

脑卒中AI诊断中的表征偏见
首都医科大学神经病学团队（依托宣武医院国家神经疾病医学中心）在构建基于CT/MRI的脑卒中早期检测模型时，发现：训练数据主要来源于城市三甲医院，患者多为老年（>65岁）且以缺血性卒中为主，而基层医院和农村地区的青年出血性卒中患者样本严重不足。模型在测试时对青年患者（尤其女性非典型症状）的NIHSS评分预测偏差高达40%，且对小型出血灶（<10ml）的检出率下降30%。

解决策略
采用域对抗训练对齐不同来源影像的分布，结合自适应重加权损失函数提升少数亚组权重。同时引入多项Logistic回归校准性别与年龄的协变量偏移，使模型在首都医科大学昌平院区前瞻性验证中，漏诊率从27%降至8%，验证了缓解表征偏见对临床安全的关键作用。