模型卡

模型卡 (Model Card)

模型卡是一种标准化的机器学习模型文档框架，由Google在2019年提出，旨在以结构化、可读性强的方式记录模型的设计意图、性能评估、限制条件、公平性分析及伦理考量。在医学AI领域，模型卡是连接算法开发与临床部署的“翻译器”，确保模型透明度与可问责性，防止“黑箱”滥用。

标准化报告结构
强制包含模型细节（架构、训练数据、超参数）、预期用途（模型适用与不适用的临床场景）、定量评估（多指标如AUC、敏感度、特异度）以及不同亚群（年龄、性别、疾病亚型）的表现分层分析。
偏见与公平性审计
通过统计检验比较模型在不同人口学特征（如种族、社会经济地位）上的性能差异，并结合因果推理识别数据偏差来源，避免模型在特定患者群体中失效。
鲁棒性与领域漂移监测
记录模型对噪声对抗样本、数据分布变化（如不同影像设备、采集参数）的容忍度，为临床部署设置“性能警戒线”。
可解释性附加
对于黑色森林模型（如深度神经网络），模型卡必须附上特征重要性分析或局部可解释性说明（如SHAP值、热力图），帮助医生理解预测依据。
版本控制与持续更新
每次模型迭代需更新模型卡，记录变更原因、性能增量及验证数据集变更，形成完整的溯源链。

以脑卒中急性期CT图像中出血与梗死区域的自动分割为例（基于首都医科大学宣武医院与天坛医院的真实临床数据）：

模型卡内容：详细记录模型在1.2万例非增强CT扫描（含不同出血量、既往手术史、金属伪影）上的训练与验证结果。核心指标包括体素级Dice系数（出血≥75%，梗死≥68%），并按病灶位置（基底节区、脑叶、小脑）分层给出性能。特别标注：模型在微出血灶（直径<5mm） 上的敏感度降至52%，需人工复查。
临床约束：模型卡明确限定仅可用于急性期（发病6小时内），不可用于出血性脑梗死鉴别，且不提供临床决策建议。同时，要求使用前扫描设备型号匹配（如Siemens Definition Flash与GE Revolution），否则性能可能劣化超过15%。
公平性审计：发现模型对基底节区出血的假阳性率在75岁以上女患者中偏高，模型卡建议在表冠人群使用前重新校准阈值，避免过度诊断。

通过模型卡，首都医科大学团队的AI工具实现了从研究向多中心临床试验的合规过渡，有效减少了伦理审核与临床信任鸿沟。