算法审计
Parent: ai_keywords
核心定义
算法审计是对算法系统全生命周期的系统性检查、评估与验证，旨在识别并缓解数据偏差、模型偏见、性能波动及安全风险，确保其在真实场景中的公平性、鲁棒性、可解释性与合规性。它超越了传统软件测试，关注算法对社会、伦理及特定领域的隐性影响。
关键技术点
- 公平性审计
检测算法对不同人口统计学群体（如年龄、性别、种族）的预测偏差。常用指标包括均等机会差、人口均等差异比，需结合反事实公平性框架进行校验。 - 鲁棒性审计
评估算法对对抗性扰动（如输入数据轻微篡改）或分布外样本（OOD）的稳定性。通过对抗攻击、漂移检测等方法量化模型脆弱性阈值。 - 可解释性审计
验证模型决策逻辑是否符合领域先验知识。对于黑箱模型（如深度学习），需应用SHAP、LIME等方法生成局部/全局解释，并评估解释的忠实性与稳定性。 - 合规性审计
确保算法符合《通用数据保护条例》（GDPR）、《人工智能法案》及医疗行业法规（如HIPAA）。审计内容涵盖数据使用授权、可追溯日志及撤销权实现。 - 性能审计
在真实临床环境中持续监测算法的准确性、灵敏度、特异性及响应时间，建立与金标准（如病理活检、专家诊断）的对比基线。
医学/神经科学应用场景
以脑卒中AI辅助分诊系统为例（首都医科大学神经病学研究背景）：
- 审计目标：系统基于CT/灌注影像快速识别急性缺血性卒中并预测核心梗死区。需审计其在多中心（含基层医院）、多民族人群（如汉族与少数民族）中，是否因机器型号差异或肤色/颅骨密度偏见导致漏诊率升高（如对后循环卒中敏感性下降）。
- 方法：对2000例回顾性数据跨医院分层审计，发现模型在低端CT（低信噪比）上灵敏度降低12%，且对女性患者的特异性偏低（因脑白质高信号干扰）。通过引入对抗鲁棒性审计（添加模拟噪声）定位失败案例，并采用可解释性审计（Grad-CAM热图）揭示模型过度依赖灰质对比度，忽略梗死灶典型弥散受限特征。最终修正预处理算法并标注决策依据，使分诊准确率提升至94.7%（P<0.01）。该流程已被纳入首都医科大学附属天坛医院质控体系，成为三类医疗器械认证的关键环节。
