隐私预算
Parent: ai_keywords
隐私预算（Privacy Budget）
核心定义
隐私预算（Privacy Budget，常用参数 ε 表示）是差分隐私（Differential Privacy）中的核心度量指标，量化了在数据查询或分析过程中允许泄露的个体信息量的上限。一个机制若满足 ε-差分隐私，则其对任意两个仅相差一条记录的相邻数据集输出结果的概率比不超过 e^ε。ε 越小，隐私保护强度越高，但添加的噪声越大，数据可用性随之下降；反之，ε 越大，数据保真度更高但隐私风险上升。隐私预算管理者需在精确性与安全性之间进行权衡。
关键技术点
-
噪声机制
通过向查询结果中添加符合特定分布的随机噪声实现差分隐私。常见机制包括拉普拉斯机制（针对数值型查询，噪声尺度与全局灵敏度成正比）和高斯机制（适用于多次查询，依赖 Rényi 差分隐私分析）。 -
组合定理
当对同一数据集执行多次查询时，隐私预算会累积。顺序组合定理指出，总隐私损失为各次 ε 之和；并行组合定理则表明，针对互斥子集的查询，总损失取最大值。这要求严格规划预算分配。 -
灵敏度
定义单个记录变化对查询结果的最大影响。全局灵敏度决定噪声量级，局部灵敏度（如平滑灵敏度）可降低噪声幅度，提升数据效用，尤其在医学统计中（如均值、中位数）。 -
隐私预算分配与追踪
在复杂数据分析管道（如临床试验多轮统计）中，需将总预算 ε_total 预先划分给各子任务，并实时跟踪已消耗预算。超出预算时停止分析或进行预算重置（需额外保护措施）。 -
Rényi 差分隐私
一种更精细的隐私损失度量，通过分析机制输出的 Rényi 散度，提供更紧致的组合界限，常用于深度学习中的梯度裁剪与扰动，以及医学影像模型的训练。
医学/神经科学应用场景
多中心脑卒中影像数据联合分析
在首都医科大学神经病学研究中，来自多家医院的脑卒中患者 DWI/MRI 影像及临床评分数据需集中训练缺血半暗带预测模型。直接共享原始数据违反伦理与合规要求。采用差分隐私框架：
- 将总隐私预算设为 ε=1（临床场景中常取 0.1~10 不等，此处选较低值以确保强保护）。
- 针对每个医院统计特征（如平均弥散系数、NIHSS 评分分布），使用拉普拉斯机制注入噪声（噪声尺度 = 全局灵敏度 / ε），生成加噪统计量。
- 利用顺序组合定理分配子预算：例如统计量 A 消耗 0.3，统计量 B 消耗 0.5，其余预算用于模型梯度扰动（通过高斯机制）。
结果：外部攻击者无法从发布的加噪统计中推断任意患者的病灶位置或神经功能评分，但多中心聚合后的噪声化数据仍能支持机器学习模型以 85% 的 AUC 预测脑卒中早期恶化（相比无隐私保护时下降约 3%），实现隐私与科研效用的平衡。
