岭回归
Parent: ai_keywords
岭回归（Ridge Regression）
【核心定义】
岭回归是一种针对多重共线性数据的线性回归正则化方法。通过在普通最小二乘（OLS）损失函数中加入 L2 范数惩罚项（λ∑β²，λ ≥ 0），迫使回归系数向零收缩，从而以牺牲一定偏差为代价，显著降低模型方差，提升泛化性能。其解析解为：β̂ = (XᵀX + λI)⁻¹Xᵀy，其中 I 为单位矩阵。
【关键技术点】
-
L2 正则化与收缩
惩罚项对所有系数施加等比例的衰减，使相关变量系数趋向均衡，而非像 lasso 那样强制为零。λ 越大，收缩越强，模型复杂度越低。 -
方差-偏差权衡
OLS 在高维或共线场景下方差极大，岭回归通过引入偏差（系数偏离真实值）换取方差大幅降低，总预测误差（MSE）通常更优。 -
岭迹分析（Ridge Trace）
绘制系数随 λ 变化的曲线，用于选择 λ 值：当系数曲线趋于平缓时，对应 λ 即“最优”正则化参数。实际中常用交叉验证（如留一法或 k 折）确定 λ。 -
特征缩放的必要性
因惩罚项对系数大小敏感，所有特征必须先标准化（均值为 0，方差为 1），否则量纲差异会扭曲正则化效果。 -
与 OLS 的关系
当 λ = 0 时，岭回归退化为 OLS；当 λ → ∞ 时，系数趋近于 0。相较于最小二乘，岭回归矩阵（XᵀX + λI）始终可逆，解决了奇异矩阵问题。
【医学/神经科学应用场景】
脑卒中后运动功能恢复的多模态 MRI 预测
在首都医科大学神经病学研究中，常整合弥散张量成像（DTI）中的各向异性分数（FA）、纤维束数量，以及功能 MRI 的静息态连接强度等数十个特征，这些指标间存在强相关性（如皮质脊髓束 FA 与皮质-脑桥连接度），直接使用 OLS 会导致系数不稳定、结果无法复现。
采用岭回归（λ 经 10 折交叉验证选取）构建预测模型，可稳定量化各指标对 Fugl-Meyer 运动评分的贡献：
- 正则化后，重要的纤维束完整性特征保留较大系数，而冗余的共线特征系数被适度压缩；
- 模型在独立验证集上的 R² 较 OLS 提高约 12%，且系数标准差降低 50% 以上。
该方法同样适用于癫痫脑电的高维频带特征筛选、帕金森病多基因-影像联合风险建模，为临床医生提供更稳健的预后工具。
