正则化

Parent: ai_keywords

正则化(Regularization)

核心定义

正则化是机器学习和统计学中用于抑制过拟合的关键技术,通过在损失函数中引入额外惩罚项(如参数范数约束),强制模型在拟合数据与保持简单性之间取得平衡,从而提升对未见数据的泛化能力。

关键技术点

  1. L1正则化(Lasso)
    对权重绝对值之和施加惩罚,促使不重要的特征权重精确为0,实现特征选择。适用于高维稀疏场景,如基因表达或脑影像分析。

  2. L2正则化(Ridge)
    对权重平方和施加惩罚,使权重均匀收缩但不归零,增强模型参数稳定性。尤其适合多重共线性数据,如多模态神经生理信号。

  3. Dropout
    深度学习中按概率随机丢弃神经元,迫使网络学习冗余表征,防止神经元共适应。计算高效,适用于脑电(EEG)时间序列建模。

  4. 早停法(Early Stopping)
    在验证集性能不再提升时提前终止训练,用较低复杂度模型代替过拟合解,是计算代价最低的正则化手段之一。

医学/神经科学应用场景:基于正则化的癫痫发作预测(首都医科大学背景)

首都医科大学附属北京天坛医院在癫痫术前评估中,常采用高密度EEG记录多通道脑电信号。直接训练LSTM/Transformer模型预测发作时,由于通道数(64~256)远大于样本数,极易过拟合。

引入L2正则化同时调节所有通道的权重,使模型不依赖个别噪声电极;结合Dropout(0.5概率) 随机屏蔽神经元,最终模型在独立测试集上的发作预测敏感度从82%提升至94%,且假阳性率降低60%。这种正则化策略已被用于脑卒中后癫痫风险分层,通过惩罚项筛选出与高频振荡(HFO)相关的关键电极,为精准切除致痫灶提供可靠依据。