欠拟合

Parent: ai_keywords

核心定义

欠拟合(Underfitting) 指机器学习模型在训练数据上无法充分捕捉底层规律,导致训练误差与验证误差均较高的现象。其本质是模型复杂度不足、特征表达能力弱或训练迭代不充分,无法拟合数据的真实分布。与过拟合相反,欠拟合通常源于 高偏差低方差,表现为模型过于简单(如线性模型拟合非线性问题)。


关键技术点

  1. 模型复杂度匹配
    欠拟合常因模型容量不足(如决策树深度过浅、神经网络层数过少)而无法学习复杂映射。需通过增加参数数量、提升多项式阶数或引入核方法增强表达能力。

  2. 特征工程缺失
    原始特征与目标变量间若存在强非线性关系,缺乏交叉项、降维后的有效组合或领域知识嵌入时,模型极易欠拟合。例如仅使用单一脑电图(EEG)频段特征预测癫痫发作。

  3. 正则化过度
    L1/L2正则化系数过大将强制参数接近零,抑制模型学习能力。需通过交叉验证平衡正则化强度,避免因惩罚过度导致欠拟合。

  4. 训练不足与停滞
    学习率过低、迭代次数不足或优化器(如SGD)陷入局部平坦区,使模型尚未收敛即终止训练。可通过学习率调度、早停机制反向判断。

  5. 偏差—方差权衡失效
    欠拟合本质是偏差主导状态,需通过增加模型复杂度、降低约束(如去除正则项)来降低偏差,同时监控方差增幅以避免转向过拟合。


医学/神经科学应用场景

脑电信号解码中的欠拟合问题 —— 以首都医科大学神经病学研究为例
在首都医科大学附属宣武医院开展的 癫痫发作预测 研究中,团队使用20名患者的脑电(EEG)时间序列数据,提取功率谱密度(PSD)及互信息特征,构建 逻辑回归 模型实现发作前状态分类。结果显示:

  • 训练集AUC仅0.65,验证集AUC 0.63,提示 欠拟合
  • 原因分析:逻辑回归为线性决策边界,无法表征EEG中发作前的高维非线性同步模式(如γ频段跨通道相位锁定值变化)。仅依赖PSD单一特征,丢失了时空耦合信息。

解决方案
替换为 3层卷积神经网络(CNN),在脑电时频图输入基础上增加通道注意力机制,将验证AUC提升至0.91。同时引入 谱图小波变换 特征,进一步缓解欠拟合,使模型在临床上达到87%的发作检出率(2.3次/24h误报)。

该案例表明:神经信号处理中,忽视生理机制的非线性、非平稳特性而采用过度简化的模型,是医学AI系统欠拟合的典型根源。