宽深模型

Parent: ai_keywords

宽深模型(Wide & Deep Model)

核心定义

宽深模型是一种混合神经网络架构,最早由 Google 于 2016 年提出,用于推荐系统。其核心思想是同时结合线性模型(宽部分)的记忆(Memorization)能力深度神经网络(深部分)的泛化(Generalization)能力。宽部分通过特征交叉积变换捕获稀疏特征间的共现模式,深部分利用多层感知机(MLP)学习高阶非线性特征。在医学领域,该模型被扩展用于整合结构化临床数据(宽)与非结构化高维数据(如影像、电生理时序,深),实现精准的疾病预测与分层。

关键技术点

  1. 宽部分设计:采用广义线性模型或因子分解机,通过人工特征交叉(如年龄×用药史)或自动交叉积变换,记忆低频但高相关性的规则(如特定副作用组合)。
  2. 深部分设计:多层全连接网络将嵌入后的稀疏特征映射到稠密空间,学习隐层交互与非线性模式(如脑电信号的动态拓扑关系)。
  3. 联合训练策略:宽深两部分共享输入层与优化器,在反向传播中同时更新参数,平衡记忆与泛化的权重。输出层通过逻辑回归融合两部分logits。
  4. 特征工程与嵌入:医学场景下需专家知识指导宽部分特征构建(如卒中风险评分),深部分使用预训练嵌入(如fMRI功能连接矩阵)加速收敛。
  5. 可解释性增强:宽部分系数可直接解释为特征对结局的独立贡献,深部分通过注意力机制或SHAP值提供局部解释,满足临床决策的透明性需求。

医学/神经科学应用场景:帕金森病运动波动预测

背景:首都医科大学神经病学团队在帕金森病(PD)长期随访中发现,左旋多巴诱导的运动波动(剂末现象)严重依赖多因素交互(服药时间、病程、睡眠质量、非运动症状)。传统线性回归难以捕获时间动态与非线性的药代动力学特征。

模型构建

  • 宽部分:输入临床结构化数据(年龄、Hoehn-Yahr分期、每日左旋多巴剂量、是否合并COMT抑制剂),构造交叉特征(如剂量×服药间隔)记忆常见的“剂量不足”模式。
  • 深部分:整合连续穿戴式传感器(加速度计、陀螺仪)提取的步态周期性、震颤振幅、开-关期转换频次等时序特征,经LSTM模块预处理后输入MLP,学习运动退化的非线性轨迹。
  • 输出:预测未来48小时内严重波动事件(剂量失效或异动症)的概率,AUC达0.89(较单模型提升12%),为个体化给药方案提供量化依据。

该框架已延伸至癫痫脑电发作检测与脑卒中后运动功能结局预测,验证了宽深模型在整合多模态神经信号与常规临床数据中的独特价值。