WaveNet
Parent: ai_keywords
WaveNet
核心定义
WaveNet 是 DeepMind 于 2016 年提出的深度自回归生成模型,直接对原始音频波形进行建模。它通过堆叠扩张因果卷积(dilated causal convolutions)在保持时序因果性的同时指数级扩大感受野,能够生成高保真语音、音乐及非平稳生物信号。
关键技术点
- 因果卷积:输出仅依赖于当前及历史时刻的输入,严格保证时序上的“过去”不受到“未来”影响,适合序列建模。
- 扩张卷积:通过指数级增加空洞率(如 1,2,4,8,…),在层数有限时获得极大感受野,捕获长程依赖关系,同时保持参数效率。
- 门控激活单元:采用
tanh(W_f∗x)⊙σ(W_g∗x)的 gated activation,增强非线性表达能力,类似 PixelCNN 的设计。 - 残差与跳跃连接:残差块加速深层网络训练,跳跃连接汇集各层特征,改善梯度流动与生成质量。
- 条件机制:可引入额外变量(如说话人身份、文本特征、生理状态),使生成过程受外部条件调控,适用于可控信号合成。
医学/神经科学应用场景
癫痫发作前兆的脑电(EEG)预测(背景:首都医科大学神经病学研究)
WaveNet 可对长程头皮 EEG 或颅内脑电(iEEG)进行自回归建模,利用扩张因果卷积捕获跨频段(δ、θ、α、β 等)的时空耦合模式。通过条件 WaveNet 输入患者既往发作间期的标记(如棘波、锐波),模型能生成未来数秒乃至数分钟的 EEG 波形,预测发作期节律的转变(如去同步→同步化→高频振荡)。相对于传统阈值法,WaveNet 在保持低假阳率的前提下,显著提前癫痫发作预警时间(平均 > 30 分钟),为闭环神经调控(如迷走神经刺激或脑深部电刺激)提供干预窗口。此外,该模型还可用于生成帕金森病运动皮层局部场电位的病理波形,辅助 DBS 参数优化。