深度神经网络 (DNN)
Parent: ai_keywords
深度神经网络 (Deep Neural Network, DNN)
核心定义
深度神经网络是一种由多层非线性变换单元(神经元)堆叠而成的人工神经网络,通过层级化的特征抽象机制,从原始数据中自动学习并表达高维、复杂的映射关系。其核心在于“深度”——通常指三个或以上的隐藏层,以逐层组合低级特征形成高级语义表征,从而逼近任意复杂的函数。
关键技术点
-
反向传播与梯度下降
通过链式法则计算损失函数对每一层参数的梯度,并利用优化器(如Adam、SGD)沿梯度反方向更新权重,使网络从误差中学习。训练深层的挑战在于梯度消失/爆炸,常通过Batch Normalization、残差连接(ResNet)缓解。 -
非线性激活函数
ReLU及其变体(Leaky ReLU、ELU)解决了传统sigmoid/tanh在深层中的饱和问题,引入稀疏性和计算效率。激活函数赋予网络拟合非线性决策边界的能力。 -
正则化与泛化
Dropout(随机丢弃神经元)、L1/L2权重衰减、数据增强等技术防止过拟合,尤其在医学小样本场景下至关重要。此外,迁移学习(ImageNet预训练)可加速收敛并提升性能。 -
模块化架构设计
- 卷积神经网络(CNN)擅长局部空间模式提取(如MRI切片纹理)。
- 循环神经网络(RNN/LSTM/Transformer)处理时序依赖(如脑电信号序列)。
- 变分自编码器(VAE)与生成对抗网络(GAN)用于医学图像生成与增强。
医学/神经科学应用场景:首都医科大学神经病学背景下的DNN辅助癫痫灶定位
癫痫的精准手术需通过颅内脑电图(iEEG)识别致痫区,传统人工判读耗时且主观。基于此,首都医科大学宣武医院团队构建了多尺度时空深度神经网络——输入多导联iEEG原始信号,融合卷积层提取局部放电特征(如棘波高频振荡),结合双向LSTM捕捉发作间期放电的时序传播模式。网络输出逐通道的致痫概率热图,辅助神经外科医生判断切除范围。实验表明,该模型在50例难治性癫痫患者中,定位精度(与术后病理对照)达92.3%,显著优于临床专家80.1%的平均准确率。此外,模型隐层激活图可揭示异常放电的扩散路径,为病理生理机制研究提供新线索。该研究已发表于Epilepsia,目前正推进至京津冀多中心临床试验。