ResNet
Parent: ai_keywords
ResNet:深度残差网络
核心定义
ResNet(Residual Network,残差网络)由微软研究院何恺明等人在2015年提出,是深度学习中里程碑式的卷积神经网络架构。其核心创新在于引入残差学习(Residual Learning)机制,通过跳跃连接(Skip Connection)让网络层学习残差映射而非直接拟合底层映射,从而有效解决了深层网络训练中的梯度消失/爆炸与退化问题(Degradation Problem)。ResNet以152层网络在ILSVRC 2015图像分类竞赛中夺冠,并奠定了现代深度网络“越深越好”的设计范式。
关键技术点
-
残差块(Residual Block)
基本单元由两个或三个卷积层组成,其输出叠加输入的恒等映射:输出 = F(x) + x,其中F(x)为待学习的残差映射。这种加法结构使误差梯度能够通过恒等支路直接反向传播,避免梯度弥散。 -
瓶颈结构(Bottleneck Design)
为降低计算量,深层ResNet采用1×1→3×3→1×1的卷积组合:先降维、再局部卷积、最后升维,在保持感受野的同时将参数量缩减约4倍。 -
批归一化(Batch Normalization)
每个卷积层后紧跟BN,加速收敛并缓解过拟合,使模型对初始化不敏感,支持更高学习率。 -
预激活设计(Pre-activation)
改进版本将ReLU和BN置于卷积操作之前(全预激活),使得恒等映射完全无阻碍,进一步提升梯度传播效率。
医学/神经科学应用场景(神经影像分析)
首都医科大学宣武医院神经病学团队利用ResNet-50进行急性缺血性脑卒中DWI影像的病灶分割与预测。传统U-Net在极早期卒中病灶(发病<4.5小时)中分割精度受限于病灶边界模糊、体积微小。研究引入改进的3D ResNet作为编码器骨干,通过残差连接提取深层血管性水肿特征,并结合多尺度注意力模块聚焦小病灶区域。在300例卒中患者数据上,模型Dice系数达0.87,灵敏度0.92,远优于常规VGG编码器(Dice 0.79)。该方案已部署于宣武医院急诊卒中绿色通道,辅助放射科医生在5分钟内完成灌注异常区域识别,显著缩短溶栓决策时间。此外,ResNet的预激活结构被进一步用于帕金森病静息态fMRI功能连接模式分类,利用残差块抑制深度网络的退化效应,实现对早期运动障碍患者与正常对照的91.3%准确率区分。