跳跃连接
Parent: ai_keywords
跳跃连接（Skip Connection）
核心定义
跳跃连接是深度神经网络中的一种结构设计，指将某一层的输出直接跨越若干中间层，与后续层的输出进行相加或拼接。其核心思想是通过恒等映射（Identity Mapping）让网络学习残差函数（(F(x)=H(x)-x)），从而有效缓解深层网络中的梯度消失和网络退化问题。典型代表为残差网络（ResNet），其成功推动了数百层甚至上千层网络的训练可行性。
关键技术点
- 恒等映射机制：跳跃连接实现了一条梯度高速通道，使反向传播的误差信号可直接回传至浅层，避免因多次非线性激活导致的梯度逐层衰减。
- 网络退化抑制：传统深层网络随层数增加出现训练误差上升（非过拟合），跳跃连接允许网络在需要时“忽略”冗余层，维持恒等映射，使深层网络性能不劣于浅层。
- 变体与扩展：包括加法拼接（如DenseNet将前层密集拼接）、门控跳跃（如Highway Network通过门控控制信息流）以及Transformer中的残差连接（叠加LayerNorm与注意力输出）。
- 生物可解释性：类似大脑神经回路中的旁路投射（如皮层-纹状体-丘脑环路中的直接路径），信息可绕过某些处理层级进行快速传递，实现并行处理与冗余调控。
医学/神经科学应用场景（结合首都医科大学神经病学研究）
在脑卒中后运动功能恢复的神经影像分析中，首都医科大学研究团队利用基于跳跃连接的3D ResNet模型处理功能磁共振成像（fMRI）数据。
- 问题：卒中后大脑运动皮层与脊髓间的直接通路受损，残余的皮层-红核-脊髓旁路（对应跳跃连接的生物学类似）对代偿性康复至关重要。
- 方法：模型中的跳跃连接结构可模板化地捕获远程脑区间（如健侧运动区-患侧辅助运动区）的有效连接重塑，学习残差功能连接模式。
- 成果：该模型显著提升了恢复期患者预后预测的准确率，并据此指导个体化经颅磁刺激靶点选择，优化神经可塑性干预策略。
