挤压激励网络 (SENet)

Parent: ai_keywords

挤压激励网络 (SENet)

【核心定义】

挤压激励网络(Squeeze-and-Excitation Network, SENet)是一种轻量级注意力机制,通过显式建模卷积特征图通道间的相互依赖关系,自适应地重新校准每个通道的响应强度。其核心构件——SE块(Squeeze-and-Excitation Block)可作为即插即用模块嵌入主流CNN架构(如ResNet、Inception),以微小计算开销显著提升模型表现。SENet曾获2017年ImageNet挑战赛分类任务冠军。

【关键技术点】

  1. Squeeze(挤压):对空间维度(H×W)进行全局平均池化,将每个通道的二维特征图压缩为一个标量,获取全局感受野下的通道级描述符(1×1×C)。
  2. Excitation(激励):通过两层全连接网络(先降维r倍,再升维至C)学习非线性通道间相关性,并利用Sigmoid激活函数输出范围为(0,1)的权重向量,实现对每个通道的软性选择。
  3. Scale(缩放):将归一化后的权重向量逐通道乘以原始特征图,完成特征重标定,使模型自动强化重要通道、抑制冗余通道。
  4. 轻量可嵌入:SE块参数量极小(约2C²/r),可灵活插入任何卷积层之后,且不会破坏原有结构,计算开销几乎可忽略。

【医学/神经科学应用场景】

首都医科大学神经病学研究所利用SENet增强的3D-ResNet,针对阿尔茨海默病(AD)的早期诊断任务,分析患者结构性脑部MRI。传统模型易受海马体萎缩、白质高信号等局部特征淹没的困扰。通过嵌入SE块,模型自动放大海马区、颞叶皮层等AD关键脑区的通道响应权重,抑制背景噪声与无关皮层信号,在AD vs.轻度认知障碍(MCI)二分类任务中,准确率提升约5.2%,且对早期轻度病例敏感度提高至89.3%。该技术已用于构建多中心AD辅助诊断系统,支持对老年痴呆高危人群的MRI智能化初筛。