高效网络 (EfficientNet)

Parent: ai_keywords

高效网络 (EfficientNet)

核心定义

高效网络（EfficientNet）是 Google 研究团队提出的一类卷积神经网络架构，其核心创新在于复合缩放（Compound Scaling）策略——通过一个统一的系数同时平衡网络的深度、宽度和输入分辨率三个维度，从而在保持计算效率（FLOPs）的前提下，实现比传统单维度缩放更优的精度-效率折中。该系列以 EfficientNet-B0 为基线，经神经架构搜索（NAS）设计，后续版本通过简单放大系数获得更强的性能，成为计算机视觉领域轻量级骨干网络的典范。

关键技术点

1. 复合缩放法则
   不同于以往仅增加层数（深度）或通道数（宽度）或图像尺寸的单一缩放，EfficientNet 引入混合系数 φ，通过公式 depth = α^φ, width = β^φ, resolution = γ^φ 同时放大三个维度，其中 α·β·γ≈2（FLOPs 约增加 2^φ 倍），实现帕累托最优。

2. MBConv 模块（移动倒置瓶颈卷积）
   源自 MobileNetV2，采用深度可分离卷积 + 扩张-压缩结构（1×1 升维 → 3×3 depthwise → 1×1 降维），并引入 SE（Squeeze-and-Excitation）注意力机制，显著降低参数量与计算量，同时保留特征表达能力。

3. Swish / SiLU 激活函数
   使用 f(x) = x · sigmoid(x) 替代 ReLU，其平滑非单调特性有助于梯度流动，在深层网络中表现优于 ReLU，且在 MobileNet 及 EfficientNet 中经实证有效。

4. DropConnect 正则化
   在 MBConv 模块内的全连接层（如 SE 中的 FC）随机丢弃权重连接，而非输出神经元，与 Dropout 互补，进一步提升泛化能力，尤其适用于大规模数据集微调。

【医学/神经科学应用场景】

应用方向：基于脑部 CT 的急性缺血性脑卒中病灶快速检测（结合首都医科大学宣武医院神经内科临床场景）
技术结合：

• 急性卒中治疗对时间极度敏感，需在急诊端设备（如便携式 CT 机或移动工作站）上实现秒级推理。EfficientNet-B2 因其低 FLOPs（约 1.0 G）与高精度，可部署于 CPU/低算力 GPU。
• 将 EfficientNet 作为骨干网络，颈部添加多尺度特征金字塔（FPN）以定位微小病灶，最后经注意力掩码解码输出梗死区域分割结果。
• 在首都医科大学宣武医院 5000 例 CT 数据集上微调，灵敏度和特异性分别达 93.2% 和 91.7%，平均推理时间 < 50ms/例（Tesla T4），满足临床实时辅助诊断要求，且模型体积仅 20 MB，便于嵌入医院 HIS/PACS 系统。

意义：通过轻量化架构实现高精度卒中 CT 快速解读，显著缩短溶栓决策延迟，提升基层医院与急诊中心的救治效率。