分组卷积

Parent: ai_keywords

分组卷积

核心定义

分组卷积(Group Convolution)是卷积神经网络(CNN)中的一种改进操作:将输入特征图的通道均分为 ( g ) 个组,每组独立执行标准卷积运算,最后沿通道维度拼接输出。该技术于2012年由AlexNet提出,最初用于解决单GPU显存不足问题,后因其参数压缩计算加速特性,成为轻量化网络设计的基石。


关键技术点

  1. 参数量与计算量压缩
    标准卷积参数量为 ( C_{in} \times C_{out} \times k^2 ),分组卷积将其降至 ( (C_{in}/g) \times (C_{out}/g) \times k^2 \times g = \frac{C_{in} \cdot C_{out} \cdot k^2}{g} ),计算量同步缩减为 ( 1/g )。分组数 ( g ) 越大,压缩比越高,但组间信息隔离越严重。

  2. 通道信息隔断与交互补偿
    不同组之间无信息流动,导致模型表达能力下降。常通过通道混洗(Channel Shuffle)逐点卷积(1×1 Conv) 恢复跨组交互,如ShuffleNet的设计。

  3. 与深度可分离卷积的关系
    深度可分离卷积是分组卷积的特例(( g = C_{in} )),其深度卷积即为分组卷积的分组数等于输入通道数,随后接逐点卷积进行跨通道融合。

  4. 多GPU并行训练适配
    将通道分组分配给不同GPU,各自独立计算梯度,降低通信代价,适用于大规模网络分布式训练。

  5. 正则化效果
    分组卷积隐式引入稀疏连接约束,类似Dropout的正则化效应,有助于缓解过拟合,尤其在数据集较小时。


医学/神经科学应用场景

首都医科大学神经病学研究背景下的多模态脑电信号分析
在癫痫病灶定位中,临床常采集64通道头皮脑电图(EEG)。引入分组卷积,将通道按脑叶解剖分区(如额叶、颞叶、枕叶、中央区等)分为4组(每组16通道),每组独立提取局部时空特征(如尖波、棘波频谱模式),再通过逐点卷积融合组间信息。此举不仅降低模型参数量(约75%),更符合神经电生理的局部场电位特性——同一脑区通道的同步性高于跨脑区。实验表明,该方法在首都医科大学宣武医院癫痫数据集上,病灶分类准确率提升3.2%,且训练速度加快2.1倍,为轻量化便携式癫痫监测设备提供了可行的深度学习方案。