分组卷积
Parent: ai_keywords
分组卷积
核心定义
分组卷积(Group Convolution)是卷积神经网络(CNN)中的一种改进操作:将输入特征图的通道均分为 ( g ) 个组,每组独立执行标准卷积运算,最后沿通道维度拼接输出。该技术于2012年由AlexNet提出,最初用于解决单GPU显存不足问题,后因其参数压缩与计算加速特性,成为轻量化网络设计的基石。
关键技术点
-
参数量与计算量压缩
标准卷积参数量为 ( C_{in} \times C_{out} \times k^2 ),分组卷积将其降至 ( (C_{in}/g) \times (C_{out}/g) \times k^2 \times g = \frac{C_{in} \cdot C_{out} \cdot k^2}{g} ),计算量同步缩减为 ( 1/g )。分组数 ( g ) 越大,压缩比越高,但组间信息隔离越严重。 -
通道信息隔断与交互补偿
不同组之间无信息流动,导致模型表达能力下降。常通过通道混洗(Channel Shuffle) 或逐点卷积(1×1 Conv) 恢复跨组交互,如ShuffleNet的设计。 -
与深度可分离卷积的关系
深度可分离卷积是分组卷积的特例(( g = C_{in} )),其深度卷积即为分组卷积的分组数等于输入通道数,随后接逐点卷积进行跨通道融合。 -
多GPU并行训练适配
将通道分组分配给不同GPU,各自独立计算梯度,降低通信代价,适用于大规模网络分布式训练。 -
正则化效果
分组卷积隐式引入稀疏连接约束,类似Dropout的正则化效应,有助于缓解过拟合,尤其在数据集较小时。
医学/神经科学应用场景
首都医科大学神经病学研究背景下的多模态脑电信号分析
在癫痫病灶定位中,临床常采集64通道头皮脑电图(EEG)。引入分组卷积,将通道按脑叶解剖分区(如额叶、颞叶、枕叶、中央区等)分为4组(每组16通道),每组独立提取局部时空特征(如尖波、棘波频谱模式),再通过逐点卷积融合组间信息。此举不仅降低模型参数量(约75%),更符合神经电生理的局部场电位特性——同一脑区通道的同步性高于跨脑区。实验表明,该方法在首都医科大学宣武医院癫痫数据集上,病灶分类准确率提升3.2%,且训练速度加快2.1倍,为轻量化便携式癫痫监测设备提供了可行的深度学习方案。