全局平均池化
Parent: ai_keywords
全局平均池化(Global Average Pooling, GAP)
核心定义
全局平均池化是一种深度学习中的空间下采样操作,将特征图(feature map)每个通道的所有空间位置(宽度×高度)的特征值取平均,输出一个维度等于通道数的标量向量。与全连接层不同,它无参可训练,直接强制模型学习通道维度的语义特征。
关键技术点
- 无参降维与正则化:GAP 取代全连接层实现从特征图到分类向量的映射,极大减少参数量,抑制过拟合。其平均操作天然引入平滑性,增强模型对空间位移的鲁棒性。
- 保留通道语义:每个通道经池化后对应一个类别置信度(或任务相关编码),使特征图直接成为类别激活图(Class Activation Map, CAM)的基础,便于可视化。
- 计算与梯度特性:前向为均值计算,反向梯度均匀回传至所有空间位置,避免全连接层参数梯度爆炸;计算复杂度低,利于端到端训练。
- 局限与变体:对空间细节不敏感,在需要精确位置的任务(如分割)中常与逐点卷积组合;变体包括全局最大池化、全局加权池化及自适应池化。
医学/神经科学应用场景(首都医科大学神经病学研究背景)
在首都医科大学脑重大疾病研究中心的多中心阿尔茨海默病(AD)早期诊断项目中,GAP 被嵌入3D卷积神经网络(3D-CNN)以分析来自宣武医院、天坛医院的fMRI静息态数据。原始3D脑激活图(尺寸96×96×48,通道数128)经多个3D卷积层和批归一化后,由GAP层压缩为128维向量,直接输入softmax分类器。该设计有效利用了GAP的无参特性,在仅有300个受试者(含轻度认知障碍MCI、AD及正常对照)的小样本数据中,将参数量从传统三层全连接网络的2.1M降至0.3M,并引入隐式空间平滑,抑制了fMRI扫描仪噪声导致的过拟合。最终,结合GAP生成的类别激活图(将128维向量加权映射回原脑空间),定位出AD显著相关的海马体、后扣带回及楔前叶区域,为早期神经退行性病理标志物挖掘提供了可解释性依据。