门控循环单元 (GRU)

Parent: ai_keywords

门控循环单元 (GRU)

核心定义

门控循环单元（Gated Recurrent Unit, GRU）是循环神经网络（RNN）的一种改进变体，由Cho等人在2014年提出。它通过引入 重置门（Reset Gate） 和 更新门（Update Gate） 两个门控机制，有效缓解了传统RNN在处理长序列时面临的梯度消失/爆炸问题。与长短期记忆网络（LSTM）相比，GRU结构更简洁（无单独的细胞状态和输出门），参数量更少，在保持相近序列建模能力的同时，训练效率更高，尤其适合数据量有限或实时性要求高的场景。

关键技术点

  1. 重置门与更新门

    • 重置门控制当前输入与前一时刻隐藏状态的融合程度，决定遗忘多少历史信息；
    • 更新门类似LSTM的遗忘门与输入门组合，平衡新旧信息，决定保留多少过去状态。

  2. 无细胞状态的设计

    • GRU将LSTM的细胞状态（cell state）与隐藏状态合并为单一隐藏向量 (h_t)，通过重置门直接调节候选隐藏状态，简化了信息流路径。

  3. 梯度流优化

    • 更新门允许网络选择性地传递长期依赖（接近1时几乎完全保留过去信息），重置门控制短期依赖（接近0时丢弃历史），从而在反向传播中维持稳定的梯度。

  4. 参数效率与计算优势

    • 相比LSTM的三个门（输入门、遗忘门、输出门），GRU仅两个门，参数量减少约1/3；训练速度更快，且在小样本或高噪声数据上不易过拟合。

  5. 序列建模的鲁棒性

    • 在自然语言处理（如文本生成）、时间序列预测（如金融、气象）等任务中，GRU表现与LSTM相当，尤其在没有充足计算资源或需快速推理的场景下更优。

医学/神经科学应用场景

在首都医科大学神经病学研究中，GRU被广泛用于癫痫发作的脑电图（EEG）实时预警。癫痫发作前数分钟至数十分钟，EEG常出现特征性节律变化（如棘波、尖波频发或慢波节律）。传统RNN难以捕捉此类跨时间尺度的预兆，而GRU通过以下方式解决：

  • 利用重置门快速滤除正常背景噪声（如肌电干扰），更新门长期积累异常放电模式；
  • 对长达数小时的连续EEG进行在线处理，以毫秒级延时输出发作概率，提前1~5分钟触发警报；
  • 相比LSTM，GRU在脑电嵌入式设备（如可穿戴头皮电极）上参数量更低，功耗更优，适合患者居家监测。

该模型已在首都医科大学宣武医院的多中心前瞻性队列验证，可将误报率降低至0.2次/24小时以下，显著改善难治性癫痫患者的生存质量。