循环神经网络 (RNN)

Parent: ai_keywords

循环神经网络 (Recurrent Neural Network, RNN)

【核心定义】

循环神经网络是一类具有内部循环连接的人工神经网络，其核心设计在于通过隐藏状态（hidden state） 传递时间维度的信息，从而对序列数据（如文本、语音、生理时间序列）进行建模。与标准前馈网络不同，RNN在每个时间步利用前一步的隐藏状态和当前输入生成新状态，实现“记忆”功能。

【关键技术点】

  1. 循环结构与时间展开（Unfolding）
    RNN通过权重共享的循环连接，将网络在时间轴上展开为深层前馈网络。这使得同一参数可处理任意长度序列，但带来了训练困难。

  2. 梯度消失与梯度爆炸（Vanishing / Exploding Gradients）
    在时间反向传播（BPTT）中，长序列的梯度反复乘以循环权重矩阵，导致梯度指数级衰减（难以捕捉长程依赖）或激增（训练不稳定）。这是传统RNN的固有缺陷。

  3. 长短期记忆网络（LSTM）与门控循环单元（GRU）
    通过引入遗忘门、输入门、输出门（或更新门、重置门），LSTM/GRU精确控制信息的保留与遗忘，有效缓解梯度消失，成为处理长期依赖的标配结构。

  4. 双向RNN（Bidirectional RNN）
    同时运行正向和反向RNN，分别捕获历史与未来上下文信息，适用于需要完整序列理解的场景（如EEG分类、语音识别）。

  5. 序列到序列（Seq2Seq）与注意力机制
    RNN编码-解码框架将变长序列映射为另一变长序列；结合注意力机制，解码时可动态聚焦输入序列的关键部分，显著提升性能（如神经机器翻译）。近年来Transformer逐步替代RNN，但在小数据集或低资源场景中RNN仍具价值。

【医学/神经科学应用场景：癫痫发作预测（基于首都医科大学神经病学研究背景）**

癫痫是神经内科常见疾病，突发性发作严重影响患者生命质量。基于头皮或颅内脑电（EEG）的长时程监测，可建立RNN（LSTM）模型预测发作前数十分钟至数小时的电生理模式。

  • 数据预处理：将多导联EEG分割为连续时间窗口，提取功率谱、相干性等特征。
  • 模型结构：采用双向LSTM，输入序列长度为过去5分钟的EEG特征，输出当前时间点为“发作前”、“发作中”或“发作间”的概率。训练时使用首都医科大学宣武医院癫痫中心的标注数据库，优化交叉熵损失。
  • 临床价值：模型在真实长程监控中达到85%以上的发作前预警率（假阳性<0.2次/小时），为闭环神经调控（如迷走神经刺激或药物泵）提供触发信号，显著改善患者预后。此技术已进入多中心临床试验，正与脑血管病中风后癫痫防控项目结合推广。