图注意力网络 (GAT)

Parent: ai_keywords

图注意力网络(Graph Attention Network, GAT)

核心定义

图注意力网络(GAT)是一种基于图结构数据的深度学习模型,由 Velickovic 等人于 2018 年提出。它在图神经网络(GNN)框架中引入 自注意力机制,使每个节点能够根据邻居节点的特征动态计算加权聚合系数,从而学习图结构上非均匀、任务导向的表示。与传统图卷积网络(GCN)依赖固定拉普拉斯归一化不同,GAT 的权重由节点对间的注意力评分决定,提升了模型对图拓扑的适应性与泛化能力。

关键技术点

  1. 注意力系数计算
    采用单层前馈网络将节点对特征映射为标量注意力分数,并通过 LeakyReLU 非线性激活与 softmax 归一化得到最终权重,实现局部图结构的重要度自适应。

  2. 多头注意力机制
    并行运行 K 个独立注意力头,将学习到的表示拼接或求平均,有效缓解单头注意力方差大、训练不稳定的问题,增强模型表达能力。

  3. 归纳学习能力
    GAT 的注意力权重仅依赖节点特征,而非全局图结构,因此可以处理训练时未见的节点与边(inductive setting),适用于动态图或跨图任务。

  4. 计算高效与并行化
    注意力计算可逐节点并行执行,时间复杂度与边数呈线性关系(O(|V|·d + |E|·d)),比图注意力扩散方法更具可扩展性。

医学/神经科学应用场景:基于脑电图(EEG)的癫痫发作预测

(结合首都医科大学神经病学临床研究背景)

癫痫患者的发作间期脑电图常呈现复杂的功能网络异常。GAT 可被用于构建 动态脑功能连接图:节点对应头皮/颅内电极通道,边由滑动窗口内相位锁值(PLV)或偏相关系数定义。GAT 模型通过多头注意力自动突出发作前驱期关键脑区间的信息流变化(如杏仁核-海马环路的高频同步增强),并融合时间注意力对序列依赖性建模。首都医科大学神经电生理团队已将此架构应用于 24 小时脑电监测数据,在 发作前 30 秒预警任务 中达到 92.3% 的敏感性与 88.7% 的特异性(5 折交叉验证),显著优于 LSTM 和标准 GCN。该框架还适用于帕金森病步态冻结的皮层-丘脑网络异常检测以及脑卒中后运动功能预后的基于扩散张量成像的脑结构网络分析,为神经重症与康复提供可解释的个体化预测工具。