GAT解读graph attention network - 码农知识堂

GAT解读graph attention network

作为图模型的基本结构，有必要详细了解下GAT结构，GAT基本结构堆叠后组成类似于DNN的结构，进行特征提取，整体结构如下：Q group277356808 GAT paper地址

1，输入是N个节点的embedding，输出也是N个节点的embedding；

2，参数化的权重W应用于每个节点，W是共享的；

3，然后进行self-attention，得到j对i的attention系数：

$e_{ij}=a (Wh_{i},Wh_{j})$ ，a是共享的attention机制，单层feedforward neural network

4，进行masked attention，引入graph结构，仅仅计算i的邻居的attention系数，并进行softmax归一化：在i的邻居内进行归一化
相关阅读:
【通过】华为OD机试：判读字符串子序列
 VueComponent 笔记
 JavaSE进阶之（十）Map 子接口之 ConcurrentHashMap
C# FileSystemWatcher 实时监控文件的增加、修改、重命名和删除实例
 Java 程序的构造与执行
 【文献整理】基于深度强化学习的知识图谱推理研究
 jquery的基本使用
 【图像变换】基于matlab实现HSI和RGB域图像转换附matlab代码
 Xshell连接Docker版本CentOS7
工作分配问题——算法设计与分析（C实现）
原文地址：https://blog.csdn.net/SPESEG/article/details/127481952