GAT解读graph attention network

作为图模型的基本结构，有必要详细了解下GAT结构，GAT基本结构堆叠后组成类似于DNN的结构，进行特征提取，整体结构如下：Q group277356808 GAT paper地址

1，输入是N个节点的embedding，输出也是N个节点的embedding；

2，参数化的权重W应用于每个节点，W是共享的；

3，然后进行self-attention，得到j对i的attention系数：

 ，a是共享的attention机制，单层feedforward neural network

4，进行masked attention，引入graph结构，仅仅计算i的邻居的attention系数，并进行softmax归一化：在i的邻居内进行归一化