【论文学习】GraphFM: Graph Factorization Machines for Feature Interaction Modeling

简介

FM是一个做特征交叉比较流行的方法，但是由于交叉维度暴增的问题，并且带来了大量的噪音和预测不准确的问题。为了解决这个问题，作者提出了graphFM，用图的思想做特征交叉，把每一个特征作为图中的节点，然后通过梯度下降的方法自动学习图中边的关系，从而达到了自动特征交叉的目的。
论文的主要贡献：

• 分析了FM和GNN在做特征交叉问题中的优缺点。
• 通过将特征作为节点，把他们的边作为交叉关系，将GNN和FM结合到了一起。
• 通过详尽的实验，证明了graphFM的有效性。

边预测

边预测


然后采样TOPK的边，作为节点的邻居，其他节点设置为0。同样作者也通过阈值的方式进行筛选尝试，效果不好。

计算邻居节点的attention

计算了i和邻居节点j的注意力权重。