[斯坦福]距离编码-更为强大的GNN

tech2023-05-15  56

个人归纳:

作者通过提出一类与结构相关的特征,即距离编码(Distance Encoding),来突破1-Weisfeiler-Lehman(WL)test 的限制,以帮助 GNN 以比 1-WL test 更严格的表达能力来表示任意大小的节点集。DE 本质上捕获了要学习表示的节点集与图中每个节点之间的距离,其中包括与图相关的重要度量,如最短路径距离和广义PageRank 得分。

什么是Weisfeiler-Lehman(WL)算法和WL Test?

梗概

从图结构数据中学习节点集的结构表示对于从节点角色发现到链接预测和分子分类的各种应用至关重要。图神经网络(GNNs)在结构表示学习方面取得了巨大的成功。然而:

大多数 GNN 受到 1-Weisfeiler-Lehman(WL)test 的限制,因此有可能为实际上不同的结构和图形生成相同的表示。 最近通过模仿高阶 WL tests 提出的更强大的 GNN 只关注全图表示,不能利用图结构的稀疏性来提高计算效率。 这篇文章提出了一类与结构相关的特征,称为距离编码(Distance Encoding,DE),以帮助 GNN 以比 1-WL test 更严格的表达能力来表示任意大小的节点集。DE 本质上捕获了要学习表示的节点集与图中每个节点之间的距离,其中包括与图相关的重要度量,如最短路径距离和广义 PageRank 得分。

此外,此文还提出了两个通用的 GNNs 框架来使用 DEs:

作为额外的节点属性 进一步作为 GNNs 中消息聚合的控制器 这两个框架仍然可以利用稀疏结构来保持处理大型图的

最新回复(0)