本文介绍了GNN-AK和GNN-AK+，通过在输入图的导出子图上部署GNN作为kernel，以做到提升任意GNN的表达能力

这篇论文提出了一个全新的图随机注意力机制GSAT，它通过在注意力的学习中注入随机性来达到有保障的可解释能力和泛化能力。这篇论文同时指出了事后解释方法背后潜在的问题，并展示了基于注意力机制的自身可解释模型的巨大潜力。

GNN 一般只能捕获 k-hop 的邻居，而可能无法捕获长距离依赖信息，Transformer 可以解决这一问题

图神经网络最近几年非常的受欢迎，它到底在什么地方有应用呢？

可以比较好的单独优化 representation，和下游任务无关，能够最大程度上的保留 meta-information，如果一旦做有监督的学习，那抽取出来的信息就是和当前目标相关的，不排除可能学到一些噪音特征

​在类不平衡节点分类中，作者发现补偿偏离类连通模式的次节点容易导致次节点误报。根据这一观察，本文提出了TAM方案来根据与连通模式的偏离程度智能地调整类边距。本文的算法通过简单地将TAM与各种GNN结构相结合，有效地改进了类别不平衡的处理方法

本文提出的扩散方法 (HyperND) 试图结合两种方法的优点：基于特征的学习、建模灵活性、基于标签的正则化和计算速度。重要的是，本文可以证明扩散收敛到嵌入，它是可解释的正则化损失函数的全局最小化，它在超边上强制执行小方差。

本文提出了一种称为SEP的新的分层池化方法，通过最小化结构熵，可以将图的层次结构解码为相应的编码树，其中可以最小化来自噪声或随机变化的干扰。

​本文为非属性图开发了一种新的内核——分层传递对齐内核，与现有的大多数内核不同，该内核不仅克服了忽略图之间对应信息的缺点，而且保证了对应信息之间的传递性。

NeurIPS 2022 审稿意见出来了，你的得分怎么样呢？

该模型「不仅可以利用深度来提高其泛化性能，而且它还可以产生比 CGMM 更小的嵌入，从而节省内存占用和后续分类器的训练时间」。

从ICLR2022被拒到ICML2022outstanding paper，厉害了！

本文提出了反事实链接的新概念和用于链接预测 (CFLP) 的新图学习方法。反事实链接回答了关于链接存在的反事实问题，并被用作增强训练数据，CFLP 通过探索全局图结构与链接存在之间的因果关系，准确预测缺失的链接～

​本文提出了局部增强，这是一种利用生成模型来学习给定中心节点特征的中心节点邻居特征的条件分布的新技术。作者将生成的特征矩阵从训练有素的生成模型馈送到一些修改过的主干 GNN 模型，以提高它们的性能

​为了获得准确的隐藏节点表示，本文「提出了特征动量 (FM) 以将历史嵌入合并到 Adam 更新样式中」。基于 FM，本文「开发了两种算法，GraphFM-IB 和 GraphFM-OB，分别具有收敛保证和一些理论洞察力」

ICML 2022 共评选出 15 篇杰出论文奖和 1 项时间检验奖。

本文提供了一个新的理论框架来解释图采样在训练 GCN 中的经验成功。它通过有效的邻接矩阵明确量化图采样的影响，并提供泛化和样本复杂性分析

近年来，图已被广泛应用于表示和处理很多领域的复杂数据，如医疗、交通运输、生物信息学和推荐系统等。图机器学习技术是获取隐匿在复杂数据中丰富信息的有力工具，并且在像节点分类和链接预测等任务中，展现出很强的性能。

本文首先展示了如何捕获节点相关性，并推导出每一层的系数矩阵。 然后介绍了如何在的基础上加速邻域聚集，进一步从理论上证明了和都具有预期的聚类效果。

​本文提出了一种学习 GCN 空间算子的新方法。作者的动机源于对具有表达空间内核的深度 GCN 的需求，类似于不会过度平滑的标准 CNN。本文的方法利用图上定义的路径来学习此类算子，进一步缩小 GCN 和 CNN 之间的差距

这篇文章研究了是否可以结合 GNN 和 MLP 的优点，以实现准确且快速的图机器学习模型部署。

或许，你做的数学考题，是机器生成的。

通过整合节点级知识蒸馏和系级知识蒸馏, 这种高阶关系知识蒸馏方法成为一种实用且通用的训练方法，适用于任意的异构图神经网络

整理了ICML 2022关于时间序列相关的论文，围绕时间序列预测、分类、异常检测、表示学习以及在医疗、生物、交通、音乐、金融等方向的应用。

关注我们，一起学习~标题：Self-Supervised Hypergraph Transformer fo

本文开发了 GIND，这是一种优化诱导的隐式图神经网络，它可以访问无限跳的邻居，同时通过非线性扩散自适应地聚合特征

本文介绍了一种简单有效，即插即用的Transformer模块BatchFormer。

本文发现由非光滑谱引起的相关性问题是GNN应用更强大的图滤波器和开发深层结构的障碍，从而制约了GNN的性能。

一辈子不是只为了孩子未来教育，还有自己，还有自己的父母。

本文引入了 SAT 模型，它成功地将结构信息整合到 Transformer 架构中，并克服了绝对编码的局限性。

本文提出了 Retroformer，这是一种新颖的基于 Transformer 的架构，它达到了无模板逆合成的新的最先进性能

本文提出了一种结合距离信息的基于GNN的链接预测方法：DLGNN。为了减少距离计算的成本，本文提出了一种基于锚节点的距离计算方法，其显著减少了距离计算的时间复杂度。在基准数据集上的大量实验证明了本文方法的有效性。

欧式空间对具有层级特点的网络进行学习会引起较大的嵌入失真从而影响下游的效果。双曲空间可以看作是‘连续型的树状结构’空间，在描述数据层级结构的时候具有天然优势。另一方面，双曲空间具有更大的容纳体积，即利用较少的嵌入维度即可实现较好的表征效果,

在本文中，本文重点展示了节点深度、聚合器和分辨率的影响以及相应的控制器如何工作。将来，可以添加更多额外的控制器作为所提出框架的其他实例，这值得进一步研究。

首先，说结论，CNN可以看作简化版的Self-attention，又或者说Self-attention是CNN的泛化。

在大规模图数据集上训练图神经网络会消耗很高的计算成本。缓解此问题的一种解决方案是将大型图形数据集压缩为小型合成数据集。在这项工作中，本文提出了一种新颖的框架 DosCond，它采用一步梯度匹配策略，有效地将真实图浓缩成少量具有离散结构的图

一图胜千言，在写论文的时候画好图也是一件非常重要的事情

图神经网络最近几年非常的受欢迎，它到底在什么地方有应用呢？

近年来，图神经网络(GNN)领域取得了令人难以置信的快速发展。图神经网络，也被称为图深度学习、图表示学习或几何深度学习，已经成为机器学习，尤其是深度学习中发展最快的研究课题之一

图是一种普遍存在的数据类型，出现在许多现实世界的应用中，包括社会网络分析、建议和财务安全。

在本文中，研究者证明了视觉 Transformer 背后的关键成分，即输入自适应、长程和高阶空间交互，也可以通过基于卷积的框架有效实现

本文对当前的 GNN 进行了实证分析，并找到了深度 GNN 性能下降的根本原因：变换引入的模型退化问题。

为了克服 GNN 的脆弱性，本文提出了一种新的防御模型 STABLE，它通过更可靠的表示成功地改进了图结构。 此外，本文设计了一个先进的 GCN 作为下游分类器，以增强 GCN 的鲁棒性

目前已经有大量的基于扩散模型的改进技术和应用领域。然而，对快速采样的更多关注导致了训练方案和原始设置的有效性降低。首先，有一个由负对数似然和证据下限之间的差异定义的变异差距。

在本文中，本文重点展示了节点深度、聚合器和分辨率的影响以及相应的控制器如何工作。将来，可以添加更多额外的控制器作为所提出框架的其他实例，这值得进一步研究。

其实不同的模型本身就擅长不同领域不同任务，没有必要一定说一个好于另一个

本资源整理整理了Graph Data数据增强、数据扩充

2022年了，NLP还有比较有前景的创新方向吗？

本文介绍了「用于一般图」的「DGMRF」。通过「GNN的计算框架」和「可扩展的对数行列式计算」，该模型可以应用于大型图.

本文展示了在具有近 500 万条边的图上使用 LeNSE 的好处，表明与不进行任何修剪相比，LeNSE 实现了 140 多倍的速度提升