一种有向图对应的图神经网络的训练方法及装置_CN 114462600 B_TuGraph.pdf
免费下载
(19)国家知识产权局
(12)发明专利
(10)授权公告号
(45)授权公告日
(21)申请号 202210372957.3
(22)申请日 2022.04 .11
(65)同一申请的已公布的文献号
申请公布号 CN 114462600 A
(43)申请公布日 2022.05 .10
(73)专利权人 支付宝（杭州）信息技术有限公司
地址 310000 浙江省杭州市西湖区西溪路
556号8层B段801-11
(72)发明人 张国威 刘永超
(74)专利代理机构 北京亿腾知识产权代理事务
所(普通合伙) 11309
专利代理师 陈霁 周良玉
(51)Int.Cl.
G06N
3/08
(2006 .01)
G06K
9/62
(2022 .01)
(56)对比文件
CN 112435122 A ,2021 .03 .02
CN 114239083 A ,2022 .03 .25
CN 114118410 A ,2022 .03 .01
CN 112154461 A ,2020 .12 .29
CN 113222143 A ,2021 .08 .06
CN 110782044 A ,2020 .02 .11
CN 111858123 A ,2020 .10 .30
CN 113867983 A ,2021 .12 .31
US 2021192358 A1,2021 .06 .24
孙鑫 等 .基于图神经网络和时间注意力的
会话序列推荐 .《计算机工程与设计》.2020,第41
卷(第10期) ,
刘颖颖 等 .基于自适应特征更新的动态深
度图神经网络 .《中国计量大学学报》.2021 ,第32
卷(第4期) ,
NURUL A . ASIF 等 .Graph Neural
Network: A Comprehensive Review on Non-
Euclidean Space .《IEEE Access》.2021 ,第9卷
审查员 范园园
(54)发明名称
一种有向图对应的图神经网络的训练方法
及装置
(57)摘要
本说明书实施例提供一种有向图对应的图
神经网络的训练方法及装置，方法包括：控制设
备获得用户针对图神经网络在正向推理计算中
用于进行节点表征聚合的第一算子设置的聚合
配置信息后，提供给工作设备，聚合配置信息包
括节点表征聚合涉及的参与对象和第一边方向；
工作设备中的任一第一设备针对有向图中其持
有的局部图中的当前节点，基于聚合配置信息利
用第一算子对当前节点进行表征聚合；基于用于
进行反向梯度计算的第二算子及根据聚合配置
信息确定的梯度来源信息，确定图神经网络的当
前梯度，将其发送至控制设备；控制设备基于各
工作设备发送的当前梯度，更新图神经网络的模
型参数。
权利要求书3页 说明书20页 附图5页
CN 114462600 B
2022.07.05
CN 114462600 B
1 .一种有向图对应的图神经网络的训练方法，包括：
控制设备获得用户针对第一算子设置的聚合配置信息，将其提供给若干工作设备；所
述第一算子是图神经网络在正向推理计算中用于进行节点表征聚合的算子，所述聚合配置
信息包括，所述节点表征聚合涉及的参与对象，和依赖的第一边方向；
所述若干工作设备中任意的第一设备，针对所述有向图中本方持有的局部图中的当前
节点，基于所述聚合配置信息，利用所述第一算子对该当前节点进行表征聚合；并基于与所
述第一算子对应的用于进行反向梯度计算的第二算子，以及根据所述聚合配置信息确定的
梯度来源信息，确定所述图神经网络的当前梯度，将其发送至控制设备，其中所述梯度来源
信息包括，所述反向梯度计算所依赖的第二边方向和梯度传递来源对象的指示；
控制设备基于各工作设备发送的当前梯度，更新所述图神经网络的模型参数。
2.如权利要求1所述的方法，其中 ，所述节点表征聚合依赖的第一边方向选自以下之
一：所述有向图的入边方向、出边方向，以及所有边方向。
3 .如权利要求1所述的方法，其中，单个参与对象选自以下之一：被聚合的节点自身、其
对应的边，以及邻居节点；
所述节点表征聚合涉及的参与对象包括如下组合之一：节点对应的边；节点对应的邻
居节点；节点对应的边和邻居节点的组合；节点自身及其对应的边的组合；节点自身及其对
应的邻居节点的组合；节点自身及其对应的边和邻居节点的组合。
4 .如权利要求1所述的方法，还包括：
所述第一设备基于对所述当前节点进行表征聚合的聚合结果，确定该当前节点对应的
预测损失；所述当前梯度还基于所述预测损失而确定。
5 .如权利要求1所述的方法，其中，所述第一算子至少适用于所述图神经网络的第
l
+1
聚合网络层的聚合；
所述利用所述第一算子对该当前节点进行表征聚合，包括：
获取所述当前节点对应的当前参与对象在第
l
聚合网络层的当前表征；
利用所述第一算子对所述当前表征进行表征聚合，得到该当前节点在第
l
+1聚合网络
层的聚合表征。
6 .如权利要求1所述的方法，在所述确定所述图神经网络的当前梯度之前，还包括：
基于所述聚合配置信息以及预设的映射关系，确定所述梯度来源信息，所述映射关系
包括各种可能的聚合配置信息与各种可能的梯度来源信息之间的对应关系。
7 .如权利要求5所述的方法，其中，所述确定所述图神经网络的当前梯度，包括：
获取所述当前节点对应的当前参与对象在第
l
聚合网络层的当前表征；
基于所述当前参与对象和所述梯度来源信息，获取所述当前节点在第
l
+1聚合网络层
的目标传递梯度；
利用所述第二算子，对所述当前表征及所述目标传递梯度进行梯度计算，得到该第
l
聚
合网络层的模型参数的梯度。
8.如权利要求7所述的方法，还包括：
所述第一设备分别将各当前参与对象作为目标对象，利用所述第二算子，对所述目标
传递梯度、除所述目标对象外的其他当前参与对象的当前表征以及该第
l
聚合网络层的模
型参数进行梯度计算，得到该目标对象在第
l
聚合网络层中的梯度，用于第
l
‑1聚合网络层
权 利 要 求 书
1/3 页
2
CN 114462600 B
2
of 29
免费下载
【版权声明】本文为墨天轮用户原创内容，转载时必须标注文档的来源（墨天轮），文档链接，文档作者等基本信息，否则作者和墨天轮有权追究责任。如果您发现墨天轮中有涉嫌抄袭或者侵权的内容，欢迎发送邮件至：contact@modb.pro进行举报，并提供相关证据，一经查实，墨天轮将立刻删除相关内容。
下载排行榜
评论