[发明专利]训练图神经网络的方法、图神经网络设备、装置、介质

说明书

本公开提供了一种训练图神经网络的方法、图神经网络设备、装置、介质，所述方法包括：获取所述图神经网络的图结构数据，其中，所述图结构数据包括结点的表征向量和边的表征向量，所述边表示相连的结点之间的关联关系；利用所述图神经网络基于所述边的表征向量生成传递矩阵，其中，所述传递矩阵表示相连结点之间的信息传递方式；确定所述边的表征向量与所述传递矩阵之间的互信息；以及利用所述互信息训练所述图神经网络。

技术领域

本公开涉及图神经网络领域，具体的涉及一种训练图神经网络的方法、图神经网络设备、装置、介质。

背景技术

图神经网络是一种新型的人工智能神经网络，其输入为图结构数据，输出为表征向量，用于表示对性质特征的高度概括，其中，所述图结构数据包括结点的表征向量和边的表征向量，所述边表示相连的结点之间的关联关系。通过训练可以使得图神经网络在性质预测、分类、回归等任务上取得远超传统方法的效果。然而，传统的神经网络训练方法中并未考虑边的表征向量对于训练结果的影响，忽略了边的表征向量在训练过程中的重要作用。

发明内容

本公开提供一种训练图神经网络的方法、图神经网络设备、装置、介质，用于基于边的表征向量来训练所述图神经网络，以在训练过程中有效的利用边的表征向量。

根据本公开的一方面，提供了一种训练图神经网络的方法，包括：获取所述图神经网络的图结构数据，其中，所述图结构数据包括结点的表征向量和边的表征向量，所述边表示相连的结点之间的关联关系；利用所述图神经网络基于所述边的表征向量生成传递矩阵，其中，所述传递矩阵表示相连结点之间的信息传递方式；确定所述边的表征向量与所述传递矩阵之间的互信息；以及利用所述互信息训练所述图神经网络。

根据本公开的一些实施例，所述图神经网络包括边神经网络，所述利用所述图神经网络基于所述边的表征向量生成传递矩阵包括：利用所述边神经网络基于所述边的表征向量生成传递矩阵。

根据本公开的一些实施例，确定所述边的表征向量与所述传递矩阵之间的互信息包括：确定对应于所述边的表征向量的边缘熵；确定所述传递矩阵与所述边的表征向量之间的相关信息熵；基于所述边缘熵和所述相关信息熵确定所述互信息。

根据本公开的一些实施例，确定所述传递矩阵与所述边的表征向量之间的相关信息熵包括：确定后验分布函数，其中，所述后验分布函数表征在发生传递矩阵的条件下发生所述边的表征向量的概率分布；基于所述后验分布函数确定所述相关信息熵。

根据本公开的一些实施例，确定后验分布函数包括：利用所述边神经网络的逆网络对所述传递矩阵进行处理，生成逆矩阵；基于所述边的表征向量和所述逆矩阵来确定所述后验分布函数。

根据本公开的一些实施例，利用所述互信息训练所述图神经网络包括：通过最大化所述互信息来训练所述图神经网络，由以下公式表示所述互信息：其中，I(e；W)表示所述边的表征向量e与所述传递矩阵W之间的互信息，H(e)表示对应于所述边的表征向量的边缘熵，E_e～p(e)表示对边的概率分布p(e)求数学期望，α为系数，f表示边神经网络，g表示逆网络，表示L₂范数的平方。

根据本公开的一些实施例，所述图结构数据包括多个结点，所述方法还包括：对于每个结点，确定与所述结点相连的其他结点；利用所述图神经网络基于所述结点和与所述其他结点之间的边的表征向量生成第一传递矩阵，以及利用所述第一传递矩阵和所述其他结点的表征向量来更新所述结点的表征向量。

根据本公开的一些实施例，所述图神经网络是信息传递神经网络。