CN116894218B - 基于显著性正则化图神经网络的图分类方法及相关装置 - Google Patents

基于显著性正则化图神经网络的图分类方法及相关装置

Info

Publication number
CN116894218B
CN116894218B CN202310459053.9A CN202310459053A CN116894218B CN 116894218 B CN116894218 B CN 116894218B CN 202310459053 A CN202310459053 A CN 202310459053A CN 116894218 B CN116894218 B CN 116894218B
Authority
CN
China
Prior art keywords
graph
network
saliency
node
compact
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310459053.9A
Other languages
English (en)
Other versions
CN116894218A (zh
Inventor
徐维娜
王向荣
吴宗泽
王瑾璠
袁端午
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Haixing Port Development Co ltd
Shenzhen University
Southern University of Science and Technology
Original Assignee
Shenzhen Haixing Port Development Co ltd
Shenzhen University
Southern University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Haixing Port Development Co ltd, Shenzhen University, Southern University of Science and Technology filed Critical Shenzhen Haixing Port Development Co ltd
Priority to CN202310459053.9A priority Critical patent/CN116894218B/zh
Publication of CN116894218A publication Critical patent/CN116894218A/zh
Application granted granted Critical
Publication of CN116894218B publication Critical patent/CN116894218B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/243—Classification techniques relating to the number of classes
    • G06F18/2431—Multiple classes
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2132—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on discrimination criteria, e.g. discriminant analysis
    • G06F18/21322—Rendering the within-class scatter matrix non-singular
    • G06F18/21326—Rendering the within-class scatter matrix non-singular involving optimisations, e.g. using regularisation techniques
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/092—Reinforcement learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了一种基于显著性正则化图神经网络的图分类方法及相关装置，所述方法包括获取待分类目标对应的图结构数据，并将所述图结构数据输入显著性正则化图神经网络；通过所述显著性正则化图神经网络确定所述待分类目标的分类类别；其中，所述显著性正则化图神经网络通过骨架网络学习节点特征矩阵，通过图神经记忆网络将节点特征矩阵提取为紧凑图特征表示，并基于紧凑图特征表示以及节点特征矩阵确定显著性分布向量，最后通过显著性分布向量规范骨架网络的聚合权重。这样使得显著性正则化图神经网络通过测量整紧凑图特征表示和节点特征矩阵之间的兼容性，而关注与图分类更相关的节点，并且能够为整个图学习更有效的表示，从而可以提高图分类任务的分类效果。

Description

基于显著性正则化图神经网络的图分类方法及相关装置
技术领域
本申请涉及计算机技术领域，特别涉及一种基于显著性正则化图神经网络的图分类方法及相关装置。
背景技术
图分类任务是预测图结构数据对应的类别，该任务广泛应用于社交网络、生化领域等领域。在图分类任务中，图神经网络模型不仅需要对每个节点和每条边，也需要对图的整体信息进行有效的特征表示学习。然而，现有图分类方法在受对图节点进行邻域聚合时，普遍侧重于对相邻节点之间的局部依赖关系进行建模。这样虽然能够有效的学习图中节点特征矩阵表示，但忽略了每个节点在图分类任务中的全局重要性，从而应然会影响图分类的准确性。
因而现有技术还有待改进和提高。
发明内容
本申请要解决的技术问题在于，针对现有技术的不足，提供一种基于显著性正则化图神经网络的图分类方法及相关装置。
为了解决上述技术问题，本申请实施例第一方面提供了一种基于显著性正则化图神经网络的图分类方法，所述方法包括：
获取待分类目标对应的图结构数据，并将所述图结构数据输入显著性正则化图神经网络；
通过所述显著性正则化图神经网络确定所述待分类目标的分类类别；
其中，所述显著性正则化图神经网络包括具有若干骨架网络层的骨架网络层和具有若干图神经记忆层的图神经记忆网络，所述骨架网络用于学习图结构数据的节点特征矩阵，所述图神经记忆网络用于通过节点特征矩阵提炼图结构数据对应的紧凑图特征表示，并将所述紧凑图特征表示反作用与骨架网络，以通过基于紧凑图特征表示确定的显著性分布向量对所述骨架网络进行全局正则化。
所述显著性正则化图神经网络的图分类方法，其中，所述骨架网络层的输入项包括前一骨架网络层输出的节点特征矩阵，及基于前一骨架网络层输出的节点特征矩阵以及骨架网络层对应的图神经记忆层输出的紧凑图特征表示确定的显著性分布向量；所述图神经记忆层的输入项包括前一图神经记忆层对应的骨架网络层输出的节点特征矩阵和前一图神经记忆层输出的紧凑图特征表示。
所述显著性正则化图神经网络的图分类方法，其中，所述显著性分布向量的确定过程具体包括：
基于骨架网络层确定的节点特征矩阵确定归一化K值，并基于图神经记忆网络确定的紧凑图特征表示确定归一化Q值；
基于所述相似性分数归一化函数、所述归一化K值和所述归一化Q值，确定所述显著性分布向量。
所述显著性正则化图神经网络的图分类方法，其中，所述位于最前的骨架网络层的输入项为图结构数据，位于最前的图神经记忆层配置有通过随机初始化方式生成的紧凑图特征表示。
所述显著性正则化图神经网络的图分类方法，其中，所述图神经记忆层包括交叉注意力单元，所述交叉注意力单元的Q值为基于前一紧凑图特征表示确定的，K值为基于当前节点特征矩阵确定的，V为基于当前节点特征矩阵确定的。
所述显著性正则化图神经网络的图分类方法，其中，所述通过基于紧凑图特征表示确定的显著性分布向量对所述骨架网络进行全局正则化具体包括：
将所述显著性分布向量与所述骨架网络对应的局部权重进行融合，得到融合权重；
基于所述融合权重对所述骨架网络进行全局正则化。
所述显著性正则化图神经网络的图分类方法，其中，所述通过所述显著性正则化图神经网络确定所述待分类目标的分类类别具体包括：
通过显著性正则化图神经网络中的各骨架网络层和各图神经记忆层对图结构数据进行学习，并通过位于最后图神经记忆层确定目标紧凑图特征表示；
基于所述目标紧凑图特征表示，确定所述待分类目标对应的分类类别。
本申请实施例第二方面提供了一种基于显著性正则化图神经网络的图分类系统，所述系统包括：
获取模块，用于获取待分类目标对应的图结构数据，并将所述图结构数据输入显著性正则化图神经网络；
分类模块，用于通过所述显著性正则化图神经网络确定所述待分类目标的分类类别；
其中，所述显著性正则化图神经网络包括具有若干骨架网络层的骨架网络层和具有若干图神经记忆层的图神经记忆网络，所述骨架网络用于学习图结构数据的节点特征矩阵，所述图神经记忆网络用于通过节点特征矩阵提炼图结构数据对应的紧凑图特征表示，并将所述紧凑图特征表示反作用与骨架网络，以通过基于紧凑图特征表示确定的显著性分布向量对所述骨架网络进行全局正则化。
本申请实施例第三方面提供了一种计算机可读存储介质，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现如上任一所述的基于显著性正则化图神经网络的图分类方法中的步骤。
本申请实施例第四方面提供了一种终端设备，其包括：处理器、存储器及通信总线；所述存储器上存储有可被所述处理器执行的计算机可读程序；
所述通信总线实现处理器和存储器之间的连接通信；
所述处理器执行所述计算机可读程序时实现如上任一所述的基于显著性正则化图神经网络的图分类方法中的步骤。
有益效果：与现有技术相比，本申请提供了一种基于显著性正则化图神经网络的图分类方法及相关装置，所述方法包括获取待分类目标对应的图结构数据，并将所述图结构数据输入显著性正则化图神经网络；通过所述显著性正则化图神经网络确定所述待分类目标的分类类别；其中，所述显著性正则化图神经网络通过骨架网络学习节点特征矩阵，通过图神经记忆网络将节点特征矩阵提取为紧凑图特征表示，并基于紧凑图特征表示以及节点特征矩阵确定显著性分布向量，最后通过显著性分布向量规范骨架网络的聚合权重。这样使得显著性正则化图神经网络通过测量整紧凑图特征表示和节点特征矩阵之间的兼容性，而关注与图分类更相关的节点，并且能够为整个图学习更有效的表示，从而可以提高图分类任务的分类效果。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员而言，在不符创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请提供的基于显著性正则化图神经网络的图分类方法的流程图。
图2为预测化学分子性质的流程示意图。
图3为显著性正则化图神经网络的结构原理图。
图4为显著性正则化过程的流程示意图。
图5为本申请与相关技术对三角形数据集实验结果对比图。
图6为本申请与相关技术对MUTAG数据集实验结果对比图。
图7为ENZYMES和Letter-high数据集各模型实验结果t-SNE图。
图8为本申请提供的基于显著性正则化图神经网络的图分类系统的结构原理图。
图9为本申请提供的终端设备的结构原理图。
具体实施方式
本申请提供一种基于显著性正则化图神经网络的图分类方法及相关装置，为使本申请的目的、技术方案及效果更加清楚、明确，以下参照附图并举实施例对本申请进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本申请，并不用于限定本申请。
本技术领域技术人员可以理解，除非特意声明，这里使用的单数形式“一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是，本申请的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操作、元件和/或组件，但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、组件和/或它们的组。应该理解，当我们称元件被“连接”或“耦接”到另一元件时，它可以直接连接或耦接到其他元件，或者也可以存在中间元件。此外，这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一单元和全部组合。
本技术领域技术人员可以理解，除非另外定义，这里使用的所有术语(包括技术术语和科学术语)，具有与本申请所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是，诸如通用字典中定义的那些术语，应该被理解为具有与现有技术的上下文中的意义一致的意义，并且除非像这里一样被特定定义，否则不会用理想化或过于正式的含义来解释。
应理解，本实施例中各步骤的序号和大小并不意味着执行顺序的先后，各过程的执行顺序以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
经过研究发现，图分类任务是预测图结构数据对应的类别，该任务广泛应用于社交网络、生化领域等领域。在图分类任务中，图神经网络模型不仅需要对每个节点和每条边，也需要对图的整体信息进行有效的特征表示学习。然而，现有图分类方法在受对图节点进行邻域聚合时，普遍侧重于对相邻节点之间的局部依赖关系进行建模。这样虽然能够有效的学习图中节点特征矩阵表示，但忽略了每个节点在图分类任务中的全局重要性。
为了解决上述问题，在本申请实施例中，获取待分类目标对应的图结构数据，并将所述图结构数据输入显著性正则化图神经网络；通过所述显著性正则化图神经网络确定所述待分类目标的分类类别；其中，所述显著性正则化图神经网络通过骨架网络学习节点特征矩阵，通过图神经记忆网络将节点特征矩阵提取为紧凑图特征表示，并基于紧凑图特征表示以及节点特征矩阵确定显著性分布向量，最后通过显著性分布向量规范骨架网络的聚合权重。这样使得显著性正则化图神经网络通过测量整紧凑图特征表示和节点特征矩阵之间的兼容性，而关注与图分类更相关的节点，并且能够为整个图学习更有效的表示，从而可以提高图分类任务的分类效果。
下面结合附图，通过对实施例的描述，对申请内容作进一步说明。
本实施例提供了一种基于显著性正则化图神经网络的图分类方法，如图1所示，所述方法包括：
S10、获取待分类目标对应的图结构数据，并将所述图结构数据输入显著性正则化图神经网络。
具体地，待分类目标为待通过显著性正则化图神经网络的任务，并且待分类目标可以形成图结构数据，其中，待分类目标为社交网络、生化领域等领域中的任务。例如，待分类目标为化学分子等。图结构数据为基于待分类目标所形成的图结构，其中，图结构数据包括节点和边，边用于反映节点之间的交互关系。例如，如图2所示，待分类目标为化学分子，图结构数据为化学分子形成的图结构，其中，图结构数据中的节点为化学分子中的原子，边代表原子间的交互关系，每个节点和边均含有多维的特征向量用来表示节点或边所对应的属性。
S20、通过所述显著性正则化图神经网络确定所述待分类目标的分类类别。
具体地，分类类别用于反应待分类目标的节点类别，例如，待分类目标为化学分子，分类类别为化学分子的性质。可以理解的是，节点的特征向量来区分该节点类型是碳原子或氢原子；然后将化学分子转换的图结构数据送入到显著性正则化图神经网来提取图的多种信息，包括节点信息，边信息和图结构信息；并以邻域聚合函数将每个节点(中心节点)和其邻居节点的信息进行整合，并将整合后的信息更新到对应中心节点的特征向量上，以获得节点的局部信息，最后将所有节点和边的特征向量整合为一个图特征表示，并基于图特征表示确定化学分子的性质。
在所述步骤S10中，如图3所示，所述显著性正则化图神经网络包括骨架网络和图神经记忆网络，骨架网络包括若干骨架网络层，图神经记忆网络包括若干图神经记忆层，若干骨架网络层和若干图神经记忆层一一对应；或者是，由于位于第一位的图神经记忆层的紧凑图特征表示是从图结构数据的节点特征矩阵中学习的，从而图神经记忆层可以比骨架网络层多包含一层，即若干图神经记忆层除位于最后的骨架网络层，每个骨架网络层均对应一图神经记忆层。
为了便于说明，将相对应的骨架网络层和图神经记忆层记为一组网络层组，对于相邻的两个网络层组，前一网络层组中的骨架网络层与后一网络层组中的骨架网络层相连接，前一网络层组中的图神经记忆层与后一网络层组中的图神经记忆层相连接，并且前一网络层组中的骨架网络层与后一网络层组中的图神经记忆层相连接，后一个网络层组中的图神经记忆层与后一网络层组中的骨架网络层相连接。在一个典型实现方式中，相邻两组网络层组中的图神经记忆层的之间设置有残差连接(Residual connections)。
基于此，如图3所示，每组网络层组中的骨架网络层的输入项包括前一网络层组中的骨架网络层输出的节点特征矩阵，及基于前一网络层组中的骨架网络层输出的节点特征矩阵以及当前网络层组中的图神经记忆层输出的紧凑图特征表示确定的显著性分布向量；所述图神经记忆层的输入项包括前一网络层组中的骨架网络层输出的节点特征矩阵和前一网络层组中的图神经记忆层输出的紧凑图特征表示。此外，位于最前的网络层组中的骨架网络层的输入项为图结构数据，图神经记忆层配置有通过随机初始化方式生成的紧凑图特征表示，其中，所述图神经记忆层的紧凑图特征表示为一个可学习向量并随机初始化。
进一步，以一个有N个节点的图G作为输入，对显著性正则化图神经网络中的每组网络层组的工作过程进行说明，所述工作过程具体包括：
首先，图神经记忆层从前一网络层组中的骨架网络层输出的节点特征矩阵以及前一网络层组中的图神经记忆层输出的紧凑图特征表示提取紧凑图特征表示，其中，紧凑图特征表示可以表示为：
其中，表示第l组具有dM维度的紧凑图特征表示，表示第l-1组中的骨架网络层输出的节点特征矩阵，每个节点均具有dH的特征维度，是图神经记忆层的转换函数。
其次，基于紧凑图特征表示Ml测量每个节点的全局显著性，以得到显著性分布向量，可以理解的是，显著性分布向量为第l-1组中的所有节点的显著性分布的向量，用于反映每个节点与图分类的相关性。显著性分布向量可以通过函数对Ml和每个节点的特征之间的兼容性进行建模来学习节点得到的，显著性分布向量可以表示为：
其中，表示显著性分布向量，sl-1中的元素之和为1，是第l-1组中的骨架网络层所有节点的显著性分布的向量。
最后，采用显著性分布向量sl-1规范第l组中的骨架网络层，以完善第l组中的骨架网络层的节点特征矩阵学习，其中，第l组中的骨架网络层的节点特征矩阵可以表示为：
其中，是骨架网络的转换函数。
进一步，前一网络层组中提取的节点特征矩阵用于提炼下一组的紧凑图特征表示Ml+1，依次类推，直至最后一组网络层组，使得紧凑图特征表示和节点特征矩阵的提炼相互依存的。此外，位于最后的网络层组中的图神经记忆层输出的紧凑图特征表示ML+1(L是骨架网络层中骨架网络层的总层数)最终被用于图分类任务。
基于此，所述通过所述显著性正则化图神经网络确定所述待分类目标的分类类别具体包括：
通过显著性正则化图神经网络中的各骨架网络层和各图神经记忆层对图结构数据进行学习，并通过位于最后的图神经记忆层确定目标紧凑图特征表示；
基于所述目标紧凑图特征表示，确定所述待分类目标对应的分类类别。
具体地，各骨架网络层和各图神经记忆层按照级联顺序逐步进行节点特征矩阵以及紧凑图表示学习直至得到位于最后的图神经记忆层输出的目标紧凑图特征表示，然后基于目标紧凑图特征表示确定所述待分类目标对应的分类类别。在一个实现方式中，位于最后的图神经记忆层后可以连接有分类器，分类器基于目标紧凑图特征表示确定待分类目标对应的分类类别，其中，分类器可以预先训练的分类网络模型，也可以是多层感知器等。
在一个实现方式中，分类器可采用多层感知器，目标紧凑图特征表示记为ML+1，通过分类器确定预测图形标签可以表示为：
其中，表示对所有K个类别的预测概率，表示多层感知器的转换函数。
进一步，显著性正则化图神经网络在使用过程中，直接基于预测图形标签确定待分类目标对应的分类类别。而在训练过程中，可以基于预测类别以及标注类别对显著性正则化图神经网络进行训练，其中，显著性正则化图神经网络可以通过交叉熵损失以端到端方式进行优化，其中，损失函数可以表示为：
其中，Xi和yi表示第i个训练样本及其标注图标签，Nt表示训练集规模。
在一个实现方式中，图神经记忆网络从骨架网络中的节点特征矩阵中提炼出整个图形的紧凑图特征表示，通过紧凑图特征表示可以预测图分类，还可以估计每个节点在图分类中的全局显著性，然后对骨架网络进行全局正则化，其中，图神经记忆层学习一个矢量的潜在嵌入作为紧凑图特征表示，并使用交叉注意力操作对其进行反复完善。
如图3所示，所述图神经记忆层包括交叉注意力单元，所述交叉注意力单元的Q值为基于前一紧凑图特征表示确定的，K值为基于当前节点特征矩阵确定的，V为基于当前节点特征矩阵确定的。
其中，图神经记忆层的第l-1组中的紧凑图特征表示Ml-1作为查询，第l-1组中的骨架网络层的节点特征矩阵Hl-1在交叉注意操作中既作为键又作为值，是线性变换的可学习参数矩阵；表示多层感知器(Multilayer Perceptron，MLP)模块，由两个具有ReLU功能的全连接层组成。此外，转换函数转换在图神经记忆层中进行k次迭代(作为一个超参数进行调整)。
进一步，学习到的Ml又被用来规范骨架网络，以完善节点特征矩阵矩阵Hl，因此图神经记忆层能够从每层新完善的节点特征矩阵中提炼出紧凑图特征表示，而不是不变的节点信息。其中，位于最前的图神经记忆层的M0被建模为可学习参数，以学习适当的初始特征点，与骨架节点特征矩阵的潜在空间兼容。
在一个实现方式中，从图神经记忆网络中提炼出的紧凑图表示被用来对骨架网络进行全局正则化，这使得骨架网络在学习节点特征矩阵时能够感知到全局节点的显著性。本申请实施例首先利用紧凑图特征表示来衡量每个节点的全局显著性，然后利用节点显著性分布对骨架网络层进行归一化。节点的显著性与图的分类是通过建立紧凑图特征表示与图中每个节点的特征之间的兼容性来衡量的，其中，建立紧凑图特征表示与图中每个节点的特征之间的兼容性可以采用采用节点特征矩阵和紧凑图特征表示在潜空间投影中的点积来计算节点特征矩阵和紧凑图特征表示之间的相似性，然后再对所有节点获得的相似性分数进行归一化。
基于此，所述显著性分布向量的确定过程具体包括：
基于骨架网络确定的节点特征矩阵确定归一化K值，并基于图神经记忆网络确定的紧凑图特征表示确定归一化Q值；
基于所述相似性分数归一化函数、所述归一化K值和所述归一化Q值，确定所述显著性分布向量。
具体地，归一化K值、归一化Q值和显著性分布向量可以分别表示为：
其中，表示可学习的参数矩阵，用于将紧凑图表示Ml和节点特征矩阵Hl-1投影到同一潜在空间，缩放因子被用来避免两个向量之间点积的爆炸性增长，softmax()表示相似性分数归一化函数。
在一个实现方式中，如图4所示，所述所述通过基于紧凑图特征表示确定的显著性分布向量对所述骨架网络进行全局正则化具体包括：
将所述显著性分布向量与所述骨架网络对应的局部权重进行融合，得到融合权重；
基于所述融合权重对所述骨架网络进行全局正则化。
具体地，所述局部权重为骨架网络配置的节点的聚焦权重，显著性分布向量作为节点的全局权重分布，将通过将局部权重和全局权重融合在一起作为节点的聚焦权重，以利用节点显著性使骨架网络正规化。此外，骨架网络包括若干骨架网络层，在每个骨架网络层对应的图神经记忆层采用其对应的紧凑图特征表示对骨架网络进行反作用时，均会对骨架网络进行异常正则化。
在一个实现方式中，融合权重可以通过将显著性分布向量与所述骨架网络对应的局部权重加权得到的，即融合权重可以表示为：
点索引，β是在验证集上调整的一个超参数，softmax函数被用于归一化，表示第i个节点的局部权重，表示第i个节点的邻居节点集合。
在一个实现方式中，融合权重可以通过显著性分布向量正则化缩放(Scalingregularization，SW)局部权重得到，即融合权重可以表示为：
其中，γ>0为超参数。
进一步，局部权重可以根据骨架网络确定的，其中，骨架网络为图神经网络，例如，骨架网络可以为图卷积神经网络(Graph Convolutional Network,GCN)、GraphSAGE(Graph Sample and Aggregate)或者图同构网络(Graph Isomorphism Network，GIN)。
下面分别以骨架网络为图卷积神经网络、GraphSAGE和图同构网络为了进行说明。
1、骨架网络为图卷积神经网络
在进行局部邻域聚合时考虑到了度分布： 是GCN中邻接矩阵和度矩阵重新规一化的局部聚合权重矩阵，表示所有节点的正则化权重矩阵，Θl是第l层中线性变换的可学习参数矩阵，σ是激活函数。
2、骨架网络为GraphSAGE
以GraphSAGE的平均聚合器为例，所有相邻节点的局部聚合权重al都均匀地等于1，因此，第i个节点的特征被细化为：其中，表示第i个节点和其相邻节点的正则化权重。
3、骨架网络为图同构网络
局部聚合权重除中心节点外均等于1， 其中，表示骨架网络第l组的多层感知器的变换函数。
综上所述，本实施例提供了一种基于显著性正则化图神经网络的图分类方法，所述方法包括获取待分类目标对应的图结构数据，并将所述图结构数据输入显著性正则化图神经网络；通过所述显著性正则化图神经网络确定所述待分类目标的分类类别；其中，所述显著性正则化图神经网络通过骨架网络学习节点特征矩阵，通过图神经记忆层将节点特征矩阵提取为紧凑图特征表示，并基于紧凑图特征表示以及节点特征矩阵确定显著性分布向量，最后通过显著性分布向量规范骨架网络的聚合权重。这样使得显著性正则化图神经网络通过测量整紧凑图特征表示和节点特征矩阵之间的兼容性，而关注与图分类更相关的节点，并且能够为整个图学习更有效的表示，从而可以提高图分类任务的分类效果。
进一步，为了说明本实施例提供的利用节点全局显著性正则化对骨架网络邻域聚合过程进行规整，有助于提高图分类任务性能提高。本实施例在不同实验上验证了其优势性：
表1为对MUTAG和Letter-high两个数据集进行消融实验，以每个骨架网络(Backbone)作为基准模型(Base model)，探讨五种不同的变形效果，包括：GNM-GNN(仅采用图神经记忆层来学习用于分类预测的紧凑图特征表示，而不涉及节点的显著性正则化)、SAR-Pooling(将骨架网络最后一层代表所有节点的特征矩阵进行池化，使用池化后得到的图特征表达进行分类预测，而非使用紧凑图特征表示进行预测)以及本申请实施例中所讨论的两种不同融合机制的实现(SAR-GNN-W、SAR-GNN-S)。
表1图分类任务消融实验准确性(％)
表2表示在不同数据集上，本申请实施例(SAR-GNN)和其他模型分类效果对比：
表2图分类任务准确性(％)
从上述实验结果分析可知，首先，本申请实施例在所有数据集上与骨架网络对应的基准模型(Base model)相比，都取得了可观的性能提升，这验证了本申请实施例在不同类型骨架网络中的有效性和适应性。其次，基于三个骨架网络之一的本申请实施例在5个数据集上都取得了最好的性能，超过了其他相关技术模型，这体现了本申请实施例的稳健性。
在图5中，以三角形数据集(TRIANGLES)为例，通过本申请实施例SAR-GCN和相关技术模型(CHEBYGIN-UNSUP)在该数据集中四个图上学习到的节点显著性的可视化，这些图形是从测试集随机选择的。图分类任务是预测图上三角形个数，三角形用阴影区域表示，三角形的数量作为图形标签给出。本申请实施例能够捕捉到更多与三角形相关的判别性节点，并且比相关技术表现得更准确。
在图6中，显示了本申请实施例SAR-GraphSAGE和相关技术模型(CHEBYGIN-UNSUP)对MUTAG数据集中的三个阳性样本学习到的节点全局显著性可视化，SAR-GraphSAGE给位于稠环(Fused rings)中心的节点分配了较高的显著性分数，这与化学背景知识相一致。这些可视化的数据清楚地表明本申请实施例SAR-GNN比相关技术在学习图形分类的全局节点显著性方面的优势。
在图7中，显示了本申请实施例和相关技术对Letter-high和ENZYMES数据集的测试数据实验结果的t-SNE图。这些图显示了不同方法之间定量评估的一致结果，这再次证明了本申请实施例的优势：受益于显著性感知的正则化和图神经记忆层，它能够比其他相关技术学习到更有效的紧凑图特征表示。
基于上述基于显著性正则化图神经网络的图分类方法，本实施例提供了一种基于显著性正则化图神经网络的图分类系统，如图8所示，所述系统包括：
获取模块100，用于获取待分类目标对应的图结构数据，并将所述图结构数据输入显著性正则化图神经网络；
分类模块200，用于通过所述显著性正则化图神经网络确定所述待分类目标的分类类别；
其中，所述显著性正则化图神经网络包括具有若干骨架网络层的骨架网络和具有若干图神经记忆层的图神经记忆网络，所述骨架网络用于学习图结构数据的节点特征矩阵，所述图神经记忆网络用于通过节点特征矩阵提炼图结构数据对应的紧凑图特征表示，并将所述紧凑图特征表示反作用与骨架网络，以通过基于紧凑图特征表示确定的显著性分布向量对所述骨架网络进行全局正则化。
基于上述基于显著性正则化图神经网络的图分类方法，本实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现如上述实施例所述的基于显著性正则化图神经网络的图分类方法中的步骤。
基于上述基于显著性正则化图神经网络的图分类方法，本申请还提供了一种终端设备，如图9所示，其包括至少一个处理器(processor)20；显示屏21；以及存储器(memory)22，还可以包括通信接口(Communications Interface)23和总线24。其中，处理器20、显示屏21、存储器22和通信接口23可以通过总线24完成相互间的通信。显示屏21设置为显示初始设置模式中预设的用户引导界面。通信接口23可以传输信息。处理器20可以调用存储器22中的逻辑指令，以执行上述实施例中的方法。
此外，上述的存储器22中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。
存储器22作为一种计算机可读存储介质，可设置为存储软件程序、计算机可执行程序，如本公开实施例中的方法对应的程序指令或模块。处理器20通过运行存储在存储器22中的软件程序、指令或模块，从而执行功能应用以及数据处理，即实现上述实施例中的方法。
存储器22可包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序；存储数据区可存储根据终端设备的使用所创建的数据等。此外，存储器22可以包括高速随机存取存储器，还可以包括非易失性存储器。例如，U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等多种可以存储程序代码的介质，也可以是暂态存储介质。
此外，上述存储介质以及终端设备中的多条指令处理器加载并执行的具体过程在上述方法中已经详细说明，在这里就不再一一陈述。
最后应说明的是：以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (8)

1.一种基于显著性正则化图神经网络的图分类方法，其特征在于，所述方法包括：
获取待分类目标对应的图结构数据，并将所述图结构数据输入显著性正则化图神经网络，其中，待分类目标为生化领域中的化学分子，图结构数据为基于待分类目标所形成的图结构，图结构数据包括节点和边，边用于反映节点之间的交互关系，每个节点和边均含有多维的特征向量用来表示节点或边所对应的属性，节点的特征向量用于区分该节点类型是碳原子或氢原子；
通过所述显著性正则化图神经网络确定所述待分类目标的分类类别，分类类别为化学分子的性质；
其中，所述显著性正则化图神经网络包括具有若干骨架网络层的骨架网络和具有若干图神经记忆层的图神经记忆网络，所述骨架网络用于学习图结构数据的节点特征矩阵，所述图神经记忆网络用于通过节点特征矩阵提炼图结构数据对应的紧凑图特征表示，并将所述紧凑图特征表示反作用于骨架网络，以通过基于紧凑图特征表示确定的显著性分布向量对所述骨架网络进行全局正则化；
所述显著性分布向量的确定过程具体包括：
基于骨架网络层确定的节点特征矩阵确定归一化K值，并基于图神经记忆网络确定的紧凑图特征表示确定归一化Q值；
基于相似性分数归一化函数、所述归一化K值和所述归一化Q值，确定所述显著性分布向量；
所述图神经记忆层包括交叉注意力单元，所述交叉注意力单元的Q值为基于前一紧凑图特征表示确定的，K值为基于当前节点特征矩阵确定的，V为基于当前节点特征矩阵确定的。
2.根据权利要求1所述基于显著性正则化图神经网络的图分类方法，其特征在于，所述骨架网络层的输入项包括前一骨架网络层输出的节点特征矩阵，及基于前一骨架网络层输出的节点特征矩阵以及骨架网络层对应的图神经记忆层输出的紧凑图特征表示确定的显著性分布向量；所述图神经记忆层的输入项包括前一图神经记忆层对应的骨架网络层输出的节点特征矩阵和前一图神经记忆层输出的紧凑图特征表示。
3.根据权利要求1所述基于显著性正则化图神经网络的图分类方法，其特征在于，位于最前的骨架网络层的输入项为图结构数据，位于最前的图神经记忆层配置有通过随机初始化方式生成的紧凑图特征表示。
4.根据权利要求1所述基于显著性正则化图神经网络的图分类方法，其特征在于，所述通过基于紧凑图特征表示确定的显著性分布向量对所述骨架网络进行全局正则化具体包括：
将所述显著性分布向量与所述骨架网络对应的局部权重进行融合，得到融合权重；
基于所述融合权重对所述骨架网络进行全局正则化。
5.根据权利要求1所述基于显著性正则化图神经网络的图分类方法，其特征在于，所述通过所述显著性正则化图神经网络确定所述待分类目标的分类类别具体包括：
通过显著性正则化图神经网络中的各骨架网络层和各图神经记忆层对图结构数据进行学习，并通过位于最后的图神经记忆层确定目标紧凑图特征表示；
基于所述目标紧凑图特征表示，确定所述待分类目标对应的分类类别。
6.一种基于显著性正则化图神经网络的图分类系统，其特征在于，所述系统包括：
获取模块，用于获取待分类目标对应的图结构数据，并将所述图结构数据输入显著性正则化图神经网络，其中，待分类目标为生化领域中的化学分子，图结构数据为基于待分类目标所形成的图结构，图结构数据包括节点和边，边用于反映节点之间的交互关系，每个节点和边均含有多维的特征向量用来表示节点或边所对应的属性，节点的特征向量用于区分该节点类型是碳原子或氢原子；
分类模块，用于通过所述显著性正则化图神经网络确定所述待分类目标的分类类别，分类类别为化学分子的性质；
其中，所述显著性正则化图神经网络包括具有若干骨架网络层的骨架网络和具有若干图神经记忆层的图神经记忆网络，所述骨架网络用于学习图结构数据的节点特征矩阵，所述图神经记忆网络用于通过节点特征矩阵提炼图结构数据对应的紧凑图特征表示，并将所述紧凑图特征表示反作用于骨架网络，以通过基于紧凑图特征表示确定的显著性分布向量对所述骨架网络进行全局正则化；
所述显著性分布向量的确定过程具体包括：
基于骨架网络层确定的节点特征矩阵确定归一化K值，并基于图神经记忆网络确定的紧凑图特征表示确定归一化Q值；
基于相似性分数归一化函数、所述归一化K值和所述归一化Q值，确定所述显著性分布向量；
所述图神经记忆层包括交叉注意力单元，所述交叉注意力单元的Q值为基于前一紧凑图特征表示确定的，K值为基于当前节点特征矩阵确定的，V为基于当前节点特征矩阵确定的。
7.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有一个或者多个程序，所述一个或者多个程序可被一个或者多个处理器执行，以实现如权利要求1-5任意一项所述的基于显著性正则化图神经网络的图分类方法中的步骤。
8.一种终端设备，其特征在于，包括：处理器、存储器及通信总线；所述存储器上存储有可被所述处理器执行的计算机可读程序；
所述通信总线实现处理器和存储器之间的连接通信；
所述处理器执行所述计算机可读程序时实现如权利要求1-5任意一项所述的基于显著性正则化图神经网络的图分类方法中的步骤。
CN202310459053.9A 2023-04-18 2023-04-18 基于显著性正则化图神经网络的图分类方法及相关装置 Active CN116894218B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310459053.9A CN116894218B (zh) 2023-04-18 2023-04-18 基于显著性正则化图神经网络的图分类方法及相关装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310459053.9A CN116894218B (zh) 2023-04-18 2023-04-18 基于显著性正则化图神经网络的图分类方法及相关装置

Publications (2)

Publication Number Publication Date
CN116894218A CN116894218A (zh) 2023-10-17
CN116894218B true CN116894218B (zh) 2026-01-09

Family

ID=88312627

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310459053.9A Active CN116894218B (zh) 2023-04-18 2023-04-18 基于显著性正则化图神经网络的图分类方法及相关装置

Country Status (1)

Country Link
CN (1) CN116894218B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN121302082B (zh) * 2025-12-12 2026-03-06 深圳大学 图结构数据分类方法、装置、计算机设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112085124A (zh) * 2020-09-27 2020-12-15 西安交通大学 一种基于图注意力网络的复杂网络节点分类方法
CN113688878A (zh) * 2021-07-30 2021-11-23 华东师范大学 一种基于记忆力机制和图神经网络的小样本图像分类方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112085124A (zh) * 2020-09-27 2020-12-15 西安交通大学 一种基于图注意力网络的复杂网络节点分类方法
CN113688878A (zh) * 2021-07-30 2021-11-23 华东师范大学 一种基于记忆力机制和图神经网络的小样本图像分类方法

Also Published As

Publication number Publication date
CN116894218A (zh) 2023-10-17

Similar Documents

Publication Publication Date Title
CN110084296B (zh) 一种基于特定语义的图表示学习框架及其多标签分类方法
CN113705772A (zh) 一种模型训练方法、装置、设备及可读存储介质
CN114255381B (zh) 图像识别模型的训练方法、图像识别方法、装置及介质
CN108334574B (zh) 一种基于协同矩阵分解的跨模态检索方法
Corchado et al. Ibr retrieval method based on topology preserving mappings
CN110188825B (zh) 基于离散多视图聚类的图像聚类方法、系统、设备及介质
CN112925962A (zh) 基于哈希编码的跨模态数据检索方法、系统、设备及介质
CN114676777B (zh) 一种基于孪生网络的自监督学习细粒度图像分类方法
CN115080587B (zh) 一种基于知识图谱的电子元器件替代方法、装置及介质
Liu et al. Towards optimal binary code learning via ordinal embedding
Tan et al. Robust object recognition via weakly supervised metric and template learning
CN113535947B (zh) 一种带有缺失标记的不完备数据的多标记分类方法及装置
CN105718999A (zh) 一种启发式代谢共表达网络的构建方法及系统
WO2022105108A1 (zh) 一种网络数据分类方法、装置、设备及可读存储介质
CN117992805A (zh) 基于张量积图融合扩散的零样本跨模态检索方法、系统
Li et al. An efficient probabilistic approach for graph similarity search
CN112183580B (zh) 一种基于动态知识路径学习的小样本分类方法
CN110515986A (zh) 一种社交网络图的处理方法、装置及存储介质
CN111259176B (zh) 融合有监督信息的基于矩阵分解的跨模态哈希检索方法
CN116894218B (zh) 基于显著性正则化图神经网络的图分类方法及相关装置
WO2020108808A1 (en) Method and system for classification of data
CN110175631A (zh) 一种基于共同学习子空间结构和聚类指示矩阵的多视图聚类方法
CN114595741B (zh) 一种基于邻域关系的高维数据快速降维方法以及系统
CN114298153A (zh) 一种数据处理方法、装置及设备
CN114842251A (zh) 图像分类模型的训练及图像处理方法、装置和计算设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant