图神经网络3-图神经网络的基础、前言和应用

2023-11-23 23:11:52 浏览数 (1)

公众号:尤而小屋 作者:Peter 编辑:Peter

图神经网络GNN和传统深度学习网络的对比:

循环神经网络(1997)和卷积神经网络(2012):擅长处理图像等欧式数据或者文本和信号等序列数据

图神经网络:擅长处理社交网络、推荐系统、药物发现和程序分析中的图和流行结构等数据

图结构数据不适合高度规则化的神经网络结构,比如RNN或者CNN等。

图神经网络基础

  • GNN方法
  • GNN的理论理解
  • GNN的可扩展性
  • GNN的可解释性
  • GNN的对抗鲁棒性

GNN方法

GNN是专门设计的用于在图结构数据上进行操作的神经网络架构,其目的是通过聚合邻居节点的表征及其前一次迭代中的表征来迭代更新节点表征。

学习到表征后,GNN的基本任务就是进行节点分类,将节点分类到一些预定义的类别中。

  • 有监督的GNN
  • 无监督的GNN

训练深度图神经网络的问题:过平滑问题(其中所有的节点都有类似的特征)

GNN的理论理解

GNN能够达到一维Weisfeiler-Lehman测试的表达能力,甚至超越该能力,包含附加随机属性、距离属性和利用高阶结构等。

GNN的可扩展性

研究提出不同的抽样策略:

  • 节点抽样
  • 层抽样
  • 图抽样

GNN的可解释性

  • 基于白盒近似的方法:利用模型内部的信息(梯度、中间特征和模型参数)来提供解释
  • 基于黑盒近似的方法:利用内在可解释的简单模型(比如线性回归、决策树等)

GNN的鲁棒性

鲁棒性检验的标准方法:构造输入图数据的一个微小变化,观察是否导致预测结果发生较大变化。

  • 对抗性攻击
  • 对抗性训练

图神经网络前沿

  1. 图分类和预测链接
  2. 图生成和图转换
  3. 图匹配和图结构学习
  4. 动态图神经网络
  5. 异质图神经网络
  6. 基于图神经网络的AutoML和自监督学习

图神经网络应用

  1. 图构建:具有显式或隐式图结构的输入数据
  2. 图表征学习:GCN、GAT、GGNN、GraphSage、PinSage、KCCN、KGAT等

0 人点赞