图神经网络可以解决现实世界中的问题吗?

      最后更新:2020-03-17 11:43:27 手机定位技术交流文章

      的全文有3133个字。据估计,学习时间为9分钟

      来源:Pexels


      深度学习改变了我们处理数据的方式。它通过使用越来越多的计算“廉价”资源(摩尔定律)来解决现实世界的问题,并且可以完成一些人脑几乎可以毫不费力地完成的认知任务,例如图像分类、自然语言处理、视频处理等。


      但是这些任务的大多数数据和结构通常在欧几里得空间中表示然而,我们目睹了越来越多的问题。由这些问题产生的数据来自非欧几里德域,这些域更适合表示为对象之间具有复杂关系和相互依赖性的图形


      图数据的复杂性给经典最大似然算法和现代最大似然算法带来了巨大的挑战最近,许多扩展的数据描述方法似乎被用于图形数据的研究。


      在去年年底发表了一篇题为“图形神经网络综合调查”的文章。

      回到正题...


      gnn与相应的DL算法具有相似的属性。它可以执行回归、分类、为空节点和边生成数据,以及许多其他尚未发现的功能。该领域仍处于初级阶段,没有人知道几年后我们能做些什么,也没有人知道从现在起我们能用成千上万的论文做些什么。对我来说,


      是医学领域最有趣的推荐和应用,其中医学领域排名第一


      现在,图可以是不规则的,图可以具有可变数量的无序节点,并且图中的节点可以具有不同数量的邻居,导致一些重要的操作(例如,卷积)易于在图像域中计算,这难以应用于图域。此外,现有机器学习算法的核心假设是实体相互独立这个假设不再适用于图形数据,因为每个实体(节点)通过各种链接类别(例如,引用、朋友和交互)与其他实体(节点)相关联然而,这并不是一个障碍,因为最近我们已经看到了对将深度学习算法扩展或移植到图形领域(特别是为图形数据设计的)的兴趣越来越大

      卷积神经网络超出了本文的范围


      gnns分类


      循环图神经网络(RecGNNs)是图神经网络的主要开拓性工作RecGNN旨在用循环神经结构学习节点表示。他们假设图中的节点与其邻居交换信息/消息,直到达到稳定的平衡。递归神经网络在理论上非常重要,它启发了后来对卷积图神经网络的研究。特别地,基于空间的卷积图神经网络继承了消息传递的思想。


      卷积图形神经网络将卷积运算从网格数据扩展到图形数据主要思想是通过聚集节点自身的特征和邻居的特征来生成节点表示,其中


      。这里n表示邻居,x表示节点的特征向量


      不同于递归神经网络,因为递归神经网络堆叠多个绘图体积以提取高级节点表示ConvGNNs在建立许多其他复杂的GNN模型中起着核心作用。图2a示出了节点分类的ConvGNN图2b示出了用于图形分类的转换


      图形自动编码器(GAEs)是一种无监督的学习框架,它可以将节点/图形编码到潜在的向量空间中,并从编码信息中重构图形数据GAEs用于学习网络嵌入和图形生成分布。对于网络嵌入,GAEs通过重构图结构信息(如图邻接矩阵)来学习潜在节点的表示对于图的生成,一些方法一步一步地生成图的节点和边,而另一些方法一次全部输出图图2c示出了网络嵌入的GAE


      时空图神经网络(STGNNs)旨在从时空图学习隐藏模式,这些模式在各种应用中变得越来越重要,例如交通速度预测、驾驶员操纵期望和人体运动识别。空间依赖网络的核心思想是同时考虑空间依赖和时间依赖。许多当前的方法将用于捕捉空间依赖性的图卷积与用于建模时间依赖性的神经网络或神经网络集成在一起。图2d示出了用于时空图预测的STGNN


      (论文[1中的图2)


      体系结构


      使用图形结构和节点内容信息作为输入,GNNs输出可以通过以下方式之一专注于不同的图形分析任务递归神经网络和递归神经网络可以通过信息传播/图卷积提取高层节点表示通过使用多传感器或softmax层作为输出层,GNNs可以以端到端的方式执行节点级任务

      。边缘输出与边缘分类和链接预测任务相关以神经网络中两个节点的隐藏表示作为输入,可以使用相似性函数或神经网络来预测边缘的标记/连接强度

      。图形级输出与图形分类任务相关为了在图的层次上获得紧凑的表示,GNNs通常与合并和读取操作结合使用。


      培训框架根据学习任务和可用的标签信息,可以在端到端学习框架内以(半)有监督或完全无监督的方式来训练许多GNNs(例如ConvGNN)。


      用于节点级分类的半监督学习


      给定具有部分标记的节点但其他节点未标记的单个网络,ConvGNNs可以学习能够有效识别未标记节点的类别标记的鲁棒模型为此,可以通过堆叠几层图形和体积,然后堆叠一个softmax层用于多个分类,来构建端到端框架。


      用于图级分类的监督学习。


      图分类旨在预测整个图的类别标签该任务的端到端学习可以通过图形体积层压层、图形池层和/或读出层的组合来实现图形体层负责精确的高级节点表示,而图形池层充当下采样,从而一次将每个图形粗化为子结构。


      读出层将每个图形的节点表示折叠成图形表示通过将多层感知器和软最大层应用于图表示,我们可以建立一个端到端的图分类框架。图2b中给出了一个例子


      来源:Pexels


      无监督学习图嵌入


      当图中没有可用的类标签时,可以在端到端框架中以完全无监督的方式学习图嵌入这些算法以两种方式利用边缘级信息一种简单的方法是使用自动编码器帧,其编码器使用卷积层将图形嵌入到潜在的表示中,在该表示上使用解码器来重塑结构


      另一种流行的方法是使用负采样方法,该方法将一些节点对采样为负对,而图中具有链接的现有节点对是正对然后应用逻辑回归层来区分正对和负对


      要记住的要点...


      来源:pexels


      。图形擅长表示对象之间复杂的关系和相互依赖关系。

      图神经网络有四个主要类别:递归神经网络、递归神经网络、高斯神经网络、递归神经网络

      图神经网络旨在移植数字图书馆的成功方法,这反过来将促进该领域的新发现,如医疗、社会互动、活动识别/预测等。


      感谢您的阅读,这对我来说也是一次有趣的探索。这个算法让我着迷,因为它具有消化千兆位甚至千兆位数据并发现隐藏模式的原始潜力,这比我们强得多。请留下您的评论

      评论表扬关注

      我们分享人工智能学习和发展干货

      如转载,请在后台留言,遵守转载规范

      本文由 在线网速测试 整理编辑,转载请注明出处,原文链接:https://www.wangsu123.cn/news/1605.html

          热门文章

          文章分类