[AAAI 2022 | 论文简读] 通过多样化和交互式信息传递的自监督图神经网络
2023-02-18 16:48:03 时间
作者 | 滕赛赛 编辑 | 赵晏浠
论文题目
Self-supervised Graph Neural Networks via Diverse and Interactive Message Passing
论文摘要
通过将图神经网络(GNNs)解释为从空间角度传递的信息,它们的成功归功于拉普拉斯平滑。然而,它也会导致严重的过平滑问题。近年来,在半监督学习领域,人们正在努力克服这一问题。不幸的是,由于缺乏监督信息,它在无监督节点表示学习任务中效果很差。因此,大多数无监督或自监督的gnn经常使用单层GCN作为编码器。本质上,过平滑问题是由现有消息传递的过度简化引起的,它具有两个内在的限制:盲消息传递和统一传递。本文克服了这些限制,提出了一种新的多样化交互式消息传递(DIMP)用于自监督学习。首先,为了防止消息任意传播,使其在两个连接节点之间交互信息。其次,为了防止均匀性传递,使其在不同的属性通道上传输不同的信息,给消息中的不同元素分配不同的传播权重。DIMP中消息的实现是两个连接节点表示的元素级乘积。从数值优化的角度来看,作者所提出的DIMP等价于通过期望最大化(EM)来执行重叠的检测。检测的目标函数和EM算法的收敛性都保证了DMIP可以防止过平滑问题。对节点级和图级任务的广泛评估表明了DIMP在提高性能和克服过度平滑问题方面的优越性。
论文链接
https://www.aaai.org/AAAI22Papers/AAAI-4030.YangL.pdf
相关文章
- JavaFx ObservableList的使用详解
- 【转】分布式架构的演进(JavaWeb)
- 关于Java/Kotlin下载图片,图片打开不能显示问题探究
- Java IO学习笔记七:多路复用从单线程到多线程
- Java IO学习笔记六:NIO到多路复用
- Java IO学习笔记五:BIO到NIO
- Java IO学习笔记四:Socket基础
- Java IO学习笔记三:MMAP与RandomAccessFile
- Java IO学习笔记二:DirectByteBuffer与HeapByteBuffer
- Java IO 学习笔记一:为什么带 Buffer 的比不带 Buffer 的快
- Java学习笔记 jar包获取当前路径
- Java学习笔记 线程池使用及详解
- Java开发中常用jar包整理及使用
- Java 读取excel表格文件
- Java 多线程(六):容器
- JavaSE实现IoC
- stars-one的原创工具——星之小说下载器(JavaFx应用 )
- Java SE 7 新增特性
- 常见算法合集[java源码+持续更新中...]
- 分布式事务(二)Java事务API(JTA)规范