[NeurIPS | 论文简读] 几何视角下 GNN 的拓扑知识表示与迁移
2023-02-18 16:47:51 时间
简读分享 | 赵晏浠 编辑 | 王宇哲
论文题目
Topology Compression for Graph Neural Networks
论文摘要
本文研究了一种新的知识转移范式,旨在通过将知识从在完整图上训练的教师 GNN 模型提取到在更小或更稀疏图上运行的学生 GNN 模型,将图拓扑信息编码到图神经网络 (GNN) 中。为此,作者重新审视了热力学与 GNN 行为之间的联系,在此基础上,作者提出了神经热核 (NHK) 来封装与 GNN 架构相关的底层流形的几何特性。通过将 NHK 与教师和学生模型对齐,得出一个基本的和有原则的解决方案,称为几何知识蒸馏。作者开发了非参数化实例化,并证明了它们在各种实验设置中的有效性,以对不同类型的特权拓扑信息和师生方案进行知识提炼。
论文链接
https://openreview.net/pdf?id=7WGNT3MHyBm
相关文章
- Java编程中忽略这些细节,Bug肯定找上你
- 9个问题,带你掌握流程控制语句中的java原理
- 从IDC Marketscape报告看区块链政务数字化未来:权威解读新热点、新机遇
- chatGPT的火爆,并不偶然
- React 开发 | 常用 Hooks
- JDK19都出来了~是时候梳理清楚JDK的各个版本的特性了【JDK12特性讲解】
- Eolink 让我“重新认识“了自动化测试...
- 老板:你也把咱们网站弄成灰色——网站变灰色如何实现
- iptables规则案例
- ‘极锐’-一种新的锐化算法
- PS/LR滤镜插件套装 Nik Collection v5.3.0 Win/Mac
- Chrome插件:uBlock Origin – Chrome浏览器高效低占用的广告拦截插件
- 前端与区块链
- 云原生之微服务
- 集群动态环境管理神器 Modules
- 记 os_object_release Crash 排查
- 记 libAccessibility 通知 Crash 排查
- Ant Design Pro 中 点击子菜单的时候,其他菜单不自动收起来
- ETC 可视化
- 1267-Illegal mix of collations (utf8mb4_general_ci,IMPLICIT) and (utf8mb4_0900_ai_ci,IMPLIC for o...