带有数据分层的图神经网络训练
图谱神经网络(GNNs)在从图结构数据中学习方面已经显示出成功,并应用于欺诈检测、推荐和知识图谱推理。然而,有效地训练GNN是一个挑战,因为。1)GPU内存容量有限,对于大型数据集来说可能是不够的;2)基于图形的数据结构导致不规则的数据访问模式。在这项工作中,我们提供了一种方法来统计分析和识别在GNN训练前更频繁访问的数据。我们的数据分层方法不仅利用了输入图的结构,而且还利用了从实际的GNN训练过程中获得的洞察力来实现更高的预测结果。通过我们的数据分层方法,我们还提供了一个新的数据放置和访问策略,以进一步减少CPU-GPU的通信开销。我们还考虑到了多GPU的GNN训练,并在多GPU系统中证明了我们的策略的有效性。评估结果显示,我们的工作将CPU-GPU的流量减少了87-95%,在具有数亿个节点和数十亿条边的图上,GNN的训练速度比现有的解决方案提高了1.6-2.1倍。
原文题目:Graph Neural Network Training with Data Tiering
原文:Graph Neural Networks (GNNs) have shown success in learning from graph-structured data, with applications to fraud detection, recommendation, and knowledge graph reasoning. However, training GNN efficiently is challenging because: 1) GPU memory capacity is limited and can be insufficient for large datasets, and 2) the graph-based data structure causes irregular data access patterns. In this work, we provide a method to statistical analyze and identify more frequently accessed data ahead of GNN training. Our data tiering method not only utilizes the structure of input graph, but also an insight gained from actual GNN training process to achieve a higher prediction result. With our data tiering method, we additionally provide a new data placement and access strategy to further minimize the CPU-GPU communication overhead. We also take into account of multi-GPU GNN training as well and we demonstrate the effectiveness of our strategy in a multi-GPU system. The evaluation results show that our work reduces CPU-GPU traffic by 87-95% and improves the training speed of GNN over the existing solutions by 1.6-2.1x on graphs with hundreds of millions of nodes and billions of edges.
相关文章
- 数据孤岛是业务效率的无声杀手
- 2023展望:新的一年将给大数据分析领域带来什么?
- 阿里云ADB基于Hudi构建Lakehouse的实践
- 大数据在医疗保健领域的使用案例
- 微软增加说明:KB5021751 更新扫描已经 / 即将过时 Office 过程中不会触碰用户隐私
- 2022 Gartner全球云数据库管理系统魔力象限发布 腾讯云数据库入选
- 场景化、重实操,分享一个实时数仓实践案例
- Arctic的湖仓一体践行之路
- 分布式计算MapReduce究竟是怎么一回事?
- 淘系数据模型治理优秀实践
- 大数据分析对医疗保健的影响
- 当我们说大数据Hadoop,究竟在说什么?
- 2022年及以后大数据的五个发展趋势
- 网易严选离线数仓治理实践
- 2023 年数据治理趋势
- 一份“靠谱”的年度经营计划,你学会了吗?
- 漫谈对大数据的思考
- 测试一下,读懂数据的能力,你有吗?
- 用艺术的眼光探索数据之美
- 聊聊数据分析成果如何落地