全新图神经网络基础与前沿工业

章当深度学习遇上图：图神经网络的兴起1
1.1什么是图1
1.2深度学习与图2
1.2.1图数据的特殊质3
1.2.2将深度学习扩展到图上的挑战4
1.3图神经网络的发展5
1.3.1图神经网络的历史5
1.3.2图神经网络的分类7
1.4图神经网络的应用8
1.4.1图数据上的任务8
1.4.2图神经网络的应用领域8
1.5小结11
第2章预备知识13
2.1图的基本概念13
2.2简易图谱论15
2.2.1拉普拉斯矩阵16
2.2.2拉普拉斯二次型17
2.2.3拉普拉斯矩阵与图扩散18
2.2.4图论傅里叶变换19
2.3小结20
第3章图神经网络模型介绍21
3.1基于谱域的图神经网络21
3.1.1谱图卷积网络21
3.1.2切比雪夫网络24
3.1.3图卷积网络25
3.1.4谱域图神经网络的局限和发展27
3.2基于空域的图神经网络28
3.2.1早期的图神经网络与循环图神经网络28
3.2.2再谈图卷积网络29
3.2.3GraphSAGE：归纳式图表示学习31
3.2.4消息传递神经网络34
3.2.5图注意力网络37
3.2.6图同构网络：Weisfeiler-Lehman测试与图神经网络的表达力39
3.3小试牛刀：图卷积网络实战42
3.4小结46
第4章深入理解图卷积网络47
4.1图卷积与拉普拉斯平滑：图卷积网络的过平滑问题47
4.2图卷积网络与个化PageRank50
4.3图卷积网络与低通滤波52
4.3.1图卷积网络的低通滤波效果52
4.3.2图滤波神经网络54
4.3.3简化图卷积网络55
4.4小结56
第5章图神经网络模型的扩展57
5.1深层图卷积网络57
5.1.1残差连接58
5.1.2JK-Net60
5.1.3DropEdge与PairNorm60
5.2图的池化61
5.2.1聚类与池化62
5.2.2可学习的池化：DiffPool63
5.2.3Top-k池化和SAGPool65
5.3图的无监督学习67
5.3.1图的自编码器67
5.3.2优选互信息70
5.3.372
5.3.4图神经网络的预训练72
5.4图神经网络的大规模学习74
5.4.1点采样75
5.4.2层采样76
5.4.3图采样78
5.5不规则图的深度学习模型80
5.6小结81
第6章图嵌入方法83
6.1基于矩阵分解的图嵌入方法83
6.1.1拉普拉斯特征映83
6.1.2图分解84
6.2基于随机游走的图嵌入方法86
6.2.1DeepWalk86
6.2.2node2vec87
6.2.3随机游走与矩阵分解的统一88
6.3从自编码器的角度看图嵌入88
6.4小结89
第7章知识图谱与异构图神经网络91
7.1知识图谱的定义和任务92
7.1.1知识图谱92
7.1.2知识图谱嵌入92
7.2距离变换模型94
7.2.1TransE模型94
7.2.2TransH模型95
7.2.3TransR模型96
7.2.4TransD模型97
7.3语义匹配模型97
7.3.1RESCAL模型98
7.3.2DistMult模型98
7.3.3HolE模型98
7.3.4语义匹配能量模型99
7.3.5神经张量网络模型99
7.3.6ConvE模型100
7.4知识图谱上的图神经网络100
7.4.1关系图卷积网络100
7.4.2带权重的图卷积编码器101
7.4.3知识图谱与图注意力模型102
7.4.4图神经网络与传统知识图谱嵌入的结合：CompGCN103
7.5小结103
第8章图神经网络模型的应用105
8.1图数据上的一般任务105
8.1.1节点分类106
8.1.2链路预测106
8.1.3图分类107
8.2生化医疗相关的应用108
8.2.1预测分子的化学质和化学反应108
8.2.2图生成模型与药物发现109
8.2.3药物/蛋白质交互图的利用116
8.3自然语言处理相关的应用117
8.4系统上的应用121
8.5计算机视觉相关的应用123
8.6应用124
8.7小结124
参考文献127

马腾飞，IBM优选研究院总部研究员，东京大学博士，研究方向为机器学习、自然语言处理等。近期的研究集中在图神经网络及其在医疗、生化、金融等领域的应用。在ICLR、NeurlPS、AAAl等人工智能靠前会议上发表30多篇，并与他人合作，在AAA、KD等会议上多次讲授图神经网络的前沿专题。

"图结构的数据广泛存在于现实世界中，如何将图数据的学习与深度学习技术结合，成了人工智能领域研究的热点之一。本书作者是图神经网络领域的专家，对整个领域有着深刻的理解。本书不仅系统地讲解了图神经网络的基础知识，还深入探讨了图神经网络存在的问题和研究进展，是一本适合入门又给人启发的佳作。 IEEE Fellow/AAAS Fellow，吴信东 将深度学习扩展到图上是人工智能领域的一个重大突破。图结构的数据无处不在，这使得图神经网络的重要不言而喻。马腾飞从几年前开始专注于图神经网络的研究，在图神经网络的加速训练、生成模型、粗化、动态图上的扩展等方面做出了很有影响力的工作。我与他有过不少合作，我们将图神经网络应用在医疗领域。本书以图神经网络的发展历史为脉络，深入浅出地讲解了常见的图神经网络模型和遇到的问题，以及解决方案。同时，本书包含了大量的实际应用场景，很好适合相关从业者和学生参考。 伊利诺伊大学厄巴纳-香槟分校（UIUC）计算机系教授，孙冀萌 图神经网络的技术飞展，在自然语言处理领域也得到了极大的关注和广泛的应用。本书覆盖了与图神经网络相关的大部分重要模型，并提供了很多应用示例，是一本很好不错的入门书，从事自然语言处理相关工作的读者会从中受益。 伊利诺伊大学厄巴纳-香槟分校（UIUC）计算机系教授，季姮 随着海量图数据的不断积累，图神经网络的相关技术得到了很大发展，并在很多行业的实际应用中产生了深远的影响。本书不仅系统地介绍了图神经网络的基础知识，而且详细描述了其在系统、生物化学、医疗药物等不同场景的实践。对于想了解图神经网络的学生和从业者来说，是很好宝贵的学习资料！ 腾讯AI Lab机器学习中心总监，黄俊洲 本书完整地介绍了神经网络在图数据学习上的理论和应用，无论是初学者，还是有一定实践经验的读者，阅读本书后都将受益良多。 罗格斯大学（Rutgers）计算机系教授，高洁  本书很好全面地介绍了与图神经网络有关的背景知识、基础理论、典型框架及在知识图谱、生物医学、系统等方面的相关应用，适合读者系统学习和了解该领域前沿知识，相信可以让读者从中获益。 清华大学计算机系副教授，刘知远"

"√梳理图神经网络（GNN）领域的经典模型 √帮读者构建图神经网络知识体系 √厘清重要模型的设计思路和技术细节 √展现图神经网络的研究进展 √图神经网络在系统、生物医疗、自然语言处理等不同场景的实践"