圖神經(jīng)網(wǎng)絡(luò)：基礎(chǔ)與前沿（全彩 博文視點(diǎn)出品）

第 1 章 當(dāng)深度學(xué)習(xí)遇上圖：圖神經(jīng)網(wǎng)絡(luò)的興起 1
1．1 什么是圖1
1．2 深度學(xué)習(xí)與圖 2
1．2．1 圖數(shù)據(jù)的特殊性質(zhì) 3
1．2．2 將深度學(xué)習(xí)擴(kuò)展到圖上的挑戰(zhàn) 4
1．3 圖神經(jīng)網(wǎng)絡(luò)的發(fā)展 5
1．3．1 圖神經(jīng)網(wǎng)絡(luò)的歷史 5
1．3．2 圖神經(jīng)網(wǎng)絡(luò)的分類 7
1．4 圖神經(jīng)網(wǎng)絡(luò)的應(yīng)用 8
1．4．1 圖數(shù)據(jù)上的任務(wù) 8
1．4．2 圖神經(jīng)網(wǎng)絡(luò)的應(yīng)用領(lǐng)域 8
1．5 小結(jié) 11
第 2 章 預(yù)備知識(shí) 13
2．1 圖的基本概念 13
2．2 簡易圖譜論 15
2．2．1 拉普拉斯矩陣 16
2．2．2 拉普拉斯二次型 17
2．2．3 拉普拉斯矩陣與圖擴(kuò)散 18
2．2．4 圖論傅里葉變換 19
2．3 小結(jié) 20
第 3 章 圖神經(jīng)網(wǎng)絡(luò)模型介紹 21
3．1 基于譜域的圖神經(jīng)網(wǎng)絡(luò) 21
3．1．1 譜圖卷積網(wǎng)絡(luò) 21
3．1．2 切比雪夫網(wǎng)絡(luò) 24
3．1．3 圖卷積網(wǎng)絡(luò) 25
3．1．4 譜域圖神經(jīng)網(wǎng)絡(luò)的局限和發(fā)展 27
3．2 基于空域的圖神經(jīng)網(wǎng)絡(luò) 28
3．2．1 早期的圖神經(jīng)網(wǎng)絡(luò)與循環(huán)圖神經(jīng)網(wǎng)絡(luò) 28
3．2．2 再談圖卷積網(wǎng)絡(luò) 29
3．2．3 GraphSAGE：歸納式圖表示學(xué)習(xí) 31
3．2．4 消息傳遞神經(jīng)網(wǎng)絡(luò) 34
3．2．5 圖注意力網(wǎng)絡(luò) 37
3．2．6 圖同構(gòu)網(wǎng)絡(luò)：Weisfeiler-Lehman 測試與圖神經(jīng)網(wǎng)絡(luò)的表達(dá)力 39
3．3 小試牛刀：圖卷積網(wǎng)絡(luò)實(shí)戰(zhàn) 42
3．4 小結(jié) 46
第 4 章 深入理解圖卷積網(wǎng)絡(luò) 47
4．1 圖卷積與拉普拉斯平滑：圖卷積網(wǎng)絡(luò)的過平滑問題 47
4．2 圖卷積網(wǎng)絡(luò)與個(gè)性化 PageRank 50
4．3 圖卷積網(wǎng)絡(luò)與低通濾波 52
4．3．1 圖卷積網(wǎng)絡(luò)的低通濾波效果 52
4．3．2 圖濾波神經(jīng)網(wǎng)絡(luò) 54
4．3．3 簡化圖卷積網(wǎng)絡(luò) 55
4．4 小結(jié) 56
第 5 章 圖神經(jīng)網(wǎng)絡(luò)模型的擴(kuò)展 57
5．1 深層圖卷積網(wǎng)絡(luò) 57
5．1．1 殘差連接 58
5．1．2 JK-Net 60
5．1．3 DropEdge 與 PairNorm 60
5．2 圖的池化 61
5．2．1 聚類與池化 62
5．2．2 可學(xué)習(xí)的池化：DiffPool 63
5．2．3 Top-k 池化和 SAGPool 65
5．3 圖的無監(jiān)督學(xué)習(xí) 67
5．3．1 圖的自編碼器 67
5．3．2 最大互信息 70
5．3．3 其他 72
5．3．4 圖神經(jīng)網(wǎng)絡(luò)的預(yù)訓(xùn)練 72
5．4 圖神經(jīng)網(wǎng)絡(luò)的大規(guī)模學(xué)習(xí) 74
5．4．1 點(diǎn)采樣 75
5．4．2 層采樣 76
5．4．3 圖采樣 78
5．5 不規(guī)則圖的深度學(xué)習(xí)模型 80
5．6 小結(jié) 81
第 6 章 其他圖嵌入方法 83
6．1 基于矩陣分解的圖嵌入方法 83
6．1．1 拉普拉斯特征映射 83
6．1．2 圖分解 84
6．2 基于隨機(jī)游走的圖嵌入方法 86
6．2．1 DeepWalk 86
6．2．2 node2vec 87
6．2．3 隨機(jī)游走與矩陣分解的統(tǒng)一 88
6．3 從自編碼器的角度看圖嵌入 88
6．4 小結(jié) 89
第 7 章 知識(shí)圖譜與異構(gòu)圖神經(jīng)網(wǎng)絡(luò) 91
7．1 知識(shí)圖譜的定義和任務(wù) 92
7．1．1 知識(shí)圖譜 92
7．1．2 知識(shí)圖譜嵌入 92
7．2 距離變換模型 94
7．2．1 TransE 模型 94
7．2．2 TransH 模型 95
7．2．3 TransR 模型 96
7．2．4 TransD 模型 97
7．3 語義匹配模型 97
7．3．1 RESCAL 模型 98
7．3．2 DistMult 模型 98
7．3．3 HolE 模型 98
7．3．4 語義匹配能量模型 99
7．3．5 神經(jīng)張量網(wǎng)絡(luò)模型 99
7．3．6 ConvE 模型 100
7．4 知識(shí)圖譜上的圖神經(jīng)網(wǎng)絡(luò) 100
7．4．1 關(guān)系圖卷積網(wǎng)絡(luò) 100
7．4．2 帶權(quán)重的圖卷積編碼器 101
7．4．3 知識(shí)圖譜與圖注意力模型 102
7．4．4 圖神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)知識(shí)圖譜嵌入的結(jié)合：CompGCN 103
7．5 小結(jié) 103
第 8 章 圖神經(jīng)網(wǎng)絡(luò)模型的應(yīng)用 105
8．1 圖數(shù)據(jù)上的一般任務(wù) 105
8．1．1 節(jié)點(diǎn)分類 106
8．1．2 鏈路預(yù)測 106
8．1．3 圖分類 107
8．2 生化醫(yī)療相關(guān)的應(yīng)用 108
8．2．1 預(yù)測分子的化學(xué)性質(zhì)和化學(xué)反應(yīng) 108
8．2．2 圖生成模型與藥物發(fā)現(xiàn) 109
8．2．3 藥物/蛋白質(zhì)交互圖的利用 116
8．3 自然語言處理相關(guān)的應(yīng)用 117
8．4 推薦系統(tǒng)上的應(yīng)用 121
8．5 計(jì)算機(jī)視覺相關(guān)的應(yīng)用 123
8．6 其他應(yīng)用 124
8．7 小結(jié) 124
參考文獻(xiàn) 127