Tensorflow 2.0神經(jīng)網(wǎng)絡(luò)實踐

譯者序
前言
作者簡介
審校者簡介
第一部分　神經(jīng)網(wǎng)絡(luò)基礎(chǔ)
第1章　什么是機器學(xué)習(xí)2
1.1　數(shù)據(jù)集的重要性3
1.1.1　n維空間5
1.1.2　維度詛咒8
1.2　有監(jiān)督學(xué)習(xí)9
1.2.1　距離和相似性—k-NN算法10
1.2.2　參數(shù)模型11
1.2.3　評估模型性能—度量指標(biāo)13
1.3　無監(jiān)督學(xué)習(xí)18
1.4　半監(jiān)督學(xué)習(xí)19
1.5　總結(jié)20
1.6　練習(xí)題20
第2章　神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)22
2.1　神經(jīng)網(wǎng)絡(luò)23
2.1.1　生物神經(jīng)元23
2.1.2　人工神經(jīng)元24
2.1.3　全連接層25
2.1.4　激活函數(shù)27
2.1.5　損失函數(shù)29
2.1.6　參數(shù)初始化30
2.2　優(yōu)化31
2.2.1　梯度下降法32
2.2.2　梯度下降優(yōu)化算法34
2.2.3　反向傳播和自動微分37
2.3　卷積神經(jīng)網(wǎng)絡(luò)39
2.3.1　卷積運算符39
2.3.2　二維卷積40
2.3.3　卷間的二維卷積41
2.3.4　1×1×D卷積44
2.4　正則化45
2.4.1　dropout45
2.4.2　數(shù)據(jù)擴充48
2.4.3　早期停止48
2.4.4　批量歸一化49
2.5　總結(jié)50
2.6　練習(xí)題51
第二部分　TensorFlow基礎(chǔ)
第3章　TensorFlow圖架構(gòu)54
3.1　環(huán)境設(shè)置55
3.1.1　TensorFlow 1.x的環(huán)境設(shè)置56
3.1.2　TensorFlow 2.0的環(huán)境設(shè)置57
3.2　數(shù)據(jù)流圖58
3.2.1　主要結(jié)構(gòu)—tf.Graph60
3.2.2　圖定義—從tf.Operation到tf.Tensor60
3.2.3　圖放置—tf.device64
3.2.4　圖執(zhí)行—tf.Session66
3.2.5　靜態(tài)圖中的變量69
3.3　模型定義和訓(xùn)練72
3.3.1　用tf.layers定義模型72
3.3.2　自動微分—損失函數(shù)和優(yōu)化器75
3.4　用Python操作圖78
3.4.1　給占位符賦值79
3.4.2　總結(jié)記錄80
3.4.3　保存模型參數(shù)和模型選擇81
3.5　總結(jié)83
3.6　練習(xí)題85
第4章　TensorFlow 2.0架構(gòu)86
4.1　重新學(xué)習(xí)這個框架87
4.2　Keras框架及其模型88
4.2.1　順序API90
4.2.2　函數(shù)式API92
4.2.3　子類方法93
4.3　eager執(zhí)行模式和新的特征94
4.3.1　基本示例94
4.3.2　函數(shù)，而不是會話96
4.3.3　不再有全局的東西97
4.3.4　控制流99
4.3.5　GradientTape 101
4.3.6　定制訓(xùn)練循環(huán)102
4.3.7　保存和恢復(fù)模型狀態(tài)105
4.3.8　總結(jié)記錄和指標(biāo)度量107
4.3.9　AutoGraph111
4.4　代碼庫遷移115
4.5　總結(jié)117
4.6　練習(xí)題117
第5章　高效的數(shù)據(jù)輸入流水線和估計器API120
5.1　高效的數(shù)據(jù)輸入流水線121
5.1.1　輸入流水線的結(jié)構(gòu)121
5.1.2　tf.data.Dataset對象122
5.1.3　性能優(yōu)化125
5.1.4　構(gòu)建自己的數(shù)據(jù)集126
5.1.5　數(shù)據(jù)擴充127
5.1.6　TensroFlow 數(shù)據(jù)集—tdfs128
5.1.7　Keras整合130
5.1.8　eager整合131
5.2　估計器API132
5.2.1　數(shù)據(jù)輸入流水線134
5.2.2　定制估計器136
5.2.3　預(yù)制估計器139
5.3　總結(jié)140
5.4　練習(xí)題141
第三部分　神經(jīng)網(wǎng)絡(luò)應(yīng)用
第6章　使用TensorFlow Hub進行圖像分類144
6.1　獲取數(shù)據(jù)145
6.2　遷移學(xué)習(xí)147
6.2.1　TensorFlow Hub149
6.2.2　使用Inception v3作為特征提取器150
6.2.3　使數(shù)據(jù)適應(yīng)模型152
6.2.4　建立模型—hub.KerasLayer152
6.2.5　訓(xùn)練與評估154
6.2.6　訓(xùn)練速度155
6.3　微調(diào)156
6.3.1　何時微調(diào)157
6.3.2　TensorFlow Hub集成157
6.3.3　訓(xùn)練和評估158
6.3.4　訓(xùn)練速度159
6.4　總結(jié)159
6.5　練習(xí)題160
第7章　目標(biāo)檢測162
7.1　獲取數(shù)據(jù)163
7.2　目標(biāo)定位167
7.2.1　定位是一個回歸問題168
7.2.2　IoU173
7.2.3　平均精度175
7.2.4　平均精度均值175
7.2.5　改進訓(xùn)練腳本176
7.3　分類和定位177
7.3.1　多任務(wù)學(xué)習(xí)177
7.3.2　雙頭網(wǎng)絡(luò)178
7.3.3　基于錨的檢測器180
7.3.4　錨框180
7.4　總結(jié)182
7.5　練習(xí)題182
第8章　語義分割和自定義數(shù)據(jù)集生成器184
8.1　語義分割184
8.1.1　挑戰(zhàn)185
8.1.2　反卷積—轉(zhuǎn)置卷積186
8.1.3　U-Net架構(gòu)187
8.2　創(chuàng)建一個TensorFlow數(shù)據(jù)集生成器191
8.2.1　層次化結(jié)構(gòu)192
8.2.2　數(shù)據(jù)集類和DatasetInfo193
8.2.3　創(chuàng)建數(shù)據(jù)集分割194
8.2.4　生成示例195
8.2.5　使用生成器198
8.3　模型訓(xùn)練與評估198
8.3.1　數(shù)據(jù)準(zhǔn)備199
8.3.2　訓(xùn)練循環(huán)和Keras回調(diào)函數(shù)199
8.3.3　評估與推論201
8.4　總結(jié)203
8.5　練習(xí)題204
第9章　生成式對抗網(wǎng)絡(luò)206
9.1　了解GAN及其應(yīng)用206
9.1.1　價值函數(shù)207
9.1.2　非飽和價值函數(shù)208
9.1.3　模型定義和訓(xùn)練階段208
9.1.4　GAN的應(yīng)用209
9.2　無條件的GAN211
9.2.1　準(zhǔn)備數(shù)據(jù)211
9.2.2　定義生成器212
9.2.3　定義鑒別器213
9.2.4　定義損失函數(shù)214
9.2.5　無條件的GAN中的對抗訓(xùn)練過程215
9.3　有條件的GAN219
9.3.1　為有條件的GAN獲取數(shù)據(jù)220
9.3.2　在有條件的GAN中定義生成器220
9.3.3　在有條件的GAN中定義鑒別器221
9.3.4　對抗訓(xùn)練過程222
9.4　總結(jié)223
9.5　練習(xí)題224
第10章　在生產(chǎn)環(huán)境中部署模型226
10.1　SavedModel序列化格式226
10.1.1　特征227
10.1.2　通過Keras模型創(chuàng)建SavedModel 228
10.1.3　使用通用函數(shù)進行SavedModel轉(zhuǎn)換229
10.2　Python部署231
10.2.1　通用計算圖 231
10.2.2　Keras模型 233
10.2.3　平面圖234
10.3　支持部署的平臺235
10.3.1　TensorFlow.js236
10.3.2　Go綁定和tfgo240
10