Python深度學習：模型、方法與實現(xiàn)

譯者序
前言
作者簡介
審校者簡介
第一部分核心概念
第1章神經(jīng)網(wǎng)絡的具體細節(jié)2
1.1神經(jīng)網(wǎng)絡的數(shù)學基礎2
1.1.1線性代數(shù)2
1.1.2概率介紹6
1.1.3微分學16
1.2神經(jīng)網(wǎng)絡的簡單介紹18
1.2.1神經(jīng)元18
1.2.2層的運算19
1.2.3神經(jīng)網(wǎng)絡21
1.2.4激活函數(shù)22
1.2.5通用逼近定理25
1.3訓練神經(jīng)網(wǎng)絡27
1.3.1梯度下降27
1.3.2代價函數(shù)28
1.3.3反向傳播30
1.3.4權(quán)重初始化32
1.3.5SGD改進33
1.4總結(jié)35
第二部分計算機視覺
第2章理解卷積網(wǎng)絡38
2.1理解CNN38
2.1.1卷積類型43
2.1.2提高CNN的效率46
2.1.3可視化CNN51
2.1.4CNN正則化54
2.2遷移學習介紹56
2.2.1使用PyTorch實現(xiàn)遷移學習57
2.2.2使用TensorFlow 2.0實現(xiàn)遷移學習62
2.3總結(jié)66
第3章高級卷積網(wǎng)絡67
3.1AlexNet介紹67
3.2VGG介紹68
3.3理解殘差網(wǎng)絡70
3.4理解Inception網(wǎng)絡78
3.4.1Inception v179
3.4.2Inception v2和v380
3.4.3Inception v4和InceptionResNet81
3.5Xception介紹82
3.6MobileNet介紹83
3.7DenseNet介紹85
3.8神經(jīng)架構(gòu)搜索的工作原理87
3.9膠囊網(wǎng)絡介紹91
3.9.1卷積網(wǎng)絡的局限性91
3.9.2膠囊92
3.9.3膠囊網(wǎng)絡的結(jié)構(gòu)94
3.10總結(jié)95
第4章對象檢測與圖像分割96
4.1對象檢測介紹96
4.1.1對象檢測的方法96
4.1.2使用YOLO v3進行對象檢測98
4.1.3使用Faster RCNN進行對象檢測104
4.2圖像分割介紹110
4.2.1使用UNet進行語義分割110
4.2.2使用Mask RCNN進行實例分割112
4.3總結(jié)115
第5章生成模型116
5.1生成模型的直覺和證明116
5.2VAE介紹117
5.3GAN介紹124
5.3.1訓練GAN125
5.3.2實現(xiàn)GAN128
5.3.3訓練GAN的缺陷129
5.4GAN的類型129
5.4.1DCGAN130
5.4.2CGAN135
5.4.3WGAN137
5.4.4使用CycleGAN實現(xiàn)圖像到圖像的轉(zhuǎn)換142
5.5藝術(shù)風格遷移介紹150
5.6總結(jié)151
第三部分自然語言和序列處理
第6章語言建模154
6.1理解ngram154
6.2神經(jīng)語言模型介紹156
6.2.1神經(jīng)概率語言模型157
6.2.2word2vec158
6.2.3GloVe模型161
6.3實現(xiàn)語言模型164
6.3.1訓練嵌入模型164
6.3.2可視化嵌入向量166
6.4總結(jié)169
第7章理解RNN170
7.1RNN介紹170
7.2長短期記憶介紹180
7.3門控循環(huán)單元介紹187
7.4實現(xiàn)文本分類189
7.5總結(jié)193
第8章seq2seq模型和注意力機制194
8.1seq2seq模型介紹194
8.2使用注意力的seq2seq196
8.2.1Bahdanau Attention196
8.2.2Luong Attention199
8.2.3一般注意力200
8.2.4使用注意力實現(xiàn)seq2seq201
8.3理解transformer207
8.3.1transformer注意力207
8.3.2transformer模型210
8.3.3實現(xiàn)transformer212
8.4transformer語言模型219
8.4.1基于transformer的雙向編碼器表示219
8.4.2transformerXL224
8.4.3XLNet227
8.4.4使用transformer語言模型生成文本230
8.5總結(jié)231
第四部分展望未來
第9章新興的神經(jīng)網(wǎng)絡設計234
9.1GNN介紹234
9.1.1循環(huán)GNN236
9.1.2卷積圖神經(jīng)網(wǎng)絡238
9.1.3圖自編碼器244
9.1.4神經(jīng)圖學習246
9.2記憶增強神經(jīng)網(wǎng)絡介紹251
9.2.1神經(jīng)圖靈機251
9.2.2MANN*256
9.3總結(jié)257
第10章元學習258
10.1元學習介紹258
10.1.1零樣本學習259
10.1.2單樣本學習260
10.1.3元訓練和元測試261
10.2基于度量的元學習262
10.2.1為單樣本學習匹配網(wǎng)絡263
10.2.2孿生網(wǎng)絡264
10.2.3原型網(wǎng)絡267
10.3基于優(yōu)化的元學習269
10.4總結(jié)274
第11章自動駕駛汽車的深度學習275
11.1自動駕駛汽車介紹275
11.1.1自動駕駛汽車研究簡史275
11.1.2自動化的級別277
11.2自動駕駛汽車系統(tǒng)的組件278
11.2.1環(huán)境感知280
11.2.2路徑規(guī)劃282
11.33D數(shù)據(jù)處理介紹282
11.4模仿駕駛策略285
11.5ChauffeurNet駕駛策略294
11.5.1輸入/輸出表示294
11.5.2模型架構(gòu)296
11.5.3訓練297
11.6總結(jié)300