深度學(xué)習(xí)實(shí)踐指南（基于R語(yǔ)言）

第 1章　簡(jiǎn)介　1
1．1　什么是深度學(xué)習(xí)　2
1．2　深度學(xué)習(xí)解決什么問(wèn)題　3
1．3　誰(shuí)在使用深度學(xué)習(xí)　4
1．4　神經(jīng)網(wǎng)絡(luò)基礎(chǔ)　6
1．4．1　神經(jīng)元的角色（作用）　9
1．4．2　激活函數(shù)　11
1．4．3　神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法　13
1．5　注釋　16
第 2章　深度神經(jīng)網(wǎng)絡(luò)　24
2．1　令人驚訝的對(duì)深度神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)單剖析　25
2．2　如何用60秒或更少的時(shí)間解釋清楚深度神經(jīng)網(wǎng)絡(luò)　26
2．3　3個(gè)絕妙的使用深度神經(jīng)網(wǎng)絡(luò)的途徑　27
2．3．1　在有霧天氣增強(qiáng)能見(jiàn)度　27
2．3．2　讓黑客和網(wǎng)絡(luò)犯罪分子吃些苦頭　30
2．3．3　令人難以置信的收縮的圖像壓縮　31
2．4　如何迅速逼近任意函數(shù)　33
2．5　選擇多少個(gè)神經(jīng)元　38
2．6　選擇最佳神經(jīng)網(wǎng)絡(luò)層數(shù)的常識(shí)　40
2．7　提升深度神經(jīng)網(wǎng)絡(luò)性能的3種方法　41
2．7．1　用“dropout”方法來(lái)提高成功率　41
2．7．2　如何從小批量（mini batching）中獲益　44
2．7．3　提前終止（Early stopping）的簡(jiǎn)單計(jì)劃　45
2．8　用R以難以置信的簡(jiǎn)單方法來(lái)構(gòu)建深度神經(jīng)網(wǎng)絡(luò)　47
2．8．1　構(gòu)建深度神經(jīng)網(wǎng)絡(luò)回歸模型的方法　47
2．8．2　聰明人使用深度神經(jīng)網(wǎng)絡(luò)回歸模型的技巧　51
2．8．3　構(gòu)建深度神經(jīng)網(wǎng)絡(luò)分類器的藝術(shù)　54
2．8．4　如何構(gòu)建多響應(yīng)變量模型　61
2．9　注釋　69
第3章　Elman神經(jīng)網(wǎng)絡(luò)　75
3．1　什么是Elman神經(jīng)網(wǎng)絡(luò)　76
3．2　上下文層神經(jīng)元的作用是什么　77
3．3　如何理解信息的流動(dòng)　77
3．4　如何用Elman神經(jīng)網(wǎng)絡(luò)提升效果　78
3．5　使用Elman神經(jīng)網(wǎng)絡(luò)的4種妙招　78
3．5．1　終極天氣預(yù)報(bào)模型　79
3．5．2　如何迅速發(fā)現(xiàn)嚴(yán)重的故障　79
3．5．3　提高水質(zhì)量的創(chuàng)新性想法　80
3．5．4　在股票證券市場(chǎng)如何實(shí)現(xiàn)一個(gè)“殺手級(jí)”應(yīng)用　80
3．6　構(gòu)建Elman神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)單方法　81
3．7　如何加載工具包　82
3．8　為什么數(shù)據(jù)可視化是一門(mén)科學(xué)　82
3．9　轉(zhuǎn)換數(shù)據(jù)的秘密　85
3．10　如何估計(jì)模型　88
3．11　創(chuàng)建理想的預(yù)測(cè)　89
3．12　注釋　90
第4章　Jordan神經(jīng)網(wǎng)絡(luò)　92
4．1　Jordan神經(jīng)網(wǎng)絡(luò)可以解決的3個(gè)問(wèn)題　93
4．1．1　風(fēng)速預(yù)測(cè)的終極指南　93
4．1．2　如何對(duì)蛋白質(zhì)的相互作用分類　93
4．1．3　深度學(xué)習(xí)在西班牙語(yǔ)方面的應(yīng)用　94
4．2　R語(yǔ)言Jordan神經(jīng)網(wǎng)絡(luò)模型的基本要素　94
4．3　尋找合適的包　95
4．4　轉(zhuǎn)換數(shù)據(jù)的方法　96
4．5　如何選擇訓(xùn)練樣本　98
4．6　用這個(gè)技巧來(lái)預(yù)估你的模型　98
4．7　注釋　100
第5章　自編碼器的秘密　102
5．1　絕地控心術(shù)　103
5．2　秘密揭曉　104
5．3　可以直接檢驗(yàn)的實(shí)用定義　106
5．4　如何拯救巴西熱帶草原賽拉多（Cerrado）　106
5．5　需要了解的基本要素　107
5．6　稀疏自編碼器的強(qiáng)大益處　108
5．7　理解Kullback-Leibler距離　108
5．8　對(duì)稀疏自編碼器的3個(gè)永恒的教訓(xùn)　109
5．9　好萊塢、生物統(tǒng)計(jì)學(xué)和稀疏自編碼器的混合　109
5．10　如何利用R語(yǔ)言快速使用自編碼器　111
5．11　在你自己的數(shù)據(jù)科學(xué)項(xiàng)目使用R語(yǔ)言　116
5．12　注釋　123
第6章　堆疊自編碼器簡(jiǎn)介　125
6．1　深度學(xué)習(xí)大師的秘密武器　126
6．2　最佳睡眠時(shí)間　127
6．3　不超過(guò)5分鐘就可以構(gòu)建一個(gè)堆疊自編碼器　130
6．4　什么是去噪自編碼器　131
6．5　隨機(jī)“調(diào)味劑”　132
6．6　去噪自編碼器的兩個(gè)核心任務(wù)　133
6．7　如何理解堆疊去噪自編碼器　133
6．8　一個(gè)驚人的實(shí)際應(yīng)用　134
6．8．1　一個(gè)創(chuàng)新想法　136
6．8．2　Chen、Li、Yang是如何訓(xùn)練他們的模型的　138
6．8．3　如何避免塞壬的歌聲　138
6．8．4　作者給讀者提出的一個(gè)挑戰(zhàn)　140
6．9　用R語(yǔ)言構(gòu)建去噪自編碼器的捷徑　141
6．10　注釋　146
第7章　限制玻爾茲曼機(jī)　149
7．1　了解限制玻爾茲曼機(jī)的4個(gè)步驟　149
7．2　能量函數(shù)和概率分布的角色　150
7．3　用一種華麗的方式來(lái)思考　152
7．4　模型學(xué)習(xí)的目標(biāo)　153
7．5　像魔法一樣的訓(xùn)練技巧　153
7．5．1　技巧1：美麗的游戲　153
7．5．2　技巧2：開(kāi)啟限制玻爾茲曼機(jī)“王國(guó)”的鑰匙　155
7．5．3　技巧3：如探囊取物般簡(jiǎn)單地激活函數(shù)　155
7．5．4　技巧4：對(duì)比散度算法的替代方法　156
7．6　對(duì)深度學(xué)習(xí)的主要批評(píng)　157
7．7　改變世界的兩個(gè)想法　158
7．7．1　“用拳頭猛擊癌癥”　159
7．7．2　以華麗的方式助攻麻醉師　161
7．8　用R語(yǔ)言構(gòu)建限制玻爾茲曼機(jī)的秘密　164
7．9　注釋　168
第8章　深度信念網(wǎng)絡(luò)　173
8．1　如何訓(xùn)練一個(gè)深度信念網(wǎng)絡(luò)（DBM）　173
8．1．1　預(yù)訓(xùn)練的關(guān)鍵要素　174
8．1．2　精調(diào)的關(guān)鍵　174
8．2　如何提供一個(gè)更好的呼叫等待經(jīng)驗(yàn)　175
8．3　可以很容易模仿的世界一流的想法　176
8．4　用R語(yǔ)言構(gòu)建深度信念網(wǎng)絡(luò)的步驟　179
8．5　注釋　182