Hadoop深度學(xué)習(xí)

第 1 章 深度學(xué)習(xí)介紹 1
1．1　開始深度學(xué)習(xí)之旅　5
1．1．1　深度前饋網(wǎng)絡(luò)　6
1．1．2　各種學(xué)習(xí)算法　6
1．2　深度學(xué)習(xí)的相關(guān)術(shù)語　10
1．3　深度學(xué)習(xí)——一場(chǎng)人工智能革命　12
1．4　深度學(xué)習(xí)網(wǎng)絡(luò)的分類　18
1．4．1　深度生成或無監(jiān)督模型　19
1．4．2　深度判別模型　20
1．5　小結(jié)　22
第　2 章 大規(guī)模數(shù)據(jù)的分布式深度學(xué)習(xí)　23
2．1　海量數(shù)據(jù)的深度學(xué)習(xí)　24
2．2　大數(shù)據(jù)深度學(xué)習(xí)面臨的挑戰(zhàn)　27
2．2．1　海量數(shù)據(jù)帶來的挑戰(zhàn)（第 一個(gè)V）　28
2．2．2　數(shù)據(jù)多樣性帶來的挑戰(zhàn)（第二個(gè)V）　28
2．2．3　數(shù)據(jù)快速處理帶來的挑戰(zhàn)（第三個(gè)V）　29
2．2．4　數(shù)據(jù)真實(shí)性帶來的挑戰(zhàn)（第四個(gè)V）　29
2．3　分布式深度學(xué)習(xí)和Hadoop　29
2．3．1　Map-Reduce　31
2．3．2　迭代Map-Reduce　31
2．3．3　YARN　32
2．3．4　分布式深度學(xué)習(xí)設(shè)計(jì)的重要特征　32
2．4　深度學(xué)習(xí)的開源分布式框架Deeplearning4j　34
2．4．1　Deeplearning4j 的主要特性　34
2．4．2　Deeplearning4j 功能總結(jié)　35
2．5　在Hadoop YARN 上配置Deeplearning4j　35
2．5．1　熟悉Deeplearning4j　36
2．5．2　為進(jìn)行分布式深度學(xué)習(xí)集成Hadoop YARN 和Spark　40
2．5．3　Spark 在Hadoop YARN 上的內(nèi)存分配規(guī)則　40
2．6　小結(jié)　44
第3　章 卷積神經(jīng)網(wǎng)絡(luò)　45
3．1　卷積是什么　46
3．2　卷積神經(jīng)網(wǎng)絡(luò)的背景　47
3．3　卷積神經(jīng)網(wǎng)絡(luò)的基本層　48
3．3．1　卷積神經(jīng)網(wǎng)絡(luò)深度的重要性　49
3．3．2　卷積層　49
3．3．3　為卷積層選擇超參數(shù)　52
3．3．4　ReLU 層　56
3．3．5　池化層　57
3．3．6　全連接層　58
3．4　分布式深度卷積神經(jīng)網(wǎng)絡(luò)　58
3．4．1　最受歡迎的深度神經(jīng)網(wǎng)絡(luò)及其配置　58
3．4．2　訓(xùn)練時(shí)間——深度神經(jīng)網(wǎng)絡(luò)面臨的主要挑戰(zhàn)　59
3．4．3　將Hadoop 應(yīng)用于深度卷積神經(jīng)網(wǎng)絡(luò)　59
3．5　使用Deeplearning4j 構(gòu)建卷積層　61
3．5．1　加載數(shù)據(jù)　61
3．5．2　模型配置　62
3．5．3　訓(xùn)練與評(píng)估　63
3．6　小結(jié)　64
第4　章 循環(huán)神經(jīng)網(wǎng)絡(luò)　65
4．1　循環(huán)網(wǎng)絡(luò)與眾不同的原因　66
4．2　循環(huán)神經(jīng)網(wǎng)絡(luò)　67
4．2．1　展開循環(huán)計(jì)算　68
4．2．2　循環(huán)神經(jīng)網(wǎng)絡(luò)的記憶　69
4．2．3　架構(gòu)　70
4．3　隨時(shí)間反向傳播　71
4．4　長(zhǎng)短期記憶　73
4．4．1　隨時(shí)間深度反向傳播的問題　73
4．4．2　長(zhǎng)短期記憶　73
4．5　雙向循環(huán)神經(jīng)網(wǎng)絡(luò)　75
4．5．1　循環(huán)神經(jīng)網(wǎng)絡(luò)的不足　75
4．5．2　解決方案　76
4．6　分布式深度循環(huán)神經(jīng)網(wǎng)絡(luò)　77
4．7　用Deeplearning4j 訓(xùn)練循環(huán)神經(jīng)網(wǎng)絡(luò)　77
4．8　小結(jié)　80
第5　章 受限玻爾茲曼機(jī)　81
5．1　基于能量的模型　82
5．2　玻爾茲曼機(jī)　83
5．2．1　玻爾茲曼機(jī)如何學(xué)習(xí)　84
5．2．2　玻爾茲曼機(jī)的不足　85
5．3　受限玻爾茲曼機(jī)　85
5．3．1　基礎(chǔ)架構(gòu)　85
5．3．2　受限玻爾茲曼機(jī)的工作原理　86
5．4　卷積受限玻爾茲曼機(jī)　88
5．5　深度信念網(wǎng)絡(luò)　90
5．6　分布式深度信念網(wǎng)絡(luò)　91
5．6．1　受限玻爾茲曼機(jī)的分布式訓(xùn)練　91
5．6．2　深度信念網(wǎng)絡(luò)的分布式訓(xùn)練　92
5．7　用Deeplearning4j 實(shí)現(xiàn)受限玻爾茲曼機(jī)和深度信念網(wǎng)絡(luò)　94
5．7．1　受限玻爾茲曼機(jī)　94
5．7．2　深度信念網(wǎng)絡(luò)　95
5．8　小結(jié)　97
第6　章 自動(dòng)編碼器　98
6．1　自動(dòng)編碼器　98
6．2　稀疏自動(dòng)編碼器　101
6．2．1　稀疏編碼　101
6．2．2　稀疏自動(dòng)編碼器　102
6．3　深度自動(dòng)編碼器　104
6．3．1　訓(xùn)練深度自動(dòng)編碼器　104
6．3．2　使用Deeplearning4j 實(shí)現(xiàn)深度自動(dòng)編碼器　107
6．4　降噪自動(dòng)編碼器　108
6．4．1　降噪自動(dòng)編碼器的架構(gòu)　109
6．4．2　堆疊式降噪自動(dòng)編碼器　109
6．4．3　使用Deeplearning4j 實(shí)現(xiàn)堆疊式降噪自動(dòng)編碼器　110
6．5　自動(dòng)編碼器的應(yīng)用　112
6．6　小結(jié)　112
第7　章 用Hadoop 玩轉(zhuǎn)深度學(xué)習(xí)　113
7．1　Hadoop 中的分布式視頻解碼　114
7．2　使用Hadoop 進(jìn)行大規(guī)模圖像處理　116
7．3　使用Hadoop 進(jìn)行自然語言處理　117
7．3．1　Web 爬蟲　118
7．3．2　自然語言處理的關(guān)鍵詞提取和模塊　118
7．3．3　從頁面評(píng)估相關(guān)關(guān)鍵詞　118
7．4　小結(jié)　119
參考文獻(xiàn)　120