機(jī)器學(xué)習(xí)與應(yīng)用

第一部分基本概念與數(shù)學(xué)知識(shí)

第1章機(jī)器學(xué)習(xí)簡(jiǎn)介3
1.1機(jī)器學(xué)習(xí)是什么3
1.1.1一個(gè)簡(jiǎn)單的例子3
1.1.2為什么需要機(jī)器學(xué)習(xí)5
1.2典型應(yīng)用7
1.2.1語(yǔ)音識(shí)別7
1.2.2人臉檢測(cè)8
1.2.3人機(jī)對(duì)弈9
1.2.4機(jī)器翻譯10
1.2.5自動(dòng)駕駛11
1.3發(fā)展歷程11
1.3.1歷史成就11
1.3.2當(dāng)前進(jìn)展12
1.4關(guān)于本書(shū)13
參考文獻(xiàn)15

第2章數(shù)學(xué)知識(shí)17
2.1微積分和線性代數(shù)17
2.1.1導(dǎo)數(shù)17
2.1.2向量與矩陣19
2.1.3偏導(dǎo)數(shù)與梯度21
2.1.4雅克比矩陣22
2.1.5Hessian矩陣23
2.1.6泰勒展開(kāi)24
2.1.7行列式24
2.1.8特征值與特征向量25
2.1.9奇異值分解26
2.1.10二次型26
2.1.11向量與矩陣求導(dǎo)26
2.2最優(yōu)化方法27
2.2.1梯度下降法27
2.2.2牛頓法28
2.2.3坐標(biāo)下降法29
2.2.4拉格朗日乘數(shù)法30
2.2.5凸優(yōu)化30
2.2.6拉格朗日對(duì)偶34
2.2.7KKT條件36
2.2.8擬牛頓法37
2.2.9面臨的問(wèn)題38
2.3概率論39
2.3.1隨機(jī)事件與概率39
2.3.2條件概率39
2.3.3隨機(jī)變量40
2.3.4數(shù)學(xué)期望與方差41
2.3.5隨機(jī)向量41
2.3.6最大似然估計(jì)42
參考文獻(xiàn)43
第3章基本概念44
3.1算法分類44
3.1.1監(jiān)督信號(hào)44
3.1.2分類問(wèn)題與回歸問(wèn)題45
3.1.3判別模型與生成模型47
3.1.4強(qiáng)化學(xué)習(xí)47
3.2模型評(píng)價(jià)指標(biāo)48
3.2.1精度與召回率48
3.2.2ROC曲線48
3.2.3混淆矩陣50
3.2.4交叉驗(yàn)證50
3.3模型選擇50
3.3.1過(guò)擬合與欠擬合50
3.3.2偏差與方差分解51
3.3.3正則化52
參考文獻(xiàn)54

第二部分主要的機(jī)器學(xué)習(xí)算法與理論

第4章貝葉斯分類器57
4.1貝葉斯決策57
4.2樸素貝葉斯分類器58
4.2.1離散型特征58
4.2.2連續(xù)型特征59
4.3正態(tài)貝葉斯分類器59
4.3.1訓(xùn)練算法59
4.3.2預(yù)測(cè)算法60
4.4實(shí)驗(yàn)程序61
4.5源代碼分析64
4.5.1主要數(shù)據(jù)結(jié)構(gòu)64
4.5.2訓(xùn)練函數(shù)65
4.5.3預(yù)測(cè)函數(shù)68
4.6應(yīng)用70
參考文獻(xiàn)71

第5章決策樹(shù)72
5.1樹(shù)形決策過(guò)程72
5.2分類與回歸樹(shù)73
5.3訓(xùn)練算法74
5.3.1遞歸分裂過(guò)程74
5.3.2尋找最佳分裂74
5.3.3葉子節(jié)點(diǎn)值的設(shè)定77
5.3.4屬性缺失問(wèn)題77
5.3.5剪枝算法78
5.4實(shí)驗(yàn)程序79
5.5源代碼分析81
5.5.1主要數(shù)據(jù)結(jié)構(gòu)81
5.5.2遞歸分裂84
5.5.3尋找最佳分裂90
5.5.4尋找替代分裂96
5.5.5變量的重要性99
5.5.6預(yù)測(cè)算法100
5.6應(yīng)用103
參考文獻(xiàn)103

第6章k近鄰算法104
6.1基本概念104
6.2預(yù)測(cè)算法104
6.3距離定義105
6.3.1常用距離定義105
6.3.2距離度量學(xué)習(xí)106
6.4實(shí)驗(yàn)程序107
6.5應(yīng)用109
參考文獻(xiàn)110

第7章數(shù)據(jù)降維111
7.1主成分分析111
7.1.1數(shù)據(jù)降維問(wèn)題111
7.1.2計(jì)算投影矩陣111
7.1.3向量降維114
7.1.4向量重構(gòu)114
7.2源代碼分析114
7.2.1主要數(shù)據(jù)結(jié)構(gòu)114
7.2.2計(jì)算投影矩陣115
7.2.3向量降維117
7.2.4向量重構(gòu)117
7.3流形學(xué)習(xí)118
7.3.1局部線性嵌入119
7.3.2拉普拉斯特征映射119
7.3.3局部保持投影122
7.3.4等距映射123
7.4應(yīng)用124
參考文獻(xiàn)124

第8章線性判別分析125
8.1用投影進(jìn)行分類125
8.2投影矩陣125
8.2.1一維的情況125
8.2.2推廣到高維127
8.3實(shí)驗(yàn)程序128
8.4源代碼分析131
8.4.1主要數(shù)據(jù)結(jié)構(gòu)131
8.4.2計(jì)算投影矩陣132
8.4.3向量投影135
8.4.4向量重構(gòu)136
8.5應(yīng)用136
參考文獻(xiàn)137

第9章人工神經(jīng)網(wǎng)絡(luò)138
9.1多層前饋型神經(jīng)網(wǎng)絡(luò)138
9.1.1神經(jīng)元138
9.1.2網(wǎng)絡(luò)結(jié)構(gòu)139
9.1.3正向傳播算法140
9.2反向傳播算法141
9.2.1一個(gè)簡(jiǎn)單的例子141
9.2.2完整的算法145
9.3實(shí)驗(yàn)程序149
9.4理論解釋152
9.4.1數(shù)學(xué)性質(zhì)152
9.4.2與神經(jīng)系統(tǒng)的關(guān)系153
9.5面臨的問(wèn)題153
9.5.1梯度消失153
9.5.2退化154
9.5.3局部極小值154
9.5.4鞍點(diǎn)154
9.6實(shí)現(xiàn)細(xì)節(jié)問(wèn)題154
9.6.1輸入值與輸出值154
9.6.2網(wǎng)絡(luò)規(guī)模155
9.6.3激活函數(shù)155
9.6.4損失函數(shù)156
9.6.5權(quán)重初始化156
9.6.6正則化156
9.6.7學(xué)習(xí)率的設(shè)定156
9.6.8動(dòng)量項(xiàng)156
9.7源代碼分析157
9.7.1主要數(shù)據(jù)結(jié)構(gòu)157
9.7.2激活函數(shù)160
9.7.3權(quán)重初始化163
9.7.4訓(xùn)練函數(shù)164
9.7.5預(yù)測(cè)函數(shù)177
9.8應(yīng)用179
參考文獻(xiàn)180

第10章支持向量機(jī)182
10.1線性分類器182
10.1.1線性分類器概述182
10.1.2分類間隔182
10.2線性可分的問(wèn)題183
10.2.1原問(wèn)題183
10.2.2對(duì)偶問(wèn)題184
10.3線性不可分的問(wèn)題187
10.3.1原問(wèn)題187
10.3.2對(duì)偶問(wèn)題187
10.4核映射與核函數(shù)190
10.5SMO算法193
10.5.1求解子問(wèn)題193
10.5.2優(yōu)化變量的選擇196
10.6多分類問(wèn)題197
10.7實(shí)驗(yàn)程序198
10.8源代碼分析200
10.8.1求解算法201
10.8.2主要數(shù)據(jù)結(jié)構(gòu)204
10.8.3求解器211
10.9應(yīng)用222
參考文獻(xiàn)223

第11章線性模型225
11.1logistic回歸225
11.2正則化logistic回歸228
11.2.1對(duì)數(shù)似然函數(shù)228
11.2.2L2正則化原問(wèn)題229
11.2.3L2正則化對(duì)偶問(wèn)題232
11.2.4L1正則化原問(wèn)題233
11.2.5實(shí)驗(yàn)程序234
11.3線性支持向量機(jī)236
11.3.1L2正則化L1-loss SVC原問(wèn)題236
11.3.2L2正則化L2-loss SVC原問(wèn)題237
11.3.3L2正則化SVC對(duì)偶問(wèn)題237
11.3.4L1正則化L2-loss SVC原問(wèn)題238
11.3.5多類線性支持向量機(jī)238
11.3.6實(shí)驗(yàn)程序240
11.4源代碼分析241
11.4.1求解的問(wèn)題241
11.4.2主要數(shù)據(jù)結(jié)構(gòu)241
11.4.3求解器249
11.5softmax回歸262
11.6應(yīng)用263
參考文獻(xiàn)264

第12章隨機(jī)森林266
12.1集成學(xué)習(xí)266
12.1.1隨機(jī)抽樣266
12.1.2Bagging算法267
12.2隨機(jī)森林概述267
12.3訓(xùn)練算法267
12.4變量的重要性268
12.5實(shí)驗(yàn)程序269
12.6源代碼分析271
12.6.1主要數(shù)據(jù)結(jié)構(gòu)271
12.6.2訓(xùn)練算法273
12.6.3預(yù)測(cè)算法282
12.7應(yīng)用282
參考文獻(xiàn)283

第13章Boosting算法284
13.1AdaBoost算法簡(jiǎn)介284
13.2訓(xùn)練算法284
13.3訓(xùn)練誤差分析286
13.4廣義加法模型288
13.5各種AdaBoost算法290
13.5.1離散型AdaBoost290
13.5.2實(shí)數(shù)型AdaBoost292
13.5.3LogitBoost292
13.5.4Gentle型AdaBoost294
13.6實(shí)現(xiàn)細(xì)節(jié)問(wèn)題294
13.6.1弱分類器的選擇295
13.6.2弱分類器的數(shù)量295
13.6.3樣本權(quán)重削減295
13.7實(shí)驗(yàn)程序295
13.8源代碼分析297
13.8.1主要數(shù)據(jù)結(jié)構(gòu)297
13.8.2弱分類器300
13.8.3強(qiáng)分類器306
13.9應(yīng)用——目標(biāo)檢測(cè)318
13.9.1VJ框架的原理319
13.9.2模型訓(xùn)練321
參考文獻(xiàn)322

第14章深度學(xué)習(xí)概論324
14.1機(jī)器學(xué)習(xí)面臨的挑戰(zhàn)324
14.1.1人工特征325
14.1.2機(jī)器學(xué)習(xí)算法326
14.2深度學(xué)習(xí)技術(shù)326
14.3進(jìn)展與典型應(yīng)用328
14.3.1計(jì)算機(jī)視覺(jué)329
14.3.2語(yǔ)音識(shí)別331
14.3.3自然語(yǔ)言處理331
14.3.4計(jì)算機(jī)圖形學(xué)332
14.3.5推薦系統(tǒng)332
14.3.6深度強(qiáng)化學(xué)習(xí)333
14.4自動(dòng)編碼器333
14.4.1自動(dòng)編碼器簡(jiǎn)介333
14.4.2去噪自動(dòng)編碼器334
14.4.3稀疏自動(dòng)編碼器334
14.4.4收縮自動(dòng)編碼器335
14.4.5多層編碼器335
14.5受限玻爾茲曼機(jī)335
14.5.1玻爾茲曼分布335
14.5.2受限玻爾茲曼機(jī)336
14.5.3訓(xùn)練算法338
14.5.4深度玻爾茲曼機(jī)339
14.5.5深度置信網(wǎng)339
參考文獻(xiàn)339

第15章卷積神經(jīng)網(wǎng)絡(luò)347
15.1網(wǎng)絡(luò)結(jié)構(gòu)347
15.1.1卷積層348
15.1.2池化層351
15.1.3全連接層351
15.2訓(xùn)練算法352
15.2.1卷積層352
15.2.2池化層355
15.2.3隨機(jī)梯度下降法356
15.2.4遷移學(xué)習(xí)357
15.3典型網(wǎng)絡(luò)357
15.3.1LeNet-5網(wǎng)絡(luò)357
15.3.2AlexNet網(wǎng)絡(luò)358
15.3.3VGG網(wǎng)絡(luò)359
15.3.4GoogLeNet網(wǎng)絡(luò)360
15.4理論分析361
15.4.1反卷積運(yùn)算361
15.4.2卷積層可視化362
15.4.3理論解釋364
15.5挑戰(zhàn)與改進(jìn)措施365
15.5.1卷積層365
15.5.2池化層365
15.5.3激活函數(shù)366
15.5.4損失函數(shù)366
15.5.5網(wǎng)絡(luò)結(jié)構(gòu)366
15.5.6批量歸一化370
15.6實(shí)際例子371
15.6.1LeNet-5網(wǎng)絡(luò)371
15.6.2訓(xùn)練自己的模型373
15.7源代碼分析374
15.7.1Caffe簡(jiǎn)介374
15.7.2數(shù)據(jù)層376
15.7.3卷積層376
15.7.4池化層378
15.7.5神經(jīng)元層378
15.7.6內(nèi)積層384
15.7.7損失層386
15.7.8網(wǎng)絡(luò)的實(shí)現(xiàn)——Net類396
15.7.9求解器398
15.8應(yīng)用——計(jì)算機(jī)視覺(jué)413
15.8.1人臉檢測(cè)414
15.8.2通用目標(biāo)檢測(cè)416
15.8.3人臉關(guān)鍵點(diǎn)定位425
15.8.4人臉識(shí)別425
15.8.5圖像分割428
15.8.6邊緣檢測(cè)429
15.8.7風(fēng)格遷移432
15.8.8圖像增強(qiáng)433
15.8.9三維視覺(jué)435
15.8.10目標(biāo)跟蹤436
15.9應(yīng)用——計(jì)算機(jī)圖形學(xué)437
15.9.1幾何模型438
15.9.2物理模型439
15.9.3紋理合成440
15.9.4圖像彩色化441
15.9.5HDR442
15.10應(yīng)用——自然語(yǔ)言處理444
15.10.1文本分類444
15.10.2機(jī)器翻譯444
參考文獻(xiàn)444

第16章循環(huán)神經(jīng)網(wǎng)絡(luò)450
16.1網(wǎng)絡(luò)結(jié)構(gòu)450
16.1.1循環(huán)層450
16.1.2輸出層451
16.1.3一個(gè)簡(jiǎn)單的例子452
16.1.4深層網(wǎng)絡(luò)452
16.2網(wǎng)絡(luò)的訓(xùn)練453
16.2.1一個(gè)簡(jiǎn)單的例子453
16.2.2完整的算法455
16.3挑戰(zhàn)與改進(jìn)措施457
16.3.1梯度消失457
16.3.2長(zhǎng)短期記憶模型458
16.3.3門(mén)控循環(huán)單元459
16.3.4雙向網(wǎng)絡(luò)459
16.4序列預(yù)測(cè)問(wèn)題460
16.4.1序列標(biāo)注問(wèn)題460
16.4.2連接主義時(shí)序分類461
16.4.3序列到序列學(xué)習(xí)465
16.5應(yīng)用——語(yǔ)音識(shí)別467
16.5.1語(yǔ)音識(shí)別問(wèn)題467
16.5.2隱馬爾可夫模型468
16.5.3高斯混合模型474
16.5.4GMMHMM框架475
16.5.5深度模型475
16.6應(yīng)用——自然語(yǔ)言處理478
16.6.1中文分詞479
16.6.2詞性標(biāo)注480
16.6.3命名實(shí)體識(shí)別480
16.6.4文本分類481
16.6.5自動(dòng)摘要483
16.6.6機(jī)器翻譯483
16.7應(yīng)用——機(jī)器視覺(jué)485
16.7.1字符識(shí)別485
16.7.2目標(biāo)跟蹤486
16.7.3視頻分析488
參考文獻(xiàn)490

第17章生成對(duì)抗網(wǎng)絡(luò)494
17.1隨機(jī)數(shù)據(jù)生成494
17.2生成對(duì)抗網(wǎng)絡(luò)簡(jiǎn)介495
17.2.1生成模型495
17.2.2判別模型496
17.3模型的訓(xùn)練496
17.3.1目標(biāo)函數(shù)496
17.3.2訓(xùn)練算法497
17.3.3理論分析498
17.4應(yīng)用與改進(jìn)499
17.4.1改進(jìn)方案500
17.4.2典型應(yīng)用503
參考文獻(xiàn)505

第18章聚類算法506
18.1問(wèn)題定義506
18.2層次聚類507
18.3基于質(zhì)心的算法507
18.4基于概率分布的算法508
18.5基于密度的算法512
18.5.1DBSCAN算法512
18.5.2OPTICS算法514
18.5.3Mean Shift算法516
18.6基于圖的算法517
18.7算法評(píng)價(jià)指標(biāo)518
18.7.1內(nèi)部指標(biāo)518
18.7.2外部指標(biāo)518
18.8應(yīng)用519
參考文獻(xiàn)519

第19章半監(jiān)督學(xué)習(xí)521
19.1問(wèn)題假設(shè)521
19.1.1連續(xù)性假設(shè)521
19.1.2聚類假設(shè)521
19.1.3流形假設(shè)521
19.1.4低密度分割假設(shè)521
19.2啟發(fā)式算法522
19.2.1自訓(xùn)練522
19.2.2協(xié)同訓(xùn)練522
19.3生成模型522
19.4低密度分割523
19.5基于圖的算法523
19.6半監(jiān)督深度學(xué)習(xí)524
參考文獻(xiàn)525

第20章強(qiáng)化學(xué)習(xí)527
20.1強(qiáng)化學(xué)習(xí)簡(jiǎn)介527
20.1.1問(wèn)題定義527
20.1.2馬爾可夫決策過(guò)程528
20.2基于動(dòng)態(tài)規(guī)劃的算法532
20.2.1策略迭代算法532
20.2.2價(jià)值迭代算法534
20.3蒙特卡洛算法535
20.3.1算法簡(jiǎn)介535
20.3.2狀態(tài)價(jià)值函數(shù)估計(jì)536
20.3.3動(dòng)作價(jià)值函數(shù)估計(jì)537
20.3.4蒙特卡洛控制537
20.4時(shí)序差分學(xué)習(xí)538
20.4.1Sarsa算法538
20.4.2Q學(xué)習(xí)539
20.5深度強(qiáng)化學(xué)習(xí)540
20.5.1深度Q網(wǎng)絡(luò)541
20.5.2策略梯度算法544
20.6應(yīng)用547
參考文獻(xiàn)547第三部分工程實(shí)踐問(wèn)題

第21章工程實(shí)踐問(wèn)題概述551
21.1實(shí)現(xiàn)細(xì)節(jié)問(wèn)題551
21.1.1訓(xùn)練樣本551
21.1.2特征預(yù)處理552
21.1.3模型選擇552
21.1.4過(guò)擬合問(wèn)題552
21.2安全性問(wèn)題553
21.2.1對(duì)抗樣本553
21.2.2形成原因分析555
21.3實(shí)現(xiàn)成本問(wèn)題556
21.3.1訓(xùn)練樣本量556
21.3.2計(jì)算與存儲(chǔ)成本556
21.4深度模型優(yōu)化557
21.4.1剪枝與編碼557
21.4.2二值化網(wǎng)絡(luò)558
21.4.3卷積核分離562
參考文獻(xiàn)563

附錄A各種機(jī)器學(xué)習(xí)算法的總結(jié)565

附錄B梯度下降法的演化關(guān)系（見(jiàn)第15章）569

附錄CEM算法的推導(dǎo)（見(jiàn)第18章）570