半監(jiān)督學(xué)習(xí)

目錄
《信息科學(xué)技術(shù)學(xué)術(shù)著作叢書》序
前言
第1章 半監(jiān)督學(xué)習(xí)導(dǎo)論 1
1.1 有監(jiān)督、無監(jiān)督和半監(jiān)督學(xué)習(xí) 1
1.2 何時半監(jiān)督學(xué)習(xí)可以工作？ 4
1.3 算法分類和本書組織 6
參考文獻(xiàn) 10
第一部分 生成式模型
第2章 半監(jiān)督學(xué)習(xí)的分類體系 15
2.1 半監(jiān)督學(xué)習(xí)問題 15
2.2 半監(jiān)督學(xué)習(xí)的范式 16
2.3 實(shí)例 22
2.4 結(jié)論 29
參考文獻(xiàn) 30
第3章 用EM進(jìn)行半監(jiān)督的文本分類 32
3.1 概述 32
3.2 文本的生成式模型 34
3.3 基本EM算法的實(shí)驗(yàn)結(jié)果 39
3.4 使用更具表達(dá)能力的生成式模型 41
3.5 克服局部極大值的缺點(diǎn) 46
3.6 結(jié)論與總結(jié) 51
參考文獻(xiàn) 51
第4章 半監(jiān)督學(xué)習(xí)的風(fēng)險 54
4.1 無標(biāo)記數(shù)據(jù)對分類性能的影響 54
4.2 從漸進(jìn)偏差的角度理解無標(biāo)記數(shù)據(jù)的作用 57
4.3 生成式半監(jiān)督學(xué)習(xí)方法的漸進(jìn)分析 60
4.4 有標(biāo)記數(shù)據(jù)和無標(biāo)記數(shù)據(jù)的用途 63
4.5 有限樣本集的影響 66
4.6 模型搜索和魯棒性 67
4.7 結(jié)論 68
參考文獻(xiàn) 68
第5章 有約束的概率半監(jiān)督聚類方法 71
5.1 引言 71
5.2 基于HMRF的半監(jiān)督聚類模型 73
5.3 HMRF-KMeans算法 77
5.4 獲取約束的主動學(xué)習(xí)方法 89
5.5 實(shí)驗(yàn)結(jié)果 91
5.6 相關(guān)工作 96
5.7 結(jié)論 97
參考文獻(xiàn) 98
第二部分 低密度分割
第6章 基于TSVM的半監(jiān)督學(xué)習(xí) 105
6.1 引言 105
6.2 TSVM 107
6.3 在測試集上使用邊緣的原因 110
6.4 TSVM的實(shí)驗(yàn)和應(yīng)用 111
6.5 解決TSVM的優(yōu)化問題 113
6.6 與其他相關(guān)算法的聯(lián)系 114
6.7 結(jié)論與總結(jié) 115
參考文獻(xiàn) 115
第7章 基于SDP的半監(jiān)督學(xué)習(xí) 118
7.1 SVM直推問題的松弛 118
7.2 加速近似 124
7.3 一般的半監(jiān)督學(xué)習(xí)情形 126
7.4 經(jīng)驗(yàn)結(jié)果 127
7.5 小結(jié) 130
7.6 附錄 130
參考文獻(xiàn) 132
第8章 高斯過程與空類別噪聲模型 134
8.1 引言 134
8.2 噪聲模型 137
8.3 過程模型與空類別的效果 139
8.4 后驗(yàn)推斷與預(yù)測 141
8.5 結(jié)果 143
8.6 討論 147
參考文獻(xiàn) 147
第9章 熵正則化 148
9.1 引言 148
9.2 準(zhǔn)則的推導(dǎo) 149
9.3 *優(yōu)化算法 152
9.4 相關(guān)方法 154
9.5 實(shí)驗(yàn) 156
9.6 結(jié)論 161
參考文獻(xiàn) 163
第10章 數(shù)據(jù)相關(guān)的正則方法 166
10.1 引言 166
10.2 度量空間中的信息正則 170
10.3 信息正則與關(guān)系數(shù)據(jù) 179
10.4 討論 186
參考文獻(xiàn) 186
第三部分 基于圖的方法
第11章 標(biāo)簽傳播和二次準(zhǔn)則 191
11.1 引言 191
11.2 基于相似度圖的標(biāo)簽傳播 192
11.3 二次代價準(zhǔn)則 196
11.4 從直推式學(xué)習(xí)到歸納式學(xué)習(xí) 202
11.5 融合類先驗(yàn)知識 203
11.6 半監(jiān)督學(xué)習(xí)的維度災(zāi)難 204
11.7 討論 211
參考文獻(xiàn) 212
第12章 半監(jiān)督學(xué)習(xí)的幾何基礎(chǔ) 214
12.1 引言 214
12.2 正則中引入幾何 216
12.3 算法 219
12.4 半監(jiān)督學(xué)習(xí)中數(shù)據(jù)相關(guān)的核 224
12.5 大規(guī)模半監(jiān)督學(xué)習(xí)的線性方法 226
12.6 其他關(guān)聯(lián)算法和相關(guān)工作 228
12.7 未來工作 230
參考文獻(xiàn) 230
第13章 離散正則 232
13.1 引言 232
13.2 離散分析 233
13.3 離散正則 239
13.4 結(jié)論 242
參考文獻(xiàn) 243
第14章 基于條件調(diào)和混合的半監(jiān)督學(xué)習(xí) 244
14.1 引言 244
14.2 CHM 247
14.3 CHM模型的學(xué)習(xí) 248
14.4 融入先驗(yàn)知識 252
14.5 學(xué)習(xí)條件分布 253
14.6 模型平均 253
14.7 實(shí)驗(yàn) 254
14.8 結(jié)論 263
參考文獻(xiàn) 263
第四部分 表示的變換
第15章 譜變換圖核 269
15.1 圖拉普拉斯 269
15.2 譜變換核 271
15.3 核對齊 273
15.4 使用QCQP為半監(jiān)督學(xué)習(xí)優(yōu)化對齊 273
15.5 序約束的半監(jiān)督核 274
15.6 實(shí)驗(yàn)結(jié)果 276
15.7 結(jié)論 282
參考文獻(xiàn) 283
第16章 使用譜方法進(jìn)行維度約減 284
16.1 引言 284
16.2 線性方法 285
16.3 基于圖的方法 287
16.4 核方法 292
16.5 討論 295
參考文獻(xiàn) 297
第17章 修正距離 299
17.1 引言 299
17.2 估計DBD度量 302
17.3 計算DBD度量 311
17.4 采用基于密度的度量的半監(jiān)督學(xué)習(xí) 317
17.5 結(jié)論和未來工作 319
參考文獻(xiàn) 319
第五部分 半監(jiān)督學(xué)習(xí)實(shí)踐
第18章 大規(guī)模算法 323
18.1 引言 323
18.2 代價近似 324
18.3 子集選擇 327
18.4 討論 330
參考文獻(xiàn) 331
第19章 使用聚類核的半監(jiān)督蛋白質(zhì)分類 332
19.1 引言 332
19.2 蛋白質(zhì)序列的表示與核 334
19.3 蛋白質(zhì)序列的半監(jiān)督核 336
19.4 實(shí)驗(yàn) 340
19.5 討論 346
參考文獻(xiàn) 347
第20章 網(wǎng)絡(luò)中的蛋白質(zhì)功能預(yù)測 350
20.1 引言 350
20.2 基于圖的半監(jiān)督學(xué)習(xí)方法 353
20.3 結(jié)合多張圖 354
20.4 蛋白質(zhì)功能預(yù)測的實(shí)驗(yàn) 357
20.5 結(jié)論和展望 362
參考文獻(xiàn) 362
第21章 基準(zhǔn)測試分析 365
21.1 基準(zhǔn)測試 365
21.2 半監(jiān)督學(xué)習(xí)方法應(yīng)用 370
21.3 結(jié)果與討論 377
參考文獻(xiàn) 381
第六部分 視 角
第22章 用于半監(jiān)督學(xué)習(xí)的一個擴(kuò)展PAC模型 385
22.1 引言 385
22.2 一個形式化的框架 388
22.3 樣本復(fù)雜度結(jié)果 390
22.4 算法的結(jié)果 399
22.5 相關(guān)模型和討論 403
參考文獻(xiàn) 406
第23章 基于度量的半監(jiān)督分類和回歸方法 410
23.1 引言 410
23.2 半監(jiān)督學(xué)習(xí)的度量結(jié)構(gòu) 411
23.3 模型選擇 414
23.4 正則 424
23.5 分類 432
23.6 結(jié)論 437
參考文獻(xiàn) 438
第24章 直推式學(xué)習(xí)和半監(jiān)督學(xué)習(xí) 441
24.1 問題設(shè)置 441
24.2 歸納式和直推式學(xué)習(xí)的泛化問題 442
24.3 VC界的結(jié)構(gòu)和直推式學(xué)習(xí) 444
24.4 對稱化引理和直推式 445
24.5 直推式學(xué)習(xí)的界 447
24.6 歸納和直推的結(jié)構(gòu)風(fēng)險*小原理 447
24.7 直推式學(xué)習(xí)中的組合學(xué) 449
24.8 等價類大小的度量 449
24.9 歸納和直推式SVM的算法 451
24.10 半監(jiān)督學(xué)習(xí) 455
24.11 直推式學(xué)習(xí)和學(xué)習(xí)的新問題 456
24.12 選擇性推理 456
參考文獻(xiàn) 457
第25章 關(guān)于半監(jiān)督學(xué)習(xí)和直推式學(xué)習(xí)的一個討論 459
參考文獻(xiàn) 462