自然語言處理實(shí)戰(zhàn)：從入門到項(xiàng)目實(shí)踐

第 1章　自然語言處理概要 3
1.1　真實(shí)世界中的自然語言處理 4
1.2　什么是語言 7
1.2.1　語言的基本模塊 8
1.2.2　為什么自然語言處理很困難 10
1.3　機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和自然語言處理：概述 12
1.4　自然語言處理方法 13
1.4.1　基于啟發(fā)式的自然語言處理 13
1.4.2　用于自然語言處理的機(jī)器學(xué)習(xí) 16
1.4.3　用于自然語言處理的深度學(xué)習(xí) 18
1.4.4　為什么深度學(xué)習(xí)還不是自然語言處理的靈丹妙藥 22
1.5　自然語言處理演練：對(duì)話智能體 25
1.6　小結(jié) 26
第 2章　自然語言處理流水線 27
2.1　數(shù)據(jù)獲取 28
2.2　文本提取和清洗 31
2.2.1　HTML 解析和清洗 32
2.2.2　Unicode 規(guī)范化 33
2.2.3　拼寫更正 34
2.2.4　特定于系統(tǒng)的錯(cuò)誤更正 35
2.3　預(yù)處理 37
2.3.1　預(yù)備步驟 37
2.3.2　常用步驟 39
2.3.3　其他預(yù)處理步驟 42
2.3.4　高級(jí)處理 43
2.4　特征工程 45
2.4.1　經(jīng)典自然語言處理/ 機(jī)器學(xué)習(xí)流水線 .47
2.4.2　深度學(xué)習(xí)流水線 47
2.5　建模 47
2.5.1　從簡(jiǎn)單的啟發(fā)式開始 47
2.5.2　構(gòu)建自己的模型 48
2.5.3　構(gòu)建最終模型 49
2.6　評(píng)估 51
2.6.1　內(nèi)在評(píng)估 51
2.6.2　外在評(píng)估 53
2.7　建模之后的階段 54
2.7.1　部署 54
2.7.2　監(jiān)控 54
2.7.3　模型更新 55
2.8　使用其他語言 55
2.9　案例研究 56
2.10　小結(jié) 57
第3 章　文本表示 58
3.1　向量空間模型 60
3.2　基本的向量化方法 61
3.2.1　獨(dú)熱編碼 62
3.2.2　詞袋 .63
3.2.3　n-gram袋 64
3.2.4　TF-IDF 65
3.3　分布式表示 67
3.3.1　詞嵌入 68
3.3.2　詞語之上 75
3.4　詞和字符之上的分布式表示 77
3.5　通用文本表示 77
3.6　可視化嵌入 79
3.7　人工特征表示 82
3.8　小結(jié) 83
第4章　文本分類 87
4.1　應(yīng)用程序 88
4.2　文本分類流水線 90
4.2.1　不使用文本分類流水線的簡(jiǎn)單分類器 91
4.2.2　使用現(xiàn)成的文本分類API 91
4.3　一個(gè)流水線，多個(gè)分類器 92
4.3.1　樸素貝葉斯分類器 92
4.3.2　邏輯回歸 .96
4.3.3　SVM 97
4.4　在文本分類中使用神經(jīng)嵌入 98
4.4.1　詞嵌入 98
4.4.2　子詞嵌入和fastText 100
4.4.3　文檔嵌入 101
4.5　用于文本分類的深度學(xué)習(xí) 103
4.5.1　用于文本分類的CNN 104
4.5.2　用于文本分類的LSTM 106
4.5.3　使用大型預(yù)訓(xùn)練語言模型進(jìn)行文本分類 106
4.6　解釋文本分類模型 107
4.7　無數(shù)據(jù)或少數(shù)據(jù)學(xué)習(xí)和新領(lǐng)域適應(yīng) 109
4.7.1　無訓(xùn)練數(shù)據(jù) 109
4.7.2　少訓(xùn)練數(shù)據(jù)：主動(dòng)學(xué)習(xí)和領(lǐng)域適應(yīng) 110
4.8　案例研究：企業(yè)工單系統(tǒng) 111
4.9　實(shí)用建議 114
4.10　小結(jié) 115
第5章　信息提取 116
5.1　信息提取應(yīng)用程序 117
5.2　信息提取任務(wù) 117
5.3　信息提取的通用流水線 119
5.4　關(guān)鍵詞提取 120
5.4.1　實(shí)現(xiàn)關(guān)鍵詞提取 121
5.4.2　實(shí)用建議 121
5.5　命名實(shí)體識(shí)別 122
5.5.1　構(gòu)建命名實(shí)體識(shí)別系統(tǒng) 123
5.5.2　命名實(shí)體識(shí)別：使用現(xiàn)有庫(kù) 126
5.5.3　命名實(shí)體識(shí)別：使用主動(dòng)學(xué)習(xí) 126
5.5.4　實(shí)用建議 127
5.6　命名實(shí)體消歧與鏈接 128
5.7　關(guān)系提取 129
5.7.1　關(guān)系提取的方法 130
5.7.2　關(guān)系提?。菏褂肐BM 沃森API 132
5.8　其他高級(jí)信息提取任務(wù) 133
5.8.1　時(shí)間信息提取 133
5.8.2　事件提取 134
5.8.3　模板填充 135
5.9　案例研究 136
5.10　小結(jié) 139
第6章　聊天機(jī)器人 140
6.1　聊天機(jī)器人的應(yīng)用 141
6.2　聊天機(jī)器人的分類 143
6.2.1　目標(biāo)導(dǎo)向?qū)υ捠?144
6.2.2　閑聊式144
6.3　構(gòu)建對(duì)話系統(tǒng)的流水線 144
6.4　對(duì)話系統(tǒng)原理 146
6.5　深入對(duì)話系統(tǒng)的組件 155
6.5.1　對(duì)話行為分類 156
6.5.2　識(shí)別插槽 156
6.5.3　生成響應(yīng) 157
6.5.4　帶有代碼演練的對(duì)話示例 158
6.6　其他對(duì)話流水線 162
6.6.1　端到端方法 162
6.6.2　用于對(duì)話生成的深度強(qiáng)化學(xué)習(xí) 163
6.6.3　人工監(jiān)督 164
6.7　Rasa NLU 165
6.8　案例研究：食譜推薦 167
6.8.1　利用現(xiàn)有框架 168
6.8.2　開放式生成聊天機(jī)器人 169
6.9　小結(jié) 170
第7章　主題簡(jiǎn)介 172
7.1　搜索和信息檢索 173
7.1.1　搜索引擎組件 175
7.1.2　常見企業(yè)搜索流水線 177
7.1.3　一個(gè)配置搜索引擎的例子 178
7.1.4　案例研究：書店搜索 179
7.2　主題建模 180
7.2.1　一個(gè)構(gòu)建主題模型的例子 183
7.2.2　下一步是什么 184
7.3　文本摘要 185
7.3.1　摘要用例 185
7.3.2　一個(gè)設(shè)置摘要器的示例 186
7.3.3　實(shí)用建議 187
7.4　文本推薦系統(tǒng) 188
7.4.1　一個(gè)圖書推薦系統(tǒng)示例 188
7.4.2　實(shí)用建議 189
7.5　機(jī)器翻譯 189
7.5.1　一個(gè)使用機(jī)器翻譯API 的示例 190
7.5.2　實(shí)用建議 191
7.6　問答系統(tǒng) 192
7.6.1　開發(fā)自定義問答系統(tǒng) 193
7.6.2　尋找更有深度的答案 193
7.7　小結(jié) 194
第8章　社交媒體 197
8.1　應(yīng)用 198
8.2　獨(dú)特的挑戰(zhàn) 199
8.3　用于社交平臺(tái)數(shù)據(jù)的自然語言處理 205
8.3.1　詞云 205
8.3.2　用于SMTD 的分詞器 206
8.3.3　熱門話題 207
8.3.4　理解Twitter 的情緒 207
8.3.5　SMTD 的預(yù)處理 209
8.3.6　SMTD 的文本表示 212
8.3.7　社交媒體渠道的客戶支持 215
8.4　模因與虛假新聞 216
8.4.1　識(shí)別模因 217
8.4.2　虛假新聞 218
8.5　小結(jié) 219
第9 章　電子商務(wù)與零售 220
9.1　電子商務(wù)目錄 221
9.1.1　評(píng)論分析 221
9.1.2　產(chǎn)品搜索 221
9.1.3　產(chǎn)品推薦 222
9.2　電子商務(wù)中的搜索 222
9.3　構(gòu)建電子商務(wù)目錄 224
9.3.1　屬性提取 224
9.3.2　產(chǎn)品分類與分類樹 228
9.3.3　產(chǎn)品濃縮 231
9.3.4　產(chǎn)品去重和匹配 233
9.4　評(píng)論分析 234
9.4.1　情感分析 234
9.4.2　方面級(jí)情感分析 236
9.4.3　將總體評(píng)分與“方面”聯(lián)系起來 238
9.4.4　理解“方面” 239
9.5　電子商務(wù)推薦 240
9.6　小結(jié) 243
第 10章　醫(yī)療、金融和法律 244
10.1　醫(yī)療 244
10.1.1　健康和醫(yī)療記錄 245
10.1.2　患者優(yōu)先級(jí)和計(jì)費(fèi) 246
10.1.3　藥物安全監(jiān)視 246
10.1.4　臨床決策支持系統(tǒng) 246
10.1.5　健康助理 247
10.1.6　電子健康記錄 248
10.1.7　心理健康監(jiān)測(cè) 255
10.1.8　醫(yī)療信息提取與分析 257
10.2　金融與法律 259
10.2.1　自然語言處理在金融領(lǐng)域中的應(yīng)用 261
10.2.2　自然語言處理與法律行業(yè) 263
10.3　小結(jié) 266
第 11章　端到端自然語言處理系統(tǒng) 269
11.1　重溫自然語言處理流水線：部署自然語言處理軟件 270
11.2　構(gòu)建和維護(hù)成熟的系統(tǒng) 272
11.2.1　尋找更好的特征 273
11.2.2　迭代現(xiàn)有模型 274
11.2.3　代碼和模型再現(xiàn)性 274
11.2.4　故障排除和可解釋性 275
11.2.5　監(jiān)控 277
11.2.6　盡量減少技術(shù)債務(wù) 278
11.2.7　自動(dòng)化機(jī)器學(xué)習(xí) 279
11.3　數(shù)據(jù)科學(xué)過程 282
11.3.1　KDD 過程 282
11.3.2　微軟TDSP 283
11.4　讓人工智能在組織中取得成功 284
11.4.1　團(tuán)隊(duì) 285
11.4.2　正確的問題和正確的期望 285
11.4.3　數(shù)據(jù)和時(shí)間 286
11.4.4　好的流程 287
11.4.5　其他方面 288
11.5　展望未來 290
11.6　結(jié)語 292