數(shù)據(jù)整理實(shí)踐指南

第1章 從頭說起：什么是噪音數(shù)據(jù)\t1
第2章 是我的問題還是數(shù)據(jù)的問題\t4
2．1 理解數(shù)據(jù)結(jié)構(gòu)\t5
2．2 校驗(yàn)\t8
2．2．1 字段校驗(yàn)\t8
2．2．2 值校驗(yàn)\t9
2．2．3 簡單統(tǒng)計(jì)的物理解釋\t10
2．3 可視化\t11
2．3．1 關(guān)鍵詞競價(jià)排名示例\t13
2．3．2 搜索來源示例\t18
2．3．3 推薦分析\t19
2．3．4 時(shí)間序列數(shù)據(jù)\t22
2．4 小結(jié)\t27
第3章 數(shù)據(jù)是給人看的不是給機(jī)器看的\t28
3．1 數(shù)據(jù)\t28
3．1．1 問題：數(shù)據(jù)是給人看的\t29
3．1．2 對數(shù)據(jù)的安排\t29
3．1．3 數(shù)據(jù)分散在多個(gè)文件中\(zhòng)t32
3．2 解決方案：編寫代碼\t34
3．2．1 從糟糕的數(shù)據(jù)格式中讀取數(shù)據(jù)\t34
3．2．2 從多個(gè)文件中讀取數(shù)據(jù)\t36
3．3 附言\t42
3．4 其他格式\t43
3．5 小結(jié)\t45
第4章 純文本中潛在的噪音數(shù)據(jù)\t46
4．1 使用哪種純文本編碼？\t46
4．2 猜測文本編碼格式\t50
4．3 對文本規(guī)范化處理\t53
4．4 問題：在純文本中摻入了特定應(yīng)用字符\t55
4．5 通過Python處理文本\t59
4．6 實(shí)踐練習(xí)題\t60
第5章 重組Web數(shù)據(jù)\t62
5．1 你能獲得數(shù)據(jù)嗎\t63
5．1．1 一般工作流程示例\t64
5．1．2 Robots 協(xié)議\t65
5．1．3 識別數(shù)據(jù)組織模式\t66
5．1．4 存儲離線版本\t68
5．1．5 網(wǎng)頁抓取信息\t69
5．2 真正的困難\t73
5．2．1 下載原始內(nèi)容\t73
5．2．2 表單、對話框和新建窗口\t73
5．2．3 Flash\t74
5．3 不利情況的解決辦法\t75
5．4 小結(jié)\t75
第6章 檢測撒謊者以及相互矛盾網(wǎng)上評論的困惑\t76
6．1 Weotta公司\t76
6．2 獲得評論\t77
6．3 情感分類\t77
6．4 極化語言\t78
6．5 創(chuàng)建語料庫\t80
6．6 訓(xùn)練分類器\t81
6．7 分類器驗(yàn)證\t82
6．8 用數(shù)據(jù)設(shè)計(jì)\t84
6．9 經(jīng)驗(yàn)教訓(xùn)\t84
6．10 小結(jié)\t85
6．11 信息資源\t86
第7章 請?jiān)胍魯?shù)據(jù)站出來\t87
7．1 實(shí)例1：在制造業(yè)中減少缺陷\t87
7．2 實(shí)例2：誰打來的電話\t90
7．3 實(shí)例3：當(dāng)“典型的”不等于“平均的”\t92
7．4 經(jīng)驗(yàn)總結(jié)\t95
7．5 到工廠參觀能成為試驗(yàn)的一部分嗎\t96
第8章 血、汗和尿\t97
8．1 書呆子戲劇性工作交換\t97
8．2 化學(xué)家如何整理數(shù)字\t98
8．3 數(shù)據(jù)庫都是我們的\t99
8．4 仔細(xì)檢查\t102
8．5 生命短暫的漂亮代碼庫\t103
8．6 改變化學(xué)家（和其他電子表單濫用者）\t104
8．7 傳遞線（tl）和數(shù)據(jù)記錄器（dr）\t105
第9章 當(dāng)數(shù)據(jù)與現(xiàn)實(shí)不匹配\t107
9．1 到底是誰的報(bào)價(jià)機(jī)\t108
9．2 股票分割、股利和調(diào)整\t110
9．3 糟糕的現(xiàn)實(shí)\t112
9．4 小結(jié)\t114
第10章 偏差和誤差的來源\t115
10．1 估算上的偏差：一般性的問題\t117
10．2 報(bào)告上的誤差：一般性的問題\t118
10．3 其他偏差來源\t121
10．3．1 頂層編碼/底部編碼\t121
10．3．2 Seam偏差\t122
10．3．3 代理報(bào)告\t123
10．3．4 樣本選擇\t123
10．4 結(jié)論\t124
參考文獻(xiàn)\t124
第11章 不要把完美和正確對立起來：噪音數(shù)據(jù)真是噪音嗎\t128
11．1 回憶學(xué)校生活\t128
11．2 向著專業(yè)領(lǐng)域前進(jìn)\t129
11．2．1 政府工作\t130
11．2．2 政府?dāng)?shù)據(jù)非常真實(shí)\t131
11．3 應(yīng)用實(shí)例—服務(wù)電話\t132
11．4 繼續(xù)前進(jìn)\t133
11．5 經(jīng)驗(yàn)與未來展望\t134
第12章 數(shù)據(jù)庫攻擊：什么時(shí)候使用文件\t135
12．1 歷史\t135
12．2 建立我的工具箱\t136
12．3 數(shù)據(jù)存儲—我的路障\t136
12．4 將文件作為數(shù)據(jù)存儲器\t137
12．4．1 簡單的文件\t138
12．4．2 文件處理一切\(zhòng)t138
12．4．3 文件可包含任何數(shù)據(jù)形式\t138
12．4．4 局部數(shù)據(jù)破壞\t139
12．4．5 文件擁有很棒的工具\(yùn)t139
12．4．6 沒有安裝稅\t139
12．5 文件的概念\t140
12．5．1 編碼\t140
12．5．2 文本文件\t140
12．5．3 二進(jìn)制數(shù)據(jù)\t140
12．5．4 內(nèi)存映射文件\t140
12．5．5 文件格式\t140
12．5．6 分隔符\t142
12．6 文件支持的網(wǎng)絡(luò)框架\t143
12．6．1 動機(jī)\t143
12．6．2 實(shí)現(xiàn)\t145
12．7 反饋\t145
第13章 臥庫表，隱網(wǎng)絡(luò)\t146
13．1 成本分配模型\t147
13．2 組合展開微妙的作用\t150
13．3 隱藏網(wǎng)絡(luò)的浮現(xiàn)\t151
13．4 存儲圖表\t151
13．5 利用Gremlin遍歷圖表\t152
13．6 在網(wǎng)絡(luò)屬性里尋找價(jià)值\t154
13．7 從多重?cái)?shù)據(jù)模型角度考慮并使用正確的工具\(yùn)t155
13．8 致謝\t155
第14章 云計(jì)算神話\t156
14．1 關(guān)于云的介紹\t156
14．2 何謂“云”\t156
14．3 云和大數(shù)據(jù)\t157
14．4 Fred的故事\t157
14．4．1 起初一切都好\t157
14．4．2 基礎(chǔ)結(jié)構(gòu)全部放在云端\t158
14．4．3 隨著規(guī)模增長，最初的擴(kuò)展很輕松\t158
14．4．4 麻煩出現(xiàn)了\t158
14．4．5 需要提高性能\t158
14．4．6 關(guān)鍵要提高RAID 10性能\t158
14．4．7 重要的局部運(yùn)行中斷引發(fā)長期停機(jī)\t159
14．4．8 有代價(jià)的RAID 10\t159
14．4．9 數(shù)據(jù)規(guī)模增大\t160
14．4．10 地理冗余成為首選\t160
14．4．11 水平擴(kuò)展并不像想像得那么簡單\t160
14．4．12 成本顯著增長\t160
14．5 Fred的荒唐事\t161
14．5．1 神話1：云是所有基礎(chǔ)設(shè)施組件的解決方案\t161
該神話與Fred故事的聯(lián)系\t161
14．5．2 神話2：云可以節(jié)約成本\t161
該神話與Fred的故事的聯(lián)系\t162
14．5．3 神話3：通過RAID可以將cloud 10的性能提高至可接受的水平\t163
該神話與Fred故事的聯(lián)系\t163
14．5．4 神話4：云計(jì)算使水平擴(kuò)展輕松\t163
該神話與Fred故事的聯(lián)系\t164
14．6 結(jié)論和推薦\t164
第15章 數(shù)據(jù)科學(xué)的陰暗面\t165
15．1 避開這些陷阱\t165
15．1．1 對數(shù)據(jù)一無所知\t166
15．1．2 應(yīng)該只為數(shù)據(jù)科學(xué)家提供一種工具來解決所有問題\t167
15．1．3 應(yīng)該為了分析而分析\t169
15．1．4 應(yīng)該學(xué)會分享\t169
15．1．5 應(yīng)該期望數(shù)據(jù)科學(xué)家無所不能\t170
15．2 數(shù)據(jù)學(xué)家在機(jī)構(gòu)中的位置\t170
15．3 最后的想法\t171
第16章 如何雇傭機(jī)器學(xué)習(xí)專家\t172
16．1 確定問題\t172
16．2 模型測試\t173
16．3 創(chuàng)建訓(xùn)練集\t174
16．4 選擇特征\t175
16．5 數(shù)據(jù)編碼\t176
16．6 訓(xùn)練集、測試集和解決方案集\t176
16．7 問題描述\t177
16．8 回答問題\t178
16．9 整合解決方案\t178
16．10 小結(jié)\t179
第17章 數(shù)據(jù)的可追蹤性\t180
17．1 原因\t180
17．2 個(gè)人經(jīng)驗(yàn)\t181
17．2．1 快照\t181
17．2．2 保存數(shù)據(jù)源\t181
17．2．3 衡量數(shù)據(jù)源\t182
17．2．4 逆向恢復(fù)數(shù)據(jù)\t182
17．2．5 分階段處理數(shù)據(jù)并保持各階段的獨(dú)立性\t182
17．2．6 識別根源\t183
17．2．7 尋找要完善的區(qū)域\t183
17．3 不變性：從函數(shù)程序設(shè)計(jì)借來的理念\t183
17．4 案例\t184
17．4．1 網(wǎng)絡(luò)爬蟲\t184
17．4．2 改變\t185
17．4．3 聚類\t185
17．4．4 普及度\t185
17．5 小結(jié)\t186
第18章 社交媒體：是可抹去的印記嗎\t187
18．1 社交媒體：到底是誰的數(shù)據(jù)\t188
18．2 管控\t188
18．3 商業(yè)重組\t190
18．4 對溝通和表達(dá)的期望\t190
18．5 新的最終用戶期望的技術(shù)含義\t192
18．6 這個(gè)行業(yè)是做什么的\t194
18．6．1 驗(yàn)證API\t195
18．6．2 更新通知API\t195
18．7 最終用戶做什么\t195
18．8 我們怎樣一起工作\t196
第19章 揭秘?cái)?shù)據(jù)質(zhì)量分析：了解什么時(shí)候數(shù)據(jù)足夠優(yōu)質(zhì)\t197
19．1 框架介紹：數(shù)據(jù)質(zhì)量分析的4個(gè)C\t198
19．1．1 完整性\t199
19．1．2 一致性\t201
19．1．3 準(zhǔn)確性\t203
19．1．4 可解釋性\t205
19．2 結(jié)論\t208