大規(guī)模數據管理

目錄
序 1
前言 3
第1 章 數據管理的變革 . 11
1.1 數據管理12
1.2 分析正在分割數據景觀 .15
1.3 軟件交付的速度正在發(fā)生變化 17
1.4 網絡變得更加快捷 18
1.5 隱私和安全性是重中之重 19
1.6 運營和事物系統(tǒng)需要被整合 20
1.7 數據商業(yè)化需要生態(tài)系統(tǒng)到生態(tài)系統(tǒng)的架構 20
1.8 企業(yè)受困于過時的數據架構 21
1.8.1 企業(yè)數據倉庫和商業(yè)智能 21
1.8.2 數據湖 24
1.8.3 中心化視角 26
1.9 小結 .27
第2 章 初窺可拓展架構：大規(guī)模數據管理 .29
2.1 普遍認可的起點 30
2.1.1 每一個應用程序都有一個應用程序數據庫 30
2.1.2 應用程序都是特定的而且有獨特的上下文 30
2.1.3 黃金數據源 31
2.1.4 無法擺脫的數據集成困境 31
2.1.5 應用程序既是數據提供者也是數據消費者 32
2.2 關鍵的理論考量 33
2.2.1 面向對象的編程原則.33
2.2.2 領域驅動設計 35
2.2.3 業(yè)務架構 .38
2.3 通信和集成模式 45
2.3.1 點對點 46
2.3.2 孤島 46
2.3.3 輪輻模型 .47
2.4 可擴展架構 48
2.4.1 黃金數據源和域數據存儲 49
2.4.2 數據交付契約和數據共享協(xié)議 .51
2.4.3 擺脫孤島方案 52
2.4.4 企業(yè)規(guī)模的領域驅動設計 53
2.4.5 讀優(yōu)化的數據 56
2.4.6 從整體的視角看數據層 58
2.4.7 元數據和目標運營模式 61
2.5 小結 .63
第3 章 管理海量數據：只讀數據存儲架構 .65
3.1 RDS 架構簡介 65
3.2 命令和查詢職責分離 66
3.2.1 什么是CQRS 66
3.2.2 規(guī)?；腃QRS 68
3.3 只讀數據存儲組件和服務 73
3.3.1 元數據 74
3.3.2 數據質量 .75
3.3.3 RDS 層級 77
3.3.4 數據攝取 .78
3.3.5 集成商業(yè)化現成解決方案 81
3.3.6 從外部API 和SaaS 提取數據 82
3.3.7 歷史數據服務 82
3.3.8 設計的變化 86
3.3.9 數據復制 .88
3.3.10 訪問層 .89
3.3.11 文件操作服務 90
3.3.12 交付通知服務 .91
3.3.13 匿名服務 91
3.3.14 分布式編排92
3.4 智能消費服務 .93
3.5 按需填充RDS 96
3.6 直接使用RDS 的考量 97
3.7 小結 .98
第4 章 API 架構的服務和API 管理 99
4.1 API 架構簡介 99
4.2 什么是面向服務的架構 100
4.2.1 企業(yè)應用集成 104
4.2.2 服務編排 106
4.2.3 服務編舞 110
4.2.4 公共服務和私有服務 111
4.2.5 服務模型和規(guī)范數據模型 111
4.2.6 SOA 與企業(yè)數據倉庫架構的相似之處 . 112
4.3 SOA 的現代觀點 114
4.3.1 API 網關 114
4.3.2 責任模式 116
4.3.3 企業(yè)服務總線的新職責 . 118
4.3.4 服務合約 119
4.3.5 服務發(fā)現 119
4.4 微服務 .120
4.4.1 API 網關在微服務中的作用 122
4.4.2 函數 .122
4.4.3 服務網格 124
4.4.4 微服務的邊界 .125
4.4.5 在API 參考架構內的微服務 126
4.5 生態(tài)系統(tǒng)通信 127
4.6 基于API 的通信渠道 129
4.6.1 GraphQL 130
4.6.2 為前端服務的后端 131
4.7 元數據 .131
4.8 利用RDS 進行實時和密集讀取 .133
4.9 小結 134
第5 章 事件和響應管理：流式架構 . 137
5.1 流式架構簡介 137
5.2 異步事件模型與眾不同 138
5.3 事件驅動架構是什么樣的 .139
5.3.1 調停者拓撲 .140
5.3.2 代理者拓撲 .141
5.3.3 事件處理風格 .142
5.4 Apache Kafka 簡易入門 143
5.4.1 分布式事件數據 145
5.4.2 Apache Kafka 的功能 .147
5.5 流式架構.148
5.5.1 事件生產者 .148
5.5.2 事件消費者 .151
5.5.3 事件平臺 153
5.5.4 事件溯源和命令溯源154
5.5.5 治理模型 157
5.5.6 業(yè)務流 158
5.5.7 流式數據消費模式 161
5.5.8 事件攜帶狀態(tài)轉移 163
5.5.9 扮演RDS 的角色 .164
5.5.10 使用流式處理來填充RDS 164
5.5.11 用來指導領域的控制措施和政策 165
5.6 作為運營支撐的流式處理 .166
5.7 保證與一致性 167
5.7.1 一致性水平 .167
5.7.2 “至少一次、恰好一次和至多一次”的處理 167
5.7.3 消息順序 168
5.7.4 死信隊列 168
5.7.5 流式處理的互操作性169
5.8 用于治理和自助服務模型的元數據170
5.9 小結 171
第6 章 將知識串聯起來 173
6.1 架構回顧.173
6.1.1 RDS 架構 .174
6.1.2 API 架構 174
6.1.3 流式架構 175
6.1.4 強化模式 175
6.2 企業(yè)互操作性標準 .177
6.2.1 穩(wěn)定的數據端點 .178
6.2.2 數據交付契約 .181
6.2.3 可訪問和可尋址的數據 .182
6.2.4 跨網絡原則 .182
6.3 企業(yè)數據標準 188
6.3.1 消費優(yōu)化原則 .189
6.3.2 元數據的可發(fā)現性 192
6.3.3 語義一致性 .196
6.3.4 提供相應的元數據 200
6.3.5 數據來源與移動 200
6.4 參考架構.203
6.5 小結 204
第7 章 可持續(xù)的數據治理與數據安全 207
7.1 數據治理.207
7.1.1 組織：數據治理的角色 .209
7.1.2 流程：數據治理的活動 .212
7.1.3 人員：信任與道德、社會和經濟的考量 214
7.1.4 技術：黃金數據源，所有權和應用程序管理 214
7.1.5 數據：黃金數據源，黃金源數據集和分類 .216
7.2 數據安全.224
7.2.1 時下的孤島方法 225
7.2.2 架構的統(tǒng)一數據安全225
7.2.3 身份提供者 .227
7.2.4 安全參考架構和數據上下文方法 .228
7.2.5 安全處理流程 .230
7.3 實踐指南.234
7.3.1 RDS 架構 .234
7.3.2 API 架構 236
7.3.3 流式架構 240
7.3.4 智能學習引擎 .241
7.4 小結 242
第8 章 從數據獲取價值 243
8.1 消費模式.244
8.1.1 直接使用只讀數據存儲 .244
8.1.2 領域數據存儲 .245
8.2 目標運營模式 247
8.3 作為目標用戶群體的數據專業(yè)人員248
8.4 業(yè)務需求.250
8.5 非功能性需求 250
8.6 創(chuàng)建數據管道和數據模型 .252
8.7 分發(fā)集成數據 259
8.8 商業(yè)智能能力 260
8.9 自助服務能力 262
8.10 分析能力 265
8.10.1 自動化部署的標準基礎設施 266
8.10.2 無狀態(tài)模型266
8.10.3 預設和配置好的工作臺 266
8.10.4 模型集成模式的標準化 267
8.10.5 自動化 .268
8.10.6 模型元數據268
8.11 高級分析參考架構 270
8.12 小結 273
第9 章 掌握企業(yè)數據資產 275
9.1 揭秘主數據管理 .276
9.2 主數據管理風格 .276
9.3 主數據管理參考架構 278
9.3.1 設計主數據管理解決方案 279
9.3.2 MDM 的分發(fā) 281
9.3.3 主標識號 281
9.3.4 參考數據與主數據 282
9.4 確定企業(yè)數據的范圍 283
9.5 MDM 和數據質量即服務 286
9.6 精選數據.286
9.6.1 元數據交換 .287
9.6.2 集成視圖 288
9.6.3 可復用組件和集成邏輯 .288
9.6.4 數據重新發(fā)布 .289
9.7 與數據治理的關系 .290
9.8 小結 290
第10 章 通過元數據實現數據民主化 293
10.1 元數據管理 .294
10.2 企業(yè)元數據模型 295
10.3 企業(yè)知識圖譜 303
10.4 元數據管理的架構方法 307
10.4.1 元數據互操作性 .308
10.4.2 元數據存儲庫 310
10.5 能提供快速訪問授權數據的市場 313
10.6 小結 316
第11 章 結論 317
11.1 交付模式 318
11.1.1 完全去中心化方案 319
11.1.2 部分去中心化方案 320
11.1.3 構建團隊 320
11.1.4 內部開源策略 321
11.2 文化 322
11.3 技術選擇 323
11.4 傳統(tǒng)企業(yè)架構的沒落 .324
11.4.1 藍圖和圖表 324
11.4.2 現代技能 325
11.4.3 控制和管理 325
11.5 最后的話 326
術語 . 327