云原生時代的可觀測系統(tǒng)最佳實戰(zhàn)

第1章  可觀測性概述 1
1.1　可觀測系統(tǒng)的演進 1
1.1.1  系統(tǒng)架構(gòu)的演進 1
1.1.2  可觀測性和監(jiān)控的關(guān)系 6
1.1.3  可觀測性技術(shù)的現(xiàn)狀 13
1.2　可觀測性數(shù)據(jù) 20
1.2.1  可觀測性數(shù)據(jù)的類型 20
1.2.2  實戰(zhàn)場景下運維人員觀測的數(shù)據(jù) 24
1.2.3  實戰(zhàn)場景下研發(fā)人員觀測的數(shù)據(jù) 27
1.3　可觀測性技術(shù)的價值 29
1.3.1  發(fā)現(xiàn)系統(tǒng)故障 30
1.3.2  預測系統(tǒng)故障和容量 31
1.3.3  提供事故分析報告 33
1.3.4  預測變更的影響 35
第2章  系統(tǒng)架構(gòu) 38
2.1　架構(gòu)設(shè)計的基本原則 38
2.1.1  統(tǒng)一的數(shù)據(jù)語義 39
2.1.2  統(tǒng)一的數(shù)據(jù)處理平臺 46
2.1.3  統(tǒng)一的可視化系統(tǒng) 48
2.2　平臺基礎(chǔ)架構(gòu)設(shè)計實戰(zhàn) 53
2.2.1  實戰(zhàn)一：基于開源Grafana Prometheus Tempo Loki的解決方案 53
2.2.2  實戰(zhàn)二：基于開源Elastic Stack的解決方案 71
2.2.3  實戰(zhàn)三：開源架構(gòu)優(yōu)化之解決大規(guī)模數(shù)據(jù)計算問題 81
第3章  日志系統(tǒng)實戰(zhàn) 91
3.1　日志模型的設(shè)計 91
3.2　日志系統(tǒng)的選型實戰(zhàn) 95
3.2.1  全文檢索的首選：Elasticsearch實戰(zhàn) 95
3.2.2  新生代列式存儲：ClickHouse實戰(zhàn) 101
3.3　Elasticsearch調(diào)優(yōu)實戰(zhàn)指南 104
3.3.1  實戰(zhàn)一：Elasticsearch索引模塊及配置Index、Shard、Segment 105
3.3.2  實戰(zhàn)二：合理使用Elasticsearch數(shù)據(jù)字段，配置pipeline和mapping 113
3.3.3  實戰(zhàn)三：在大規(guī)模系統(tǒng)中選擇字段存儲方式 121
3.3.4  實戰(zhàn)四：PB級別數(shù)據(jù)量場景下的Elasticsearch調(diào)優(yōu) 126
3.3.5  實戰(zhàn)五：降本增效，預測Elasticsearch集群的規(guī)模并控制成本 130
第4章  鏈路追蹤系統(tǒng)實戰(zhàn) 135
4.1　設(shè)計鏈路追蹤模型 135
4.1.1  鏈路追蹤的發(fā)展歷程 135
4.1.2  Span語義規(guī)范 138
4.2　系統(tǒng)選型實戰(zhàn) 141
4.2.1  OpenTelemetry調(diào)用鏈實戰(zhàn) 141
4.2.2  Spring Cloud Sleuth實戰(zhàn) 157
4.2.3  Istio實戰(zhàn) 169
4.2.4  Filebeat采集方案實戰(zhàn) 172
4.2.5  Elasticsearch存儲實戰(zhàn) 176
4.3　鏈路追蹤系統(tǒng)實戰(zhàn)場景 181
4.3.1  實戰(zhàn)一：頭采、尾采、單元采樣的區(qū)別與技術(shù)難點 181
4.3.2  實戰(zhàn)二：在萬億級調(diào)用量下應如何自適應采樣 185
4.3.3  實戰(zhàn)三：陳舊系統(tǒng)如何接入全鏈路追蹤系統(tǒng) 188
第5章  指標系統(tǒng)實戰(zhàn) 193
5.1  指標采集模型的設(shè)計 193
5.1.1  指標數(shù)據(jù)的分類 193
5.1.2  指標數(shù)據(jù)的語義規(guī)范 197
5.2  系統(tǒng)選型實戰(zhàn) 200
5.2.1  OpenTelemetry指標監(jiān)控實戰(zhàn) 200
5.2.2  Spring Boot Actuator監(jiān)控實戰(zhàn) 216
5.2.3  自研指標監(jiān)控實戰(zhàn) 226
5.2.4  內(nèi)核監(jiān)控之eBPF實戰(zhàn) 231
5.3  指標系統(tǒng)實戰(zhàn)場景 238
5.3.1  實戰(zhàn)一：如何保證海量數(shù)據(jù)上報的實時性和完整性 238
5.3.2  實戰(zhàn)二：當陷入告警風暴時應該如何實現(xiàn)告警降噪 240
5.3.3  實戰(zhàn)三：使用Filebeat采集指標數(shù)據(jù)，如何在服務端去重 244
第6章  事件中心實戰(zhàn) 251
6.1  事件中心的設(shè)計 251
6.1.1  事件驅(qū)動架構(gòu)概述 251
6.1.2  事件模型的設(shè)計 254
6.1.3  事件中心的設(shè)計及實戰(zhàn) 256
6.2  高可用事件中心實戰(zhàn) 258
第7章  Profile診斷實戰(zhàn) 261
7.1　線上分析工具 261
7.1.1  JDK原生工具 261
7.1.2  Java線上診斷工具 266
7.1.3  網(wǎng)絡(luò)請求分析工具Wireshark 272
7.2　線上問題實時分析實戰(zhàn) 275
7.2.1  實戰(zhàn)一：當線上業(yè)務內(nèi)存溢出時如何定位 276
7.2.2  實戰(zhàn)二：當線上業(yè)務CPU的使用率較高時如何定位 281
7.2.3  實戰(zhàn)三：當線上業(yè)務I/O異常時如何定位 283
7.2.4  實戰(zhàn)四：當接口請求響應變慢時應如何定位 285
7.3　線上問題處理流程實戰(zhàn) 286
第8章  可觀測性的探索 289
8.1　DevOps與可觀測性 289
8.1.1  服務依賴關(guān)系 289
8.1.2  了解新版本的變化 293
8.1.3  全鏈路壓力測試不可或缺的可觀測性 296
8.1.4  利用混沌工程及時發(fā)現(xiàn)問題 298
8.2　AIOps與可觀測性 302
8.2.1  如何選擇合適的數(shù)據(jù)和算法 303
8.2.2  企業(yè)級場景下AIOps落地的難點與經(jīng)驗 306