Netty進(jìn)階之路：跟著案例學(xué)Netty

第1章 Netty服務(wù)端意外退出案例 1
1.1 Netty服務(wù)端意外退出問(wèn)題 1
1.1.1 Java Daemon線程簡(jiǎn)介 2
1.1.2 Netty服務(wù)端啟動(dòng)原理 4
1.1.3 如何防止Netty服務(wù)端意外退出 6
1.1.4 實(shí)際項(xiàng)目中的優(yōu)化策略 8
1.2 Netty優(yōu)雅退出機(jī)制 9
1.2.1 Java優(yōu)雅退出機(jī)制 10
1.2.2 Java優(yōu)雅退出的注意點(diǎn) 12
1.2.3 Netty優(yōu)雅退出機(jī)制 14
1.2.4 Netty優(yōu)雅退出原理和源碼分析 15
1.2.5 Netty優(yōu)雅退出的一些誤區(qū) 20
1.3 總結(jié) 21
第2章 Netty客戶(hù)端連接池資源泄漏案例 22
2.1 Netty連接池資源泄漏問(wèn)題 22
2.1.1 連接池創(chuàng)建代碼 23
2.1.2 內(nèi)存溢出和線程膨脹 23
2.1.3 錯(cuò)用NIO編程模式 25
2.1.4 正確的連接池創(chuàng)建方式 26
2.1.5 并發(fā)安全和資源釋放 28
2.2 Netty客戶(hù)端創(chuàng)建機(jī)制 29
2.2.1 Java NIO客戶(hù)端創(chuàng)建原理分析 29
2.2.2 Netty客戶(hù)端創(chuàng)建原理分析 32
2.2.3 Bootstrap工具類(lèi)源碼分析 34
2.3 總結(jié) 36
第3章 Netty內(nèi)存池泄漏疑云案例 37
3.1 Netty內(nèi)存池泄漏問(wèn)題 37
3.1.1 路由轉(zhuǎn)發(fā)服務(wù)代碼 38
3.1.2 響應(yīng)消息內(nèi)存釋放玄機(jī) 39
3.1.3 采集堆內(nèi)存快照分析 42
3.1.4 ByteBuf申請(qǐng)和釋放的理解誤區(qū) 45
3.2 Netty內(nèi)存池工作機(jī)制 48
3.2.1 內(nèi)存池的性能優(yōu)勢(shì) 48
3.2.2 內(nèi)存池工作原理分析 51
3.2.3 內(nèi)存池核心代碼分析 54
3.3 總結(jié) 58
第４章 ByteBuf故障排查案例 59
4.1 HTTP協(xié)議棧ByteBuf使用問(wèn)題 59
4.1.1 HTTP響應(yīng)Body獲取異常 59
4.1.2 ByteBuf非法引用問(wèn)題 63
4.1.3 ByteBuf使用注意事項(xiàng) 66
4.2 Netty ByteBuf實(shí)現(xiàn)機(jī)制 67
4.2.1 Java原生ByteBuffer的局限性 67
4.2.2 Netty ByteBuf工作原理分析 67
4.2.3 ByteBuf引用計(jì)數(shù)器工作原理和源碼分析 70
4.3 總結(jié) 73
第5章 Netty發(fā)送隊(duì)列積壓導(dǎo)致內(nèi)存泄漏案例 74
5.1 Netty發(fā)送隊(duì)列積壓案例 74
5.1.1 高并發(fā)故障場(chǎng)景 74
5.1.2 內(nèi)存泄漏原因分析 76
5.1.3 如何防止發(fā)送隊(duì)列積壓 78
5.1.4 其他可能導(dǎo)致發(fā)送隊(duì)列積壓的因素 80
5.2 Netty消息發(fā)送工作機(jī)制 82
5.2.1 WriteAndFlushTask原理和源碼分析 83
5.2.2 ChannelOutboundBuffer原理和源碼分析 86
5.2.3 消息發(fā)送源碼分析 88
5.2.4 消息發(fā)送高低水位控制 94
5.3 總結(jié) 95
第6章 API網(wǎng)關(guān)高并發(fā)壓測(cè)性能波動(dòng)案例 96
6.1 高并發(fā)壓測(cè)性能波動(dòng)問(wèn)題 96
6.1.1 故障場(chǎng)景模擬 96
6.1.2 性能波動(dòng)原因定位 98
6.1.3 主動(dòng)內(nèi)存泄漏定位法 101
6.1.4 網(wǎng)關(guān)類(lèi)產(chǎn)品的優(yōu)化建議 102
6.2 Netty消息接入內(nèi)存申請(qǐng)機(jī)制 102
6.2.1 消息接入的內(nèi)存分配原理和源碼分析 102
6.2.2 Netty ByteBuf的動(dòng)態(tài)擴(kuò)容原理和源碼分析 107
6.3 總結(jié) 108
第7章 Netty ChannelHandler并發(fā)安全案例 109
7.1 Netty ChannelHandler并發(fā)安全問(wèn)題 109
7.1.1 串行執(zhí)行的ChannelHandler 110
7.1.2 跨鏈路共享的ChannelHandler 114
7.1.3 ChannelHandler的并發(fā)陷阱 116
7.2 Netty ChannelHandler工作機(jī)制 118
7.2.1 職責(zé)鏈ChannelPipeline原理和源碼分析 118
7.2.2 用戶(hù)自定義Event原理和源碼分析 122
7.3 總結(jié) 123
第8章 車(chē)聯(lián)網(wǎng)服務(wù)端接收不到車(chē)載終端消息案例 124
8.1 車(chē)聯(lián)網(wǎng)服務(wù)端接收不到車(chē)載終端消息問(wèn)題 124
8.1.1 故障現(xiàn)象 125
8.1.2 故障期線程堆棧快照分析 126
8.1.3 NioEventLoop線程防掛死策略 128
8.2 NioEventLoop線程工作機(jī)制 129
8.2.1 I/O讀寫(xiě)操作原理和源碼分析 130
8.2.2 異步任務(wù)執(zhí)行原理和源碼分析 133
8.2.3 定時(shí)任務(wù)執(zhí)行原理和源碼分析 135
8.2.4 Netty多線程最佳實(shí)踐 137
8.3 總結(jié) 137
第９章 Netty 3.X版本升級(jí)案例 139
9.1 Netty 3.X的版本升級(jí)背景 139
9.1.1 被迫升級(jí)場(chǎng)景 140
9.1.2 升級(jí)不當(dāng)遭遇各種問(wèn)題 140
9.2 版本升級(jí)后數(shù)據(jù)被篡改問(wèn)題 141
9.2.1 數(shù)據(jù)篡改原因分析 142
9.2.2 問(wèn)題總結(jié) 143
9.3 升級(jí)后上下文丟失問(wèn)題 143
9.3.1 上下文丟失原因分析 144
9.3.2 依賴(lài)第三方線程模型的思考 144
9.4 升級(jí)后應(yīng)用遭遇性能下降問(wèn)題 145
9.4.1 性能下降原因分析 145
9.4.2 性能優(yōu)化建議 146
9.5 Netty線程模型變更分析 147
9.5.1 Netty 3.X版本線程模型 147
9.5.2 Netty 4.X版本線程模型 149
9.5.3 線程模型變化點(diǎn)源碼分析 150
9.5.4 線程模型變化總結(jié) 152
9.6 總結(jié) 154
第10章 Netty并發(fā)失效導(dǎo)致性能下降案例 155
10.1 業(yè)務(wù)ChannelHandler無(wú)法并發(fā)執(zhí)行問(wèn)題 155
10.1.1 服務(wù)端并發(fā)設(shè)計(jì)相關(guān)代碼分析 155
10.1.2 無(wú)法并行執(zhí)行的EventExecutorGroup 159
10.1.3 并行執(zhí)行優(yōu)化策略和結(jié)果 161
10.2 Netty DefaultEventExecutor工作機(jī)制 163
10.2.1 DefaultEventExecutor原理和源碼分析 164
10.2.2 業(yè)務(wù)線程池優(yōu)化策略 165
10.2.3 Netty線程綁定機(jī)制原理和源碼分析 168
10.3 總結(jié) 170
第11章 IoT百萬(wàn)長(zhǎng)連接性能調(diào)優(yōu)案例 171
11.1 海量長(zhǎng)連接接入面臨的挑戰(zhàn) 171
11.1.1 IoT設(shè)備接入特點(diǎn) 172
11.1.2 IoT服務(wù)端性能優(yōu)化場(chǎng)景 172
11.1.3 服務(wù)端面臨的性能挑戰(zhàn) 172
11.2 智能家居內(nèi)存泄漏問(wèn)題 173
11.2.1 服務(wù)端內(nèi)存泄漏原因定位 173
11.2.2 問(wèn)題背后的一些思考 174
11.3 操作系統(tǒng)參數(shù)調(diào)優(yōu) 174
11.3.1 文件描述符 175
11.3.2 TCP/IP相關(guān)參數(shù) 175
11.3.3 多網(wǎng)卡隊(duì)列和軟中斷 177
11.4 Netty性能調(diào)優(yōu) 177
11.4.1 設(shè)置合理的線程數(shù) 177
11.4.2 心跳優(yōu)化 180
11.4.3 接收和發(fā)送緩沖區(qū)調(diào)優(yōu) 183
11.4.4 合理使用內(nèi)存池 184
11.4.5 防止I/O線程被意外阻塞 185
11.4.6 I/O線程和業(yè)務(wù)線程分離 187
11.4.7 針對(duì)端側(cè)并發(fā)連接數(shù)的流控 187
11.5 JVM相關(guān)性能優(yōu)化 189
11.5.1 GC調(diào)優(yōu) 189
11.5.2 其他優(yōu)化手段 193
11.6 總結(jié) 193
第12章 靜態(tài)檢查修改不當(dāng)引起性能下降案例 195
12.1 Edge Service性能?chē)?yán)重下降問(wèn)題 195
12.1.1 Edge Service熱點(diǎn)代碼分析 195
12.1.2 靜態(tài)檢查問(wèn)題不是簡(jiǎn)單的一改了之 197
12.1.3 問(wèn)題反思和改進(jìn) 200
12.2 克隆和淺拷貝 201
12.2.1 淺拷貝存在的問(wèn)題 201
12.2.2 Netty的對(duì)象拷貝實(shí)現(xiàn)策略 203
12.3 總結(jié) 204
第13章 Netty性能統(tǒng)計(jì)誤區(qū)案例 205
13.1 時(shí)延毛刺排查相關(guān)問(wèn)題 205
13.1.1 時(shí)延毛刺問(wèn)題初步分析 205
13.1.2 服務(wù)調(diào)用鏈改進(jìn) 207
13.1.3 都是同步思維惹的禍 208
13.1.4 正確的消息發(fā)送速度性能統(tǒng)計(jì)策略 209
13.1.5 常見(jiàn)的消息發(fā)送性能統(tǒng)計(jì)誤區(qū) 212
13.2 Netty關(guān)鍵性能指標(biāo)采集策略 212
13.2.1 Netty I/O線程池性能指標(biāo) 213
13.2.2 Netty發(fā)送隊(duì)列積壓消息數(shù) 214
13.2.3 Netty消息讀取速度性能統(tǒng)計(jì) 215
13.3 總結(jié) 215
第14章 gRPC的Netty HTTP/2實(shí)踐案例 216
14.1 gRPC基礎(chǔ)入門(mén) 216
14.1.1 RPC框架簡(jiǎn)介 216
14.1.2 當(dāng)前主流的RPC框架 218
14.1.3 gRPC框架特點(diǎn) 218
14.1.4 為什么選擇HTTP/2 219
14.2 gRPC Netty HTTP/2服務(wù)端工作機(jī)制 220
14.2.1 Netty HTTP/2服務(wù)端創(chuàng)建原理和源碼分析 220
14.2.2 服務(wù)端接收HTTP/2請(qǐng)求消息原理和源碼分析 224
14.2.3 服務(wù)端發(fā)送HTTP/2響應(yīng)消息原理和源碼分析 231
14.3 gRPC Netty HTTP/2客戶(hù)端工作機(jī)制 234
14.3.1 Netty HTTP/2客戶(hù)端創(chuàng)建原理和源碼分析 235
14.3.2 客戶(hù)端發(fā)送HTTP/2請(qǐng)求消息原理和源碼分析 238
14.3.3 客戶(hù)端接收HTTP/2響應(yīng)消息原理和源碼分析 242
14.4 gRPC消息序列化機(jī)制 243
14.4.1 Google Protobuf簡(jiǎn)介 243
14.4.2 消息的序列化原理和源碼分析 244
14.4.3 消息的反序列化原理和源碼分析 245
14.5 gRPC線程模型 246
14.5.1 服務(wù)端線程模型 246
14.5.2 客戶(hù)端線程模型 247
14.5.3 線程模型總結(jié) 248
14.6 總結(jié) 249
第15章 Netty事件觸發(fā)策略使用不當(dāng)案例 250
15.1 channelReadComplete方法被調(diào)用多次問(wèn)題 250
15.1.1 ChannelHandler調(diào)用問(wèn)題 250
15.1.2 生產(chǎn)環(huán)境問(wèn)題模擬重現(xiàn) 252
15.2 ChannelHandler使用的一些誤區(qū)總結(jié) 255
15.2.1 channelReadComplete方法調(diào)用 255
15.2.2 ChannelHandler職責(zé)鏈調(diào)用 257
15.3 總結(jié) 258
第16章 Netty流量整形應(yīng)用案例 259
16.1 Netty流量整形功能 259
16.1.1 通用的流量整形功能簡(jiǎn)介 260
16.1.2 Netty流量整形功能簡(jiǎn)介 260
16.2 Netty流量整形應(yīng)用 261
16.2.1 流量整形示例代碼 261
16.2.2 流量整形功能測(cè)試 263
16.3 Netty流量整形工作機(jī)制 264
16.3.1 流量整形工作原理和源碼分析 264
16.3.2 并發(fā)編程在流量整形中的應(yīng)用 271
16.3.3 使用流量整形的一些注意事項(xiàng)總結(jié) 274
16.4 總結(jié) 278
第17章 Netty SSL應(yīng)用案例 279
17.1 Netty SSL功能簡(jiǎn)介 279
17.1.1 SSL安全特性 280
17.1.2 Netty SSL實(shí)現(xiàn)機(jī)制 281
17.2 Netty客戶(hù)端SSL握手超時(shí)問(wèn)題 282
17.2.1 握手超時(shí)原因定位 282
17.2.2 Netty SSL握手問(wèn)題定位技巧 283
17.3 SSL握手性能問(wèn)題 284
17.3.1 SSL握手性能熱點(diǎn)分析 284
17.3.2 緩存和對(duì)象池 285
17.4 SSL事件監(jiān)聽(tīng)機(jī)制 286
17.4.1 握手成功事件 286
17.4.2 SSL連接關(guān)閉事件 286
17.5 總結(jié) 287
第18章 Netty HTTPS服務(wù)端高并發(fā)宕機(jī)案例 288
18.1 Netty HTTPS服務(wù)端宕機(jī)問(wèn)題 288
18.1.1 客戶(hù)端大量超時(shí) 288
18.1.2 服務(wù)端內(nèi)存泄漏原因分析 289
18.1.3 NioSocketChannel泄漏原因探究 290
18.1.4 高并發(fā)場(chǎng)景下缺失的可靠性保護(hù) 292
18.2 功能層面的可靠性?xún)?yōu)化 294
18.2.1 Netty HTTPS服務(wù)端可靠性?xún)?yōu)化 295
18.2.2 HTTPS客戶(hù)端優(yōu)化 296
18.3 架構(gòu)層面的可靠性?xún)?yōu)化 297
18.3.1 端到端架構(gòu)問(wèn)題剖析 297
18.3.2 HTTP Client切換到NIO 298
18.3.3 同步RPC調(diào)用切換到異步調(diào)用 299
18.3.4 協(xié)議升級(jí)到HTTP/2 303
18.4 總結(jié) 307
第19章 MQTT服務(wù)接入超時(shí)案例 308
19.1 MQTT服務(wù)接入超時(shí)問(wèn)題 308
19.1.1 生產(chǎn)環(huán)境問(wèn)題現(xiàn)象 308
19.1.2 連接數(shù)膨脹原因分析 309
19.1.3 無(wú)效連接的關(guān)閉策略 309
19.1.4 問(wèn)題總結(jié) 310
19.2 基于Netty的可靠性設(shè)計(jì) 311
19.2.1 業(yè)務(wù)定制I/O異常 311
19.2.2 鏈路的有效性檢測(cè) 312
19.2.3 內(nèi)存保護(hù) 313
19.3 總結(jié) 315
第20章 Netty實(shí)踐總結(jié) 316
20.1 Netty學(xué)習(xí)策略 316
20.1.1 入門(mén)知識(shí)準(zhǔn)備 316
20.1.2 Netty入門(mén)學(xué)習(xí) 319
20.1.3 項(xiàng)目實(shí)踐 319
20.1.4 Netty源碼閱讀策略 319
20.2 Netty故障定位技巧 320
20.2.1 接收不到消息 320
20.2.2 內(nèi)存泄漏 321
20.2.3 性能問(wèn)題 322
20.3 總結(jié) 322