大數(shù)據(jù)處理系統(tǒng)：Hadoop源代碼情景分析

第1章 大數(shù)據(jù)與Hadoop
1.1 什么是大數(shù)據(jù)
1.2 大數(shù)據(jù)的用途
1.3 并行計算
1.4 數(shù)據(jù)流
1.5 函數(shù)式程序設(shè)計與Lambda演算
1.6 MapReduce
1.7 大數(shù)據(jù)處理平臺
1.8 Hadoop的由來和發(fā)展
1.9 Hadoop的MapReduce計算框架
1.10 Hadoop的分布式容錯文件系統(tǒng)HDFS
第2章 研究方法
2.1 摘要卡片
2.2 情景分析
2.3 面向?qū)ο蟮某绦蛟O(shè)計
2.4 怎樣閱讀分析Hadoop的代碼
第3章 Hadoop集群和YARN
3.1 Hadoop集群
3.2 Hadoop系統(tǒng)的結(jié)構(gòu)
3.3 Hadoop的YARN框架
3.4 狀態(tài)機
3.5 資源管理器ResourceManager
3.6 資源調(diào)度器ResourceScheduler
第4章 Hadoop的RPC機制
4.1 RPC與RMI
4.2 ProtoBuf
4.3 Java的Reflection機制
4.4 RM節(jié)點上的RPC服務(wù)
4.5 RPC客戶端的創(chuàng)建
第5章 Hadoop作業(yè)的提交
5.1 從“地方”到“中央”
5.2 示例一：采用老API的ValueAggregatorJob
5.3 示例二：采用新API的WordCount
5.4 示例三：采用ToolRunner的QuasiMonteCarlo
5.5 從Job.submit()開始的第二段流程
5.6 YARNRunner和ResourceMgrDelegate
第6章 作業(yè)的調(diào)度與指派
6.1 作業(yè)的受理
6.2 NM節(jié)點的心跳和容器周轉(zhuǎn)
6.3 容器的分配
第7章 NodeManager與任務(wù)投運
7.1 AMLauncher與任務(wù)投運
7.2 MRAppMaster或AM的創(chuàng)建
7.3 資源本地化
7.4 容器的投運
第8章 MRAppMaster與作業(yè)投運
8.1 MRAppMaster
8.2 App資源與容器
8.3 容器的跨節(jié)點投送和啟動
8.4 目標(biāo)節(jié)點上的容器投運
8.5 Uber模式下的本地容器分配與投運
8.6 任務(wù)的啟動
8.7 MapTask的運行
8.8 ReduceTask的投運
第9章 YARN子系統(tǒng)的計算框架
9.1 MapReduce框架
9.2 Streaming框架
9.3 Chain框架
9.4 Client與ApplicationMaster
第10章 MapReduce框架中的數(shù)據(jù)流
10.1 數(shù)據(jù)流和工作流
10.2 Mapper的輸入
10.3 Mapper的輸出緩沖區(qū)MapOutputBuffer
10.4 作為Collector的MapOutputBuffer
10.5 環(huán)形緩沖區(qū)kvbuffer
10.6 對MapoutputBuffer的輸出
10.7 Sort和Spill
10.8 Map計算的終結(jié)與Spill文件的合并
10.9 Reduce階段
10.10 Merge
10.11 Reduce階段的輸入和輸出
第11章 Hadoop的文件系統(tǒng)HDFS
11.1 文件的分布與容錯
11.2 目錄節(jié)點NameNode
11.3 FSNamesystem
11.4 文件系統(tǒng)目錄FSDirectory
11.5 文件系統(tǒng)映像FsImage
11.6 文件系統(tǒng)更改記錄FSEditLog
11.7 FSEditLog與Journal
11.8 EditLog記錄的重演
11.9 版本升級與故障恢復(fù)
第12章 HDFS的DataNode
12.1 DataNode
12.2 數(shù)據(jù)塊的存儲
12.3 RamDisk復(fù)份的持久化存儲
12.4 目錄掃描線程DirectoryScanner
12.5 數(shù)據(jù)塊掃描線程DataBlockScanner
第13章 DataNode與NameNode的互動
13.1 DataNode與NameNode的互動
13.2 心跳HeartBeat
13.3 BlockReport
第14章 DataNode間的互動
14.1 數(shù)據(jù)塊的接收和存儲
14.2 命令DNA_TRANSFER的執(zhí)行
第15章 HDFS的文件訪問
15.1 DistributedFileSystem和DFSClient
15.2 FsShell
15.3 HDFS的打開文件流程
15.4 HDFS的讀文件流程
15.5 HDFS的創(chuàng)建文件流程
15.6 文件租約
15.7 HDFS的寫文件流程
15.8 實例
第16章 Hadoop的容錯機制
16.1 容錯與高可用
16.2 HDFS的HA機制
16.3 NameNode的倒換
16.4 Zookeeper與自動倒換
16.5 YARN的HA機制
第17章 Hadoop的安全機制
17.1 大數(shù)據(jù)集群的安全問題
17.2 UGI、Token和ACL
17.3 UGI的來源和流轉(zhuǎn)
17.4 Token的使用
第18章 Hadoop的人機界面
18.1 Hadoop的命令行界面
18.2 Hadoop的Web界面
18.3 Dependency Inject和Annotation
18.4 對網(wǎng)頁的訪問
第19章 Hadoop的部署和啟動
19.1 Hadoop的運維腳本
19.2 Hadoop的部署與啟動
19.3 Hadoop的日常使用
19.4 Hadoop平臺的關(guān)閉
第20章 Spark的優(yōu)化與改進
20.1 Spark與Hadoop
20.2 RDD與Stage——概念與思路
20.3 RDD的存儲和引用
20.4 DStream
20.5 拓?fù)涞撵`活性和多樣性
20.6 性能的提升
20.7 使用的方便性
20.8 幾個重要的類及其作用
參考資料