Hive入門與大數(shù)據(jù)分析實(shí)戰(zhàn)

第1章  數(shù)據(jù)倉庫與Hive1
1.1  數(shù)據(jù)倉庫概述1
1.1.1  數(shù)據(jù)倉庫特征與重要概念1
1.1.2  數(shù)據(jù)倉庫的數(shù)據(jù)存儲(chǔ)方式2
1.2  Hive數(shù)據(jù)倉庫簡介5
1.3  Hive版本和MapReduce版本的WordCount比較6
1.4  Hive和Hadoop的關(guān)系7
1.5  Hive和關(guān)系數(shù)據(jù)庫的異同8
1.6  Hive數(shù)據(jù)存儲(chǔ)簡介9
第2章  Hive部署與基本操作11
2.1  Linux環(huán)境的搭建11
2.1.1  VirtualBox虛擬機(jī)安裝11
2.1.2  安裝Linux操作系統(tǒng)13
2.1.3  SSH工具與使用19
2.1.4  Linux統(tǒng)一設(shè)置21
2.2  Hadoop偽分布式環(huán)境的搭建23
2.2.1  安裝本地模式運(yùn)行的Hadoop23
2.2.2  Hadoop偽分布式環(huán)境的準(zhǔn)備25
2.2.3  Hadoop偽分布式的安裝29
2.3  Hadoop完全分布式環(huán)境的搭建35
2.3.1  Hadoop完全分布式集群的搭建35
2.3.2  ZooKeeper高可靠集群的搭建40
2.3.3  Hadoop高可靠集群的搭建44
2.4  Hive的安裝與配置53
2.4.1  Hive的安裝與啟動(dòng)53
2.4.2  基本的SQL操作命令54
2.5  Hive的一些命令56
2.5.1  顯示Hive的幫助56
2.5.2  顯示Hive某個(gè)命令的幫助56
2.5.3  變量與屬性56
2.5.4  指定SQL語句或文件57
2.5.5  顯示表頭58
2.6  Hive元數(shù)據(jù)庫58
2.6.1  Derby58
2.6.2  MySQL60
2.7  MySQL的安裝61
2.8  配置MySQL保存Hive元數(shù)據(jù)62
2.9  HiveServer2與Beeline配置65
第3章  Hive語法基礎(chǔ)68
3.1  數(shù)據(jù)類型列表68
3.2  集合類型69
3.2.1  array測試70
3.2.2  map測試71
3.2.3  struct測試71
3.3  數(shù)據(jù)類型轉(zhuǎn)換72
3.4  運(yùn)算符73
3.5  Hive表存儲(chǔ)格式74
3.6  Hive的其他操作命令75
3.7  Hive分析Tomcat日志案例76
第4章  Hive數(shù)據(jù)定義79
4.1  數(shù)據(jù)庫的增刪改查79
4.1.1  在默認(rèn)位置創(chuàng)建數(shù)據(jù)庫79
4.1.2  指定目錄創(chuàng)建數(shù)據(jù)庫80
4.1.3  顯示當(dāng)前使用的數(shù)據(jù)庫81
4.1.4  刪除數(shù)據(jù)庫81
4.2  創(chuàng)建內(nèi)部表81
4.3  使用關(guān)鍵字external創(chuàng)建外部表83
4.3.1  指定現(xiàn)有目錄84
4.3.2  先創(chuàng)建表，再指定目錄84
4.3.3  顯示某個(gè)表或某個(gè)分區(qū)的信息85
4.4  創(chuàng)建分桶表86
4.5  分區(qū)表89
4.5.1  創(chuàng)建和顯示分區(qū)表89
4.5.2  增加、刪除和修改分區(qū)90
4.6  顯示某張表的詳細(xì)信息92
4.7  指定輸入輸出都是SequenceFile類型94
4.8  關(guān)于視圖94
4.8.1  使用視圖降低查詢的復(fù)雜度94
4.8.2  查看視圖的信息95
4.8.3  刪除視圖95
第5章  Hive數(shù)據(jù)操作96
5.1  向表中裝載數(shù)據(jù)96
5.2  通過Insert向表中插入數(shù)據(jù)97
5.3  動(dòng)態(tài)分區(qū)插入數(shù)據(jù)98
5.4  創(chuàng)建表并插入數(shù)據(jù)100
5.5  導(dǎo)出數(shù)據(jù)100
第6章  Hive查詢103
6.1  SelectFrom語句103
6.2  Select基本查詢104
6.3  Where語句105
6.4  Group By語句107
6.5  Join語句108
6.6  排序110
6.6.1  Order By110
6.6.2  Sort By112
6.6.3  Distribute By113
6.6.4  Cluster By114
6.7  抽樣查詢114
第7章  Hive函數(shù)117
7.1  查看系統(tǒng)內(nèi)置函數(shù)117
7.2  常用內(nèi)置函數(shù)117
7.3  Hive的其他函數(shù)121
7.3.1  準(zhǔn)備數(shù)據(jù)121
7.3.2  其他函數(shù)的使用121
7.3.3  顯示某個(gè)函數(shù)的幫助信息131
7.4  自定義函數(shù)132
7.4.1  Hive自定義UDF的過程132
7.4.2  Hive UDTF函數(shù)135
第8章  Hive數(shù)據(jù)壓縮138
8.1  數(shù)據(jù)壓縮格式138
8.2  數(shù)據(jù)壓縮配置139
8.2.1  Snappy壓縮方式配置139
8.2.2  MapReduce支持的壓縮編碼141
8.2.3  MapReduce壓縮參數(shù)配置142
8.3  開啟Map端和Reduce端的輸出壓縮142
8.4  常用Hive表存儲(chǔ)格式比較144
8.5  存儲(chǔ)與壓縮相結(jié)合148
第9章  Hive調(diào)優(yōu)151
9.1  Hadoop計(jì)算框架特性151
9.2  Hive優(yōu)化的常用手段151
9.3  Hive優(yōu)化要點(diǎn)152
9.3.1  全排序152
9.3.2  怎樣做笛卡兒積156
9.3.3  怎樣寫exist/in子句156
9.3.4  怎樣決定Reducer個(gè)數(shù)156
9.3.5  合并MapReduce操作157
9.3.6  Bucket與Sampling157
9.3.7  Partition158
9.3.8  Join158
9.3.9  數(shù)據(jù)傾斜160
9.3.10  合并小文件161
9.3.11  Group By163
第10章  基于Hive的網(wǎng)站流量分析項(xiàng)目實(shí)戰(zhàn)164
10.1  項(xiàng)目需求及分析164
10.1.1  數(shù)據(jù)集及數(shù)據(jù)說明164
10.1.2  功能需求165
10.2  利用Java實(shí)現(xiàn)數(shù)據(jù)清洗165
10.2.1  數(shù)據(jù)上傳到HDFS166
10.2.2  http.log數(shù)據(jù)清洗166
10.2.3  phone.txt數(shù)據(jù)清洗170
10.3  利用MySQL實(shí)現(xiàn)數(shù)據(jù)清洗173
10.3.1  http.log數(shù)據(jù)清洗173
10.3.2  phone.txt數(shù)據(jù)清洗175
10.4  數(shù)據(jù)分析的實(shí)現(xiàn)176
10.4.1  創(chuàng)建Hive庫和表176
10.4.2  使用SQL進(jìn)行數(shù)據(jù)分析176
第11章  旅游酒店評價(jià)大數(shù)據(jù)分析項(xiàng)目實(shí)戰(zhàn)180
11.1  項(xiàng)目介紹180
11.2  項(xiàng)目需求及分析181
11.2.1  數(shù)據(jù)集及數(shù)據(jù)說明181
11.2.2  功能需求183
11.3  利用Java實(shí)現(xiàn)數(shù)據(jù)清洗184
11.3.1  本地Hadoop運(yùn)行環(huán)境搭建184
11.3.2  數(shù)據(jù)上傳到HDFS186
11.3.3  Hadoop數(shù)據(jù)清洗189
11.4  利用MySQL實(shí)現(xiàn)數(shù)據(jù)清洗192
10.4.1  hotelbasic.csv數(shù)據(jù)清洗192
10.4.2  hoteldata.csv數(shù)據(jù)清洗193
11.5  數(shù)據(jù)分析的實(shí)現(xiàn)194
11.5.1  構(gòu)建Hive數(shù)據(jù)倉庫表194
11.5.2  導(dǎo)出結(jié)果數(shù)據(jù)到MySQL197
11.6  分析結(jié)果數(shù)據(jù)可視化200
11.6.1  數(shù)據(jù)可視化開發(fā)200
11.6.2  數(shù)據(jù)可視化部署208