大模型工程化：AI驅(qū)動下的數(shù)據(jù)體系

目    錄
第 1部分  大模型技術的發(fā)展與應用
第 1章  大模型的發(fā)展現(xiàn)狀 2
1.1  大模型的發(fā)展歷程 2
1.2  大模型的市場規(guī)模 6
1.3  大模型技術的應用現(xiàn)狀 8
1.3.1  通用大模型技術的應用 8
1.3.2  領域大模型技術的應用 10
1.4  小結 14
第 2章  大模型與數(shù)據(jù)體系 15
2.1  業(yè)務對數(shù)據(jù)體系的需求 15
2.2  經(jīng)典數(shù)據(jù)中臺解決方案 19
2.2.1  技術平臺 19
2.2.2  數(shù)據(jù)建模 21
2.2.3  數(shù)據(jù)治理 26
2.3  大模型帶來的新機會 27
2.3.1  大模型的優(yōu)勢與不足 27
2.3.2  大模型與經(jīng)典數(shù)據(jù)中臺 30
2.3.3  大模型的新思路 32
2.4  全新的大模型解決方案 35
2.4.1  建設目標 35
2.4.2  關鍵技術 36
2.4.3  方案架構 37
2.5  小結 38
第 2部分  大模型下的關鍵基礎設施
第3章  大模型下的新基建 40
3.1  湖倉一體引擎 40
3.1.1  數(shù)據(jù)技術的發(fā)展 41
3.1.2  湖倉一體架構 47
3.2  DeltaLH湖倉的關鍵技術 51
3.2.1  存儲計算分離 51
3.2.2  數(shù)據(jù)冷熱分層 53
3.2.3  湖倉一體化 55
3.3  實時數(shù)據(jù)寫入 57
3.3.1  實時數(shù)據(jù)鏈路 58
3.3.2  全鏈路監(jiān)控 62
3.3.3  數(shù)據(jù)預構建 64
3.4  高效數(shù)據(jù)分析 67
3.4.1  查詢引擎優(yōu)化 67
3.4.2  物化透明加速 72
3.5  小結 74
第3部分  大模型下的數(shù)據(jù)資產(chǎn)
第4章  數(shù)據(jù)資產(chǎn)重塑 76
4.1  數(shù)據(jù)資產(chǎn)方案的現(xiàn)狀 76
4.2  面臨的核心挑戰(zhàn) 80
4.2.1  缺失非結構化標準 80
4.2.2  建設和治理成本高 81
4.2.3  運營目標不一致 82
4.3  重塑數(shù)據(jù)資產(chǎn)的思路 83
4.4  小結 85
第5章  數(shù)據(jù)資產(chǎn)標準 86
5.1  需求資產(chǎn)標準 86
5.1.1  結構化需求 87
5.1.2  行業(yè)知識資產(chǎn) 87
5.1.3  AI可理解需求 89
5.2  特征資產(chǎn)標準 90
5.2.1  個人特征資產(chǎn) 90
5.2.2  公共特征資產(chǎn) 91
5.3  庫表資產(chǎn)標準 92
5.3.1  粒度參數(shù) 93
5.3.2  熱度參數(shù) 94
5.3.3  速度參數(shù) 95
5.4  小結 96
第6章  數(shù)據(jù)資產(chǎn)建設 97
6.1  AI助力資產(chǎn)初始化 98
6.1.1  特征資產(chǎn)初始化 99
6.1.2  庫表資產(chǎn)初始化 100
6.2  AI輔助需求資產(chǎn)建設 101
6.2.1  結構化需求資產(chǎn)建設 101
6.2.2  行業(yè)知識資產(chǎn)建設 102
6.2.3  AI可理解的需求資產(chǎn)建設 106
6.3  AI輔助特征資產(chǎn)建設 109
6.3.1  個人特征資產(chǎn)建設 109
6.3.2  公共特征資產(chǎn)建設 112
6.4  AI輔助庫表資產(chǎn)建設 113
6.4.1  成本模型訓練 114
6.4.2  物化視圖候選集生成 115
6.4.3  物化視圖推薦 115
6.5  小結 116
第7章  數(shù)據(jù)資產(chǎn)運營 117
7.1  數(shù)據(jù)資產(chǎn)運營的目標 117
7.2  需求資產(chǎn)運營 118
7.2.1  需求質(zhì)量評估模型 119
7.2.2  需求質(zhì)量達標率 119
7.3  特征資產(chǎn)運營 120
7.3.1  公共特征轉(zhuǎn)化率 121
7.3.2  特征資產(chǎn)復用率 122
7.4  庫表資產(chǎn)運營 123
7.4.1  庫表資產(chǎn)成本優(yōu)化 123
7.4.2  庫表資產(chǎn)覆蓋率 125
7.5  小結 126
第4部分  自研領域大模型的技術原理
第8章  領域大模型的基礎 128
8.1  領域大模型的背景 128
8.1.1  通用大模型的局限性 128
8.1.2  領域大模型的優(yōu)勢 130
8.2  領域大模型方案 131
8.2.1  3種構建方案 131
8.2.2  檢索增強生成 132
8.2.3  參數(shù)高效微調(diào) 137
8.2.4  模型選型 143
8.3  領域大模型架構 144
8.4  小結 145
第9章  需求理解算法 146
9.1  從模糊需求到清晰需求 146
9.1.1  必要性 146
9.1.2  面臨的挑戰(zhàn) 148
9.2  常見的需求理解算法 148
9.2.1  傳統(tǒng)Query理解算法 148
9.2.2  創(chuàng)新需求理解算法 149
9.3  需求理解算法的設計原理 150
9.3.1  構建業(yè)務知識庫 151
9.3.2  構建需求理解鏈路 153
9.4  小結 155
第 10章  需求匹配算法 156
10.1  從需求到資產(chǎn) 156
10.1.1  必要性 156
10.1.2  面臨的挑戰(zhàn) 158
10.1.3  解決方案 159
10.2  召回算法 161
10.2.1  資產(chǎn)圖譜 161
10.2.2  文本召回 166
10.2.3  向量召回 171
10.2.4  意圖召回 173
10.2.5  召回粗排 178
10.3  精排算法 179
10.3.1  數(shù)據(jù)生成 179
10.3.2  模型微調(diào) 182
10.3.3  多LoRA部署 184
10.4  小結 188
第 11章  需求轉(zhuǎn)譯算法 189
11.1  從需求到查詢 189
11.1.1  必要性 189
11.1.2  面臨的問題 191
11.2  解決方案 191
11.2.1  傳統(tǒng)的Text2SQL技術 191
11.2.2  創(chuàng)新的需求轉(zhuǎn)譯算法 192
11.3  實戰(zhàn)原理 193
11.3.1  評測數(shù)據(jù)集 193
11.3.2  算法流程 195
11.4  小結 203
第5部分  大模型的工程化原理
第 12章  工程化的基礎 206
12.1  工程化的背景 206
12.1.1  工程化的定義 206
12.1.2  工程化的理念 207
12.2  工程化的核心 208
12.3  工程化的建設思路 210
12.3.1  業(yè)務流程 210
12.3.2  系統(tǒng)架構 211
12.4  小結 213
第 13章  工程化的技術籌備 214
13.1  技術調(diào)研評估 214
13.2  大模型應用框架 216
13.2.1  核心層 217
13.2.2  社區(qū)組件層 218
13.2.3  應用層 220
13.2.4  技術生態(tài)層 221
13.3  提示詞工程 221
13.3.1  少樣本提示 222
13.3.2  鏈式思考提示 223
13.3.3  自調(diào)整提示 224
13.4  開發(fā)環(huán)境的準備過程 225
13.4.1  軟件安裝 225
13.4.2  依賴庫安裝 226
13.5  小結 227
第 14章  工程化的建設要點 228
14.1  明確構建目標 229
14.1.1  功能性需求 229
14.1.2  非功能性需求 230
14.1.3  流程定義 230
14.2  核心功能的實現(xiàn) 233
14.2.1  模塊化架構 233
14.2.2  安全管控 236
14.2.3  工具模型 239
14.2.4  人機協(xié)同 246
14.2.5  應用場景 257
14.3  運營質(zhì)量的評估指標 259
14.3.1  回歸評估指標 259
14.3.2  資產(chǎn)運營指標 261
14.4  小結 262
第 15章  工程化的安全策略 263
15.1  安全體系建設要點 263
15.1.1  制度與流程 264
15.1.2  數(shù)據(jù)安全 264
15.1.3  運行安全 266
15.2  安全體系實施方案 268
15.2.1  數(shù)據(jù)分類分級方案 268
15.2.2  資產(chǎn)匿名化與脫敏方案 269
15.2.3  訪問控制方案 270
15.2.4  監(jiān)控告警方案 271
15.3  小結 272
第6部分  大模型在游戲領域的應用
第 16章  游戲領域的應用案例 274
16.1  游戲經(jīng)營分析的背景 274
16.2  智能助手系統(tǒng)架構 275
16.3  代碼生成應用 277
16.4  探索分析應用 288
16.5  小結 291