LangChain核心技術(shù)與LLM項(xiàng)目實(shí)踐

第 1 章　大語言模型與LangChain 1
1.1  大語言模型基本原理 1
1.1.1  語言模型的構(gòu)建：從N-grams到深度學(xué)習(xí) 1
1.1.2  Transformer架構(gòu)的崛起：自注意力機(jī)制解析 5
1.1.3  預(yù)訓(xùn)練與微調(diào)：如何提升模型性能 9
1.2  LangChain基本原理與開發(fā)流程 10
1.2.1  LangChain的核心組件：理解任務(wù)鏈與內(nèi)存模塊 10
1.2.2  LangChain開發(fā)流程概述 15
1.2.3  如何快速上手LangChain開發(fā) 17
1.3  本章小結(jié) 21
1.4  思考題 22
第 2 章　LangChain開發(fā)前的準(zhǔn)備 23
2.1  創(chuàng)建OpenAI API密鑰 23
2.1.1  注冊(cè)與賬戶配置 23
2.1.2  生成和管理API密鑰 26
2.1.3  設(shè)置訪問權(quán)限與安全性 30
2.2  構(gòu)建Anaconda PyCharm開發(fā)工具鏈 31
2.2.1  安裝與配置Anaconda環(huán)境 32
2.2.2  PyCharm集成Anaconda環(huán)境 36
2.2.3  包管理與環(huán)境管理 39
2.3  初探LangChain依賴庫 44
2.3.1  LangChain核心依賴庫概覽 44
2.3.2  openai庫的安裝與配置 47
2.3.3  其他輔助工具與擴(kuò)展包 49
2.4  本章小結(jié) 53
2.5  思考題 53
第 3 章　模型、模型類與緩存 54
3.1  關(guān)于模型 54
3.1.1  模型的定義與應(yīng)用 55
3.1.2  語言模型的工作原理 60
3.2  Chat類、LLM類模型簡介 62
3.2.1  Chat類模型概述 63
3.2.2  LLM類模型概述 65
3.3  基于OpenAI API的初步開發(fā) 68
3.3.1  OpenAI API調(diào)用基礎(chǔ) 68
3.3.2  完成基本文本生成任務(wù) 71
3.4  自定義LangChain Model類 72
3.4.1  LangChain Model類的構(gòu)建基礎(chǔ) 73
3.4.2  模型參數(shù)的自定義與調(diào)優(yōu) 75
3.5  LangChain與緩存 78
3.5.1  緩存的作用與類型 78
3.5.2  內(nèi)存緩存的使用 79
3.5.3  文件緩存與持久化管理 82
3.5.4  Redis緩存的集成與優(yōu)化 84
3.6  本章小結(jié) 89
3.7  思考題 89
第 4 章　提示詞工程 91
4.1  提示詞的定義與提示詞模板 91
4.1.1  理解提示詞在模型中的核心角色 91
4.1.2  構(gòu)建提示詞模板：實(shí)現(xiàn)靈活多樣的提示結(jié)構(gòu) 94
4.2  動(dòng)態(tài)提示詞生成技術(shù) 96
4.2.1  基于用戶輸入的提示詞自適應(yīng)生成 97
4.2.2  動(dòng)態(tài)提示詞生成 100
4.3  插槽填充與鏈?zhǔn)教崾?103
4.3.1  插槽填充技術(shù)：快速實(shí)現(xiàn)變量插入的提示詞模板 104
4.3.2  鏈?zhǔn)教崾驹~：通過分步驟生成復(fù)雜內(nèi)容 107
4.4  多輪對(duì)話提示詞 111
4.4.1  維護(hù)連續(xù)對(duì)話的提示詞設(shè)計(jì) 111
4.4.2  構(gòu)建連貫自然的多輪交互 114
4.5  嵌套提示詞與少樣本提示詞 118
4.5.1  分層級(jí)處理復(fù)雜任務(wù)的多級(jí)提示詞 118
4.5.2  Few-shot提示詞：通過示例提升生成效果的準(zhǔn)確性 121
4.6  本章小結(jié) 126
4.7  思考題 126
第 5 章　核心組件1：鏈 128
5.1  LLM鏈 128
5.1.1  LLM鏈的基本工作流程和參數(shù)設(shè)置 129
5.1.2  如何在LLM鏈中嵌入提示詞模板和預(yù)處理邏輯 131
5.2  序列鏈 134
5.2.1  序列鏈的構(gòu)建與分層調(diào)用 135
5.2.2  在序列鏈中連接多個(gè)LLM和工具模塊 137
5.3  路由鏈 141
5.3.1  根據(jù)輸入內(nèi)容動(dòng)態(tài)選擇鏈路徑 141
5.3.2  設(shè)置不同的模型和任務(wù)路徑以適應(yīng)復(fù)雜需求 145
5.4  文檔鏈 148
5.4.1  Stuff鏈與Refine鏈的應(yīng)用場景和適用文檔類型 149
5.4.2  Map-Reduce鏈與Map-Rerank鏈的文檔處理策略 152
5.5  本章小結(jié) 156
5.6  思考題 156
第 6 章　核心組件2：內(nèi)存模塊 158
6.1  聊天消息記憶 158
6.1.1  聊天消息存儲(chǔ)機(jī)制：保障對(duì)話連續(xù)性 158
6.1.2  動(dòng)態(tài)消息記憶策略的設(shè)計(jì)與實(shí)現(xiàn) 161
6.2  會(huì)話緩沖區(qū)與會(huì)話緩沖窗口 165
6.2.1  會(huì)話緩沖區(qū)的配置與應(yīng)用場景 165
6.2.2  會(huì)話緩沖窗口的實(shí)現(xiàn) 168
6.3  會(huì)話摘要與支持向量存儲(chǔ) 171
6.3.1  長會(huì)話摘要的生成與更新 172
6.3.2  使用向量存儲(chǔ)實(shí)現(xiàn)會(huì)話內(nèi)容的高效檢索 174
6.4  使用Postgres與Redis存儲(chǔ)聊天消息記錄 177
6.4.1  基于Postgres的持久化消息存儲(chǔ)方案 178
6.4.2  Redis緩存技術(shù)在消息快速存取中的應(yīng)用 182
6.5  本章小結(jié) 186
6.6  思考題 186
第 7 章　LangChain與表達(dá)式語言 188
7.1  LCEL初探與流式支持 188
7.1.1  LangChian表達(dá)式語言初探 188
7.1.2  LCEL流式處理實(shí)現(xiàn) 190
7.2  LCEL并行執(zhí)行優(yōu)化 193
7.2.1  多任務(wù)并行執(zhí)行策略 193
7.2.2  LCEL并行執(zhí)行 198
7.3  回退機(jī)制的設(shè)計(jì)與實(shí)現(xiàn) 201
7.4  LCEL與LangSmith集成 205
7.4.1  LangSmith入門 205
7.4.2  LangSmith的初步應(yīng)用 209
7.5  本章小結(jié) 214
7.6  思考題 214
第 8 章　核心組件3：Agents 216
8.1  何為LangChain Agent 216
8.1.1  Agent的核心概念與工作原理 216
8.1.2  LangChain中Agent的應(yīng)用場景分析 218
8.1.3  自定義LLM代理 219
8.2  ReAct Agent 222
8.2.1  ReAct Agent解析 222
8.2.2  ReAct Agent的典型應(yīng)用 224
8.3  Zero-shot ReAct與結(jié)構(gòu)化輸入ReAct 227
8.3.1  Zero-shot ReAct的原理與實(shí)現(xiàn) 227
8.3.2  結(jié)構(gòu)化輸入ReAct的使用 229
8.4  ReAct文檔存儲(chǔ)庫 231
8.5  本章小結(jié) 232
8.6  思考題 233
第 9 章　核心組件4：回調(diào)機(jī)制 234
9.1  自定義回調(diào)處理程序 234
9.1.1  創(chuàng)建自定義回調(diào)處理程序 234
9.1.2  自定義鏈的回調(diào)函數(shù) 236
9.2  多個(gè)回調(diào)處理程序 238
9.3  跟蹤LangChains 242
9.3.1  鏈?zhǔn)饺蝿?wù)的跟蹤和調(diào)試方法 242
9.3.2  任務(wù)流數(shù)據(jù)的實(shí)時(shí)監(jiān)控與分析 243
9.3.3  將日志記錄到文件 245
9.3.4  Token計(jì)數(shù)器 246
9.4  利用Argilla進(jìn)行數(shù)據(jù)整理 248
9.4.1  初步使用Argilla 248
9.4.2  Argilla輔助數(shù)據(jù)整理 250
9.5  本章小結(jié) 251
9.6  思考題 251
第 10 章　模型I/O與檢索 253
10.1  模型I/O解釋器 253
10.1.1  輸入預(yù)處理與輸出格式化：確保模型I/O一致性 253
10.1.2  自定義輸出解析器的實(shí)現(xiàn)與應(yīng)用 256
10.2  文本嵌入模型與向量存儲(chǔ) 262
10.2.1  文本嵌入模型 262
10.2.2  向量存儲(chǔ) 267
10.3  本章小結(jié) 271
10.4  思考題 272
第 11 章　LangChain深度開發(fā) 273
11.1  性能優(yōu)化與并發(fā)處理 273
11.1.1  模型加速、蒸餾、FP16精度 273
11.1.2  并發(fā)處理多用戶請(qǐng)求 278
11.2  復(fù)雜查詢與多級(jí)任務(wù)鏈設(shè)計(jì) 281
11.3  本章小結(jié) 284
11.4  思考題 284
第 12 章　企業(yè)級(jí)智能問答系統(tǒng) 286
12.1  項(xiàng)目概述與分析 286
12.1.1  項(xiàng)目概述 286
12.1.2  項(xiàng)目任務(wù)分析 287
12.2  模塊化開發(fā)與測試 287
12.2.1  數(shù)據(jù)加載模塊 288
12.2.2  嵌入生成與存儲(chǔ)模塊 290
12.2.3  提示詞工程 293
12.2.4  任務(wù)鏈設(shè)計(jì) 296
12.2.5  Agent系統(tǒng) 299
12.2.6  回調(diào)機(jī)制與監(jiān)控 304
12.2.7  單元測試與集成測試 307
12.3  系統(tǒng)集成、部署與優(yōu)化 314
12.3.1  系統(tǒng)集成與部署 315
12.3.2  響應(yīng)速度優(yōu)化 321
12.4  本章小結(jié) 329
12.5  思考題 330