基 礎(chǔ) 篇

第　1 章 大模型技術(shù)概覽 　3

11　從機(jī)器學(xué)習(xí)到多模態(tài)智能體大模型 　3

111　機(jī)器學(xué)習(xí) 　3

112　大模型 　5

113　多模態(tài)智能體大模型 　7

12　動(dòng)手搭建一個(gè)神經(jīng)網(wǎng)絡(luò) 　9

121　PyTorch CUDA 顯卡開發(fā)環(huán)境搭建 　9

122　卷積神經(jīng)網(wǎng)絡(luò)與循環(huán)神經(jīng)網(wǎng)絡(luò) 　14

123　一個(gè)典型的手寫數(shù)字識(shí)別 CNN 　15

13　注意力機(jī)制的學(xué)習(xí)訓(xùn)練 　19

131　卷積神經(jīng)網(wǎng)絡(luò)中的注意力機(jī)制 　20

132　循環(huán)神經(jīng)網(wǎng)絡(luò)中的注意力機(jī)制 　22

133　Transformer 網(wǎng)絡(luò)結(jié)構(gòu)介紹 　24

第　2 章 Transformer 顯卡開發(fā)環(huán)境與 NLP 任務(wù) 　29

21　Transformer 顯卡開發(fā)環(huán)境搭建 　29

22　BERT 系列模型執(zhí)行 NLP 任務(wù) 　31

221　BERT 模型網(wǎng)絡(luò)結(jié)構(gòu) 　31

222　BERT 變體模型 　33

223　BERT 模型處理自然語言處理任務(wù)　35

23　GPT 模型與早期多模態(tài) ViT 模型 　41

231　GPT 網(wǎng)絡(luò)結(jié)構(gòu) 　41

232　ViT 網(wǎng)絡(luò)結(jié)構(gòu) 　44

第　3 章 開源大模型的推理與訓(xùn)練 　49

31　魔搭社區(qū)與復(fù)雜環(huán)境搭建 　49

32　從零開始訓(xùn)練一個(gè) GPT-2 小模型 　51

321　數(shù)據(jù)的整理與清洗 　51

322　GPT-2 小模型訓(xùn)練 　55

323　GPT-2 小模型對(duì)話測(cè)試 　58

33　全量微調(diào)訓(xùn)練與增量微調(diào)訓(xùn)練 　61

34　Llama 3 與 Llama 4 　63

35　Alpaca 指令式數(shù)據(jù)集 　64

36　Llama 3 及其量化模型的部署 　65

361　Llama 3 常規(guī)模型部署 　65

362　Llama 3 量化模型部署 　68

37　LoRA、P-Tuning、SFT、DPO、PPO 等各種增量微調(diào)技術(shù) 　74

38　基于 PEFT 庫(kù)使用 LoRA 對(duì) Llama 3 進(jìn)行微調(diào) 　76

核　心 篇

第　4 章 提示工程技術(shù)與應(yīng)用 　83

41　提示工程的思維鏈與策略技巧 　83

42　Llama 3 利用提示工程策略完成自然語言處理任務(wù) 　87

43　構(gòu)建多角色的 GPT 應(yīng)用：Llama 3 的提示工程實(shí)踐 　89

44　多任務(wù)提示系統(tǒng)的構(gòu)建與智能體工具鏈集成 　91

45　意圖識(shí)別與 Agent Tool Calling 　95

46　LMStudio Llama 3 實(shí)現(xiàn)多輪歷史對(duì)話與長(zhǎng)文本對(duì)話 　101

第　5 章 基于 Llama 3 打造 SWE-Agent 編程助手 　107

51　Llama 3 SWE-Agent 的框架結(jié)構(gòu)　107

52　數(shù)據(jù)集的準(zhǔn)備、清洗與指令 Token 化 　109

53　Code-Llama 3-Instruct 底座模型的微調(diào)開發(fā) 　110

54　智能體的規(guī)劃、決策、搜索、項(xiàng)目管理與編碼 　115

55　Llama 3 SWE-Agent 的前端與應(yīng)用部署 　120

第　6 章 Llama 3 私有化落地應(yīng)用之初級(jí) RAG 　125

61　私有化大模型的巨大潛力 　125

62　在落地場(chǎng)景中比較微調(diào)與 RAG 　126

63　M3E、E5、Tao8k 等第 一代向量編碼模型 　127

64　知識(shí)庫(kù)中的向量編碼庫(kù)與向量數(shù)據(jù)庫(kù) 　129

65　ChatPDF 案例與單篇文檔對(duì)話 　132

第　7 章 Llama 3 私有化落地應(yīng)用之進(jìn)階 RAG 　137

71　BGE、BCE、ACGE 等第二代向量編碼模型 　137

72　多渠道檢索數(shù)據(jù)來源 　139

73　精準(zhǔn)指令向量化 　143

74　Zpoint、GTE、Xiaobu 等第三代向量編碼模型 　145

75　Clinical-Llama 3 的 Lora 微調(diào) 　148

76　Clinical-Llama 3 的向量化重排 　152

第　8 章 基于 Llama 3 打造專用知識(shí)站與問答系統(tǒng) 　155

81　Python 自動(dòng)化處理文檔的方法 　155

82　使用 LangChain 構(gòu)建關(guān)鍵工作鏈 　158

83　構(gòu)建問答系統(tǒng)的全棧架構(gòu) 　161

831　架設(shè)后端服務(wù) 　161

832　實(shí)現(xiàn)前端界面 　164

擴(kuò)　展 篇

第　9 章 Llama 3 手機(jī)與邊緣計(jì)算部署 　171

91　端側(cè)大模型的價(jià)值與前景 　171

92　再探 llamacpp 　172

93　Maid 與 MLC-Chat 分析 　173

94　算力板的選配 　175

95　llamacpp Android 工程 　179

第　10 章 Llama 3 的高級(jí)功能 　183

101　世界模型與多模態(tài)大模型 　183

102　Llama 3 與視覺大模型聯(lián)動(dòng)開發(fā)多模態(tài)對(duì)話平臺(tái) 　185

103　Llama 3 與語音大模型聯(lián)動(dòng)制作數(shù)字世界的分身 　188

104　Llama 3 與繪圖大模型聯(lián)動(dòng)進(jìn)行 AI 圖片設(shè)計(jì) 　192

105　星河滾燙，你就是理想具身智能 AGI 　194

后記　　196