DeepSeek本地部署與應(yīng)用開發(fā):政府與企業(yè)級實(shí)戰(zhàn)案例解析
定 價:79 元
- 作者:康瑋劍,楊杰斌 著
- 出版時間:2025/9/1
- ISBN:9787301364901
- 出 版 社:北京大學(xué)出版社
- 中圖法分類:TP18
- 頁碼:380
- 紙張:
- 版次:1
- 開本:32開
本書聚焦于DeepSeek大模型在企業(yè)與政府場景下的本地化部署應(yīng)用。開篇對DeepSeek進(jìn)行全面介紹,涵蓋大模型發(fā)展脈絡(luò)、DeepSeek的演變歷程,剖析DeepSeek其技術(shù)架構(gòu)和參數(shù)版本分類等,還講解如何有效提問以及在熱門平臺的應(yīng)用場景。隨后深入本地化部署實(shí)操,從硬件選型的CPU、GPU配置,到Ollama和DeepSeek模型安裝,再到網(wǎng)絡(luò)安全規(guī)劃與問題排查,都給出詳細(xì)指引。并基于OpenWebUI、Dify、AnythingLLM等工具,介紹企業(yè)知識庫搭建的具體流程。通過金融、醫(yī)療、政務(wù)、企業(yè)營銷等行業(yè)實(shí)戰(zhàn)案例,詳細(xì)說明DeepSeek的應(yīng)用架構(gòu)與實(shí)現(xiàn)步驟,助力讀者將其落地。附錄提供了常用命令、硬件配置參考、術(shù)語解釋等資源,方便讀者隨時查閱,是一本實(shí)操性強(qiáng)的技術(shù)指南書籍。全書共分為12章。內(nèi)容包括:第1章 DeepSeek介紹;第2章 DeepSeek使用;第3章 本地化部署的必要性;第4章 本地化部署實(shí)操;第5章 基于OpenUI的企業(yè)知識庫搭建;第6章 基于Dify的企業(yè)知識庫搭建;第7章 基于AnythingLLM的企業(yè)知識庫搭建;第8章 實(shí)戰(zhàn):金融行業(yè);第9章 實(shí)戰(zhàn):醫(yī)療領(lǐng)域;第10章 實(shí)戰(zhàn):政務(wù)場景;第11章 實(shí)戰(zhàn):企業(yè)營銷;第12章 附錄:工具與資源速查。
本書適合對AIGC和DeepSeek技術(shù)感興趣的技術(shù)人員、希望深入探究DeepSeek高級應(yīng)用的技術(shù)愛好者和開發(fā)人員閱讀參考。
康瑋劍【著】【中國】【現(xiàn)當(dāng)代】
———
康瑋劍,現(xiàn)任廈門歷思科技的軟件技術(shù)總監(jiān)。CSDN博客專家,全網(wǎng)粉絲10w+。擁有10年軟件開發(fā)和IT行業(yè)經(jīng)驗(yàn),緊跟人工智能大模型技術(shù)的發(fā)展,成功將其應(yīng)用于實(shí)際項(xiàng)目中,顯著提升企業(yè)及政府機(jī)構(gòu)的工作效能。
楊杰斌【著】【中國】【現(xiàn)當(dāng)代】
———
楊杰斌,10年大數(shù)據(jù)和AI應(yīng)用開發(fā)經(jīng)驗(yàn)。曾任網(wǎng)宿科技高級大數(shù)據(jù)工程師,現(xiàn)任美圖秀秀高級算法工程師,憑借其卓越的技術(shù)能力,主導(dǎo)多項(xiàng)關(guān)鍵技術(shù)項(xiàng)目。致力于企業(yè)數(shù)字化轉(zhuǎn)型和人工智能領(lǐng)域的探索和分享。
目 錄
第1章
DeepSeek介紹
1.1 DeepSeek發(fā)展歷程 002
1.1.1 早期創(chuàng)立與初步探索
(2023年) 002
1.1.2 技術(shù)迭代與性能提升(2024年) 002
1.1.3 技術(shù)突破與開源登頂
(2025年) 003
1.2 DeepSeek產(chǎn)業(yè)革命 004
1.2.1 芯片與算力廠商 004
1.2.2 互聯(lián)網(wǎng)與云廠商 005
1.2.3 車企與手機(jī)廠商 006
1.2.4 政府與政務(wù)服務(wù) 007
1.2.5 醫(yī)療與教育服務(wù) 007
1.3 DeepSeek爆火原因 009
1.3.1 國際頂尖的推理能力 009
1.3.2 超低的推理和訓(xùn)練成本 010
1.3.3 開源策略普惠全世界 011
1.4 小結(jié) 012
第2章
DeepSeek本地化部署
必要性
2.1 全方位對比矩陣 015
2.2 數(shù)據(jù)安全與合規(guī) 016
2.2.1 高度監(jiān)管領(lǐng)域 016
2.2.2 經(jīng)濟(jì)損失案例 017
2.2.3 實(shí)際應(yīng)用案例 017
2.3 穩(wěn)定性與可靠性 018
2.4 低延時與實(shí)時性 019
2.4.1 實(shí)時性場景 019
2.4.2 本地化部署優(yōu)勢 020
2.5 模型微調(diào)與優(yōu)化適配 020
2.5.1 DeepSeek優(yōu)勢 020
2.5.2 實(shí)際應(yīng)用案例 021
2.6 邊緣離線應(yīng)用 022
2.6.1 邊緣離線場景 022
2.6.2 實(shí)際應(yīng)用案例 022
2.6 長期使用成本 023
2.7.1 人工客服成本基準(zhǔn) 023
2.7.2 API調(diào)用成本估算(智能客服) 024
2.7.3 API調(diào)用成本估算(智能營銷) 025
2.7.4 本地化部署成本 026
2.7.5 小結(jié) 026
第3章
DeepSeek本地化部署建議
3.1 評估準(zhǔn)備工作 029
3.1.1 必要性評估 029
3.1.2 需求評估 029
3.1.3 資源評估 030
3.1.4 風(fēng)險評估 031
3.1.5 效益評估 032
3.2 算力申請或租賃 033
3.2.1 購買硬件 033
3.2.2 申請算力 034
3.2.3 租賃算力 035
3.3 分階段實(shí)施 036
3.3.1 初期探索階段 037
3.3.2 優(yōu)化拓展階段 037
3.3.3 全面推廣階段 038
3.4 混合架構(gòu)策略 039
第4章
DeepSeek本地化部署實(shí)操
4.1 本地化部署工具對比 042
4.2 基于Windows系統(tǒng)部署Ollama 043
4.2.1 下載Ollama 043
4.2.2 安裝Ollama 044
4.2.3 指定Ollama安裝路徑 045
4.2.4 指定大模型存儲路徑 045
4.3 基于Linux系統(tǒng)部署Ollama 046
4.3.1 下載Ollama 047
4.3.2 啟動Ollama 047
4.4 Ollama安全設(shè)置 048
4.4.1 Ollama的風(fēng)險隱患 048
4.4.2 Ollama的安全防護(hù) 049
4.5 部署DeepSeek模型 050
4.5.1 選擇DeepSeek-R1模型 050
4.5.2 拉取DeepSeek-R1模型 053
4.5.3 運(yùn)行DeepSeek-R1模型 054
4.6 部署過程中的常見問題 056
4.6.1 模型加載時間過長 056
4.6.2 啟動Ollama報錯 057
4.6.3 內(nèi)存不足錯誤 058
4.6.4 模型響應(yīng)不準(zhǔn)確 058
4.7 DeepSeek本地運(yùn)行實(shí)測 058
4.7.1 基于NVIDIA RTX 3060 12G實(shí)測 059
4.7.2 基于AMD RX 7900 XTX 24G實(shí)測 065
4.8 DeepSeek本地一體機(jī) 071
4.8.1 中國電信:息壤智算一體機(jī)—(DeepSeek版) 072
4.8.2 京東云:DeepSeek大模型一體機(jī) 072
4.8.3 聯(lián)想:DeepSeek智能體一體機(jī) 072
4.8.4 阿里:飛天智算一體機(jī) 073
4.8.5 百度:DeepSeek推理一體機(jī) 073
4.8.6 浪潮:DeepSeek元腦一體機(jī) 074
第5章
DeepSeek信創(chuàng)系統(tǒng)實(shí)操
5.1 信創(chuàng)介紹 076
5.1.1 信創(chuàng)的重要性 076
5.1.2 信創(chuàng)的核心架構(gòu)體系 077
5.1.3 信創(chuàng)的典型應(yīng)用示例 078
5.2 基于統(tǒng)信UOS部署DeepSeek 079
5.2.1 統(tǒng)信UOS介紹 079
5.2.2 統(tǒng)信UOS AI 080
5.2.3 基于Ollama部署DeepSeek 082
5.3 基于麒麟openKylin部署DeepSeek 082
5.3.1 銀河麒麟openKylin介紹 083
5.3.2 麒麟AI助手 083
5.3.3 基于Ollama部署DeepSeek 085
第6章
大模型本地化部署安全防護(hù)
6.1 大模型本地化部署的安全隱患 087
6.1.1 數(shù)據(jù)安全隱患 087
6.1.2 網(wǎng)絡(luò)安全隱患 088
6.1.3 開源框架漏洞隱患 089
6.2 大模型本地化部署安全隱患的解決方案 090
6.2.1 數(shù)據(jù)安全解決方案 090
6.2.2 框架漏洞解決方案 091
6.2.3 網(wǎng)絡(luò)安全解決方案 093
6.3 漏洞掃描檢測工具 094
6.3.1 漏洞掃描檢測工具對比 094
6.3.2 AI-Infra-Guard安裝 096
6.3.3 AI-infra-Guard的Web使用 098
6.3.4 AI-infra-Guard的命令行使用 102
第7章
DeepSeek本地應(yīng)用實(shí)踐
7.1 基于Chatbox客戶端使用DeepSeek 105
7.1.1 Chatbox下載 105
7.1.2 Chatbox安裝 105
7.1.3 Chatbox配置 106
7.1.4 Chatbox使用 107
7.2 基于REST API使用DeepSeek 108
7.2.1 Ollama API文檔 108
7.2.2 REST API分類和簡述 109
7.2.3 使用Curl快速測試API 連通性 110
7.2.4 使用Apipost調(diào)用Ollama
生成文本接口 111
7.2.5 使用Python調(diào)用Ollama生成聊天接口 112
7.3 基于Visual Studio Code插件使用DeepSeek 114
7.3.1 VS Code下載 115
7.3.2 VS Code安裝 115
7.3.3 VS Code插件 116
7.3.4 使用Roo Code插件 117
7.3.5 使用twinny插件 120
7.3.6 使用Cline插件 123
7.3.7 使用DeepSeek R1插件 126
第8章
OpenWebUI應(yīng)用實(shí)踐
8.1 基于Windows部署OpenWebUI 131
8.1.1 Docker Desktop下載 131
8.1.2 Docker Desktop安裝 131
8.1.3 Docker Engine啟動 133
8.1.4 Docker Engine鏡像源 134
8.1.5 拉取OpenWebUI鏡像 135
8.1.6 啟動OpenWebUI容器 136
8.1.7 停止OpenWebUI容器 137
8.1.8 刪除OpenWebUI容器 137
8.2 基于Linux部署OpenWebUI 137
8.2.1 準(zhǔn)備Conda環(huán)境 138
8.2.2 安裝OpenWebUI平臺 139
8.3 OpenWebUI基礎(chǔ)應(yīng)用 140
8.3.1 創(chuàng)建管理員賬號 141
8.3.2 禁用OpenAI 141
8.3.3 用戶管理 142
8.3.4 權(quán)限組管理 144
8.3.5 模型管理 146
8.3.6 知識庫管理 148
8.3.7 提示詞管理 150
8.3.8 本地局域網(wǎng)使用 151
8.4 文檔內(nèi)容提取引擎 153
8.4.1 動態(tài)適配源碼解析 153
8.4.2 內(nèi)容提取引擎對比 157
8.4.3 Apache Tika安裝 158
8.4.4 Apache Tika集成 159
8.5 聯(lián)網(wǎng)搜索引擎 160
8.5.1 SearXNG介紹 161
8.5.2 SearXNG安裝 162
8.5.3 SearXNG集成 163
8.5.4 SearXNG常見問題 164
8.5.5 Open WebUI使用聯(lián)網(wǎng)搜索 168
8.6 文本分切器 169
8.6.1 文本分切器對比 170
8.6.2 Tiktoken分切器設(shè)置 170
8.7 語義向量模型 171
8.7.1 語義向量模型引擎 171
8.7.2 語義向量模型對比 172
8.7.3 BGE-M3集成 173
8.8 檢索機(jī)制 174
8.8.1 向量檢索源碼解析 176
8.8.2 混合檢索源碼解析 177
8.8.3 Reranker重排序模型 181
8.8.4 BAAI/bge-reranker-v2-m3集成 182
8.9 RAG 183
8.9.1 知識庫構(gòu)建流程 183
8.9.2 RAG工作流程 184
8.9.3 RAG應(yīng)用示例(辦公助手) 186
第9章
Dify應(yīng)用實(shí)踐
9.1 Dify概述和核心價值 190
9.1.1 Dify概述 190
9.1.2 Dify核心價值 191
9.2 Dify的核心架構(gòu)與技術(shù)實(shí)現(xiàn) 191
9.2.1 知識庫管理系統(tǒng) 191
9.2.2 工作流引擎 192
9.2.3 模型管理 193
9.3 Dify的搭建與部署 193
9.3.1 環(huán)境準(zhǔn)備 193
9.3.2 克隆代碼庫 194
9.3.3 啟動服務(wù) 195
9.3.4 常見問題排查 197
9.4 使用Dify搭建AI聊天助手 201
9.4.1 初始化Dify 201
9.4.2 添加模型供應(yīng)商 202
9.4.3 創(chuàng)建聊天助手 203
9.4.4 發(fā)布聊天助手 205
9.5 知識庫的使用 206
9.5.1 新建知識庫 206
9.5.2 安裝Embedding模型 208
9.5.3 在聊天室中配置知識庫 209
9.5.4 知識庫效果展示 210
9.6 Agent的使用 212
9.6.1 聊天助手、Agent、文本生成應(yīng)用介紹 212
9.6.2 Agent工具介紹 213
9.6.3 使用Agent實(shí)現(xiàn)旅游助手 215
9.7 知識庫優(yōu)化建議 219
9.7.1 文檔質(zhì)量 219
9.7.2 分段策略 220
9.7.3 檢索測試 220
9.7.4 成本控制 221
9.8 小結(jié) 221
第10章
實(shí)戰(zhàn)——基于工作流構(gòu)建企業(yè)會議助手
10.1 依賴環(huán)境 224
10.2 創(chuàng)建Dify工作流應(yīng)用 224
10.3 獲取個人用戶信息 225
10.3.1 獲取Dify用戶ID 225
10.3.2 綁定OA用戶ID 226
10.3.3 獲取OA用戶ID 227
10.4 實(shí)現(xiàn)預(yù)定會議功能 231
10.4.1 獲取預(yù)定會議接口 231
10.4.2 獲取接口所需信息 231
10.4.3 請求接口預(yù)定會議 237
10.5 實(shí)現(xiàn)會議查詢功能 242
10.5.1 獲取查詢會議接口 242
10.5.2 請求接口查詢會議 243
10.6 實(shí)現(xiàn)會議取消功能 247
10.6.1 取消會議接口 247
10.6.2 獲取會議ID 247
10.6.3 請求接口取消會議 252
10.7 實(shí)現(xiàn)會議紀(jì)要功能 254
10.7.1 安裝語音模型 254
10.7.2 開發(fā)語音識別服務(wù) 257
10.7.3 配置Dify工作流 260
10.7.4 效果演示 264
10.8 實(shí)現(xiàn)各個功能匯總 264
第11章
實(shí)戰(zhàn)——基于智能體構(gòu)建企業(yè)招聘助手
11.1 OpenAI Agents SDK介紹和使用 269
11.1.1 OpenAI Agents SDK介紹 269
11.1.2 OpenAI Agents SDK安裝 270
11.1.3 在OpenAI Agents SDK中使用DeepSeek 270
11.1.4 Agent使用示例 272
11.1.5 Handoffs使用示例 273
11.1.6 Tool使用示例 276
11.2 項(xiàng)目開始前準(zhǔn)備工作 277
11.2.1 項(xiàng)目環(huán)境準(zhǔn)備 277
11.2.2 定義使用的模型供應(yīng)商 278
11.3 實(shí)現(xiàn)簡歷分析功能 279
11.3.1 簡歷分析工具開發(fā) 280
11.3.2 簡歷分析Agent定義 281
11.3.4 簡歷分析Agent測試 284
11.4 實(shí)現(xiàn)簡歷概要輸出Excel功能 285
11.4.1 簡歷輸出工具開發(fā) 285
11.4.2 簡歷輸出Agent定義 288
11.4.3 簡歷分析和輸出Agent測試 289
11.5 實(shí)現(xiàn)壓縮包解壓自動識別簡歷功能 291
11.5.1 簡歷解壓工具開發(fā) 291
11.5.2 簡歷解壓Agent定義 293
11.5.3 簡歷解壓、分析和輸出Agent測試 294
11.6 實(shí)現(xiàn)簡歷評估排序功能 296
11.6.1 簡歷評估排序Agent定義 296
11.6.2 簡歷解壓、分析、排序和輸出Agent測試 298
11.7 功能整合與智能體集成 301
11.7.1 入口Agent定義 301
11.7.2 智能體集成與測試 303
第12章
實(shí)戰(zhàn)——AI聊天機(jī)器人
12.1 小智AI系統(tǒng)架構(gòu) 309
12.1.1 小智AI介紹 309
12.1.2 系統(tǒng)架構(gòu)設(shè)計(jì) 311
12.1.3 語音對話流程 313
12.1.4 本地應(yīng)用場景 314
12.2 ESP32設(shè)備端實(shí)現(xiàn) 316
12.2.1 硬件平臺(ESP32-S3-BOX3) 316
12.2.2 軟件框架結(jié)構(gòu) 317
12.2.3 源碼編譯與固件下載 319
12.2.4 Wi-Fi配網(wǎng)功能實(shí)現(xiàn) 322
12.2.5 設(shè)備激活功能實(shí)現(xiàn) 327
12.2.6 語音對話功能實(shí)現(xiàn) 331
12.2.7 離線喚醒和對話打斷功能實(shí)現(xiàn) 336
12.3 本地服務(wù)器實(shí)現(xiàn) 347
12.3.1 軟件框架結(jié)構(gòu) 347
12.3.2 本地環(huán)境準(zhǔn)備 349
12.3.3 本地后端服務(wù)運(yùn)行 355
12.3.4 本地前端服務(wù)運(yùn)行 358
12.3.5 服務(wù)器配置管理 359
12.3.6 ESP32連接服務(wù)器 362
12.3.7 DeepSeek調(diào)用流程 364
12.4 總結(jié) 368