本书立足高职高专人工智能应用教学实际,围绕大模型垂直应用的关键技术与典型场景,系统构建了“基础认知—本地部署—数据构建—模型微调—RAG 应用—系统集成—场景落地—智能体开发”的完整教学内容体系。本书共 12 章,主要涵盖大模型与 DeepSeek 生态基础、DeepSeek 模型本地部署、垂直领域数据处理、DeepSeek 模型微调:基础原理与微调框架、DeepSeek 微调模型:实践操作与进阶技巧、RAG(检索增强生成):概念与基础流程、RAG 系统进阶与 DeepSeek 融合、模型评估与上线部署、DeepSeek API 开发与集成、职业教育场景应用、系统优化与持续迭代,以及多模态与 AI Agent 等内容,突出实践导向和工程能力培养。本书既可作为高职高专院校人工智能技术应用、软件技术、大数据技术、云计算等相关专业的教材,也可供相关教师、学生及人工智能应用开发初学者参考。
杨学全,教授,现任职于河北农业大学,硕士研究生导师。1989年大学毕业参加工作,曾任职于保定职业技术学院,长期在教学科研一线辛勤耕耘,编写多部计算机类教材,其中荣获普通高等教育“十一五”国家级规划教材1部,荣获“十二五”职业教育国家规划教材2部,荣获“十三五”职业教育国家规划教材1部,荣获“十四五”职业教育国家规划教材1部。
目录
第 1 章? 大模型与 DeepSeek 生态基础 1
1.1 人工智能概述 1
1.1.1 人工智能 1
1.1.2 机器学习 1
1.1.3 深度学习 5
1.2 大模型简史与关键概念 8
1.2.1 从浅层神经网络到 Transformer 8
1.2.2 GPT、BERT、LLaMA 等大模型的共性与差异 8
1.3 DeepSeek 概览 9
1.3.1 DeepSeek 模型的主要特点 9
1.3.2 DeepSeek 通俗理解蒸馏 9
1.3.3 DeepSeek 社区与开源生态 9
1.3.4 DeepSeek 大模型在垂直领域使用时的问题 10
第 2 章? DeepSeek 模型本地部署 11
2.1 本地部署的意义与场景 11
2.1.1 本地部署与云部署 11
2.1.2 职业院校实际环境 11
2.2 部署环境准备 12
2.2.1 硬件需求 12
2.2.2 软件要求 12
2.2.3 虚拟环境与容器化 13
2.3 本地部署流程与配置 13
2.3.1 模型下载与本地加载 13
2.3.2 API 模式部署 14
2.3.3 本地安全策略 16
2.4 实验项目 1:在本地机房搭建 DeepSeek 微调模型服务 20
2.4.1 实操:安装所有依赖后,启动本地服务 20
2.4.2 测试与验证 24
2.4.3 故障排查 24
第 3 章? 垂直领域数据处理 27
3.1 垂直数据的核心价值 27
3.1.1 为何通用模型无法覆盖职业教育细分领域 27
3.1.2 垂直领域数据在准确性与个性化上的决定性作用 27
3.2 数据采集与清洗 27
3.2.1 数据采集 27
3.2.2 数据清洗流程 28
3.3 数据标注与管理 28
3.3.1 数据标注 29
3.3.2 版本管理与质量检查 29
3.4 实验项目 2:构建“职业教育”垂直语料库 30
3.4.1 语料库的获取与清洗 30
3.4.2 语料库发布与团队协作(Git/ 云端共享) 30
第 4 章? DeepSeek 模型微调:基础原理与微调框架 33
4.1 微调与蒸馏原理 33
4.1.1 通用大模型与特定场景应用 33
4.1.2 蒸馏与微调的关系 34
4.1.3 蒸馏的原理 34
4.1.4 蒸馏损失与温度系数 34
4.2 微调的方法和工具框架 36
4.2.1 Hugging Face 的 PEFT 库 36
4.2.2 LLaMA-Factory 36
4.2.3 OpenAI 微调工具 37
4.3 微调前的准备工作 37
4.3.1 环境搭建 37
4.3.2 数据划分 37
4.3.3 超参数初步设置 42
4.4 实验项目 3(上):微调准备与数据检查 42
4.4.1 对垂直语料进行划分,形成合规的训练集 / 验证集 42
4.4.2 编辑微调配置文件:警惕常见的参数错误 46
第 5 章? DeepSeek 模型微调:实践操作与进阶技巧 47
5.1 微调过程实操 47
5.1.1 训练脚本结构 47
5.1.2 训练时监控 57
5.2 常见微调策略(方法)及技巧 58
5.2.1 全参数微调 58
5.2.2 LoRA、QLoRA 58
5.2.3 Prompt Learning 59
5.2.4 RLHF 微调 59
5.3 训练优化与问题排查 60
5.3.1 超参数微调 60
5.3.2 过拟合与欠拟合 60
5.3.3 训练瓶颈 62
5.3.4 数据质量不足 62
5.3.5 算法选择不当 63
5.4 实验项目 3(下):完成 DeepSeek 的完整微调流程 63
5.4.1 运行训练脚本并实时观察指标变化 63
5.4.2 保存模型并进行验证 65
第 6 章? RAG(检索增强生成):概念与基础流程 67
6.1 为什么需要 RAG 67
6.1.1 大模型知识的时效性与外部扩展需求 67
6.1.2 “先查资料再回答”的思路带来的准确率提升 67
6.2 RAG 核心概念 68
6.2.1 检索器与生成器 68
6.2.2 RAG 在实际应用中的典型场景 68
6.3 RAG 框架与开发技巧 68
6.3.1 LangChain——Python 开发接口 68
6.3.2 RAGFlow 71
6.3.3 数据分割 75
6.3.4 数据检索 76
6.4 构建基础检索模块 76
6.4.1 向量数据库与倒排索引 76
6.4.2 文本分块与向量生成 77
6.5 实验项目 4(上):从零开始实现简易 RAG 78
6.5.1 安装并配置 Faiss 或 Milvus 78
6.5.2 将“职业教育语料库”导入并进行向量生成 80
第 7 章? RAG 系统进阶与 DeepSeek 融合 85
7.1 如何将检索信息与 DeepSeek 对接 85
7.1.1 基于提示词的融合:把检索结果作为上下文 85
7.1.2 提示词设计 86
7.2 RAG 的优化与常见问题 87
7.2.1 防止乱码或无关结果生成 87
7.2.2 检索精度与速度的平衡 88
7.3 RAG 系统的评估 88
7.4 实验项目 4(下):RAG + DeepSeek 综合实战 89
7.4.1 编写对话式 API 89
7.4.2 评测与真实问答测试 92
第 8 章? 模型评估与上线部署 99
8.1 模型评估指标与方法 99
8.1.1 自动评估 99
8.1.2 人工评测 101
8.2 部署架构概览 101
8.2.1 基础部署:单机 GPU 或 CPU 101
8.2.2 分布式与云部署 102
8.3 安全与稳定性考虑 102
8.3.1 API 限流、用户认证、敏感内容过滤 102
8.3.2 常见故障类型:模型崩溃、存储访问异常 103
8.4 实验项目 5(上):初步上线部署 104
第 9 章? DeepSeek API 开发与集成 107
9.1 DeepSeek 官方 API 详解 107
9.1.1 可用接口概览 107
9.1.2 API 鉴权与速率限制 109
9.2 前后端联动:如何在 Web 或移动端调用 DeepSeek 109
9.2.1 FastAPI/Flask 等常用后端框架与 DeepSeek 联动 109
9.2.2 JSON 数据格式约定与前端调用示例 110
9.3 实验项目 5(下):基于 DeepSeek API 的实用工具开发 111
9.3.1 “校园智能问答系统”在线 Demo:前端 + 后端 + 模型 API 三者协作 111
9.3.2 接口测试与调试:Postman/Swagger 文档自动生成 115
第 10 章? 职业教育场景应用 119
10.1 校园智能应用思路 119
10.1.1 考试出题、答疑系统的需求场景 119
10.1.2 用户角色的重点需求 119
10.2 详细应用示例 120
10.3 实验项目 6:原型系统展示与用户测试 120
10.3.1 界面设计与功能实现 120
10.3.2 后端逻辑与数据接口实现 122
10.3.3 校内小规模测试,收集改进意见 134
第 11 章? 系统优化与持续迭代 135
11.1 用户反馈与数据再收集 135
11.1.1 日志记录:真实提问与系统回答的自动记录 135
11.1.2 将新数据纳入二次训练与蒸馏过程 135
11.2 自动化运维与版本管理 136
11.2.1 CI/CD(持续集成 / 持续部署) 136
11.2.2 回滚机制与多版本并行测试 136
11.3 小组改进任务:二次迭代微调 137
11.3.1 重点改进回答准确度或响应速度 137
11.3.2 观察改进前后指标的量化变化 137
第 12 章? 多模态与 AI Agent 139
12.1 多模态进阶方向 139
12.1.1 引入图像、音频、视频 139
12.1.2 多模态研究动态 139
12.2 从 RAG 到 AI Agent 140
12.2.1 工具调用和任务自动化 140
12.2.2 职业教育领域的未来想象:智能辅导、虚拟教师 141
12.3 思考与展望 141
12.3.1 大模型安全合规与伦理 141
12.3.2 AI 时代的职业教育人才培养模式 142
附录 143
参考文献 149