本书共收录了大模型面试中的119道高频问题。全书分为6章，其中的面试问题分别涉及：大模型的基础知识，包括模型推理、训练数据、上下文学习、MoE模型等；大模型预训练相关知识，包括预训练数据、训练策略与基准测试等；大模型监督微调方法与实践，包括微调数据、微调训练等；基于人类反馈的强化学习的算法与训练优化方法，包括DPO、PPO、强化学习、奖励模型等；大模型长文本处理技术，包括位置编码与长上下文能力优化等；多模态大模型的架构设计及其对齐方法等。

沈炜，曾在字节跳动Seed团队、文心一言担任算法研究员，主要研究方向为大模型后训练、NL2Code和离线强化学习等。曾获ICDM Best Student Paper Runner-up、DataCastle Master Award等奖项，曾参与OpenRLHF、Reinforce++等开源项目，知乎“百面LLM”专栏作者。曾在NIPS、ICML和ICLR等CCF-A类会议上以一作或共同一作的身份发表多篇大模型主题的高质量论文。王焱，大模型领域头部知识博主，现为初创公司CTO。从零开始做过预训练，从零开始搭建过日活跃用户数为千万的推荐系统。在大模型后训练方面具有丰富的清洗与标注经验，所训练的模型每天有亿级调用量。

第1章 大模型基础知识 1
1.1 模型推理相关问题 1
1.2 训练数据相关问题 28
1.3 上下文学习相关问题 29
1.4 其他问题 37
1.5 MoE模型相关问题 55
第2章 预训练知识 65
2.1 预训练数据相关问题 65
2.2 预训练的训练策略相关问题 70
2.3 预训练基准测试相关问题 74
第3章 监督微调知识 77
3.1 微调数据相关问题 77
3.2 微调训练相关问题 91
3.3 其他问题 96
第4章 RLHF知识 98
4.1 DPO相关问题 98
4.2 PPO相关问题 105
4.3 强化学习相关问题 117
4.4 奖励模型相关问题 149
第5章 长文本知识 157
5.1 位置编码问题 157
5.2 长文本能力优化相关问题 176
第6章 多模态知识 178
6.1 多模态大模型相关问题 178
6.2 多模态对齐相关问题 183