本文系统梳理了大模型训练体系，包括预训练(形成基座模型)和后训练(监督微调SFT与强化学习RL)。通过标注数据集的监督微调可优化特定领域模型，而强化学习则通过奖励模型引导模型输出更符合人类期望。文章还介绍了不同微调技术(全量微调、LoRA等)，并结合DeepSeek和Qwen案例展示实际应用，帮助初学者理解大模型训练的基础逻辑和方法。

1、预训练（Pre-Training）和后训练（Post-Training）

“训练Training”其实是多年前机器学习时代就有的概念，把机器学习模型可以想象成一个包含有多元变量的数学函数公式y=w1x1+w2x2+…+wnxn+b，其中X1、X2…Xn就是预先选择好要参与计算的特征变量，然后利用一组包含特征值x和结果值y的历史数据，进行训练得到就是各个特征变量的权重系数W1、W2…Wn，这样这个函数就建立起来（训练出来）了，然后预测过程就是将新的一组变量x代入这个函数公式（模型）进行计算，得到函数结果y就是预测值。

虽然大模型本质和机器学习差异还是巨大的，比如大模型的训练过程是不需要人工预先选择/设计特征x的，而是自动学习提取出来的；大模型的权重系数W的数量是巨大的，几十亿到上万亿参数量；大模型的推理是基于词向量的概率推理，和机器学习这种确定性映射计算不同等。

但为了便于理解，我们还是可以将大模型的训练过程简单理解成以上数学函数的训练过程，最终都是为了训练得到这个函数的一套权重参数（只不过大模型的这个函数公式特别通用化、变量特征不固定、权重参数量特别多）。这个过程就包括预训练（pre-training）和后训练（post-train），其相互关系如下：

预训练（pre-training）得到的叫基座模型，可以认为是得到数学函数的一套基础权重参数，可以满足一般场景的预测和推理需要。

后训练（post-train）则是在这个基座模型基础上，结合业务场景需要和行业知识数据等进一步训练，最终是调整了基座模型的某些权重参数，以更精准的满足具体业务场景预测和推理需要。

2、监督微调（SFT）和强化学习（RL）

后训练（post-train）内部又包含监督微调Supervised Fine-Tuning（SFT）和强化学习Reinforcement Learning（RL）两个方向，其主要实现机制对比如下：

先利用前文所述数学函数的例子，来看看监督微调与强化学习的区别：监督微调是要准备一组特征值X和结果值Y（也就是所谓的标注/标签）组成的数据集来进行训练，通过调整函数的权重参数，让它的预测值与结果值Y尽可能接近，它的核心目标就是要最小化预测值与真实标签的误差；而强化学习则不需要预先准备好结果值Y，它只要提供输入让函数模拟计算，再通过与环境的交互获得反馈（奖励或惩罚），通过调整参数尽可能获取奖励，它的核心目标是要能最大化长期累积奖励期望值。

更形象的比喻，监督微调有点像刷练习题，预先准备好题目和标准答案，通过同类题目的反复练习和纠错（调参），确保碰到新题也能作对；而强化学习有点像模拟考，需要阅卷老师评价，通过反复模拟考，提升书写规范性、掌握时间分配、符合阅卷老师倾向等，以尽可能得高分。

如上所述监督微调Supervised Fine-Tuning（SFT）核心是要用到精确标注的数据集，而且是输入（特征）/输出（标签）成对出现的数据集，比如教育领域的题目和解题方法，医疗领域的症状和诊断方法，法律领域的案情和判决结果等，经过微调部分参数或全部参数，得到一个适用于特定行业领域更精准的专有模型。

强化学习Reinforcement Learning（RL）的核心逻辑和微调SFT差别很大，它核心是通过奖励函数/奖励模型（Reward Model）的方式，来引导大模型形成一定的“肌肉记忆”，就是通过对模型输出，选择某些质量维度（如回答的有用性、安全性）进行评价，生成‌奖励分数‌，来指导大模型自我优化方向，举个例子可能更好理解：

比如我们常用的一些聊天对话大模型，之所以能够提供所谓的“情绪价值”，之所以不会出现暴力和涩涩的回答，很大程度上是通过强化学习实现的，在强化学习期间，如果大模型的输出是温暖和正面的，奖励模型就给它加分，经过长时间的强化学习引导，大模型的回答自然就会符合这些价值观和偏好。

所以强化学习的核心就在于奖励模型，这个才是灵魂和难度所在，当然强化学习内部又还有多种策略，比如RLHF（人类反馈强化学习）、PPO（近端策略优化）、GRPO（群体相对策略优化）等，后面案例中也会有所展开。

3、DeepSeek的模型谱系示例

接下来我们用DeepSeek的模型谱系案例，来理解上述预训练、监督微调和强化学习等不同训练方法的具体实践：

如图，我们都很熟悉DeepSeek有两种比较常用的模型，通用语言模型V3和推理增强模型R1，这两种模型实际都是在基座模型DeepSeek-V3-Base基础上经过监督微调和强化学习出来的。

和我们一般认知有所不同，都说R1是基于V3的，实际指的是基于V3-Base这个基座模型（Foundation Model）。

然后用于聊天对话的V3，实际也是在V3-Base基础上经过专门的后训练得出来的（基于标注好的问答数据集做SFT，基于强化学习评价引导等），所以才能在聊天对话中提供“情绪价值”。

而R1则是推理增强模型，其核心也包括监督微调SFT过程，利用带思维链推理过程标注的数据集；也包括强化学习RL过程，利用奖励模型来评分（如有推理过程和格式就加分，推理过程越清晰得分越多等）。经过多轮次交替最终得到这种推理增强模型

额外提一句：R1推理模型因为有Thinking思考过程，响应时间更慢一些，但可解释性更强一些，所以更适合复杂分析和总结的场景，而需要即时响应并反馈的场景，则更适合用通用语言模型V3。五一前夕出来的Qwen3模型，则是一个混合推理模型，可以按需开启/关闭推理思考过程。

4、Qwen2.5-Math模型谱系示例

前段时间因为要引用Qwen的数学模型（Qwen2.5-Math-7B-Instruct），在魔搭社区找到该模型的介绍，看到其模型谱系如下：

如图在Qwen2.5模型基础上，利用数据集“Math Corpus V2”，经过预训练Pre-train得到Qwen2.5数学模型系列的基座模型“Qwen2.5-Math”。

在基座模型“Qwen2.5-Math”基础上，经过监督微调SFT，得到Qwen2.5-Math-SFT模型，这里提到SFT过程包括：

这段英文主要说明微调SFT过程用到了思维链CoT做法，以及集成工具推理TIR的做法，关键是利用“Math SFT V2”这套标注数据集，实现中英文数学问题的解答。

在Qwen2.5-Math-SFT模型基础上进一步进行强化学习，其核心是利用“Qwen2.5-Math-RM（72B）”这个评价模型（Reward Model），同时基于‌群体相对策略优化GRPO（Group Relative Policy Optimization），才最终得到我们要在业务场景中使用的模型“Qwen2.5-Math-7B-Instruct”。

那么，如何系统的去学习大模型LLM？

作为一名从业五年的资深大模型算法工程师，我经常会收到一些评论和私信，我是小白，学习大模型该从哪里入手呢？我自学没有方向怎么办？这个地方我不会啊。如果你也有类似的经历，一定要继续看下去！这些问题啊，也不是三言两语啊就能讲明白的。

所以我综合了大模型的所有知识点，给大家带来一套全网最全最细的大模型零基础教程。在做这套教程之前呢，我就曾放空大脑，以一个大模型小白的角度去重新解析它，采用基础知识和实战项目相结合的教学方式，历时3个月，终于完成了这样的课程，让你真正体会到什么是每一秒都在疯狂输出知识点。

由于篇幅有限，⚡️ 朋友们如果有需要全套 《2025全新制作的大模型全套资料》，扫码获取~

为什么要学习大模型？

我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年，人才缺口已超百万，凸显培养不足。随着AI技术飞速发展，预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。

👉大模型学习指南+路线汇总👈

我们这套大模型资料呢，会从基础篇、进阶篇和项目实战篇等三大方面来讲解。

👉①.基础篇👈

基础篇里面包括了Python快速入门、AI开发环境搭建及提示词工程，带你学习大模型核心原理、prompt使用技巧、Transformer架构和预训练、SFT、RLHF等一些基础概念，用最易懂的方式带你入门大模型。

👉②.进阶篇👈

接下来是进阶篇，你将掌握RAG、Agent、Langchain、大模型微调和私有化部署，学习如何构建外挂知识库并和自己的企业相结合，学习如何使用langchain框架提高开发效率和代码质量、学习如何选择合适的基座模型并进行数据集的收集预处理以及具体的模型微调等等。

👉③.实战篇👈

实战篇会手把手带着大家练习企业级的落地项目（已脱敏），比如RAG医疗问答系统、Agent智能电商客服系统、数字人项目实战、教育行业智能助教等等，从而帮助大家更好的应对大模型时代的挑战。

👉④.福利篇👈

最后呢，会给大家一个小福利，课程视频中的所有素材，有搭建AI开发环境资料包，还有学习计划表，几十上百G素材、电子书和课件等等，只要你能想到的素材，我这里几乎都有。我已经全部上传到CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

相信我，这套大模型系统教程将会是全网最齐全 最易懂的小白专用课！！