训练 Training
在海量数据上反复预测和纠错，调整模型内部参数，让模型学会语言、知识、代码和规律。
- 执行频率
- 阶段性训练
- 算力要求
- 千到万块 GPU
- 参数状态
- 持续更新
- 成本
- 极高投入
- 时长
- 数周到数月
04 第一篇章 · 大模型从哪来
训练 vs 推理：两个完全不同的过程
很多人以为 AI 回答问题时就是在学习。其实不是。大模型的工作可以分成两个完全不同的阶段：训练负责学会能力，推理负责使用能力。
一句话回答
训练是让 AI 学会能力，推理是让 AI 使用能力。你平时和 ChatGPT 聊天，大多数时候不是在训练它，而是在调用已经训练好的模型生成答案。
01 一张图看懂区别
training vs inference
类比学生考试：
训练 = 多年学习、反复刷题、形成知识体系
→
推理 = 上考场答题，用已经学会的知识作答
推理 Inference
训练完成后，使用已经学会的参数，针对你的输入实时计算并生成答案。
- 执行频率
- 每次对话
- 算力要求
- 少量 GPU
- 参数状态
- 通常冻结
- 计费
- 按 Token 计费
- 时长
- 秒级响应
02 训练阶段到底发生什么
how training works
1准备数据书籍、网页、代码、图片、视频、对话等材料。
2预测答案让模型猜“下一个词是什么”或下一步结果。
3计算错误把预测结果和真实样本对比，找到差距。
4调整参数修改内部连接，让下一次预测更接近正确。
5形成能力反复很多次后，学会语言、推理、代码和图像规律。
03 训练到底训练了什么
parameters
不是装一本百科，而是塑造大脑结构
训练真正改变的是模型内部参数
参数可以理解成模型内部的“知识连接”。它们决定模型看到一个问题时，如何理解、如何关联、如何生成答案。训练不是把每篇文章原封不动存进去，而是通过海量样本调整这些连接。
输入样本今天天气很...
→
模型预测好 / 热 / 冷
→
纠正参数让下次更准
04 推理阶段发生什么
using the model
你每次聊天，大多数都是推理
推理不是重新学习，而是现场作答
当你输入“帮我写一个营销方案”，模型会读取你的需求、上下文和限制，再用已经训练好的参数计算下一个词、下一句话和整个回答。这个过程会消耗算力，但通常不会把这次对话直接写进模型参数里。
读输入理解你的问题和上下文。
算概率判断下一步最可能生成什么。
生成答案一段一段输出文字、代码或分析。
参数不变普通对话不会让模型现场重训。
05 点一个场景，判断它是训练还是推理
phase picker
用户问 ChatGPT 一个问题
模型使用已经训练好的参数，根据你的输入和上下文生成回答。这是最常见的 AI 使用方式。
判断
参数通常不会因为这次聊天改变
你可以把它理解成：学生已经学完，现在正在答题。
06 为什么训练贵，推理也重要
cost and value
因为它要一次性塑造模型能力
训练顶级大模型需要海量数据、大量 GPU、长时间计算和专业工程团队，成本可能达到数十亿甚至上百亿美元级别。
因为它决定模型能不能被大量使用
未来 AI 会进入手机、汽车、企业系统、客服、软件和智能体。谁能把推理做得更快、更便宜、更稳定，谁就更容易落地。
07 最后记住一句话
final rule
训练决定 AI 能达到多高的上限。
+
推理决定 AI 能创造多少真实价值。
=
智能体把模型变成真正解决问题的系统。
本节小结
- 训练是学习阶段，推理是使用阶段。
- 训练会调整参数，普通推理通常不会改变参数。
- 训练成本高，推理成本来自每一次调用的算力消耗。
- 训练决定 AI 的上限，推理决定 AI 能不能真正创造价值。