04 第一篇章 · 大模型从哪来
Base 模型：先学会接话
前面我们已经知道：文字会被切成 Token，模型会预测下一个 Token。这一节讲 Base 模型。它不是我们平时看到的聊天助手，而是大语言模型最基础的底座：先学会把一句话顺着往下接。
一句话回答
Base 模型是大语言模型的基础底座，核心能力是“续写”。它会根据前面的 Token，预测下一个 Token，再把新 Token 加回上下文继续预测。它很会接话，但还不一定会像 ChatGPT 一样稳定听指令、守规则、当助手。
01 Base 模型到底是什么
base model
先别把它想成聊天机器人
它更像一个被海量文本训练出来的续写底座
Base 模型经过大规模预训练，看过大量文字、代码和资料，学会了语言规律、知识关联和文本结构。你给它一段开头，它会判断后面最可能接什么，然后继续生成。
输入今天的天气很
→
预测好 / 热 / 不好
→
输出今天的天气很好
02 Token 推 Token 是怎么发生的
one by one
1读取前文把你给的文字切成 Token，放进上下文。
2计算概率判断下一个 Token 可能是什么。
3选出一个根据概率、温度等设置选中一个 Token。
4接回前文把新 Token 加进去，形成更长的上下文。
5继续生成重复这个过程，直到输出完整内容。
03 点一个开头，看 Base 模型会怎么续写
completion lab
续写倾向
它会顺着邮件格式往下写
输入前文
尊敬的客户，关于本次产品交付延期，
可能续写
我们深感抱歉。由于供应链排期调整，原定交付时间需要顺延。我们会尽快同步新的时间安排，并提供相应支持。
我们
深感
抱歉
。
重点：它是在接着前文写，不是在先判断“用户到底想让我完成什么任务”。
04 Base 模型和 Chat 模型差在哪
base vs chat
Base 模型
核心是续写。它擅长根据前文生成后续内容，但不一定知道自己应该扮演“助手”。
- 目标
- 预测下一个 Token
- 表现
- 像文本补全器
- 风险
- 可能顺着错误继续写
Chat 模型
在 Base 模型上继续训练，让它更会听指令、回答问题、遵守格式和安全规则。
- 目标
- 按用户意图完成任务
- 表现
- 像 AI 助手
- 增强
- 指令微调和安全对齐
05 它怎样变成我们熟悉的聊天助手
from base to assistant
Base 模型先学会语言规律和续写能力。
→
指令微调学习“用户让你做什么，你就怎么回答”。
→
安全对齐减少危险、胡编和不合适回答。
→
聊天产品加上界面、工具、记忆、知识库和工作流。
06 小白最容易误解的地方
clear boundary
不是搜索引擎
它不是先查资料再回答
Base 模型主要是根据参数和上下文续写。没有检索工具时，它不保证事实最新。
不是天然客服
它不一定会主动理解业务目标
要做客服、销售或助教，还需要知识库、流程、规则和评测。
不是完整产品
模型底座只是发动能力的一部分
真正可用的 AI 产品，还要有界面、权限、工具、监控和成本控制。
07 最后用一句话记住
final rule
Base 模型先学会“接着写”，Chat 模型再学会“帮你做”。
所以，大模型最底层不是一上来就会聊天，而是先通过海量训练学会 Token 推 Token。后面的指令微调、对齐和产品系统，才把它变成你熟悉的 AI 助手。
本节小结
- Base 模型是大语言模型的基础底座。
- 它最核心的能力，是根据前文预测下一个 Token。
- Base 模型更像续写机器，不等于 ChatGPT 这种聊天助手。
- Chat 模型通常是在 Base 模型上继续做指令微调、安全对齐和产品化。