CHAO AI LEARNING PATH

AI 知识库

从基础认知到真实项目,把零散知识整理成可以持续学习的路径。 继续学习 Chat Template 和指令微调:AI 是怎么学会“聊天”的?
22学习模块 119已上线课程 75%当前章节
LEARNING MODULES

选择学习方向

从补全到对话Chat Template 和指令微调:AI 是怎么学会“聊天”的?

05 从补全到对话

Chat Template 和指令微调:AI 是怎么学会“聊天”的?

上一篇我们讲了:大模型最开始更像补全机器,后来才变成聊天助手。这里面有两个很容易混淆的概念:Chat Template 和 Instruction Tuning。它们看起来都在让 AI 按要求回答,但实际解决的是两个完全不同的问题。

一句话回答

Chat Template 是“聊天格式”,指令微调是“岗前培训”。前者把 System、User、Assistant 整理成模型能看懂的输入,告诉模型谁在说话;后者通过大量样本训练模型,让它学会用户提出要求后应该怎么完成。

01 模型真的知道谁是“用户”吗 who is speaking

人能一眼看懂,模型需要格式

我们看到的是聊天,模型看到的是一串 Token

人看到“用户:什么是 API?AI:API 是……”,很容易知道谁在问、谁在答。但最基础的大语言模型并不是天生理解这些角色。它需要一套格式,把系统规则、用户问题、助手回复整理清楚。

System你是一名 AI 入门老师。 User什么是 Token? AssistantToken 可以理解为……
02 什么是 Chat Template chat format

聊天模板,就是对话排版规则

它负责把聊天角色整理成模型训练时熟悉的格式

不同模型训练时见过的聊天格式可能不一样。有的用 User / Assistant,有的用特殊标记。Chat Template 的作用,就是按模型习惯把对话拼好,让模型知道:这段是系统规则,这段是用户问题,下一段该轮到助手回答。

示意格式,不代表某个模型真实模板 <系统>你是一名 AI 老师。</系统>
<用户>什么是 Token?</用户>
<助手>
03 为什么需要 Chat Template why format matters
角色清楚

告诉模型谁在提问,谁该回答

没有清晰角色,模型可能把用户的话、助手的话和系统规则混在一起。

减少混乱

避免自己和自己聊天

模板不对时,模型可能重复用户问题、继续编对话,甚至输出奇怪标记。

匹配训练

让模型按熟悉格式发挥能力

开源模型尤其常见:使用官方模板,往往比随便拼字符串更稳定。

04 点一个场景,看两个概念分别解决什么 template vs tuning
场景:谁在说话

Chat Template 解决角色顺序,指令微调解决任务执行

Chat Template 负责

把 System、User、Assistant 排好,让模型知道“这句是用户说的,下一句该助手回答”。

指令微调负责

训练模型看到用户问题后,不是继续编剧本,而是按助手身份认真回答。

一句话:模板管格式,微调管能力。
05 指令微调到底教了什么 instruction tuning
翻译

指令:把 Hello 翻译成中文

理想回答:你好。

解释

指令:用一句话解释人工智能

理想回答:人工智能就是让机器具备类似人类的学习、理解和解决问题能力。

总结

指令:把下面内容总结成 3 点

理想回答:按重点提炼,而不是继续写原文。

06 两者到底差在哪 simple compare

Chat Template

像微信聊天框的格式。它告诉模型这句话是谁说的,下一句应该轮到谁说。

本质
对话格式
解决
谁在说话
参数
通常不改变

指令微调

像新员工岗前培训。它教模型:别人提出要求以后,你应该怎么完成。

本质
训练过程
解决
用户想让我干什么
参数
会改变模型能力
07 把前面概念串起来 full stack
预训练让模型会说话,有基础知识。 → 指令微调让模型会听要求做事。 → Chat Template让模型看懂聊天格式。 → System Prompt告诉模型现在是谁、按什么规则答。 → User Prompt用户提出具体任务。
08 为什么开源模型经常强调官方模板 open source note
成熟产品

ChatGPT、Claude、豆包通常帮你处理好了

普通用户只需要聊天,不需要手动关心模板细节。

开源部署

自己部署模型时,模板很容易影响效果

模型可能是在特定格式下训练的,乱用格式会让能力发挥不稳定。

能力边界

模板不能让普通模型突然变聪明

模板只是整理输入,不能替代指令微调、对齐和模型本身能力。

09 最后用两句话记住 final rule
Chat Template = 聊天格式。指令微调 = 新员工岗前培训。

前者让模型看懂“谁在说话、下一句轮到谁”;后者让模型学会“用户提出要求后,我应该怎么做”。两者配合起来,模型才更像一个稳定的聊天助手。

本节小结

  • Chat Template 是聊天格式,不是训练本身。
  • 指令微调会用大量样本训练模型遵循人类指令。
  • 模板解决角色和格式,微调解决任务理解和执行。
  • 开源模型要尽量使用官方模板,但模板不能替代模型能力。