CHAO AI LEARNING PATH

AI 知识库

从基础认知到真实项目,把零散知识整理成可以持续学习的路径。 继续学习 Chat Template 和指令微调:AI 是怎么学会“聊天”的?
22学习模块 119已上线课程 75%当前章节
LEARNING MODULES

选择学习方向

从补全到对话Chat Template 和指令微调:AI 是怎么学会“聊天”的?

05 从补全到对话

Chat Template 和指令微调:AI 是怎么学会“聊天”的?

上一篇我们讲了:大模型最开始更像补全机器,后来才变成聊天助手。这里面有两个很容易混淆的概念:Chat Template 和 Instruction Tuning。它们看起来都在让 AI 按要求回答,但实际解决的是两个完全不同的问题。

一句话回答

Chat Template 是“聊天格式”,指令微调是“岗前培训”。前者把 System、User、Assistant 整理成模型能看懂的输入,告诉模型谁在说话;后者通过大量样本训练模型,让它学会用户提出要求后应该怎么完成。

01 模型真的知道谁是“用户”吗 who is speaking

人能一眼看懂,模型需要格式

我们看到的是聊天,模型看到的是一串 Token

人看到“用户:什么是 API?AI:API 是……”,很容易知道谁在问、谁在答。但最基础的大语言模型并不是天生理解这些角色。它需要一套格式,把系统规则、用户问题、助手回复整理清楚。

System你是一名 AI 入门老师。 User什么是 Token? AssistantToken 可以理解为……
02 什么是 Chat Template chat format

聊天模板,就是对话排版规则

它负责把聊天角色整理成模型训练时熟悉的格式

不同模型训练时见过的聊天格式可能不一样。有的用 User / Assistant,有的用特殊标记。Chat Template 的作用,就是按模型习惯把对话拼好,让模型知道:这段是系统规则,这段是用户问题,下一段该轮到助手回答。

示意格式,不代表某个模型真实模板 <系统>你是一名 AI 老师。</系统>
<用户>什么是 Token?</用户>
<助手>
03 为什么需要 Chat Template why format matters
角色清楚

告诉模型谁在提问,谁该回答

没有清晰角色,模型可能把用户的话、助手的话和系统规则混在一起。

减少混乱

避免自己和自己聊天

模板不对时,模型可能重复用户问题、继续编对话,甚至输出奇怪标记。

匹配训练

让模型按熟悉格式发挥能力

开源模型尤其常见:使用官方模板,往往比随便拼字符串更稳定。

04 点一个场景,看两个概念分别解决什么 template vs tuning
场景:谁在说话

Chat Template 解决角色顺序,指令微调解决任务执行

Chat Template 负责

把 System、User、Assistant 排好,让模型知道“这句是用户说的,下一句该助手回答”。

指令微调负责

训练模型看到用户问题后,不是继续编剧本,而是按助手身份认真回答。

一句话:模板管格式,微调管能力。
05 指令微调到底教了什么 instruction tuning
翻译

指令:把 Hello 翻译成中文

理想回答:你好。

解释

指令:用一句话解释人工智能

理想回答:人工智能就是让机器具备类似人类的学习、理解和解决问题能力。

总结

指令:把下面内容总结成 3 点

理想回答:按重点提炼,而不是继续写原文。

06 两者到底差在哪 simple compare

Chat Template

像微信聊天框的格式。它告诉模型这句话是谁说的,下一句应该轮到谁说。

本质
对话格式
解决
谁在说话
参数
通常不改变

指令微调

像新员工岗前培训。它教模型:别人提出要求以后,你应该怎么完成。

本质
训练过程
解决
用户想让我干什么
参数
会改变模型能力
07 把前面概念串起来 full stack
预训练让模型会说话,有基础知识。 指令微调让模型会听要求做事。 Chat Template让模型看懂聊天格式。 System Prompt告诉模型现在是谁、按什么规则答。 User Prompt用户提出具体任务。
08 为什么开源模型经常强调官方模板 open source note
成熟产品

ChatGPT、Claude、豆包通常帮你处理好了

普通用户只需要聊天,不需要手动关心模板细节。

开源部署

自己部署模型时,模板很容易影响效果

模型可能是在特定格式下训练的,乱用格式会让能力发挥不稳定。

能力边界

模板不能让普通模型突然变聪明

模板只是整理输入,不能替代指令微调、对齐和模型本身能力。

09 最后用两句话记住 final rule
Chat Template = 聊天格式。指令微调 = 新员工岗前培训。

前者让模型看懂“谁在说话、下一句轮到谁”;后者让模型学会“用户提出要求后,我应该怎么做”。两者配合起来,模型才更像一个稳定的聊天助手。

本节小结

  • Chat Template 是聊天格式,不是训练本身。
  • 指令微调会用大量样本训练模型遵循人类指令。
  • 模板解决角色和格式,微调解决任务理解和执行。
  • 开源模型要尽量使用官方模板,但模板不能替代模型能力。