05 从补全到对话
为什么 API 叫 Completions
很多人第一次接触大模型 API,会看到 Completions 这个词。API 为什么不直接叫“回答问题”,而要叫“补全”?理解这个名字,你就能抓住大语言模型最基础的工作方式:根据前面的内容,继续往后生成。
一句话回答
Completions 的意思是“补全 / 继续生成”。大模型 API 早期这样命名,是因为模型最基础的动作就是:读取你给的前文,预测下一个 Token,一个接一个生成,最后补成一段完整回答。
01 Completion 到底是什么意思
plain meaning
先把词翻译成人话
Completion = 补全:给一段前文,让 AI 接着往下写
比如你写“今天天气非常……”,人会自然接“好”“热”“不错”。大模型也是类似:你给它输入,它根据上下文预测后面更可能出现什么内容。只是它的补全能力非常强,可以补文章、邮件、代码、解释、方案,甚至一整段对话。
输入前文今天天气非常
→
预测后续好 / 热 / 不错
→
形成答案今天天气非常好。
02 API 为什么会用这个名字
generation flow
1给模型输入可以是一句话、一个问题、一段代码或一组对话。
2读取上下文模型会看前面已经出现的内容和限制条件。
3预测 Token判断下一个小片段最可能是什么。
4继续生成把新 Token 加回去,再预测下一个。
5得到结果很多 Token 连起来,就变成完整回答。
03 点一个例子,看它到底在补全什么
completion lab
输入:知识问答
看起来像回答,其实也是继续生成
你给模型的前文
中国的首都是
我们看到的是“回答知识”,底层动作仍然是根据前文预测最合理的后续内容。
04 Chat Completions 又是什么
roles in chat
聊天只是把补全包装成对话
Chat Completions = 给一段对话,让模型继续回复
用户更习惯聊天,不想自己拼一大段提示词。于是 API 把消息按角色整理好:System 讲规则,User 提问题,Assistant 给回复。模型看到这段对话后,继续生成下一条 Assistant 消息。
System你是一名 AI 入门老师。
User什么是 Token?
AssistantToken 可以理解为 AI 处理文字的小颗粒……
05 三种接口名字,小白这样理解
api evolution
Completions
给一段文字,让 AI 继续生成
适合理解大模型最原始的生成方式:前文进来,后文出来。
Chat Completions
给一段对话,让 AI 继续回复
把 System、User、Assistant 分清楚,更适合做聊天产品。
统一接口
不只聊天,还能连接工具和多模态
现代 AI 不只生成文字,还可能读文件、看图片、调用工具和参与 Agent 流程。
06 为什么 Prompt 这么重要
context matters
弱提示
帮我写文章。
上下文太少,模型只能自己猜:写给谁?什么主题?什么风格?多长?要不要案例?
强提示
你是一名 AI 科普作者,请面向完全不懂 AI 的小白,写 800 字文章,少用术语,多用生活案例。
前文条件更清楚,模型补全方向就更稳定,输出更容易接近你的目标。
07 理解 Completions,也能理解幻觉
why hallucination
不是查库
它不是从数据库里取标准答案
模型更像在生成合理后续内容,所以语气自信不等于事实一定正确。
依赖上下文
前文错了,后面就可能顺着错下去
错误背景、过期资料、含糊问题,都可能把生成方向带偏。
需要校验
重要内容要接资料、搜索和人工审核
尤其是法律、医疗、金融、最新政策和企业关键业务,不能只看 AI 说得顺不顺。
08 最后用一条线记住
simple line
输入问题 / 前文 / 对话
→
上下文模型读取条件
→
预测 Token一个接一个
→
完整回答生成结果
本节小结
- Completion 可以理解成补全或继续生成。
- 大模型看起来在回答问题,底层是在根据上下文生成后续 Token。
- Chat Completions 是把对话角色组织好后,再生成下一条回复。
- Prompt 不是魔法口诀,而是在给模型提供更好的补全条件。