把目标、边界、格式、口吻,以及“不知道怎么办”说清楚。
局限:它能约束回答方式,但不能凭空创造事实。07 篇章复盘
复盘(下):Prompt、上下文、RAG、微调到底是什么关系?
这一篇不再增加太多新概念。我们把 Prompt、上下文、RAG、微调、评测和人工审核串成一张图,看懂它们各自负责什么,以及什么时候该用谁。
这一页先记住一句话
Prompt 说清任务,上下文补足背景,RAG 负责找资料,微调负责改习惯。它们不是互相替代,而是在不同层面一起让 AI 更可靠。
四个概念,四种分工
four roles
把项目背景、历史对话、规则、文件和用户要求摆到 AI 面前。
局限:上下文窗口有限,资料不是越多越好。先从知识库、文档或数据库检索,再让模型基于资料生成回答。
局限:检索错了,后面答得再顺也会偏。通过专项训练,让模型更稳定地学会某类格式、风格或任务习惯。
局限:不适合频繁变化的事实,更新成本更高。
它们真正怎么接力
relationship map
像给员工做专项培训,让它更稳定地掌握一种格式、风格或任务模式。
现在要你做什么,哪些不能猜。
这次任务要参考哪些背景。
先去资料库把相关内容找出来。
AI 可以提高效率,但高风险结果需要被检测、拦截和必要时由人确认。
套到企业客服:
用户问“A100 设备故障能不能免费维修?”系统先用 Prompt 要求不能猜,再用 RAG 查售后知识库,把 A100 政策放进上下文,最后由模型回答;遇到退款、赔偿、合同等高风险问题,再转人工。
AI PM 认知框架
ask these first
先补足上下文。
不知道就走 RAG、搜索或 API。
用 Prompt 说清任务和边界。
固定模式或固定口吻,再考虑微调。
决定是否评测、拦截和人工审核。
先按错误成本分级
risk routing
错了也能改,AI 可以直接出结果。
Prompt + 上下文错误会影响业务,适合检索资料后再回答。
Prompt + RAG + 抽查后果严重,不能只靠模型自己决定。
AI 辅助 + 人工确认
最后记住五句话
final memory
Prompt:告诉 AI 怎么做。
上下文:告诉 AI 这次任务需要知道什么。
RAG:帮 AI 从大量资料里找到需要的信息。
微调:针对模型本身的特定能力或行为做训练调整。
评测 + 人工审核:负责发现和拦住不能接受的错误。
本节小结
- Prompt、上下文、RAG、微调各管一层,不是互相替代。
- 动态知识优先考虑 RAG,固定行为再考虑微调。
- 评测 + 人工审核,是高风险场景的最后一道安全网。
- 做 AI 产品时,先看错误成本,再选技术。