CHAO AI LEARNING PATH

AI 知识库

从基础认知到真实项目,把零散知识整理成可以持续学习的路径。 继续学习 Prompt 工程:用指令约束幻觉
22学习模块 119已上线课程 33%当前章节
LEARNING MODULES

选择学习方向

幻觉与可靠回答Prompt 工程:用指令约束幻觉

06 幻觉与可靠回答

Prompt 工程:用指令约束幻觉

上一篇我们讲了:大模型擅长生成合理答案,但合理不代表真实。普通用户降低幻觉,最简单、成本最低的方法之一,就是把 Prompt 写得更像一份“回答规则”:什么能说、什么不能猜、什么时候必须承认不知道。

一句话回答

Prompt 工程可以降低幻觉,但不能彻底消灭幻觉。它的作用是给 AI 增加回答边界:不知道就说不知道,资料不足就标注无法确认,事实和推测分开,重要数据必须有来源。

一句话速览 约束指令 + 局限性:模型不知道自己不知道什么

对话对比

无约束 Prompt
你的七天无理由退款是从什么时候开始算的? 从您确认收货之日起 7 天内均可申请无理由退款,包括定制商品和食品,只需保持原包装即可。

模型编造了“定制商品也可退”,实际可能引发客诉纠纷。

加约束 System Prompt
你是客服助手。只基于已知政策回答;不确定必须说明需要查询,禁止自行补充政策细节。 你的七天无理由退款是从什么时候开始算的? 根据已知政策,七天无理由通常从签收日期起算。但定制商品和食品是否适用,需要核实具体订单。请提供订单号。

回答了已知部分,主动承认未知部分,把用户引导到安全路径。

01 Prompt 为什么能降低幻觉 guardrails
允许不知道

给 AI 一个退出机制

不要只告诉它“回答我”,还要告诉它“做不到时怎么办”。比如:没有可靠数据,请回答“暂无可靠数据”。

事实分层

把事实和推测分开

趋势判断可以说,但不要写成已经发生的事实。让用户一眼看出哪些确定、哪些只是分析。

来源约束

具体数据必须有依据

市场规模、财务数据、年份、政策、人物职位,越具体越要来源。没有来源就不要使用。

02 好 Prompt 负责约束,好资料负责事实 scope and source
不推荐

帮我分析一下这份合同。

范围太大,AI 可能把合同中没有出现的条款、行业经验和自己的推测混在一起。

更稳妥

只根据我提供的合同内容分析。

不要补充合同中没有出现的条款。如果需要使用外部法律知识,请单独标注,并提示需要人工确认。

03 回答前和回答后,各加一道检查 self check
回答前

先检查我的问题中是否存在错误前提。如果存在,请先纠正,不要顺着错误前提继续回答。

回答后

请再次检查:是否有无依据数字;是否把推测写成事实;是否引用了不存在的资料;无法确认的信息是否已标注。

可直接复制

一个简单实用的防幻觉 Prompt

请基于我提供的信息和可确认的事实回答。不要为了让答案完整而猜测。如果某项信息无法确认,请明确写“无法确认”。涉及具体数字、日期、人物、公司、政策时,请优先核实来源。请区分“已知事实”和“你的分析判断”。如果我的问题本身包含错误前提,请直接指出,而不是顺着错误前提回答。
04 Prompt 不是全部,只是第一层 six layers
Prompt 约束不要乱猜 提供资料有东西可参考 RAG / 知识库先找资料再回答 联网搜索获取最新信息 工具接口查询真实数据 人工审核重要结果最终确认
05 一个员工的例子就明白 new employee
你只说:做一份行业报告

新员工可能为了交差,把缺失的地方自己补上。AI 也是一样,任务越模糊,越容易把答案写完整但不可靠。

你明确规则:查不到就写查不到

数据必须有来源,事实和判断分开,不允许自己估算,完成后再检查一次。这就是 Prompt 约束。

最后总结 final rule
好的 Prompt 不是让 AI 更敢说,而是让 AI 知道什么时候不该乱说。

真正专业的 Prompt,会告诉 AI:什么时候应该回答,什么时候应该查证,什么时候应该承认不知道。越重要的任务,越不能只靠 Prompt,还要配合资料、工具和人工审核。

本节小结

  • Prompt 可以降低幻觉,但不能彻底消灭幻觉。
  • 事实型任务要允许 AI 说“不知道”。
  • 事实、推测、需要核实的信息要分开写。
  • Prompt 解决“怎么回答”,资料和工具解决“拿什么回答”。