模型编造了“定制商品也可退”,实际可能引发客诉纠纷。
06 幻觉与可靠回答
Prompt 工程:用指令约束幻觉
上一篇我们讲了:大模型擅长生成合理答案,但合理不代表真实。普通用户降低幻觉,最简单、成本最低的方法之一,就是把 Prompt 写得更像一份“回答规则”:什么能说、什么不能猜、什么时候必须承认不知道。
一句话回答
Prompt 工程可以降低幻觉,但不能彻底消灭幻觉。它的作用是给 AI 增加回答边界:不知道就说不知道,资料不足就标注无法确认,事实和推测分开,重要数据必须有来源。
选择业务场景
在需求文档中,System Prompt 属于产品配置项,不是研发临时决定的。你要写明:哪些话题可以回答,哪些必须转人工,遇到不确定时的兜底话术。
对话对比
回答了已知部分,主动承认未知部分,把用户引导到安全路径。
给 AI 一个退出机制
不要只告诉它“回答我”,还要告诉它“做不到时怎么办”。比如:没有可靠数据,请回答“暂无可靠数据”。
把事实和推测分开
趋势判断可以说,但不要写成已经发生的事实。让用户一眼看出哪些确定、哪些只是分析。
具体数据必须有依据
市场规模、财务数据、年份、政策、人物职位,越具体越要来源。没有来源就不要使用。
帮我分析一下这份合同。
范围太大,AI 可能把合同中没有出现的条款、行业经验和自己的推测混在一起。
只根据我提供的合同内容分析。
不要补充合同中没有出现的条款。如果需要使用外部法律知识,请单独标注,并提示需要人工确认。
先检查我的问题中是否存在错误前提。如果存在,请先纠正,不要顺着错误前提继续回答。
请再次检查:是否有无依据数字;是否把推测写成事实;是否引用了不存在的资料;无法确认的信息是否已标注。
可直接复制
一个简单实用的防幻觉 Prompt
请基于我提供的信息和可确认的事实回答。不要为了让答案完整而猜测。如果某项信息无法确认,请明确写“无法确认”。涉及具体数字、日期、人物、公司、政策时,请优先核实来源。请区分“已知事实”和“你的分析判断”。如果我的问题本身包含错误前提,请直接指出,而不是顺着错误前提回答。
新员工可能为了交差,把缺失的地方自己补上。AI 也是一样,任务越模糊,越容易把答案写完整但不可靠。
数据必须有来源,事实和判断分开,不允许自己估算,完成后再检查一次。这就是 Prompt 约束。
真正专业的 Prompt,会告诉 AI:什么时候应该回答,什么时候应该查证,什么时候应该承认不知道。越重要的任务,越不能只靠 Prompt,还要配合资料、工具和人工审核。
本节小结
- Prompt 可以降低幻觉,但不能彻底消灭幻觉。
- 事实型任务要允许 AI 说“不知道”。
- 事实、推测、需要核实的信息要分开写。
- Prompt 解决“怎么回答”,资料和工具解决“拿什么回答”。