CHAO AI LEARNING PATH

AI 知识库

从基础认知到真实项目,把零散知识整理成可以持续学习的路径。 继续学习 事实类问题的拒答边界:不知道,就不要硬答
22学习模块 119已上线课程 80%当前章节
LEARNING MODULES

选择学习方向

指令安全与边界事实类问题的拒答边界:不知道,就不要硬答

指令安全与边界

事实类问题的拒答边界:不知道,就不要硬答

前面我们讲了 AI 幻觉:AI 最大的问题之一,不是不会回答,而是不知道的时候也可能继续回答。到了事实类问题,这个风险会被放大。

一句话回答

事实类问题的底线是:不知道,就不要硬答。有依据就回答,没有依据就查询,查不到就明确说“当前无法确认”。

01 什么叫事实类问题? verifiable answer

事实类问题

这家公司 2025 年营收多少?这个产品现在多少钱?某个人目前是不是 CEO?

创意类任务

帮我想 5 个广告标题。帮我设计一个品牌口号。帮我写一段开场白。

关键区别

事实问题有明确真假;创意任务更看效果,没有唯一正确答案。

02 最危险的是:不知道,却答得像真的 false confidence

错误示范

2025 年公司实现营业收入 36.8 亿元,同比增长 18.6%。

数字完整、语气专业、看起来可信。但如果没有来源,它就是凭空制造事实。

宁可少回答,也不要为了让答案显得完整而编数字、编时间、编政策。

03 三种处理方式:回答、无法确认、先查询 answer boundary

可以回答

资料写明:A100 设备整机质保 3 年。

A100 设备整机质保 3 年。

无法确认

资料只写:A100 设备提供售后服务。

当前资料只能确认提供售后服务,无法确认是否免费保修 3 年。
04 容易变化的事实,先查再回答 fresh facts
今天价格 最新政策 当前负责人 实时行情 最新参数 最近新闻

模型过去学到的知识,不适合直接回答“今天、当前、最新、最近”这类问题。

05 一个简单的三步判断法 decision path
这是事实吗? 有可靠依据吗? 能查询吗? 找到结果吗? 回答或说明无法确认
06 好的拒答,不是什么都不说 useful refusal
能确认什么

当前资料可以确认该产品支持售后服务。

不能确认什么

没有找到明确的免费保修期限。

为什么不能确认

资料没有写 3 年,也没有写免费。

下一步怎么确认

建议查看最新售后政策或转人工客服确认。

07 不要把推测包装成事实 fact vs judgement

事实

过去几年销量增长。需要数据来源。

推测

明年可能继续增长。可以分析,但要标明这是判断。

不知道

没有资料时,明确说当前无法确认。

08 一个可以写进 Prompt 的规则 prompt rule
价格、时间、人物、政策、参数和公司信息,只根据可靠资料回答。 资料不足时,不自行补全或猜测。 能查询时先查询;仍查不到时说明当前无法确认。 如果提供推测,必须标注为判断,不要包装成事实。

本节练习

把“免费保修 3 年”拆成三个回答

资料明确时正常答;资料只写售后服务时说无法确认;新旧资料冲突时转人工或查最新政策。

有依据直接回答,并保留依据。 没依据说明当前资料无法确认。 能查询先查可靠来源,再回答。 查不到告诉用户下一步怎么核实。

本节小结

  • 事实类问题存在客观答案,不能靠 AI 自己发挥。
  • 有明确可靠依据,可以正常回答。
  • 资料不足或资料冲突时,要说明无法确认。
  • 推测可以给,但必须标注为判断,不能包装成已经发生的事实。