CHAO AI LEARNING PATH

AI 知识库

从基础认知到真实项目,把零散知识整理成可以持续学习的路径。 继续学习 RAG:让 AI 先查资料,再回答
22学习模块 119已上线课程 50%当前章节
LEARNING MODULES

选择学习方向

幻觉与可靠回答RAG:让 AI 先查资料,再回答

06 幻觉与可靠回答

RAG:让 AI 先查资料,再回答

RAG 不是把模型变成百科全书,而是在回答前先去知识库里找相关片段。你可以把它理解成“开卷考试”:先有资料,再让 AI 基于资料整理答案。

一句话回答

RAG 就是让 AI 先查资料,再回答。它不是把模型变成百科全书,而是在回答前先去知识库里找相关片段,再把这些真实资料放回上下文里,让模型基于证据生成答案。

一句话速览 开卷考试:先有资料,再让模型整理答案

对话对比

当前示例:场景 A · 法律 / 合规(换左侧场景,这里的问题和资料会一起变)
无 RAG · 闭卷试答
劳动合同里,试用期最长能签几个月? 根据一般经验,试用期最长可以签 6 个月,很多合同都差不多,具体情况通常不会差太多。

模型把“熟悉的答案”说得很像定论,但没有把依据带出来。

有 RAG · 开卷试答
已检索:《劳动合同法》第 19 条 / 司法解释 / HR 合规手册 劳动合同里,试用期最长能签几个月? 根据检索到的资料,3 年以上固定期限和无固定期限劳动合同,试用期不超过 6 个月;1 年至 3 年通常不超过 2 个月;不足 1 年更短。请以原文为准。

先查到原文,再把条文翻成可读答案,并把来源一起给出来。

RAG 把“知识从模型脑子里”变成“知识在资料里”。同一个模型,前文换了,后文的概率分布就会变得更贴近事实。
01 为什么普通 AI 会答偏 closed book vs open book
闭卷

模型只有训练记忆

不接资料库时,模型只能根据已学过的语言模式继续补全,很容易把旧知识、常识和推测混在一起。

开卷

先把真实片段放进上下文

RAG 先检索,再把最相关的文档片段塞给模型,让它基于真实资料回答,而不是只靠“像不像”。

来源

答案后面能回到原文

用户可以顺着来源回查原文,确认这句话是不是来自文档,而不是模型临场编出来的。

02 RAG 也有边界 not magic
资料错

知识库本身写错,RAG 还是会跟着错。先把资料整理对,比先谈模型更重要。

检索错

没有找到真正相关的片段,模型就只能拿不够准确的上下文去回答,结果自然会偏。

不能乱补

没被检索到的内容,不应该由模型自己猜。RAG 不是“自动补全公司制度”,而是“拿资料回答”。

可直接复制

一个简单实用的 RAG Prompt

请只根据我提供的资料回答。先列出你检索到的依据,再给出结论;如果资料不足,请直接写“无法确认”,不要自己补充。涉及具体数字、日期、人物、公司、政策时,请优先使用来源中的原文或明确标注出处。
最后总结 final rule
RAG 不会让模型变成专家,但会让它更像一个会查资料的助手。

真正可靠的 AI 系统,不会只靠一个大模型硬答,而是大模型 + 知识库 + 检索 + 来源 + 人工审核一起配合。这样 AI 才能从“很会说”,慢慢变成“有依据地说”。

本节小结

  • RAG = 先找资料,再让模型回答。
  • 它能明显降低幻觉,但不能把错误资料变正确。
  • 资料错、检索错、切块错,答案都会跟着偏。
  • RAG 解决的是“回答前先有依据”,不是“永远不会答错”。