把不存在或不准确的内容说成事实
比如编出公司营收、作者履历、论文名称、发布时间。
06 幻觉与可靠回答
大模型为什么会产生幻觉？
AI 最让人不放心的地方，不是它不会，而是它不知道时也可能说得很像真的。它能生成具体的人名、年份、数据和来源，但这些内容未必经过验证。这一页要讲清楚：幻觉到底从哪里来，以及普通用户怎么降低风险。
一句话回答
AI 幻觉，就是模型生成了“看起来合理，但事实错误或没有依据”的内容。它的根源不是 AI 故意骗人，而是大模型擅长生成语言；语言上合理，不代表事实已经被验证。
01 先把幻觉看清楚
quick view
语气很确定，但没有可靠来源支撑
“根据数据显示”“研究表明”听起来专业，不等于真的查过。
遇到冷门或最新问题，仍然继续生成
它可能不是不知道风险，而是默认要把答案接着写完。
02 选择一个问题，现场看幻觉怎么出现
hallucination lab
你的问题
某家冷门 AI 公司 2025 年营业收入是多少？
模拟生成过程
该公司 2025 年营业收入约为 38.6 亿元，同比增长 21.3%，主要来自企业 AI 服务和海外订阅业务。
第 18 步：模型选中了一个看起来像财报答案的数字组合。
幻觉检测
精确数字很像真的，但没有来源
如果没有财报、公告或可信数据库支撑，这种具体到小数点和百分比的数据，风险非常高。
03 根源：Completion 的副作用
why it happens
用户提问给模型一段上下文
→
概率补全预测接下来最像什么
→
语言成形生成连贯、专业的句子
→
缺少验证没有搜索、知识库或核验
→
产生幻觉像答案，但可能不是事实
04 为什么 AI 不直接说“不知道”
not human confidence
你看到的是
它回答得很完整、很专业、很自信
人会下意识觉得：说得这么具体，应该是真的。
模型内部更接近
它正在生成符合上下文的下一段文字
“自信语气”只是语言风格，不等于模型真的完成了事实核验。
05 哪些问题最容易出现幻觉
risk map
小众人物、公司、产品
训练中可靠信息少，模型更容易用相似模式填空。
新闻、价格、政策、职位变化
如果没有联网或实时资料，就可能使用旧知识或猜测。
营收、比例、年份、市场规模
数字越精确，越应该要求来源和计算过程。
你问了一个不存在的东西
模型可能顺着你的问题继续编，而不是先质疑前提。
一句话里对象不清楚
“苹果最近怎么样”可能是公司、价格，也可能是水果。
06 怎么降低 AI 幻觉
four layers
重要事实要求来源
让 AI 标注依据；资料没有说明的地方，明确写“无法判断”。
最新信息先搜索
新闻、价格、政策、人物职位、公司产品，都要查最新资料。
企业问题接知识库
客服、售后、报价、产品参数，必须基于企业真实资料回答。
高风险内容人工确认
医疗、法律、金融、合同和重大商业决策，不要只听 AI 一句话。
07 从“很会说”到“有依据地说”
reliable stack
大模型负责理解和生成
搜索获取最新公开信息
知识库提供企业或专业资料
RAG先找资料，再让 AI 回答
Agent调用工具、交叉验证、执行流程
可直接复制
一个降低幻觉的实用问法
请把回答分成三类：确定事实、合理推测、需要核实。涉及数据、人物、公司、政策和日期时，请说明依据；如果资料不足，请直接写“资料不足，无法判断”，不要编造来源。
最后总结
final rule
大模型擅长生成“合理的语言”，但合理不等于真实。
未来真正可靠的 AI 系统，不会只有一个大模型，而是大模型 + 搜索 + 知识库 + 工具 + 验证机制。这样 AI 才能从“很会说”，逐渐变成“有依据地说”。
本节小结
- AI 幻觉是看起来合理，但事实错误或缺少依据的内容。
- 大模型在生成语言，不是在默认查数据库。
- 语气自信、格式专业、数字具体，都不等于可靠。
- 减少幻觉要靠来源、检索、知识库、RAG、Agent 验证和人工审核。