你真的理解这个概念了吗？先把底层概念说清楚。
08 闯关自测
大模型基础 · 30 个关键问题
不用背概念，也不用记标准答案。这里用 30 个真实使用 AI 时最容易搞混的问题，帮你检查自己是不是真的理解了大模型、幻觉、Prompt、上下文、RAG、微调和 Agent。
玩法规则
先自己想 10 秒，再展开答案。能用自己的话讲明白，才算真正理解。 每一道题都来自真实使用 AI 时容易搞混的问题。不要追求背标准答案，重点是能把逻辑讲给别人听。
challenge mode
从认识 AI，到设计 AI 应用
先看题面，停一下，再展开。答不顺的题先标记“待复习”，回到对应章节补一遍。
0 / 30已完成
0讲清楚了
0待复习
0已展开
题目分成三种
three modes
实际使用 AI 时，你知道该怎么判断和操作吗？
如果让你做一个 AI 产品，你会怎么设计流程和边界？
30 个关键问题
self check
大模型到底是什么？它真的像人一样在思考吗？ 先想 10 秒 · 查看答案
一句话答案
大模型可以先理解成一个通过大量数据训练出来、非常擅长理解和生成语言的模型；它能表现出推理能力，但工作机制不等于人脑思考。
你需要讲清楚
- 训练让模型学习大量语言和知识规律。
- 聊天时主要是在推理，不是在继续训练。
- 模型会根据上下文预测后续 Token。
- 表现像会思考，不代表机制和人一样。
Token
训练 vs 推理
概率预测
为什么一个“预测下一个 Token”的模型，最后能回答这么复杂的问题？ 先想 10 秒 · 查看答案
一句话答案
当模型规模、训练数据和训练方法达到一定程度后，简单的 Token 预测任务会表现出复杂的语言、知识和推理能力。
你需要讲清楚
- 预测下一个 Token 是训练目标，不等于能力只能停留在接龙。
- 海量文本里包含大量知识、逻辑和表达模式。
- 规模变大后，会出现总结、翻译、写作、代码等复杂能力。
PreTraining
参数
涌现能力
大模型的“参数”到底是什么？参数越多就一定越聪明吗？ 先想 10 秒 · 查看答案
一句话答案
参数可以理解成模型训练后形成的大量内部权重，但参数规模只是影响能力的因素之一。
你需要讲清楚
- 参数不是资料库里的原文，而是模型学习后形成的内部权重。
- 参数越多，潜在容量通常越大。
- 数据质量、训练方法、对齐、推理设计和产品工程同样重要。
参数
规模
能力边界
训练一个大模型，到底是在训练什么？ 先想 10 秒 · 查看答案
一句话答案
不是把互联网复制进去，而是让模型从海量数据中不断调整参数，学习语言、知识和模式之间的规律。
你需要讲清楚
- 训练过程会反复比较预测和真实文本之间的差距。
- 模型通过调整参数降低错误。
- 最后得到的是生成能力，不是一个可逐条查询的网页数据库。
训练数据
损失函数
学习规律
训练和推理到底有什么区别？ 先想 10 秒 · 查看答案
一句话答案
训练 = 学习；推理 = 使用学到的能力解决当前问题。
你需要讲清楚
- 训练发生在模型开发阶段，会改变模型参数。
- 推理发生在你提问时，模型用已有参数生成回答。
- 普通聊天不会让基础模型因为这一轮对话就重新训练完成。
训练
推理
模型参数
AI 为什么会一本正经地胡说八道？ 先想 10 秒 · 查看答案
一句话答案
因为“最可能出现的内容”并不等于“事实一定正确”。
你需要讲清楚
- 模型擅长生成语言上合理的内容。
- 语言合理不代表经过事实验证。
- 资料不足、问题错误或要求太具体时，模型可能把缺口补成答案。
Hallucination
概率生成
事实验证
为什么 AI 不知道答案，有时候却不直接说“不知道”？ 先想 10 秒 · 查看答案
一句话答案
因为语言生成能力不等于事实验证能力；如果没有明确约束，模型可能倾向于继续生成一个完整答案。
你需要讲清楚
- AI 的肯定语气不等于真实把握。
- 训练数据里有大量专业表达，模型会学到这种说法。
- Prompt 要给它“不确定就承认”的退出机制。
不知道
退出机制
不确定性
把 Temperature 调低，是不是就不会出现幻觉？ 先想 10 秒 · 查看答案
一句话答案
不是。低 Temperature 可以让输出更稳定，但稳定不代表正确。
你需要讲清楚
- Temperature 主要控制随机性和多样性。
- 事实错了，低温也可能稳定地错。
- 事实类任务还需要资料、检索、工具和验证。
Temperature
稳定性
幻觉
联网后的 AI，是不是就不会产生幻觉了？ 先想 10 秒 · 查看答案
一句话答案
仍然会。搜索能减少幻觉，但搜索结果、理解过程和引用匹配都可能出错。
你需要讲清楚
- 联网只是提供了外部资料入口。
- 资料本身可能过期、错误或不权威。
- 模型仍然可能误读资料，或者引用不能支撑结论。
搜索
来源
引用准确率
如果企业 AI 客服回答错一次可能损失 10 万元，你会怎么设计？ 先想 10 秒 · 查看答案
一句话答案
先按错误成本做风险分级，再用 RAG、数据验证、日志、评测和人工审核一起兜底。
你需要讲清楚
- 低风险问题可以自动回复。
- 中风险问题要有来源、检测和抽查。
- 高风险问题必须转人工确认。
- 上线后持续收集 Bad Case 做回归评测。
风险分级
RAG
人工审核
Prompt 到底是什么？是不是越长越好？ 先想 10 秒 · 查看答案
一句话答案
Prompt 是你给 AI 的任务和约束，不是越长越好，而是越清楚越好。
你需要讲清楚
- Prompt 要说明目标、背景、限制和输出要求。
- 长但混乱的 Prompt 会增加理解成本。
- 好 Prompt 的核心是清楚、可执行、可验证。
Prompt
任务说明
约束
为什么同一个问题，换一种问法答案差很多？ 先想 10 秒 · 查看答案
一句话答案
因为你改变了模型看到的意图、上下文、约束条件和输出标准。
你需要讲清楚
- 模型会沿着当前输入继续生成。
- 背景越清楚，答案越贴近真实需求。
- 限制越明确，越能减少跑偏和泛泛而谈。
意图表达
上下文
输出格式
一个好 Prompt 最少应该说清楚什么？ 先想 10 秒 · 查看答案
一句话答案
最少说清楚：背景、要求和限制。
你需要讲清楚
- 背景：AI 需要知道什么前提。
- 要求：这次具体要完成什么。
- 限制：哪些不要做、不确定怎么办、结果用什么格式。
背景
要求
限制
为什么长对话以后 AI 会“忘记”前面的内容？ 先想 10 秒 · 查看答案
一句话答案
不是模型像人一样真的忘了，而是上下文窗口有限，系统可能截断、压缩或弱化早期信息。
你需要讲清楚
- 上下文窗口决定模型一次能看到多少信息。
- 聊天记录、文件、工具结果和当前问题都会占用空间。
- 能放进上下文，也不代表模型一定能完美用好每个细节。
Context Window
Token
上下文管理
System Prompt 和普通 Prompt 有什么区别？ 先想 10 秒 · 查看答案
一句话答案
System Prompt 更像系统层规则和角色设定，普通 Prompt 更像用户当前这次任务。
你需要讲清楚
- System Prompt 常用于设定角色、边界、风格和安全规则。
- User Prompt 是用户当前具体要求。
- 两者会一起进入上下文，影响模型回答。
System Prompt
User Prompt
角色规则
RAG 到底是什么？ 先想 10 秒 · 查看答案
一句话答案
RAG 就是让 AI 先查资料，再回答。
你需要讲清楚
- RAG 全称是检索增强生成。
- 先从知识库找到相关内容。
- 再把资料放进上下文，让模型基于资料生成回答。
RAG
先检索
再生成
为什么不能把企业所有资料一次全部塞给 AI？ 先想 10 秒 · 查看答案
一句话答案
因为上下文有限、Token 成本会增加、噪音会变多，重点信息还可能被淹没。
你需要讲清楚
- 企业资料可能有成千上万份。
- 每次问题只需要少量相关资料。
- RAG 的关键是找准资料，不是塞更多资料。
上下文
Token 成本
检索准确率
RAG 为什么能够降低幻觉？ 先想 10 秒 · 查看答案
一句话答案
因为模型从“凭已有知识回答”，变成“根据检索到的资料回答”。
你需要讲清楚
- RAG 给模型提供了更可靠的当前依据。
- 企业内部制度、产品参数、售后政策更适合从知识库查。
- 模型仍需要被要求只基于资料回答。
开卷答题
企业资料
证据依据
RAG 找到错误资料怎么办？ 先想 10 秒 · 查看答案
一句话答案
RAG 也会错。资料质量、切分、检索、排序和模型理解都会影响最终答案。
你需要讲清楚
- 知识库本身过期或错误，答案也会被带偏。
- 切分太碎或太粗，可能找不到关键内容。
- 需要来源展示、评测集和人工反馈持续优化。
资料质量
切分
检索排序
企业什么时候应该做知识库？ 先想 10 秒 · 查看答案
一句话答案
当企业有大量稳定但分散的资料，并且用户经常围绕这些资料提问时，就适合做知识库。
你需要讲清楚
- 产品资料、FAQ、售后政策、内部制度很适合。
- 资料要能持续维护，不能一建完就不管。
- 先从高频、低风险、标准答案清楚的场景开始。
企业知识库
FAQ
资料维护
“给 AI 喂资料”和“微调模型”是一回事吗？ 先想 10 秒 · 查看答案
一句话答案
不是。给资料是提供上下文或知识，微调是调整模型的特定能力或行为。
你需要讲清楚
- 把资料放进 Prompt 或知识库，不会直接改模型参数。
- 微调会通过训练改变模型行为。
- 动态资料通常更适合 RAG，不适合反复微调。
上下文
知识库
微调
RAG 和微调到底怎么选？ 先想 10 秒 · 查看答案
一句话答案
需要最新或私有知识，优先考虑 RAG；需要调整特定行为或能力，再考虑微调。
你需要讲清楚
- 价格、库存、政策等变化快的信息适合检索。
- 固定格式、固定风格、特定任务习惯可以考虑微调。
- 很多企业场景是 RAG + Prompt 先够用。
RAG
Fine-tuning
动态知识
开源模型是不是意味着免费？ 先想 10 秒 · 查看答案
一句话答案
不是。模型权重可能开放，但 GPU、服务器、部署、运维和开发仍然需要成本。
你需要讲清楚
- 开源不等于零成本。
- 还要看许可证是否允许商用。
- 企业使用要计算推理成本、维护成本和稳定性成本。
开源模型
部署成本
许可证
跑分第一的大模型，为什么实际使用未必最好？ 先想 10 秒 · 查看答案
一句话答案
因为产品最终看的是具体任务表现、速度、成本、稳定性、工具能力和用户体验。
你需要讲清楚
- 通用榜单不能代表你的业务任务。
- 响应速度和调用成本会影响产品可用性。
- 工具调用、长上下文、稳定性和安全策略也很关键。
Benchmark
成本
任务匹配
免费模型、会员、API 到底应该怎么选？ 先想 10 秒 · 查看答案
一句话答案
个人轻量使用可以先用免费或会员；要接入产品、自动化流程或企业系统，通常要考虑 API。
你需要讲清楚
- 免费版适合体验和轻任务。
- 会员适合个人高频使用。
- API 适合产品化、批量调用、系统集成和成本监控。
免费版
会员
API
大模型和 Agent 最大的区别是什么？ 先想 10 秒 · 查看答案
一句话答案
大模型主要负责理解和生成，Agent 在此基础上还能围绕目标调用工具、执行步骤和处理任务。
你需要讲清楚
- 大模型像能力核心。
- Agent 像围绕目标运行的任务系统。
- Agent 通常需要工具、状态、流程和结果校验。
LLM
Agent
工具调用
为什么只接一个大模型 API，还不能叫 Agent？ 先想 10 秒 · 查看答案
一句话答案
因为真正的 Agent 往往还需要目标、工具、状态或记忆、工作流程和反馈机制。
你需要讲清楚
- 只生成回答，不等于能推进任务。
- Agent 要能决定下一步做什么。
- 工具结果要被记录、判断和继续使用。
目标
状态
工作流
什么任务适合交给 Agent？ 先想 10 秒 · 查看答案
一句话答案
适合那些不是一句话完成，而是需要多个步骤、多个工具和中间检查的任务。
你需要讲清楚
- 例如搜索资料、整理信息、调 API、写入系统、返回结果。
- 目标要清楚，边界要明确。
- 高风险执行动作要有权限控制和人工确认。
多步骤任务
API
执行
AI Agent 执行错了怎么办？ 先想 10 秒 · 查看答案
一句话答案
要提前设计权限控制、日志、重试、审批、人工介入和风险边界。
你需要讲清楚
- Agent 能执行以后，错误代价会变高。
- 关键动作不能默认自动执行。
- 要保留日志，方便回滚、追责和优化。
权限
审批
日志
如果让你今天设计一个企业 AI 助手，你会怎么搭？ 先想 10 秒 · 查看答案
一句话答案
不要求写代码，但要能讲清：用户 → Prompt/System Prompt → 上下文 → RAG/知识库 → 大模型 → 工具/API → 结果 → 风险判断 → 人工审核。
你需要讲清楚
- 先明确用户和任务目标。
- 用 Prompt 和 System Prompt 设定规则。
- 把必要背景放进上下文。
- 用 RAG 或 API 获取企业资料和真实数据。
- 用评测、风险判断和人工审核控制错误成本。
AI 产品链路
企业助手
风险闭环
最后一题的完整链路
AI product map
用户
Prompt / System Prompt
上下文
RAG / 企业知识库
大模型
工具 / API
风险判断
人工审核
本节小结
- 大模型不是数据库，而是生成模型。
- Prompt、上下文、RAG、微调和评测各有分工。
- AI 产品设计的核心不是追求零错误，而是管理错误成本。
- 能把 30 题讲清楚，就已经开始具备 AI 产品思维。