CHAO AI LEARNING PATH

AI 知识库

从基础认知到真实项目,把零散知识整理成可以持续学习的路径。 继续学习 上下文窗口为什么关键?
22学习模块 119已上线课程 100%当前章节
LEARNING MODULES

选择学习方向

从补全到对话上下文窗口为什么关键?

05 从补全到对话

上下文窗口为什么关键?

AI 聊久了会忘事、改代码会漏文件、读长报告会抓不住重点,很多时候都和上下文窗口有关。它不是长期记忆,也不是知识库,而是模型一次回答时能看到和处理的信息范围。

一句话回答

上下文窗口,就是 AI 这一轮回答时能看到的“临时工作台”。它决定模型一次能参考多少聊天记录、文件、工具结果和当前问题;但它不是长期记忆,也不等于模型一定更聪明。

01 先理解什么是上下文 context first
你我准备做一个个人博客。 你网站主要分享 AI 知识。 你首页应该放什么?

最后一句单独看,信息很少

AI 会结合前文理解你的真实问题

“首页应该放什么?”看起来很短,但前面已经告诉 AI:这是一个分享 AI 知识的个人博客。前面这些背景、目标和约束,就是上下文。

上下文让一句普通问题,变成一个有方向的任务。
02 什么是上下文窗口 temporary desk

窗口不是浏览器窗口,而是信息容量

AI 面前有一张桌子,桌子越大,一次能放的资料越多

这张桌子上可以同时放系统规则、历史聊天、上传文件、工具返回数据和你当前的问题。模型回答时,主要就是看这张桌子上的东西。

System Prompt 历史聊天 上传文件 工具结果 当前问题 Context Window
03 点一下,看看资料多了会怎样 capacity demo
容量:10 页资料

3 页聊天 + 5 页资料 + 2 页任务说明,刚好都能看到

这时 AI 能同时参考项目背景、产品资料和当前要求,回答通常会更贴合。

感觉:它还记得你刚才说过什么。
04 为什么上下文窗口这么重要 real scenes
长对话

项目聊得越久,越需要保留前面定好的方向

产品定位、页面风格、开发约束如果丢了,后面的回答就容易跑偏。

长文档

企业报告、合同、论文都需要完整理解前后关系

窗口太小,模型可能只能看到片段,很难做整体判断。

写代码

改项目不是只看一个文件,还要知道整体结构

AI 只看到 A 文件,就可能不知道 B 文件会被影响。

Agent

智能体要同时记住目标、步骤、工具结果和规则

上下文管理不好,Agent 很容易重复执行或忘记下一步。

05 上下文越大,AI 就一定越聪明吗 not equal
上下文窗口

像办公桌有多大,决定能同时摊开多少资料。

不等于
模型推理能力

像员工会不会分析资料,决定能不能真正找出答案。

06 能放进去,也不代表都能用好 useful context
找得到

能否定位到关键细节

几百页资料里,第 23 页那句话是否真的被模型注意到?

连得上

能否把远处信息关联起来

第 10 页的目标和第 200 页的数据,模型能不能一起理解?

不被吵乱

能否过滤无关信息

塞进去的内容越多,噪声也越多,回答反而可能不稳定。

07 为什么长对话还是会“忘事” why forget
System Prompt 历史聊天记录 上传文件 工具返回结果 当前问题 AI 生成内容

这些信息都会占空间。聊天越来越长时,系统可能截断旧内容、压缩历史、总结重点或只保留相关片段,所以早期细节可能丢失。

08 上下文、记忆、知识库到底差在哪 three concepts
上下文

办公桌

这一轮回答时,AI 现在能看到什么。

长期记忆

档案柜

未来还可能再次用到的用户偏好和长期信息。

知识库

图书馆

企业资料很多,先检索相关内容,再放进上下文。

用户提问 → 知识库检索 → 相关资料进入上下文 → 模型生成回答
09 为什么不能无限大 cost and noise
成本更高

上下文越长,模型处理的信息越多,服务器计算成本越高。

速度更慢

资料越多,读取和分析越耗时,响应也可能变慢。

管理更难

不是所有资料都重要,塞得越多,越需要判断哪些真正相关。

10 普通用户应该怎么用好上下文 how to use
01

一个项目保持背景清晰

不要一会聊网站、一会聊旅游,又突然回到网站开发。

02

重要要求重复强调

例如:继续按照前面确定的简洁白色风格设计。

03

大型项目准备说明文档

把项目目标、规则、风格、进度沉淀下来,方便每次重新给 AI。

04

不要迷信一次塞很多

信息质量永远比信息数量重要,相关、清晰、准确更值钱。

11 一个比喻彻底记住 mental model
模型能力员工聪不聪明 上下文窗口办公桌有多大 知识库公司资料库 RAG先去资料库找相关文件 Prompt你给他的任务要求 长期记忆工作笔记和长期档案
最后总结 final rule
上下文窗口不是越大越神,而是要让 AI 在正确时刻看到正确信息。

桌子太小,资料放不下;桌子很大,也不代表员工一定会工作。真正优秀的 AI 系统,靠的是模型能力、上下文管理、知识库、记忆和工具调用一起配合。

本节小结

  • 上下文窗口决定 AI 一次能够处理多少信息。
  • 上下文越大,不代表模型推理能力一定越强。
  • 上下文像办公桌,记忆像档案柜,知识库像图书馆。
  • 用好 AI 的关键,是提供清晰、相关、准确的信息。