CHAO AI LEARNING PATH

AI 知识库

从基础认知到真实项目,把零散知识整理成可以持续学习的路径。 继续学习 上下文窗口为什么关键?
22学习模块 119已上线课程 100%当前章节
LEARNING MODULES

选择学习方向

从补全到对话上下文窗口为什么关键?

05 从补全到对话

上下文窗口为什么关键?

AI 聊久了会忘事、改代码会漏文件、读长报告会抓不住重点,很多时候都和上下文窗口有关。它不是长期记忆,也不是知识库,而是模型一次回答时能看到和处理的信息范围。

一句话回答

上下文窗口,就是 AI 这一轮回答时能看到的“临时工作台”。它决定模型一次能参考多少聊天记录、文件、工具结果和当前问题;但它不是长期记忆,也不等于模型一定更聪明。

01 先理解什么是上下文 context first
我准备做一个个人博客。 网站主要分享 AI 知识。 首页应该放什么?

最后一句单独看,信息很少

AI 会结合前文理解你的真实问题

“首页应该放什么?”看起来很短,但前面已经告诉 AI:这是一个分享 AI 知识的个人博客。前面这些背景、目标和约束,就是上下文。

上下文让一句普通问题,变成一个有方向的任务。
02 什么是上下文窗口 temporary desk

窗口不是浏览器窗口,而是信息容量

AI 面前有一张桌子,桌子越大,一次能放的资料越多

这张桌子上可以同时放系统规则、历史聊天、上传文件、工具返回数据和你当前的问题。模型回答时,主要就是看这张桌子上的东西。

System Prompt 历史聊天 上传文件 工具结果 当前问题 Context Window
03 点一下,看看资料多了会怎样 capacity demo
容量:10 页资料

3 页聊天 + 5 页资料 + 2 页任务说明,刚好都能看到

这时 AI 能同时参考项目背景、产品资料和当前要求,回答通常会更贴合。

感觉:它还记得你刚才说过什么。
04 为什么上下文窗口这么重要 real scenes
长对话

项目聊得越久,越需要保留前面定好的方向

产品定位、页面风格、开发约束如果丢了,后面的回答就容易跑偏。

长文档

企业报告、合同、论文都需要完整理解前后关系

窗口太小,模型可能只能看到片段,很难做整体判断。

写代码

改项目不是只看一个文件,还要知道整体结构

AI 只看到 A 文件,就可能不知道 B 文件会被影响。

Agent

智能体要同时记住目标、步骤、工具结果和规则

上下文管理不好,Agent 很容易重复执行或忘记下一步。

05 上下文越大,AI 就一定越聪明吗 not equal
上下文窗口

像办公桌有多大,决定能同时摊开多少资料。

不等于
模型推理能力

像员工会不会分析资料,决定能不能真正找出答案。

06 能放进去,也不代表都能用好 useful context
找得到

能否定位到关键细节

几百页资料里,第 23 页那句话是否真的被模型注意到?

连得上

能否把远处信息关联起来

第 10 页的目标和第 200 页的数据,模型能不能一起理解?

不被吵乱

能否过滤无关信息

塞进去的内容越多,噪声也越多,回答反而可能不稳定。

07 为什么长对话还是会“忘事” why forget
System Prompt 历史聊天记录 上传文件 工具返回结果 当前问题 AI 生成内容

这些信息都会占空间。聊天越来越长时,系统可能截断旧内容、压缩历史、总结重点或只保留相关片段,所以早期细节可能丢失。

08 上下文、记忆、知识库到底差在哪 three concepts
上下文

办公桌

这一轮回答时,AI 现在能看到什么。

长期记忆

档案柜

未来还可能再次用到的用户偏好和长期信息。

知识库

图书馆

企业资料很多,先检索相关内容,再放进上下文。

用户提问 知识库检索 相关资料进入上下文 模型生成回答
09 为什么不能无限大 cost and noise
成本更高

上下文越长,模型处理的信息越多,服务器计算成本越高。

速度更慢

资料越多,读取和分析越耗时,响应也可能变慢。

管理更难

不是所有资料都重要,塞得越多,越需要判断哪些真正相关。

10 普通用户应该怎么用好上下文 how to use
01

一个项目保持背景清晰

不要一会聊网站、一会聊旅游,又突然回到网站开发。

02

重要要求重复强调

例如:继续按照前面确定的简洁白色风格设计。

03

大型项目准备说明文档

把项目目标、规则、风格、进度沉淀下来,方便每次重新给 AI。

04

不要迷信一次塞很多

信息质量永远比信息数量重要,相关、清晰、准确更值钱。

11 一个比喻彻底记住 mental model
模型能力员工聪不聪明 上下文窗口办公桌有多大 知识库公司资料库 RAG先去资料库找相关文件 Prompt你给他的任务要求 长期记忆工作笔记和长期档案
最后总结 final rule
上下文窗口不是越大越神,而是要让 AI 在正确时刻看到正确信息。

桌子太小,资料放不下;桌子很大,也不代表员工一定会工作。真正优秀的 AI 系统,靠的是模型能力、上下文管理、知识库、记忆和工具调用一起配合。

本节小结

  • 上下文窗口决定 AI 一次能够处理多少信息。
  • 上下文越大,不代表模型推理能力一定越强。
  • 上下文像办公桌,记忆像档案柜,知识库像图书馆。
  • 用好 AI 的关键,是提供清晰、相关、准确的信息。