LESSON 02 · CONTEXT 上下文
Why this lesson · 为什么值得学
学会把文档、资料直接喂给 AI
用「背景 + 要求」结构让回答更靠谱
让 AI 基于你的材料写,不瞎编
核心洞察:AI 不是无限记忆的。它有一个「白板」,写满了就只能擦掉最旧的内容来写新的。你聊得越长,它忘得越多——不是变笨了,是白板满了。
高手心法 · Pro Tip
开 Memory(记忆)后,AI 会跨对话「个性化漂移」,慢慢记住你的偏好;想要干净、不被带偏的上下文,就用隐身模式 / 新对话 / 关掉 Memory。隐私两铁律:密码、身份证、完整账号绝不粘贴;医疗、法律、财务等高风险话题,只让 AI 帮你起草,必须去一手来源核实。如果你经常要处理特别私人的材料(私人日记、合同、病历),还有一个更彻底的办法——让 AI 跑在你自己电脑上,也就是「本地模型」:把开源模型文件下载到本机后,对话全在你的硬件上发生,数据从头到尾不出你的机器,连服务商的服务器日志都不会有。代价是需要一定的硬件(主要是显卡显存),而且本地模型一般比最大的云端模型弱一些,复杂任务还是用云端更稳。
大陆坑:YouTube 访问受限;国内模型(月之暗面 Kimi、硅基流动、文心一言)同样遵循此隐私原则,敏感信息一律不发。让 AI 一次记住「你是谁」
每次都在提示词里重复「我是卖 XX 的」「我在学 XX」很累。其实主流 AI 都能让你一次性填好常驻背景:ChatGPT 叫 Custom Instructions(自定义指令),国内的 Kimi / 豆包 / 通义叫「个人设定 / 自定义」。
填一次,之后每一次对话它都自动带上:你是谁、你希望它用什么口吻、哪些事它该优先考虑。你就不必每句话都从头自我介绍。适合写:你的身份角色、常用语气、长期目标。
注意这跟上面「记忆双刃剑」不矛盾——这里给的是公开的背景设定,密码、身份证、完整账号这类敏感信息仍然别填(见上)。
你跟一个朋友聊天,从下午 2 点聊到 6 点。你觉得他会记得下午 2 点你说的第一句话吗?
大概率记不住——人的短期记忆是有限的。
AI 也一样。
想象你面前有一块白板:
所以你跟 AI 聊了 100 轮之后,它还记得第 95 轮说了什么,但第 1 轮的内容已经被擦掉了。
这块「白板」的大小,就叫上下文窗口(Context Window)。
每个 AI 模型都有一个固定的「记忆容量」——它一次性能「看到」多少文字。这个容量就叫上下文窗口。
如果你用的 AI 是比较新的模型(2025-2026 年发布的),它的上下文窗口通常在 100K tokens 以上——相当于一本几万字的短篇小说。
模型迭代很快,具体哪个模型有多大窗口这个信息几个月就会变。你只需要记住一个大趋势:
查你用的模型有多大窗口:直接问 AI 自己。输入「你的上下文窗口有多大?」——它会告诉你。
上下文窗口的大小是用「token」来衡量的。简单来说:
不需要记住 token 的精确算法。你只需要知道:
上下文窗口是用 token 衡量的。你发的每句话、AI 回的每句话,都在消耗这个窗口。
这就是为什么:上传一整本小说让 AI 分析,可能直接把窗口占满了——它只能记得小说内容,记不住你之前问了什么。
你聊着聊着,AI 突然不记得某个信息了——最常见的两个原因:
对话太长,最早的内容被挤出去了。
(中间聊了 50 轮各种细节)
第 1 轮提到的「网站」已经被挤到窗口之外了。
即使窗口没满,中间的内容太多也会「稀释」注意力。
(AI 生成了很长的代码,中间又问了好几个其他问题)
AI 的注意力被中间的内容稀释了。
不管是哪种原因,都不是 AI「变笨了」——这是它的底层设计决定的,所有模型都这样。
先喂资料,最后再下指令
当你要 AI 处理一整篇长材料(文档、代码、表格),有个反直觉的诀窍:把材料一次性贴进去,但你的「任务指令」放在最后一句。
所以固定习惯:资料在前,要求殿后。要它「只基于上面材料、别自己发挥」,也一并写在最后。
顺手再追问一句也很值:材料分析完,可以问它「我可能漏掉了哪些角度?还有哪些视角没考虑到?」——尤其做方案、看报告、比选项的时候,AI 常常能点出你没想到的盲点。这还是同一套思路:你先把材料喂足,再让它替你找缺口。
知道了 AI 有记忆上限,你可以做一些很简单的事来改善体验:
同一个话题,尽量在一个对话里聊
很多新手有个习惯:每次想问点新东西,就点「新建对话」。但每开一个全新的对话,AI 就把之前聊的内容全清空了——它不记得你前面定过的偏好、约束和结论,回答自然就接不上。
同一个项目、同一个话题,最好一直在一个对话里连续追问。这样 AI 才记得你之前说过什么,越聊越懂你,回答也更连贯。
什么时候该开新对话?——只有当话题完全无关,或者前面的对话被带偏了、越聊越乱,才值得重开一个干净的对话。
对话攒多了也别慌:大多数工具都有「项目 / Project」功能,把同一类对话拖进同一个项目、起个清楚的名字(比如「论文提纲」「旅行规划」),以后想找哪段聊天,一眼就能定位。这也是理顺 AI 工作台的好习惯。
做这个实验来感受上下文窗口的存在:
预期结果:大概率 AI 已经忘了文章里的具体内容——因为窗口被中间 20 个无关问题和回答占满了。
这不是 AI 的错,是窗口满了。
AI 有「短期记忆」——它记得你刚才说了什么,所以对话能连贯。
但记忆是有限的——白板会满,满了就会忘。不是变笨了,是设计如此。
大活儿拆成几段,别一次灌满窗口
要 AI 处理一整本书、一整年报表这类「塞满窗口」的大材料时,别一次性全丢进去。Anthropic 的提示最佳实践指出:把复杂任务拆成聚焦的小步,结果往往更稳——不是因为窗口不够,而是每步范围清晰,模型才做得好。
实用做法:先让它读完第一部分、产出小结;再喂下一部分,并提醒它「接着上面的小结继续」。跨多个上下文窗口的长任务,也可以用「第一个窗口搭框架、后面窗口逐步迭代」的节奏来推进。
AI 的记忆像一块白板——
写满了就要擦掉最旧的内容。话题变了就开新对话,是最简单的应对方法。
REFERENCES · 参考资料
推荐阅读: Understanding Context Windows in LLMs(英文)— 用比喻和图表解释了上下文窗口的原理。
有疑问?回到 AI 工具,试着故意把对话聊到「窗口满」的程度,观察 AI 什么时候开始忘记。这是最好的学习方式。