LESSON 02 · CONTEXT 上下文

AI 能记住多少东西

上下文 · 第 2 课 | ← 上一课 | AI 零基础入门

Why this lesson · 为什么值得学

学完这一课,你能

学会把文档、资料直接喂给 AI

用「背景 + 要求」结构让回答更靠谱

让 AI 基于你的材料写,不瞎编

核心洞察:AI 不是无限记忆的。它有一个「白板」,写满了就只能擦掉最旧的内容来写新的。你聊得越长,它忘得越多——不是变笨了,是白板满了。

高手心法 · Pro Tip

记忆是把双刃剑,高风险必须核实

开 Memory(记忆)后,AI 会跨对话「个性化漂移」,慢慢记住你的偏好;想要干净、不被带偏的上下文,就用隐身模式 / 新对话 / 关掉 Memory。隐私两铁律:密码、身份证、完整账号绝不粘贴;医疗、法律、财务等高风险话题,只让 AI 帮你起草,必须去一手来源核实。如果你经常要处理特别私人的材料(私人日记、合同、病历),还有一个更彻底的办法——让 AI 跑在你自己电脑上,也就是「本地模型」:把开源模型文件下载到本机后,对话全在你的硬件上发生,数据从头到尾不出你的机器,连服务商的服务器日志都不会有。代价是需要一定的硬件(主要是显卡显存),而且本地模型一般比最大的云端模型弱一些,复杂任务还是用云端更稳。

大陆坑:YouTube 访问受限;国内模型(月之暗面 Kimi、硅基流动、文心一言)同样遵循此隐私原则,敏感信息一律不发。
主动给背景 · Custom Instructions

让 AI 一次记住「你是谁」

每次都在提示词里重复「我是卖 XX 的」「我在学 XX」很累。其实主流 AI 都能让你一次性填好常驻背景:ChatGPT 叫 Custom Instructions(自定义指令),国内的 Kimi / 豆包 / 通义叫「个人设定 / 自定义」。

填一次,之后每一次对话它都自动带上:你是谁、你希望它用什么口吻、哪些事它该优先考虑。你就不必每句话都从头自我介绍。适合写:你的身份角色、常用语气、长期目标。

注意这跟上面「记忆双刃剑」不矛盾——这里给的是公开的背景设定,密码、身份证、完整账号这类敏感信息仍然别填(见上)。

先想一个问题

你跟一个朋友聊天,从下午 2 点聊到 6 点。你觉得他会记得下午 2 点你说的第一句话吗?

大概率记不住——人的短期记忆是有限的。

AI 也一样。

白板比喻

想象你面前有一块白板

  1. 你开始跟 AI 聊天,AI 把你说的话和它的回答都写在白板上
  2. 白板是有限大小的——写满了就不能再写了
  3. 要继续写新的?必须擦掉最旧的内容

所以你跟 AI 聊了 100 轮之后,它还记得第 95 轮说了什么,但第 1 轮的内容已经被擦掉了。

这块「白板」的大小,就叫上下文窗口(Context Window)

上下文窗口是什么

每个 AI 模型都有一个固定的「记忆容量」——它一次性能「看到」多少文字。这个容量就叫上下文窗口。

如果你用的 AI 是比较新的模型(2025-2026 年发布的),它的上下文窗口通常在 100K tokens 以上——相当于一本几万字的短篇小说。

模型迭代很快,具体哪个模型有多大窗口这个信息几个月就会变。你只需要记住一个大趋势:

查你用的模型有多大窗口:直接问 AI 自己。输入「你的上下文窗口有多大?」——它会告诉你。

Token 是什么?

上下文窗口的大小是用「token」来衡量的。简单来说:

不需要记住 token 的精确算法。你只需要知道:

上下文窗口是用 token 衡量的。你发的每句话、AI 回的每句话,都在消耗这个窗口。

这就是为什么:上传一整本小说让 AI 分析,可能直接把窗口占满了——它只能记得小说内容,记不住你之前问了什么。

为什么 AI 会突然「失忆」?

你聊着聊着,AI 突然不记得某个信息了——最常见的两个原因:

原因一:窗口满了

对话太长,最早的内容被挤出去了。

我在做一个 AI 入门网站,包含 6 个模块……

(中间聊了 50 轮各种细节)

刚才说的那个网站的首页,你觉得用什么配色?
你指的是哪个网站?我没有看到相关上下文。

第 1 轮提到的「网站」已经被挤到窗口之外了。

原因二:中间插入了太多其他内容

即使窗口没满,中间的内容太多也会「稀释」注意力。

帮我写一个 Python 脚本读取 CSV 文件。

(AI 生成了很长的代码,中间又问了好几个其他问题)

把这个脚本改成读取 Excel 文件。
你说的「这个脚本」指的是哪个脚本?

AI 的注意力被中间的内容稀释了。

不管是哪种原因,都不是 AI「变笨了」——这是它的底层设计决定的,所有模型都这样。

长上下文 · 铁律

先喂资料,最后再下指令

当你要 AI 处理一整篇长材料(文档、代码、表格),有个反直觉的诀窍:把材料一次性贴进去,但你的「任务指令」放在最后一句。

所以固定习惯:资料在前,要求殿后。要它「只基于上面材料、别自己发挥」,也一并写在最后。

顺手再追问一句也很值:材料分析完,可以问它「我可能漏掉了哪些角度?还有哪些视角没考虑到?」——尤其做方案、看报告、比选项的时候,AI 常常能点出你没想到的盲点。这还是同一套思路:你先把材料喂足,再让它替你找缺口。

这对你意味着什么

知道了 AI 有记忆上限,你可以做一些很简单的事来改善体验:

错误做法

正确做法

新手常犯 · 别乱开新对话

同一个话题,尽量在一个对话里聊

很多新手有个习惯:每次想问点新东西,就点「新建对话」。但每开一个全新的对话,AI 就把之前聊的内容全清空了——它不记得你前面定过的偏好、约束和结论,回答自然就接不上。

同一个项目、同一个话题,最好一直在一个对话里连续追问。这样 AI 才记得你之前说过什么,越聊越懂你,回答也更连贯。

什么时候该开新对话?——只有当话题完全无关,或者前面的对话被带偏了、越聊越乱,才值得重开一个干净的对话。

对话攒多了也别慌:大多数工具都有「项目 / Project」功能,把同一类对话拖进同一个项目、起个清楚的名字(比如「论文提纲」「旅行规划」),以后想找哪段聊天,一眼就能定位。这也是理顺 AI 工作台的好习惯。

现在就试

做这个实验来感受上下文窗口的存在:

  1. 给 AI 一段很长的文本让它分析(比如一篇 5000 字的文章)
  2. 然后连续问 20 个跟这篇文章无关的问题
  3. 再问一个跟那篇文章细节相关的问题
  4. 看 AI 还能不能记住文章的细节

预期结果:大概率 AI 已经忘了文章里的具体内容——因为窗口被中间 20 个无关问题和回答占满了。

这不是 AI 的错,是窗口满了。

第 1 课 + 第 2 课 串起来

第 1 课:上下文是什么

AI 有「短期记忆」——它记得你刚才说了什么,所以对话能连贯。

第 2 课:记忆的上限

但记忆是有限的——白板会满,满了就会忘。不是变笨了,是设计如此。

长任务 · 分段喂

大活儿拆成几段,别一次灌满窗口

要 AI 处理一整本书、一整年报表这类「塞满窗口」的大材料时,别一次性全丢进去。Anthropic 的提示最佳实践指出:把复杂任务拆成聚焦的小步,结果往往更稳——不是因为窗口不够,而是每步范围清晰,模型才做得好。

实用做法:先让它读完第一部分、产出小结;再喂下一部分,并提醒它「接着上面的小结继续」。跨多个上下文窗口的长任务,也可以用「第一个窗口搭框架、后面窗口逐步迭代」的节奏来推进。

今天记住这一句

AI 的记忆像一块白板——

写满了就要擦掉最旧的内容。话题变了就开新对话,是最简单的应对方法。

REFERENCES · 参考资料

本课参考资料

  1. 主流提示词最佳实践(OpenAI / Anthropic 长上下文使用文档共识)大陆坑:Kimi / 通义 / 文心 等长文档同样适用,但免费版窗口更小,超长内容先拆成几段分别喂。
  2. David Ondrej《15 ChatGPT Mistakes Beginners Make》
  3. Anthropic 提示最佳实践(任务拆分 / 多上下文窗口工作流)
  4. Anson Alexander《ChatGPT for Beginners》官方文字版——记忆 / 隐私两铁律的讲解。
  5. Kevin Stratvert《How to use ChatGPT》入门教程大陆坑:ChatGPT 自定义指令需海外账号;国内 Kimi / 豆包 / 通义的「个人设定」功能一致,思路通用。
  6. Kevin Stratvert(主讲 Garrick Chow)《ChatGPT Tutorial for Beginners: How to Actually Get Work Done with AI》——上传文件后追问「我可能漏掉了哪些视角」的盲点技巧。
  7. 本地模型概念(runthismodel.com《How to Run AI Models Locally》、llmhardware.io《Beginner's Guide to Running AI Locally》、local-model.com《The beginner's guide to local LLMs with Ollama》交叉印证)——开源权重模型(Llama / Qwen / DeepSeek / Gemma)下载到本机后,对话全在本地硬件发生,数据不出机器;入门用 Ollama(一条命令)/ LM Studio(图形界面);权衡:需一定硬件、能力通常弱于最大云端模型。
← 上一课:AI 为什么记得你说过的话 下一课:怎么用好上下文 →

推荐阅读: Understanding Context Windows in LLMs(英文)— 用比喻和图表解释了上下文窗口的原理。

有疑问?回到 AI 工具,试着故意把对话聊到「窗口满」的程度,观察 AI 什么时候开始忘记。这是最好的学习方式。