AI 智能体

概念解析——记忆系统

记忆系统是 AI Agent 区别于普通大模型的关键组件。没有记忆的 Agent 每轮对话都是"失忆"的——它不记得你上一轮说过什么、不记得项目配置、不记得自己踩过的坑。记忆系统就是把那些值得长期保存的信息挪到聊天窗口外面存起来,下次对话再取回来用。


1. 为什么需要记忆系统

大模型(LLM)本身没有记忆。它每次收到请求时,看到的唯一文字就是当前上下文——system prompt、历史消息、工具定义,拼在一起就是它这次能看到的"全部世界"。你关上终端再打开,前面的对话归零。项目栈、报错记录、改过的文件——全得重讲一遍。

当前商用模型上下文窗口已经不小了:GPT-4o 128K、Claude 200K、Gemini 1M。但窗口再大也解决不了跨对话的连续性。你每次新建会话,它还是一张白纸。而且就算窗口大,实际开发中几轮工具调用就能吃掉大几万 token,远了前面说的话。

短期记忆是当前对话内的事(上下文窗口),长期记忆是跨对话的事(记忆系统)。大多数人说的"AI 记忆"主要指后者。两条线不能混。

2. 三种长期记忆

AI Agent 记忆系统的分类大量借鉴了认知科学对人类记忆的研究。一个成熟的 Agent 三类都得有——只有情景会过度依赖个例,只有语义不会从经验学习,只有程序遇到新情况就歇菜。

01

情景记忆(Episodic)

记录"发生过什么"。跟具体时间、上下文绑定。例如:用户上次问了什么、Agent 怎么回答的、工具调用的轨迹(哪个先失败哪个才成功)、任务最终成或败。人脑类比:你记得"上周二那个 bug 查了两小时,最后发现是数据库连接池溢出"——这件事绑定了具体的时间、上下文和情感。

Agent 缺了情景记忆,就不会从自己的历史里学东西,每次都从头试错。

02

语义记忆(Semantic)

记录"什么是事实"。不依赖具体事件,就是冷冰冰的知识。例如:用户偏好(喜欢简洁回答)、项目配置(这个项目用 PostgreSQL)、领域知识(部署在 AWS us-east-1)。人脑类比:你知道"Python 是动态类型语言"——跟任何具体事件无关,就是一个事实。

Agent 缺了语义记忆,跨对话每次都得重讲项目栈和个人偏好。

03

程序记忆(Procedural)

记录"怎么做事"。是内化了的动作序列。例如:处理密码重置的标准流程、调试某类报错的策略链、多步任务的分解模板(搜、算、画图)。人脑类比:你会骑自行车——不需要每次从头推导"左脚踩、右脚跟、平衡",整套动作已经内化了。

Agent 缺了程序记忆,遇到熟悉问题还是从原始推理开始,浪费 token 且输出不稳定。

三类记忆并行工作:情景回忆"以前遇到过类似的吗",语义告诉"项目的背景配置是这些",程序说"按这个标准流程来"。缺任何一类,Agent 行为都会出问题。

3. 记忆的存储形态

按 2025 年底 Hu et al. 的综述《Memory in the Age of AI Agents》,记忆存储分三个层级。但对应用开发者来说,真实可选空间常常只有一层——取决于你用谁的 API。

01

Token 级(文本级)

把记忆存成可读文本——事实、摘要、用户档案、对话片段——写到数据库或文件,需要时取出来塞进 prompt。这是目前几乎所有生产级记忆系统的落脚层。Mem0、Letta(前 MemGPT)、Zep、Claude Code 的 CLAUDE.md 都在这一层。

Token 级内部又有三种结构:扁平存储(起步首选,把每条记忆转成 embedding,向量检索 top-K)、图结构(适合多跳推理,记忆之间有关联关系)、层级结构(原始条目、中间聚类摘要、顶层抽象——HippoRAG 的思路)。

实用建议:从扁平开始。只有当你观察到明确检索失败——多跳问题搜不到、全局问题答不准——再考虑往图或层级方向演进。
02

隐式记忆(Implicit)

把记忆存在模型内部——KV cache 复用、cache 压缩、学习出来的记忆 token。要求访问 past_key_values 或 hidden_states,商业 API 一概不暴露。只有跑开源模型才有得玩,工程成熟度也还在研究阶段。

03

参数级(Parametric)

把知识直接写进模型权重——全量微调、LoRA adapter、知识编辑。效果最持久,但不支持"学一条改一次",每次重训都有灾难性遗忘风险。适合批量训练一次稳一段时间的场景。

你使用商业 API(OpenAI / Claude / Gemini)就只能操作 Token 级。你的"记忆工程"全部发生在发给模型的文本层面。隐式和参数级作为理解框架即可,日常用不上。


4. 记忆的生命周期

记忆不是写进去就完事。一条记忆从生到死经历三个阶段:

阶段一

写入(Write)

决定记忆质量上限。记进去的东西烂,后面怎么搜都没用。三种写入策略:摘要式(保留上下文+跨段语义,适合长对话压缩)、提取式(精准、离散、好查,靠 LLM 判断"这条值不值得记")、结构化(表达力强,能记关系,但 schema 约束后续灵活性)。

阶段二

维护(Maintain)

记忆会衰减、冲突、过期。三个维护动作:合并(语义上重复的条目合成一条)、更新(老条目软删除+时间戳)、遗忘(腾位置+降噪声)。遗忘策略尤其关键——纯靠访问频率淘汰很危险,有些知识一年用一次但用到时极其关键。

阶段三

检索(Retrieve)

不是每次都查,查的话也别只靠 embedding。三个杠杆决定召回质量:时机控制(先不查直接答,置信度低再去翻——省钱省延迟)、查询改写 HyDE(用户问"认证怎么做的?"先让 LLM 编个假答案再用假答案检索,解决疑问句 vs 陈述句 embedding 距离远的问题)、混合检索(BM25 抓关键词+embedding 抓语义)。

更多上下文不总是更好的上下文。塞 10 条半相关的记忆,效果不如 3 条高度相关的。检索质量比数量重要得多。

5. RAG 作为外部记忆

RAG(检索增强生成)本质上就是一种记忆系统——把知识存在外部数据库里,每次对话时检索相关内容注入 prompt。它的特别之处在于:底层知识是显式的、可更新的、可追溯来源的。

传统记忆和 RAG 的核心区别不在技术上:记忆偏重 Agent 的"个人经历"(跟这个 Agent 的交互历史、工具调用轨迹),RAG 偏重"外部知识库"(公司文档、产品手册、公开资料)。一个成熟系统两种都要。

RAG 真正棘手的地方在于记忆维护:文档更新了怎么办?版本怎么追溯?权限怎么控制?这些是信息管理的问题,不是模型的问题。

场景对比:Agent 说"上次咱们用 JWT 做认证的,对吧?"——这是情景记忆在工作。Agent 说"根据公司最新安全规范,密码必须 12 位以上"——这是 RAG 在查外部知识库。两者缺一不可。

6. 业界方案

当前主流三套方案,按你最在意的维度选:

  • MemGPT / Letta:操作系统隐喻,Agent 自己管理记忆。分层存储(Core / Recall / Archival),Agent 主动调搜索工具检索。适合需要复杂记忆推理的场景。
  • Mem0:系统自动管理,提取式+向量+知识图谱。自动语义检索,在 LOCOMO benchmark 上用更少的 token 打赢了全量 context 方案。适合需要自动化记忆管理的产品。注意它的 Go 版本是 gomem0。
  • Claude Code:纯文件系统,markdown 即记忆。CLAUDE.md + 记忆索引,Agent 启动时自动注入,按需读取全文。上手最快,适合开发者工具和本地 Agent。透明可审计,但大规模记忆时不好扩展。

你自己的 Agent 要加记忆,最小可行的路线是:给 Agent 一个 save_memory 工具让它主动调用,每轮对话开始时把记忆索引注入 system prompt,再加一个定期清理脚本合并重复条目、标注过期知识。不需要一上来就上向量数据库或知识图谱。向量检索、图谱推理、自动提取——等遇到具体瓶颈再加不迟。


7. 相邻概念

记忆系统不是孤立组件。你接下来可以顺着这些概念深入:

  • AI Agent:记忆系统服务的对象,Agent 让记忆有了"谁在用"的主体。
  • 上下文窗口:短期记忆的物理载体,窗口大小直接决定了 Agent 能从记忆中"看到"多少。
  • RAG 检索增强生成:以外部知识库为底层的记忆系统,补充 Agent 个人经历之外的事实。
  • 技能系统:程序记忆的系统化形式,把"怎么做"固化为可调用的技能模块。
  • 知识图谱:语义记忆的增强形式,通过实体和关系构建可查询的结构化知识网络。

参考资料

  1. Hu et al., "Memory in the Age of AI Agents", 2025. 107 页综述,三层存储框架。
  2. Mem0, "Mem0: A Memory Layer for AI Agents", mem0.ai, 2025.
  3. Letta (MemGPT), "Memory Management for LLM Agents", letta.ai, 2025.
  4. Anthropic, "Claude Code: Agentic Coding with Memory", docs.anthropic.com, 2026.
概念解析 · 人工智能ABC