一、模型没有记忆它只有当下很多人第一次接触大模型时会有一个误解觉得模型记得之前说过的话。其实不是。模型本身没有任何记忆能力。它只能处理当前上下文窗口中的内容你给它看什么它就知道什么你没放进去的它完全不知道。这意味着一件事大模型****的记忆其实是系统设计出来的不是模型天生具备的。在单轮对话中这不是问题。用户提一个问题模型回答一次结束。但在 Agent 系统中任务可能需要执行几十步甚至上百步。每一步产生的信息都需要被后续步骤参考。问题就来了上下文窗口有容量限制不可能把所有历史信息都塞进去即使塞进去了我在 CE 系列 Context Rot 那篇讲过上下文越长模型的检索和推理能力越差一旦关键信息被截断或被噪声淹没Agent 就会表现出失忆症状换句话说Agent 的失忆不是模型的 bug而是缺少记忆系统的必然结果。二、上下文窗口不是记忆而是工作台很多团队在早期做 Agent 时会把上下文窗口当成记忆来用把所有历史对话、工具返回结果、中间推理过程全部塞进 Prompt 里。这种方式在 Demo 阶段通常没问题。但在真实任务中很快就会碰到三个硬墙第一是容量墙。即使最新的模型提供了几十万 token 的窗口在长流程任务中也很容易不够用。一个工具调用的返回结果可能就有几千 token跑 50 步就已经相当庞大了。第二是质量墙。这是更根本的问题。上下文越长检索和推理能力持续下降。200K 窗口的模型可能在 50K 时就开始明显衰减。把所有信息都堆进窗口不仅不会让模型知道得更多反而会让它看不清重点。第三是持久性墙。上下文窗口是临时的。一旦会话结束、系统重启或者上下文被截断所有信息就消失了。如果一个任务需要跨多次会话完成或者需要从上次中断的地方继续纯靠上下文窗口是做不到的。所以需要换一个思路来理解上下文窗口的角色它不是记忆它是工作台。工作台的特点是面积有限、放的东西太多就会乱、而且下班后会被清空。你不会把所有档案都摊在工作台上你会把当前需要的资料拿出来用完之后放回档案柜。Agent 的记忆系统设计本质上就是在解决同一个问题什么放在工作台上什么放在档案柜里什么时候从档案柜取出来什么时候该归档。三、Harness Memory 的核心架构三层记忆在实际的 Agent 工程中一套成熟的记忆系统通常会被设计成三个层次。这不是某一家的专利设计而是行业在大量实践中自然演化出来的结构。第一层工作记忆Working Memory工作记忆就是上下文窗口本身。它承载的是 Agent 当前步骤推理所需要的信息当前任务目标、最近几步的操作记录、当前工具的返回结果。工作记忆的特点是快速、即时但容量极其有限。它的设计目标不是记住所有东西而是只保留当前最需要的东西。在成熟的 Harness 中工作记忆通常不是简单地把历史对话全部保留而是经过系统的筛选和压缩。只有和当前步骤直接相关的信息才会出现在工作记忆中。第二层短期记忆Short-Term Memory短期记忆存储的是当前****任务周期内的信息但不一定需要时刻放在上下文窗口里。举个例子Agent 在执行一个代码修改任务时第 5 步搜索了相关文件第 10 步修改了代码第 15 步运行了测试。到了第 20 步需要做决策时第 5 步搜索的完整结果可能不需要全部放在上下文里但搜索过哪些文件、关键发现是什么这些摘要信息应该随时可以取回来。短期记忆通常用任务状态存储来实现可以是数据库、文件系统或者专门的状态管理模块。它的特点是容量比工作记忆大得多持续整个任务周期但访问速度比工作记忆慢。这一层解决的核心问题是让 Agent 在长流程任务中不会忘记自己做过什么。第三层长期记忆Long-Term Memory长期记忆存储的是跨任务、跨会话的持久化信息。比如用户的偏好设置、项目的架构规范、之前类似任务的经验总结、历史决策记录。这些信息不属于任何一次具体任务但在很多任务中都可能被用到。长期记忆的实现方式在行业里已经有多种成熟方案。向量数据库是最常见的一种把信息转成 embedding 存储通过语义检索找到相关内容。另一种方式是时序知识图谱每条记忆都带有时间维度知道什么时候这条信息是有效的、什么时候被更新了。长期记忆解决的核心问题是让 Agent 能积累经验而不是每次都从零开始。三层记忆的协作这三层记忆不是互相独立的而是通过一套读写机制协作运行当 Agent 开始一个新任务时系统会从长期记忆中检索相关的历史经验和用户偏好注入到工作记忆中。任务执行过程中每一步的关键信息会被写入短期记忆。当工作记忆接近容量上限时系统会把不再紧急的信息归档到短期记忆同时从短期记忆中取回当前需要的内容。任务结束后有价值的经验和结论会被沉淀到长期记忆中。用一个比喻来理解工作记忆****是你桌上的便签短期记忆是你手边的文件夹长期记忆是你的档案室。好的记忆系统不是让你桌上堆满所有文件而是让你在需要的时候能快速找到正确的那一份。四、记忆系统的四个关键设计决策理解了三层记忆的架构之后更重要的问题是在工程实践中如何把它真正做对。在大量 Agent 实践中有四个设计决策经常决定记忆系统的成败。决策一写什么进记忆不是所有信息都值得记住。如果什么都写记忆系统很快就会变成一个噪声库信息太多反而更难找到有用的。成熟的记忆系统通常会设计一套写入过滤机制只有被判定为对后续有价值的信息才会写入记忆。例如一个工具调用的完整 JSON 返回通常不需要记住但调用了什么工具、核心结论是什么值得记住。一次失败的尝试本身可能不重要但为什么失败、应该避免什么是非常有价值的经验。2026 年 3 月一篇被广泛引用的综述论文提出了 Agent 记忆的五种核心机制上下文压缩、检索增强存储、反思式自我改进、层级化虚拟上下文、以及策略驱动管理。这些机制的共同特点是不是被动地堆积信息而是****主动地筛选和组织信息。决策二什么时候读记忆记忆的价值只有在被正确检索时才能体现。读得太频繁会增加延迟和成本读得太少等于没有记忆。一个常见的设计是事件驱动的记忆检索当 Agent 遇到新任务、进入新阶段、或者遇到困难需要参考经验时系统才会触发记忆检索。而不是每一步都去查一遍所有记忆。检索的质量也非常关键。简单的关键词匹配远远不够语义检索是最基本的要求。更进一步的系统会考虑时间维度最近的记忆通常比很久以前的更有参考价值也会考虑任务相似度做过的类似任务中的经验比完全不相关的记忆更值得调取。决策三记忆如何更新和遗忘记忆不是只写不删的日志。真实世界中的信息会过时、会被修正、会互相矛盾。如果记忆系统只增不减Agent 很可能会基于过时的信息做出错误决策。这是 Agent 记忆和传统数据库的一个重要区别Agent 的记忆需要遗忘机制。一种方式是时间衰减越久远的记忆权重越低除非它在近期被重新引用过。另一种方式是冲突检测当新记忆和旧记忆矛盾时系统需要决定以哪个为准。Zep 的做法是给每条记忆标注有效时间窗口什么时候这条信息变成真的、什么时候被替代了。在前面讲过的微软 ACE 框架里记忆更新的机制更有意思系统不是一条条往记忆库里加规则而是由专门的策展器角色来维护一份 playbook增量更新、合并冲突、删除过时条目。这避免了记忆库无限膨胀的问题。决策四记忆的隔离与权限在多 Agent、多用户的系统中记忆的隔离是一个容易被忽视但非常关键的设计点。不同用户的偏好和历史不应该互相污染。不同 Agent 的任务经验也不一定适合共享一个负责代码审查的 Agent 积累的经验对一个负责客服的 Agent 可能完全无用甚至会产生误导。成熟的记忆系统通常会设计命名空间或权限机制用户级记忆、任务级记忆、系统级记忆各自隔离只在明确需要的时候才做跨域检索。五、没有记忆系统 vs 有记忆系统差距在哪讲了这么多架构和决策到底记忆系统能带来多大的实际差异从行业实践来看差距主要体现在三个维度。第一是任务成功率。在长流程任务中没有记忆系统的 Agent 随着步骤增加任务漂移和信息丢失的概率越来越高。加入记忆系统后Agent 能持续追踪任务目标和已完成的步骤任务完成率通常有显著提升。第二是跨会话连续性。没有长期记忆的 Agent每次启动都是从零开始。用户得重复解释自己的偏好和项目背景Agent 也无法利用之前的经验。有了长期记忆之后Agent 能记住之前的交互体验会有质的提升。第三是资源效率。把所有信息都堆在上下文窗口里token 消耗会非常高推理速度也会变慢。通过三层记忆的分级管理工作记忆可以保持精简既省 token 又提高推理质量——因为模型需要处理的无关信息少了。六、当前行业格局记忆系统正在成为独立赛道值得注意的是Agent 记忆系统在 2026 年已经不只是框架中的一个模块而是在演化成一个独立的技术赛道。Mem0用向量数据库做语义存储支持从对话中自动提取关键事实。Zep走了一条不同的路用时序知识图谱Graphiti来组织记忆每条记忆都带有时间有效性窗口能更好地处理信息的更新和过时。Letta前身是 MemGPT则把记忆管理做成了类似操作系统虚拟内存的结构让 Agent 可以自主决定什么时候读写记忆。这些产品的出现说明一个趋势记忆不再被当作 Agent 框架的附属功能而是一个需要专门设计的系统工程问题。从 Harness 的视角来看这和我一直在讲的判断一致Agent 系统越来越像一个小型操作系统。模型是 CPU上下文是 RAM而记忆系统就是硬盘和文件系统它决定了系统能处理多大规模的任务、能积累多少经验、能在多长的时间跨度上保持连续性。最后回到开头的问题为什么你的 Agent 总是失忆答案很清晰不是因为模型不够聪明而是因为系统没有给它一套真正的记忆能力。模型只有当下没有过去。把过去的信息组织好、存储好、在需要的时候精准取回来这是 Harness 的活不是模型的活。记忆系统的设计看起来是一个技术问题但本质上是一个产品决策你希望 Agent 记住什么、忘掉什么、在什么时候想起什么。这些决策会直接影响 Agent 的行为质量和用户体验。在 Harness 的五层架构中Memory 可能是最容易被延迟建设、但最不应该被延迟建设的一层。因为其他四层Environment、Tool、Control、Evaluation解决的是当前这一步怎么做好而Memory 解决的是之前学到的东西怎么用上来。Agent 的能力来自模型稳定性来自 Harness而成长性来自 Memory。说真的这两年看着身边一个个搞Java、C、前端、数据、架构的开始卷大模型挺唏嘘的。大家最开始都是写接口、搞Spring Boot、连数据库、配Redis稳稳当当过日子。结果GPT、DeepSeek火了之后整条线上的人都开始有点慌了大家都在想“我是不是要学大模型不然这饭碗还能保多久”我先给出最直接的答案一定要把现有的技术和大模型结合起来而不是抛弃你们现有技术掌握AI能力的Java工程师比纯Java岗要吃香的多。即使现在裁员、降薪、团队解散的比比皆是……但后续的趋势一定是AI应用落地大模型方向才是实现职业升级、提升薪资待遇的绝佳机遇这绝非空谈。数据说话2025年的最后一个月脉脉高聘发布了《2025年度人才迁徙报告》披露了2025年前10个月的招聘市场现状。AI领域的人才需求呈现出极为迫切的“井喷”态势2025年前10个月新发AI岗位量同比增长543%9月单月同比增幅超11倍。同时在薪资方面AI领域也显著领先。其中月薪排名前20的高薪岗位平均月薪均超过6万元而这些席位大部分被AI研发岗占据。与此相对应市场为AI人才支付了显著的溢价算法工程师中专攻AIGC方向的岗位平均薪资较普通算法工程师高出近18%产品经理岗位中AI方向的产品经理薪资也领先约20%。当你意识到“技术AI”是个人突围的最佳路径时整个就业市场的数据也印证了同一个事实AI大模型正成为高薪机会的最大源头。最后我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我整理出这套 AI 大模型突围资料包【允许白嫖】✅从入门到精通的全套视频教程✅AI大模型学习路线图0基础到项目实战仅需90天✅大模型书籍与技术文档PDF✅各大厂大模型面试题目详解✅640套AI大模型报告合集✅大模型入门实战训练这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图0基础到项目实战仅需90天全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤640套AI大模型报告合集⑥大模型入门实战训练获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】