本文介绍了 Agent Harness 的概念及其在大模型中的作用。随着 LLM 的发展从简单的问答系统演变为复杂的 Agent 系统Agent Harness 成为了一个关键的组件它提供了 context、tools、memory 等附加功能帮助 LLM 更好地执行任务。文章详细解释了 Agent Harness 的组成部分包括 agent state、tools、planning、memory、orchestration、context management、safety governance以及 observability evaluation。通过一个实际的 coding agent 示例展示了这些组件如何协同工作以完成任务。最后文章讨论了当前 agentic AI 面临的挑战如 long-horizon reliability 和 evaluation以及未来可能的发展方向。关于理解 Agent Harness基本上这篇文章涵盖了你需要知道的一切早在 2023 年我们开始与 LLM 交互时一切都很简单。我们只需要提出问题然后得到答案。像我这样的程序员通常会提出这样的问题“用 Python 编写一个对数字数组进行排序的函数”。我们几乎可以实时得到答案而模型也不会进入_思考_模式因为当时的模型只是基础的 LLM还没有如今 agentic 系统中的各种复杂能力。我所说的各种复杂能力指的是 tools、memory、skills 以及更多在 2026 年已经不可或缺的能力。正是这些附加组件让一个简单的 LLM 变成了 AI agent。一边是 Agentic 竞赛在 2023 年和 2024 年竞争的焦点是模型。OpenAI 拥有最优秀的通用模型之一而 Anthropic 则拥有最优秀的 coding 模型之一。竞争者不断构建模型以在 MMLU、SWE-bench 等标准 benchmark 中击败其他模型。模型竞赛开始趋于饱和reasoning 和 context 等能力开始出现。当我们提出问题时聊天 UI 中开始出现类似“thinking…”的提示。人们开始好奇当 UI 中出现“thinking…”时底层究竟发生了什么。Agent 竞赛开始了……另一边是用户的野心随着模型变得更加复杂我们作为用户也变得更加有野心。我们不再只是提出问题而是开始分配任务。为了回答用户的问题这些任务需要 agent 设定目标、使用 browser 等外部工具、从 memory 中回忆过去的对话和事实以及执行更多操作。我至今仍清楚地记得自己曾经截取 Amazon landing page 的屏幕截图将其作为输入提供给一个 coding model并要求它构建一个模仿该截图的网站一次完成全部工作它确实生成了一个相似的 UI但想象一下一个用户实际上希望 UI、backend、infrastructure 以及周边的一切都能一次性完成配置。这就是我们在 2026 年所处的位置所以如今我会输入这样的 prompt“解决 GitHub issue #122 中报告的 bug”。这样的 prompt 要求 LLM 执行更多操作。这个看似简单的 prompt 中其实包含了多个步骤。2023 年的 LLM 可能会回答“抱歉我无法访问你的 GitHub repo。”然而一个拥有良好 Agent Harness 的 LLM 则会进入_思考_模式。它会经历 reasoning → planning → choose tool/action → execute tool → observe result → repeat or stop。我明白了但 Agent Harness 到底是什么如果我们在 LLM 外围封装了 context、tools、memory 等如此多的附加组件那么就应该有一种高效的方式来_工程化_这些组件与 LLM 的交互。而 Agent Harness 就是对这种机制的称呼。正式定义如下Agent harness 是包裹、控制、测试、监控和评估 AI agent 的基础设施层。简单来说它就是围绕 LLM 构建的“操作系统”。作为包裹在 LLM 外围的基础设施层harness 由 agent architecture、用于编排 harness 内多个 sub-agent 的 orchestration framework、用于评估 agent 输出的 evaluation system、runtime infrastructure、security、governance以及最后但同样重要的 observability 组成。为什么需要 agent harness随着我们为 AI agent 设定越来越大的目标AI agent 执行这些任务所需的时间也在不断增加。下面这张来自 Anthropic 的有趣图表清楚地说明了这一点。就在 2025 年也就是一年前agent 执行一项给定任务通常需要大约一小时。但如今这个时间已经徘徊在 12 小时左右这些 long-horizon 任务会带来一些问题。它们可能无限循环、幻觉式地调用工具、破坏 agent state、超出 token budget、丢失 context、重试错误操作、静默失败、滥用权限甚至忘记目标。这些都是代价高昂的问题。想象一下一个 AI agent 进入了 12 小时的无限循环。这个循环消耗的 token 和 compute 将会非常庞大。我们可以在 harness 中为任意给定任务设置 budget从而解决这个问题这个 budget 可以是时间、token 或 compute budget。更严重的是安全问题。想象一下LLM 选择使用了一个具有破坏性的工具例如删除文件系统中所有文件的工具。通过 harness我们可以对 LLM 能够访问的内容进行细粒度控制简而言之正是 harness 让你能够控制 agent从而让你确信 agent 正在执行你希望它执行的操作Agent harness 的组件无论我们如何称呼一个 harness它都应该属于以下组件之一。Agent state。 回答这样的问题我现在在哪里它会跟踪当前任务、步骤、观察结果、决策等信息。例如如果 agent 的计划中包含 4 个步骤来完成某个目标那么 state 会跟踪哪些步骤已经完成、当前状态是什么以及还有哪些工作需要完成。Tools。 回答这样的问题我能做什么它为 agent 提供 code execution、browser、APIs、databases、shell 等能力。在所有组件中tools 是最直观的组件。例如对于 coding agent 而言read_filefunction 可以是最基本的工具之一。Planning。 回答这样的问题我应该做什么它决定_接下来应该发生什么_并创建或修订计划。在 coding task 中planning component 可以提出一个包含 4–5 个步骤的序列这些步骤需要按顺序完成才能结束任务。Memory。 回答这样的问题我知道或记得什么它会跨步骤或 session 存储和检索信息。每当我们从 Vector DB 中检索一些信息并放入 context 时可能都值得对这些内容进行总结以优化 context进而优化 working memory。这些工作需要由 harness 的 memory component 负责管理。Orchestration。 回答这样的问题_我该如何执行这个过程_它控制 execution loop、tool calls、retries、sub-agents、parallelism、handoffs 等。例如假设 agent 正在处理一个购买任务。可以调用一个 payment sub-agent同时由 inventory agent 并行执行更新库存等其余操作。或者inventory agent 也可以在 payment agent 成功完成任务后按照顺序执行。Context Management。 回答这样的问题LLM 现在应该看到什么它决定在每个步骤中将哪些信息放入 LLM 的 context window。Safety Governance。 回答这样的问题我被允许做什么Permissions、sandboxing、approval gates、policies、limits、authentication 等都属于这一组件。即使模型可以使用一个非常强大的工具它究竟能够执行到什么程度例如即使允许模型在 coding task 中编辑文件也应该确保它不能删除文件系统中的全部或部分文件。Observability Evaluation。 回答这样的问题它真的成功了吗它会追踪发生了什么并衡量 agent 是成功、失败还是违反了约束。模型完成给定任务所付出的各种代价都会在 observability 中被跟踪。例如模型可能只需要使用 10 个工具中的 3 个就能完成任务。跟踪这些工具的使用方式是有价值的。如果它们失败了原因是模型缺少其工具集合中的某些工具还是因为 context 中缺少某些数据而harness engineering则是一门新兴学科研究如何设计、实现和执行上述组件使 agent 发挥最佳表现。一个实际的 coding agent 示例现在我们已经了解了不同的组件接下来看看这些组件如何在一个简单的 coding task 中相互交互。假设我们已经为一个 coding agent 实现了 harness。用户发送了以下 prompt解决 github issue #122 中的 bug请注意这并不是一个简单的“向我解释……”类型的 prompt而是真正的任务。要完成这个任务我们需要 planning、tool use、memory 以及更多 agentic 能力。下面是实现该 harness 的一种合理方式首先用户的输入会进入 context。模型开始进行 reasoning并提出一个目标。在目标完成之前它会一直保留在 context 中。然后它决定对任务的执行进行“plan”。它提出了如下计划检查相关 bug、修复正确的文件、编译并测试、运行 test cases以及更新 memory。在执行的第一步中harness 会从 Vector DB 中检索一些 memory其中包含与当前任务相关的历史 bug 详情。它找到与 authentication 相关的信息并将其作为最匹配的结果放入 context。然后模型利用 context 中的信息决定退出 auth.py 文件以修复 authentication bug。不过这需要使用read_file和write_filetools。模型使用这些 tools 编辑文件并保存。模型决定通过 terminal 测试代码变更。现在需要使用 terminal tool而该工具位于模型可用的 tools 集合中。harness 确保模型拥有访问 terminal 和文件的适当权限模型继续执行计划中的下一步并运行 test cases。为此它需要访问更多 tools。此外还要注意整个过程中每一步都会更新 context以确保模型能够跟踪当前所在位置以及剩余的工作。在整个过程中observability component 会确保所有内容都被记录下来。日志包括所使用的 tools、任务耗时、使用的 memory、中途发生的任何失败等。请注意我们还没有涉及 evaluation而 evaluation 本身就是一个庞大的主题。它不只是衡量准确性还可以根据 agent 的实际行为涵盖多个指标。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取