本文为Java自学Agent系列第4篇带你深入Agent核心机制从Tools工具调用、Memory记忆存储到Planning规划执行全面解析如何将大模型从能聊天升级为能干活。结合Java工程化视角提供工具描述、参数校验、错误处理等实用技巧助你快速上手大模型开发。你请了个特别聪明的助理脑子灵光、见多识广。但你没给他配手机、没给他开系统权限他就只能坐在工位上跟你聊天什么实事也干不了而且他记性极差你上句话说完他下句话就忘遇到麻烦事他也不知道该先干什么、后干什么。Agent 也是这样。Tool 是它的手脚Memory 是它的记事本Planning 是它的做事章法。这三样配上它才真正开始工作。一、给 Agent 装手脚Tool 与 Function Calling先说一个关键机制模型本身不会执行任何代码它只能提出调用请求。想象一个场景用户说“帮我查一下订单 ORD-123456 的状态然后提醒我。”如果没有工具模型只能瞎编“您的订单正在派送中。”——它根本没有权限也不知道真实状态。有了 Function Calling流程变成这样重点在第 2 步 模型不是直接执行而是输出一段结构化的调用指令哪个函数、什么参数。框架如 LangChain4j、Spring AI拿到这段指令后由你的 Java 代码去真正执行再把结果回传给模型。Note用 Java 类比 模型就像服务注册中心的发现者——它看到工具清单选出合适的工具并填好参数但真正干活的是注册中心背后的那个Service。执行权始终在你手里这是安全性的基石 模型只能调用你暴露的工具绝碰不到你不想给它的能力。1.1 实战把 Java 方法变成 Agent 的手脚以 LangChain4j 为例第 5 篇会完整实战这里先看核心概念。定义一个工具就是把一个普通 Java 方法加上Tool注解import dev.langchain4j.agent.tool.Tool; public class OrderTools { Tool(根据订单号查询订单状态返回订单当前物流状态和预计送达时间) public String queryOrder(String orderId) { // 这里写你的真实业务代码查数据库、调第三方物流接口…… return 订单 orderId 状态已发货预计明天 18:00 前送达; } Tool(根据订单号查询售后进度返回当前处理阶段和下一步动作) public String queryAfterSale(String orderId) { return 订单 orderId 售后状态退款审核中预计 24 小时内完成; } }然后把这个工具装配到 Agent 上import dev.langchain4j.model.openai.OpenAiChatModel; import dev.langchain4j.service.AiServices; public class Main { public static void main(String[] args) { OpenAiChatModel model OpenAiChatModel.builder() .apiKey(System.getenv(OPENAI_API_KEY)) .modelName(gpt-4o-mini) .temperature(0.0) // 工具调用场景建议调低温度保证输出稳定 .build(); Assistant assistant AiServices.builder(Assistant.class) .chatLanguageModel(model) .tools(new OrderTools()) // 注入工具这不就是 Autowired 吗 .build(); String reply assistant.chat(帮我查下 ORD-123456 到哪了); System.out.println(reply); } interface Assistant { String chat(String userMessage); } }运行后模型会自动判断该调用queryOrder把真实结果整理成回答返回。全程没有你写一行调度逻辑——这正是 Agent 和传统编程的区别。1.2 工具描述写给 AI 看的接口文档这里有一个 Java 开发者最容易忽略、却最重要的细节Tool注解里的那段描述文字是写给模型看的不是给人看的。回想你写 Swagger 注释的经历注释写得好前端调得准。工具描述同理——模型靠这段描述判断什么时候该用这个工具、参数怎么填。 描述写得烂模型就可能在错误的时候调用或传错参数。描述写法效果Tool(查询订单)太模糊模型不知道何时用、参数是什么格式Tool(查询订单状态仅在用户询问物流/发货/预计送达时调用)明确触发条件模型不会乱调Tool(查订单状态) 参数String orderId模型不知道 orderId 长什么样可能传错描述里注明格式“参数 orderId 为 10 位订单号形如 ORD-123456”模型能正确填参写工具描述的三个要点 说明何时用触发条件说明参数格式给示例说明边界做不到什么、什么时候不要调用。Tip核心心法 工具描述就是AI 世界的 API 文档。你给每个工具写描述花的五分钟能省下你排查模型为什么不调工具的五小时。1.3 工具系统的工程化设计让工具靠谱地被调用本小节讲的是工具的工程化——让工具能跑起来和让工具靠谱地被调用是两回事。单个工具能跑起来只是第一步。真上生产你的每个工具都得过一遍工程化体检——下面六个问题是 Java 开发者一眼就能上手的检查清单① Schema 校验参数对了才干活。 模型填参可能不靠谱。你的工具方法第一行就该做参数校验orderId是不是 10 位订单号amount是不是合法数字这就像你平时给接口加Valid校验注解只不过校验对象换成了模型填的参数。 参数不合法时返回明确的错误提示让模型知道为什么失败、该怎么改而不是抛个莫名其妙的异常。Tool(查询订单状态参数 orderId 为 10 位订单号形如 ORD-123456) public String queryOrder(String orderId) { if (orderId null || !orderId.matches(ORD-//d{6})) { return 订单号格式不正确应为 10 位订单号形如 ORD-123456请确认后重试; } // ... 正常查询逻辑 }② 超时控制不能无限等。 工具背后调用的是数据库、第三方接口、内部服务任何一个卡住整个 Agent 就悬在那儿了。给每个工具调用设置超时时间比如 3 秒超时就返回查询超时请稍后重试让模型走降级逻辑。这正是你平时调外部接口设超时的习惯。③ 幂等性重复调用也不能出事。 网络抖动、Agent 重试都可能导致同一个工具被调用两次。对于发短信、扣款、建单这类有副作用的操作必须设计成幂等的——带业务单号做去重重复执行结果一致。你在分布式系统里做的幂等设计原封不动搬过来就行。④ 错误处理把失败结构化地告诉模型。 工具失败时不要只给模型一个空字符串或堆栈而是返回结构化的错误信息{ success: false, reason: 用户不存在 }。模型看到这个才能正确判断下一步换个订单号查还是转人工。错误信息就是给模型看的调试信息写清楚对 Agent 的稳定性至关重要。⑤ 审计日志谁在什么时候调了什么。 每次工具调用都要记录哪个用户、哪个会话、调了哪个工具、传了什么参数、结果如何。这一条既是排查问题的需要也是安全审计的底线——出了纠纷能追溯。类比你给核心接口打的业务日志。⑥ 权限边界只给模型最小可用权限。 工具清单要遵循最小授权原则模型只需要读订单的能力就别给它删订单的工具。上生产前把工具清单像权限表一样过一遍——每个工具都应该回答一个问题如果模型在错误场景调用了它最坏会怎样把这六条做成一张检查表比任何架构都管用工程点一句话要求Java 类比Schema 校验参数不合法就明确拒绝Valid注解超时控制每个调用设超时超时走降级HttpClient 超时配置幂等性有副作用的操作可重复执行分布式幂等设计错误处理失败返回结构化错误给模型统一异常返回体审计日志每次调用留痕可追溯业务操作日志权限边界最小授权危险工具不暴露RBAC 权限控制二、给 Agent 装记事本Memory 记忆2.1 为什么需要记忆还记得第 3 篇说的吗大模型是无状态的——每次调用它都失忆不记得你上一轮说了什么。想象一个没有记忆的客服 Agent用户说我叫小王刚才说的那个订单Agent 一脸茫然“哪个订单您刚才说什么了吗”——这体验没法用。Memory 就是给 Agent 加记事本。按作用时长分三类记忆类型类比 Java存什么存活周期短期记忆 对话记忆HttpSession本次对话的上下文说了什么、答了什么一次对话结束即清空长期记忆 持久记忆数据库持久化用户偏好、历史事实、重要结论跨对话长期保留工作记忆 任务记忆ThreadLocal当前任务执行过程中的中间结果本次任务完成即清空2.2 短期记忆最常用的记忆在 LangChain4j 里一条配置就能开启import dev.langchain4j.memory.chat.MessageWindowChatMemory; MessageWindowChatMemory memory MessageWindowChatMemory.withMaxMessages(10); Assistant assistant AiServices.builder(Assistant.class) .chatLanguageModel(model) .tools(new OrderTools()) .chatMemory(memory) // 记住最近 10 轮对话 .build();它的实现原理Java 开发者秒懂把历史消息数组不断塞回给模型。 每一轮对话框架都把历史消息 新提问拼成messages发给模型模型看到了历史自然就记得了。2.3 长期记忆像数据库一样持久化短期记忆有个致命问题上下文窗口有限对话一长就装不下第 3 篇讲过。这时候就要用长期记忆——把重要的信息抽取出来存到数据库/向量库下次对话时再检索回来。// 伪代码示意把关键信息持久化下次对话时注入 memoryService.save(用户小王偏好夜间下单收货地址为上海); // 新会话开始时 String userProfile memoryService.load(小王); String systemPrompt 已知用户信息 userProfile /n请据此回答。;2.4 记忆的工程实践别让记忆吃穷你Memory 不是越多越好它有代价。三个实战建议记忆的每一轮都要花 Token。 历史消息塞得越多单次调用的成本越高、速度越慢。你写 SQL 会避免SELECT *管理记忆也要学会只带需要的字段。短期记忆窗口如 10 轮是性能与成本的平衡点。主动压缩与摘录。 对话太长时不要盲目加大窗口而是让模型先做摘要把 50 轮对话总结成 10 条要点只保留摘要。这就像你会把冗长的日志归档只留关键信息。敏感数据不进记忆。 身份证、银行卡、密码绝不能存进长期记忆或发往模型。记忆系统要有访问控制——只有授权的工具能读特定用户的记忆。Warning注意 记忆设计是 Agent 架构里最容易被低估的一环。很多 Agent 项目上线后失忆或串台本质都是记忆设计没做好——要么窗口太短记不住要么装太满又贵又乱。三、让 Agent 学会思考Planning 与 ReAct3.1 为什么需要规划从单次问答到多步任务先看两种任务的差别任务 A单步 “用一句话介绍什么是 Spring 事务。” → 模型一次就能答好不需要工具不需要规划。任务 B多步 “分析上周订单增长情况生成图表把结论发到钉钉群里。” → 这一个任务其实包含三个动作查数据、生成图表、发消息。没有 Planning模型面对任务 B 就只能走一步看一步地硬试——虽然它能靠逐轮推理也就是下一节的 ReAct串起三个工具但容易绕弯路、Token 消耗大缺少全局章法。有了 Planning模型能先把任务拆成子步骤再逐个执行用 Java 类比 这就像你写一个 Service 方法里面依次调用了orderDao.query()、chartService.generate()、dingtalkClient.send()——只不过调用顺序和参数是模型在运行期自己决定的而不是你在编译期写死的。3.2 ReAct 模式思考 → 行动 → 观察循环往复ReAct 是 “Reasoning Acting” 的缩写是目前最主流、最通用的 Agent 执行模式。它的核心是一个循环翻译成大白话做一步、看一眼结果、再决定下一步。 跟你在while循环里写业务逻辑用返回值决定下一步分支是同一回事。一个具体的 ReAct 执行过程用户问“我昨天下的订单 ORD-123456 到哪了顺便看看今天上海天气。”思考(Thought) 用户要查订单状态还要查上海天气是两个独立需求 行动(Action) 调用 queryOrder(ORD-123456) 观察(Observe) 返回订单 ORD-123456 已签收 思考(Thought) 订单查完了接着查天气 行动(Action) 调用 getWeather(上海) 观察(Observe) 返回上海 晴 28°C 思考(Thought) 两个需求都完成了可以汇总回复 回答(Answer) 您的订单已于今日上午签收上海今天晴28°C。注意观察这个循环的精髓每次思考都基于上一次观察的真实结果而不是模型凭空猜测。这大大降低了幻觉——因为它每一步都有工具返回的事实支撑。NoteJava 视角总结 ReAct 一个 while 循环 模型做判断 你的工具做执行。循环条件是任务未完成判断逻辑是下一步干嘛执行体是你的 Service 方法。3.3 Plan-and-Execute先定计划再逐步执行ReAct 是边想边做而 Plan-and-Execute 是先想好再动手。两者的区别就像见招拆招和按作战计划推进。优势 计划先定好逻辑清晰、可控性强适合步骤明确、可以预先规划的任务劣势 计划是预测如果中途情况变化工具失败、数据缺失可能不按剧本走需要重新规划。两种模式的选型对比维度ReAct边想边做Plan-and-Execute先想再做执行风格一步一观察灵活应变先拆解计划按计划推进适合场景步骤不固定、需要探索的任务步骤相对固定、可预判的任务优点应变能力强不易跑偏规划清晰可观测性好缺点Agent 模式一句话描述Java 工程类比———ReAct思考→行动→观察循环直到完成while循环 策略分发Plan-and-Execute先规划任务清单再依次执行工作流引擎 / 任务调度Router路由根据意图把请求分给不同 Agent网关路由 / 策略工厂Reflection反思Agent 自己审查、修正自己的输出代码 Review 二次迭代Multi-Agent多个 Agent 分工协作、互相调用微服务编排 / 消息驱动其中 Multi-Agent 会在第 7 篇详细展开这里先记住结论Agent 的编排模式就是你熟悉的架构模式的动态化。 以前是你在代码里写死路由、写死步骤现在是模型在运行期自己路由、自己编排。3.5 什么时候让 Agent 规划什么时候写死流程新手最容易犯的错是所有逻辑都交给模型自由发挥。这是不行的——模型自由发挥意味着不确定、不可控、成本高。给 Java 开发者一条实用的决策准则情况做法流程固定、不容出错 支付、审批、结算写死代码 / 工作流 Agent 只做辅助判断步骤可预判、但内容多变Plan-and-Execute 拆步骤步骤不固定、需要探索试错ReAct 自由发挥高确定性 高成本敏感尽量少用模型能写死就写死核心原则用确定性兜底用 Agent 补灵活性。就像微服务架构里核心交易链路用强一致的方案边缘功能才允许最终一致——Agent 架构同理关键路径写死开放环节交给模型。 这个写死 vs 自由的取舍在第 6 篇讲 Workflow 时还会再见到。这一篇Agent 的四肢已经齐了手脚Tool、记事本Memory、思考Planning。 到目前为止一个 Agent 能理解指令、能调用工具、能记住上下文、能拆解任务——看起来已经挺能干了。但还差最要命的一块用户问的是你公司内部的事情可模型根本不知道你公司的业务知识。 光靠它脑子里的全网知识答的都是通用话术。怎么把你的知识喂给它这是下一篇的主题——RAG 检索增强生成并且我们会直接动手用 Java 做一个完整的智能客服 Agent。大模型的知识又多又杂到底怎么学做这行久了被问最多的问题就一个大模型的知识又多又杂我到底先学啥翻了一堆资料看啥都像重点结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍零基础、应届生、转行的都适用。跟着走至少方向不乱、不瞎忙学完拿得出手。第一阶段10天初阶应用这一阶段就一个目标把大模型真正玩明白不是只会聊天那种而是能调教它、能用代码把大模型和业务接起来。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用这阶段正式进实战目标很实在做出两个能拿出手的东西——一个私有知识库一个 agent 对话机器人。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…走完这 30 天Python 或 JavaScript 背景的基本能独立做一套 RAG 应用简历上也敢写大模型应用开发了。第三阶段约20天动手微调学到这你已经开始 “造” 模型了 —— 通过微调搞出垂直领域的专用小模型。为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料第四阶段20天商业闭环部署落地技术学完落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…想要入坑大模型的朋友给大家准备了一份2026 年最新 AI 大模型全套学习资料1、大模型系统化学习路线2、大模型学习视频教程3、大模型学习书籍电子文档4、AI大模型最新行业报告5、大模型项目实战配套源码6、2026大模型大厂面试真题7、为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。8、适合谁学传统后端 / Java / 前端开发想转型 AI 应用大学生、应届生想拿更好的 offer产品经理、运营想武装职业竞争力技术负责人想给团队落地提效学习是反人性的但回报是真金白银。技术会更新赛道会切换但只要你先动手机会就永远站在你这边。9、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料好了就写到这。路线是死的人是活的卡住了随时来问我。觉得有用就点个收藏别让它进收藏夹吃灰——动起来比啥都强。