一、核心问题多步骤导致模型「失忆/失控」在长流程、多步骤任务中比如10步代码重构、多文件批量处理AI模型会出现核心问题上下文过载工具执行结果、对话历史不断填充上下文系统提示的核心要求被「稀释」注意力稀疏模型逐渐忘记整体任务目标步骤混乱1由于对Query的意图稀释导致重复执行已完成的步骤比如反复创建同一个文件2要么跳过关键步骤比如没验证文件内容就直接下一步甚至「走神」即兴发挥偏离原始任务2和3一般需要DAG 进行处理进度无跟踪模型没有结构化的方式记录「哪些做了、哪些在做、哪些没做」全靠上下文记忆长流程下必然出错。补充items 是什么样子本质一个「待办项字典组成的列表」是用户传入的原始待办数据。如以下所示input_items[{id:1,text:买早餐,status:pending},{id:2,text:写代码,status:in_progress},{id:3,text:整理文档,status:completed}]如何处理任务任务管理器的设置其核心设计理念是「专注单任务」类似于对任务上锁所以对 in_progress 状态做了多重特殊处理原因如下避免多任务并行混乱人同时处理多个任务容易分心、效率低下这是待办管理的核心诉求约束 最多1个进行中任务——大模型同时处理两个任务带来的两个问题1成本方面是增加上下文TokenPrefill阶段的时候显存消耗过大耗时间1效果方面模型因为上下文的累积导致核心 Query 意图被削弱进而输出质量变差二、核心解决方案TodoManager 提醒机制代码的核心是通过「结构化进度跟踪 强制提醒」让模型始终锚定任务目标核心分为两部分1. TodoManager给模型一个「可视化的任务清单」TodoManager是一个结构化的任务状态管理器本质是让模型把多步骤任务拆分成可跟踪的待办项并强制规范状态核心逻辑任务状态约束每个待办项只能是pending待做、in_progress进行中、completed已完成三种状态且同一时间只能有1个「进行中」任务避免模型同时做多个事导致混乱结构化更新模型必须通过todo工具调用TodoManager.update()来更新任务清单代码会校验任务格式比如不能为空、状态合法确保清单规范可视化渲染任务清单会以固定格式[ ] 待做 | [] 进行中 | [x] 已完成返回给模型让模型清晰看到「已完成/总任务数」锚定整体进度。classTodoManager:def__init__(self):self.items[]# 存储结构化的待办项defupdate(self,items:list)-str:# 约束1最多20个待办避免清单过长iflen(items)20:raiseValueError(Max 20 todos allowed)validated[]in_progress_count0fori,iteminenumerate(items):# 提取并校验每个待办项的字段textstr(item.get(text,)).strip()statusstr(item.get(status,pending)).lower()item_idstr(item.get(id,str(i1)))# 约束2待办文本不能为空ifnottext:raiseValueError(fItem{item_id}: text required)# 约束3状态只能是 pending/in_progress/completed 三者之一ifstatusnotin(pending,in_progress,completed):raiseValueError(fItem{item_id}: invalid status {status})# 统计进行中的任务数ifstatusin_progress:in_progress_count1validated.append({id:item_id,text:text,status:status})# 约束4同一时间只能有1个进行中的任务避免并行混乱ifin_progress_count1:raiseValueError(Only one task can be in_progress at a time)self.itemsvalidatedreturnself.render()# 渲染成可视化清单返回给模型defrender(self)-str:# 把待办项渲染成模型易读的格式核心可视化进度ifnotself.items:returnNo todos.lines[]foriteminself.items:# 状态对应固定标记模型一眼能识别marker{pending:[ ],in_progress:[],completed:[x]}[item[status]]lines.append(f{marker}#{item[id]}:{item[text]})# 显示完成数/总数强化进度感知donesum(1fortinself.itemsift[status]completed)lines.append(f\n({done}/{len(self.items)}completed))return\n.join(lines)# 实例化 TodoManager全局唯一跟踪任务进度TODOTodoManager()核心作用通过硬约束状态、数量、文本强制模型生成规范的任务清单并用可视化格式返回让模型清晰看到进度。2. TodoManager代码流程阐述1. 类定义classTodoManager:def__init__(self):self.items[]# 存储结构化的待办项代码作用定义TodoManager类待办事项管理器init是构造函数初始化时创建空列表 self.items。设计意图self.items是整个类的核心数据容器专门存储「结构化的待办项」避免数据零散。2. update 方法核心校验 更新待办1defupdate(self,items:list)-str:# 约束1最多20个待办避免清单过长iflen(items)20:raiseValueError(Max 20 todos allowed)代码作用先校验待办总数超过 20 个直接抛异常。设计意图防止清单过长导致管理混乱。2validated[]in_progress_count0fori,iteminenumerate(items):# 提取并校验每个待办项的字段textstr(item.get(text,)).strip()statusstr(item.get(status,pending)).lower()item_idstr(item.get(id,str(i1)))设计意图字段提取时做「默认值空字符串 类型转换小写 格式化」避免原始数据格式混乱比如状态有大写In_Progress、ID是数字等单独用validated存储校验后的项保证self.items里的每一项都是「干净、合规」的。3# 约束2待办文本不能为空ifnottext:raiseValueError(fItem{item_id}: text required)# 约束3状态只能是 pending/in_progress/completed 三者之一ifstatusnotin(pending,in_progress,completed):raiseValueError(fItem{item_id}: invalid status {status})# 统计进行中的任务数ifstatusin_progress:in_progress_count1validated.append({id:item_id,text:text,status:status})设计意图文本非空状态枚举确保待办项有实际内容避免「空待办」统计进行中任务为后续「单任务并行」约束做准备。统一待办项的结构必须包含 id / text / status 三个键4# 约束4同一时间只能有1个进行中的任务避免并行混乱ifin_progress_count1:raiseValueError(Only one task can be in_progress at a time)self.itemsvalidatedreturnself.render()# 渲染成可视化清单返回给模型设计意图限制「同时只能有 1 个进行中的任务」符合「专注单任务」的待办管理理念避免用户同时处理多个任务导致效率低下。2. 提醒机制防止模型「忘记更新清单」模型可能会偷懒 / 忘记调用todo工具更新进度因此代码加入「强制提醒逻辑」维护rounds_since_todo计数器记录模型连续多少轮工具调用没更新todo清单阈值触发提醒当计数器 ≥3连续3轮没更清单代码会在工具结果中插入reminderUpdate your todos./reminder提醒提醒注入上下文这个提醒会作为工具结果的一部分喂回模型强制模型回到「更新任务清单→确认进度」的轨道避免偏离。Code2 注册 todo 工具模型能调用的「进度更新入口」# 1. 工具映射把 todo 工具名关联到 TodoManager.update 方法TOOL_HANDLERS{# ... 其他工具bash/read/write/edittodo:lambda**kw:TODO.update(kw[items]),# 核心模型调用todo工具时执行update}# 2. 工具定义告诉模型怎么调用todo工具参数规范TOOLS[# ... 其他工具定义{name:todo,description:Update task list. Track progress on multi-step tasks.,input_schema:{type:object,properties:{items:{type:array,items:{type:object,properties:{id:{type:string},text:{type:string},status:{type:string,enum:[pending,in_progress,completed]}},required:[id,text,status]# 强制模型传这三个字段}}},required:[items]}},]Code3 提醒机制防止模型忘记更新 tododefagent_loop(messages:list):# 计数器记录连续多少轮没调用todo工具rounds_since_todo0# 循环模型生成 response 和调用 tools 的 loopwhileTrue:# 1 生成 responseresponseclient.messages.create(modelMODEL,systemSYSTEM,messagesmessages,toolsTOOLS,max_tokens8000,)messages.append({role:assistant,content:response.content})# 2 不需要使用 tool说明该返回整个 responseifresponse.stop_reason!tool_use:returnresults[]used_todoFalse# 标记本轮是否调用了 todo 工具# 3 遍历 response 中的内容forblockinresponse.content:# 3.1 使用工具ifblock.typetool_use:handlerTOOL_HANDLERS.get(block.name)try:outputhandler(**block.input)ifhandlerelsefUnknown tool:{block.name}exceptExceptionase:outputfError:{e}print(f{block.name}:{str(output)[:200]})# 3.2 添加 tool resultresults.append({type:tool_result,tool_use_id:block.id,content:str(output)})# 3.3 使用工具了需要更新任务状态ifblock.nametodo:used_todoTrue# 3.4 更新 todo 工具状态rounds_since_todo0ifused_todoelserounds_since_todo1# 3.5 边界如果三次没用 todo 工具则插入提示词强制模型在下次输出时使用 todo 工具ifrounds_since_todo3:results.insert(0,{type:text,text:reminderUpdate your todos./reminder})# 3.6 把结果含提醒喂回模型messages.append({role:user,content:results})三、核心执行逻辑工具调用闭环任务初始化用户输入多步骤任务后模型首先调用todo工具拆分任务为结构化待办项比如「[ ] 创建test.txt | [ ] 写入内容 | [ ] 验证内容」步骤执行进度更新每完成一个步骤模型必须调用todo工具更新对应任务状态比如把「创建test.txt」标为completed把「写入内容」标为in_progress提醒兜底如果模型连续3轮没更新todo代码自动插入提醒强制模型先更新清单再继续进度可视化TodoManager.render()会把当前进度比如「2/3 completed」返回给模型让模型始终知道「做到哪了、还剩啥要做」。总结核心关键点结构化跟踪用TodoManager将模糊的「多步骤任务」转化为模型可识别的结构化清单替代不可靠的上下文记忆强制约束通过工具调用格式校验确保模型必须更新进度避免「口头规划、实际失控」提醒兜底用计数器强制提醒解决模型「忘记更新清单」的问题始终锚定整体任务目标。简单来说这套方案相当于给模型配了一个「任务看板」并在它走神时拍醒它确保长流程任务的每一步都可控、可追溯。带来的问题有些工具执行的结果可能并不能满足任务的需求可能需要涉及回滚、回滚等操作有些工具可能需要重复执行