Qwen-Agent 怎么设置 max_input_tokens 以触发自动上下文管理【免费下载链接】Qwen-AgentAgent framework and applications built upon Qwen3.0, featuring Function Calling, MCP, Code Interpreter, RAG, Chrome extension, etc.项目地址: https://gitcode.com/GitHub_Trending/qw/Qwen-Agent在多轮对话或使用工具调用的 Agent 会话中messages列表会不断增长最终可能超过模型支持的最大上下文长度导致请求失败。Qwen-Agent 内置了自动上下文管理机制当上下文长度达到max_input_tokens时框架会按固定策略裁剪输入消息让 Agent 可以在不手动管理历史的情况下持续运行。这篇文章说明如何把max_input_tokens配置到llm_cfg中以及触发后框架实际会做什么。参数在哪里配置max_input_tokens是llm_cfg中generate_cfg字典里的一个参数类型为int。根据 Configuration 文档参数类型默认值说明max_input_tokensint90000Agent 的最大上下文长度。当上下文超过该长度时会自动执行上下文管理。该参数应低于模型支持的最大输入长度以保证 Agent 正常运行。取值时的关键约束只有一条必须低于你所用模型支持的最大输入长度。例如模型最大输入为 32768 token 时max_input_tokens取 90000 就没有意义应改为小于 32768 的值。自动上下文管理的触发方式与处理策略根据 Context Management 文档调用agent.run(...)或llm.call(...)时该机制会自动生效不需要额外开关只有当上下文长度达到max_input_tokens时上下文才会被修改未达阈值时消息原样保留。达到阈值后Qwen-Agent 按以下顺序处理策略 S1–S5S1从最老的对话轮次开始如果整轮删掉后仍超限就删除该整轮否则进入 S2 逐轮处理S2从最老的 tool-response 开始排除最近一步进行折叠压缩长度可接受则停止否则进入 S3S3从最老的 tool-call 步骤开始整步删除保留用户 Query 和最终 Response仍超限则进入 S4S4对最近一步的 tool-response 逐步折叠满足长度则停止否则进入 S5S5截断本轮的 User Query 或最终 Response。该策略优先丢弃较早的记忆和环境信息目的是让 Agent 在有效的“无限上下文”窗口内工作。文档同时指出当前的记忆记录仍不理想官方计划后续引入更先进的上下文记忆管理模块。在源码层面可以对照 qwen_agent/llm/base.pyBaseChatModel在发起调用前会读取max_input_tokens当其值大于 0 时对输入消息执行粗略截断_truncate_input_messages_roughly源码注释也说明对 function calling 和多模态内容的 token 估算并不精确。配置示例以 DashScope 模型服务为例在generate_cfg中加入max_input_tokens其余配置按 QuickStart 准备使用 DashScope 时需设置环境变量DASHSCOPE_API_KEY使用本地 vLLM/SGLang 部署的 OpenAI 兼容服务时则通过model_server指定服务地址。from qwen_agent.agents import Assistant llm_cfg { # 使用 DashScope 模型服务 model: qwen-max-latest, model_type: qwen_dashscope, # api_key: YOUR_DASHSCOPE_API_KEY, # 若未在此设置将使用环境变量 DASHSCOPE_API_KEY # (Optional) 生成参数 generate_cfg: { top_p: 0.8, max_input_tokens: 6500, # 触发自动上下文管理的阈值 } } system_instruction 回答用户问题必要时使用工具。 tools [code_interpreter] bot Assistant(llmllm_cfg, system_messagesystem_instruction, function_listtools) # 多轮会话每轮把用户输入和 bot 回复都追加进 messages messages [] while True: query input(\nuser query: ) messages.append({role: user, content: query}) response [] for response in bot.run(messagesmessages): print(bot response:, response) messages.extend(response)其中6500取自 get_chat_model 的示例配置实际取值请按上面“必须低于模型最大输入长度”的原则替换为你自己选定的值。由于bot.run(...)内部每次都会调用 LLMmax_input_tokens在每轮请求中都会参与判断无需在调用处额外传参。如何判断配置生效官方文档没有提供专门的日志或检查命令能依据的判断标准如下未达阈值上下文长度未到max_input_tokens时messages不会被修改多轮历史原样保留达到阈值继续多轮对话后按 S1–S5 策略较早的轮次、tool-response、tool-call 步骤会先被移除或折叠Agent 仍能继续在限长内运行。另外注意一点默认值的差异Configuration 文档的表格中max_input_tokens默认值写作 90000而框架源码 qwen_agent/settings.py 中未显式配置时使用的兜底默认值来自环境变量QWEN_AGENT_DEFAULT_MAX_INPUT_TOKENS缺省为 58000。两处数值不一致因此建议显式写出max_input_tokens不要依赖默认值。若不想改代码也可以在运行环境里设置QWEN_AGENT_DEFAULT_MAX_INPUT_TOKENS来调整这个兜底默认值。限制max_input_tokens必须低于模型支持的最大输入长度否则不能保证 Agent 正常运作达到阈值后的裁剪是自动且不可选的S1–S5 策略优先牺牲较旧的记忆和环境信息官方明确表示当前记忆记录能力仍有限对 function calling 和多模态内容的 token 估算并不精确见 qwen_agent/llm/base.py 源码注释实际触发时机与按 token 精确计算会有偏差。【免费下载链接】Qwen-AgentAgent framework and applications built upon Qwen3.0, featuring Function Calling, MCP, Code Interpreter, RAG, Chrome extension, etc.项目地址: https://gitcode.com/GitHub_Trending/qw/Qwen-Agent创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考