HuggyDog 部署到阿里云 ECS 后调用摄像头工具整整卡了 15 分钟日志停在 tool_call 之后没有下文。这类 AI Agent Harness Engineering 工具调用超时排查时最容易被误判成摄像头驱动或 ECS 网络问题。我的处理顺序是先把 LLM 通道和工具通道拆开去 TaoTokenhttps://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_content创建一把 Key再把 LangChain/AutoGPT 的 OpenAI 兼容 Base URL 填成 https://taotoken.net/api让模型推理和工具调用决策走 TaoToken 的模型通道然后用最小请求复现。TaoToken 在这里只负责提供 Key 和 Base URL不代替摄像头、小爱音箱或扫地机器人这些工具本身真正执行摄像头快照的仍然是读者 ECS 上的本地进程。跑通一轮请求后再对照原文的 Logging/Tracing/Metrics 看工具调用链哪一步超时。1. HuggyDog 卡在 ECS 调用摄像头工具 15 分钟先别急着改驱动1.1 复现现场tool_call 之后日志断在哪里HuggyDog 的典型链路是用户说一句“看一下客厅摄像头”Agent 把这句话交给 LLMLLM 返回tool_callsHarness 再去找camera_snapshot这类工具执行。卡 15 分钟时日志通常有两种断点一种是 LLM 请求本身没回来前端一直转圈另一种是tool_calls已经打印出来了但后面没有tool_result也没有工具结束时间。这两种断点对应的排查方向完全不同不能一上来就重启 ECS 或重装摄像头 SDK。先看一个最小日志片段确认断点在哪2026-09-10 10:21:03 INFO agent_start user_query看一下客厅摄像头 2026-09-10 10:21:04 INFO llm_request modelYOUR_MODEL_ID base_urlhttps://taotoken.net/api 2026-09-10 10:22:19 INFO llm_response tool_calls[camera_snapshot] 2026-09-10 10:22:19 INFO tool_start namecamera_snapshot 2026-09-10 10:37:19 WARN agent_timeout elapsed900s如果llm_request之后没有llm_response问题在模型通道或网络出口如果tool_calls已经回来但tool_start后没有tool_end那 15 分钟大概率耗在摄像头工具自身的阻塞上。把这个判断做完再决定是查 Base URL、Key、模型 ID还是查摄像头进程、RTSP 拉流、设备权限。1.2 把故障切成两段LLM 推理通道与摄像头工具通道AI Agent Harness Engineering 里最容易混淆的地方是把“模型决定调用工具”和“工具真正执行”当成一回事。LLM 只负责输出结构化tool_calls它不会替你打开摄像头也不会替你执行ffmpeg或 HTTP 快照接口。TaoToken 提供的模型通道解决的是前半段让 LLM 请求稳定返回并且正确返回工具调用意图。后半段仍然由 ECS 上的 Python 进程、摄像头 SDK 或本地 HTTP 服务负责。所以排查顺序可以固定成三步。第一步单独发一条纯文本请求确认模型通道能在几秒内返回第二步发一条带工具的请求确认tool_calls能正常出现第三步只执行camera_snapshot工具不经过 LLM看工具本身是否阻塞。前两步都通、第三步卡住就别再折腾 Base URL 了应该去查摄像头工具的超时、重试和资源占用。前两步就超时再回来检查base_url、api_key、model三个字段是否写对。2. 把 LangChain 的 OpenAI 兼容 Base URL 指向 TaoToken2.1 去官网创建 Key并记下模型广场里的模型 ID打开 TaoToken 注册账号进入控制台创建 API Key先不要把它写死在代码里。本文所有示例统一用占位符YOUR_API_KEY实际 Key 从 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_content 创建。创建完成后顺手看一眼模型广场把要用的模型 ID 复制下来。模型 ID 以模型广场当时列表为准不要凭印象写gpt-5或带日期后缀的猜测值也不要把示例里的YOUR_MODEL_ID原样留在配置里。准备材料只有三样一把有效的YOUR_API_KEY一个从模型广场复制来的模型 ID以及填进工具的 Base URLhttps://taotoken.net/api。注意这个 Base URL 末尾不带/v1也不要给它加任何 UTM 参数。官网落地页是给人点的用来注册、创建 Key、看模型广场、看用量https://taotoken.net/api是给 LangChain、AutoGPT 这类 OpenAI 兼容客户端填的接口地址两者不要混用。2.2 ChatOpenAI 的 base_url 写 https://taotoken.net/apiLangChain 里最直接的方式是使用ChatOpenAI把base_url指到https://taotoken.net/api。下面这段可以复制后替换两个占位符import os from langchain_openai import ChatOpenAI llm ChatOpenAI( modelYOUR_MODEL_ID, # 以 TaoToken 模型广场当时列表为准 api_keyYOUR_API_KEY, # 从 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_content 创建 base_urlhttps://taotoken.net/api, timeout60, max_retries2, ) resp llm.invoke(用一句话说明你在正常工作) print(resp.content)如果你习惯用环境变量也可以写成export OPENAI_API_KEYYOUR_API_KEY export OPENAI_BASE_URLhttps://taotoken.net/api然后在代码里只保留ChatOpenAI(modelYOUR_MODEL_ID)。显式传参和读环境变量都可以但排障阶段建议先显式写清楚避免本地 shell 里残留了别的OPENAI_BASE_URL把请求带到别处。只要纯文本请求能在几秒内返回就说明 LLM 推理通道已经通了接下来再测工具调用。3. AutoGPT 老版本 .env 与 LangChain bind_tools 的差异3.1 AutoGPT 读 OPENAI_API_BASE但工具执行仍在本地如果你用的还是经典版 AutoGPT它通常从.env读取 OpenAI 兼容配置。老版本常见写法是OPENAI_API_KEYYOUR_API_KEY OPENAI_API_BASEhttps://taotoken.net/api不同 AutoGPT 分支的变量名可能不同有的版本用OPENAI_API_BASE有的版本有自己的配置文件以你本地那份官方文档为准。无论变量名怎么变核心只有两点Key 用YOUR_API_KEYBase URL 用https://taotoken.net/api末尾不要加/v1。模型名同样从模型广场复制不要自己编造。AutoGPT 即使配置正确它也只是通过模型通道做任务规划和工具选择真正执行摄像头、音箱、扫地机器人命令的仍然是 ECS 上的本地工具进程。3.2 bind_tools 后先看 tool_calls不要让模型直接执行摄像头LangChain 里可以用bind_tools把工具描述交给模型但模型返回的只是调用意图。下面这个例子让模型决定是否调用camera_snapshot实际执行仍然在 Python 进程里from langchain_core.tools import tool tool def camera_snapshot(camera_id: str) - str: 调用本地摄像头工具返回快照路径或错误信息。 # 这里接你自己的摄像头 SDK 或本地 HTTP 接口 # 不是让模型直接连摄像头 return snapshot_ok llm_with_tools llm.bind_tools([camera_snapshot]) resp llm_with_tools.invoke(看一下客厅摄像头现在有没有人) print(resp.tool_calls)如果tool_calls为空先检查模型是否支持工具调用、工具描述是否清楚、提示词里是否明确要求“需要时调用工具”。如果tool_calls正常出现但执行camera_snapshot卡住那就回到工具通道排查摄像头地址是否可达、鉴权是否过期、RTSP 拉流是否阻塞、子进程是否死锁。不要写成让 Codex 或 LangChain Agent 直接连上 ECS 去执行摄像头命令正确做法是 Agent 生成调用意图由读者本地代码执行再把结果回灌给模型。4. 用一轮最小请求验证 Tool Calling Harness 是否通4.1 先发纯文本再发带工具的请求验证不要一上来就跑完整 HuggyDog 流程。先发纯文本确认模型通道print(llm.invoke(用一句话说明你在正常工作).content)这条请求如果在 60 秒内没有返回先不要看工具代码。检查base_url是不是https://taotoken.net/apiKey 是不是从控制台复制完整模型 ID 是不是模型广场里的有效值。然后发带工具的请求观察resp.tool_calls的结构。一个正常的tool_calls通常包含工具名、参数和id这个id在回灌结果时必须原样带回去。4.2 把工具执行结果按 tool_call_id 回灌工具执行完后要把ToolMessage和对应的tool_call_id一起回给模型否则 Harness 会认为这次工具调用没有结束可能反复重试表现出来就像“状态丢失”或“循环卡住”。示例from langchain_core.messages import ToolMessage tool_call resp.tool_calls[0] tool_result camera_snapshot.invoke(tool_call[args]) messages [ resp, ToolMessage(contenttool_result, tool_call_idtool_call[id]), ] final llm_with_tools.invoke(messages) print(final.content)这段代码跑通说明 Tool Calling Harness 的最小闭环已经成立模型返回意图、本地工具执行、结果按 ID 回灌、模型生成最终回答。如果中间某一步耗时异常就把耗时打出来不要只靠“感觉卡了”。只有把每一步的时间戳分开才能判断 15 分钟到底花在 LLM 请求、工具执行还是超时重试。5. 对照 Logging/Tracing/Metrics 找 15 分钟卡在哪5.1 日志里补 request_id、tool_name、start/end原文把问题归因于工具超时、状态丢失和可观测性缺失这三件事在 HuggyDog 卡 15 分钟的场景里都能对上。可观测性缺失的典型表现是日志只有“开始调用摄像头”没有工具名、没有开始时间、没有结束时间、没有tool_call_id。补日志不需要大改框架先加一层计时包装import logging import time logging.basicConfig( levellogging.INFO, format%(asctime)s %(levelname)s %(message)s, ) def timed_tool(name, fn, *args, **kwargs): start time.time() logging.info(tool_start name%s, name) try: result fn(*args, **kwargs) logging.info(tool_end name%s elapsed%.2fs, name, time.time() - start) return result except Exception: logging.exception(tool_error name%s elapsed%.2fs, name, time.time() - start) raise把camera_snapshot包进timed_tool后再看日志就能回答三个问题LLM 请求花了多久工具执行花了多久中间有没有重试。若tool_end一直不出现说明工具内部阻塞若tool_end出现了但final一直不返回说明回灌或第二轮 LLM 请求有问题。5.2 状态丢失常见于 tool_call_id 没回填或超时重试状态丢失在 Agent 里很隐蔽。表现是明明已经执行过摄像头工具模型下一轮又发起同一个tool_call或者工具结果已经拿到但对话历史里没有带tool_call_id的ToolMessage。LangChain 的消息序列要求工具消息和调用消息成对出现少了tool_call_id模型可能无法把结果和请求对应起来。排查时把每轮的tool_calls和ToolMessage都打到日志里确认 ID 一致。另一个来源是超时重试如果 LLM 请求超时设置很短客户端重试后可能产生多个并发的工具调用日志看起来像“同一步执行了很多次”实际是重试堆叠。5.3 本篇容易踩的配置错Base URL 多 /v1、模型 ID 占位符、超时太短第一类错误是 Base URL 写成https://taotoken.net/api/v1。工具要求填https://taotoken.net/api末尾不要加/v1多写可能让实际路径重复表现为 404 或请求一直没有正确响应。第二类错误是模型 ID 没替换代码里还留着YOUR_MODEL_ID请求会直接失败或被拒绝。第三类错误是超时给得太短比如timeout5而摄像头工具本身需要 20 秒拉流于是 LLM 侧先断了工具侧还在跑日志看起来就像“莫名卡住”。把 LLM 请求超时和工具执行超时分开设置再打印每一步耗时比反复改驱动更有效。6. 跑通后去控制台核对这次调用再决定下一步6.1 用同一把 Key 在模型对话里确认模型 ID配置保存后先在 TaoToken 模型对话 里用同一把 Key 发一条测试消息确认模型 ID 和 Base URL 没填错。模型对话能返回说明 Key 和模型 ID 这一层是通的再回到 LangChain 里跑bind_tools的最小请求。如果打算长期在 ECS 上跑 HuggyDog 这类 Agent可以打开 Coding Plan 看套餐是否够用Key 在 控制台 API Keys 创建和管理。若你同时用 Claude Code 做代码侧调试环境变量对照见 接入文档。6.2 回到 HuggyDog 的 ECS 日志把工具超时阈值调成可观测最后一轮验证要回到 ECS 日志用同一句“看一下客厅摄像头”再跑一次对照llm_request、llm_response、tool_start、tool_end四个时间点。如果 LLM 两段都在秒级返回工具段是主要耗时就调摄像头工具自己的超时和重试如果 LLM 段也慢再检查https://taotoken.net/api是否被误加/v1、Key 是否过期、模型 ID 是否写错。TaoToken 在这条链路里负责模型通道不替代摄像头工具本身也不替你执行本地命令。把日志补全、把超时拆开、把tool_call_id回填这三件事做完15 分钟的 Tool Calling Harness 超时就不再是一团乱麻。