资讯动态

PanWatch AI 服务商 Failover 机制:DeepSeek 挂了自动切 Ollama 本地模型

发布时间:2026/10/1 15:36:20 来源:尧图企业网站定制
PanWatch AI 服务商 Failover 机制DeepSeek 挂了自动切 Ollama 本地模型【免费下载链接】PanWatchPanWatch — AI stock monitoring for A-shares, HK US markets, powered by TradingAgents. Portfolio insights, real-time alerts automated reports.盯盘侠覆盖 A股/港股/美股的 AI 盯盘、持仓分析、实时提醒与自动报告。项目地址: https://gitcode.com/GitHub_Trending/pa/PanWatch做 AI 盯盘最怕什么行情不等人而 AI 服务商可能随时限流、超时甚至宕机。PanWatch盯盘侠针对 A 股 / 港股 / 美股的 AI 盯盘、持仓分析与自动报告内置了一套模型级 Failover 机制主模型如 DeepSeek调用失败时系统按错误类别自动摘参重试或降级到下一个候选模型例如本地 Ollama并记录冷却窗口让盯盘提醒、盘前分析、盘后日报这些关键链路少停一秒是一秒。为什么要给 AI 调用做 FailoverPanWatch 里几乎每个核心功能都要调用大模型盘前分析、盘中监测、盘后日报、TradingAgents 深度分析、价格提醒的 AI 解读……它们都走同一条 AI 调用链路。一旦服务商故障超时 / 5xx行情时段模型响应变慢调用超时限流 / 配额耗尽高频盯盘场景下 429 并不罕见鉴权失效 / 服务挂Key 过期或服务端直接宕机。没有降级能力时这些失败会直接传导到用户报告不生成、提醒不推送。PanWatch 的方案是借鉴数据源侧久经考验的负缓存冷却模式kline_collector 的_FAIL_UNTIL给 AI 调用补齐主模型失败自动切备选的运行时能力核心实现就在 src/platform/ai/ai_failover.py。三步看懂 Failover 的候选链候选链构建主模型排第一其余按库里is_default优先、id 顺序补齐最多 3 个备选全部复用设置 → AI 服务商里已配置的 OpenAI 兼容服务OpenAI / 智谱 / DeepSeek / Ollama 均可无需新增全局配置。按错误类别分流这是 Failover 的关键——不是所有失败都换模型。冷却 恢复探测失败候选进入 60 秒冷却窗口窗口内直接跳过不再联网窗口过期后自然再试成功即清除冷却标记。错误分类三种处理策略错误类别典型场景处理方式参数不兼容模型不接受temperature参数摘掉参数重试同一模型一次可降级超时、5xx、限流(429)、鉴权失效(401)、服务挂切到下一候选模型并记入冷却致命错误prompt / 内容策略类错误直接抛出换模型也会同样失败这套分流逻辑在 ai_failover.py 的classify_ai_error中实现一个容易忽略的细节是401 鉴权失效也会触发切换——因为备用服务商比如本地 Ollama的 Key 可能依然有效直接失败反而是浪费机会。流式输出的特殊处理AI 对话是流式输出的这里有个安全边界一旦已经向前端产出过 token再失败就无法回滚此时 Failover 不能偷偷换模型否则回答会从一半开始变口音。因此流式路径只覆盖首个 token 之前的失败——首包之后异常直接透出给用户这也是 ai_failover.py 中chat_stream的设计取舍。怎么验证它生效了PanWatch 把 Failover 做成了可观测的used_model_label实际跑通的模型标签会记入运行记录agent_runs 落库你在运行历史里看到的模型就是真正干活的那个切换告警日志发生降级时打印带trace_id的 warning 日志排查时能直接串起整条链路全量单测覆盖tests/test_ai_failover.py 用 mock 覆盖了错误分流、冷却与恢复探测、流式切换边界、候选链构建等全部关键路径。也就是说当某天 DeepSeek 大面积限流你看到的不是一堆报错而是运行记录里的模型悄悄变成了Ollama/qwen2.5之类的本地模型——盯盘不停机这就是 Failover 的意义。快速上手配置多服务商让 Failover 生效设置 → AI 服务商添加至少一个主服务商如 DeepSeek和一个备服务商如本地 Ollama 的http://localhost:11434/v1均为 OpenAI 兼容 API给备模型配置好 Key 与模型名系统会自动按默认模型优先的顺序挂入候选链无需任何额外开关Failover 随每次 AI 调用自动生效。更多架构细节可阅读 src/ARCHITECTURE.md 与 README.zh-CN.md。小结PanWatch 的 AI Failover 机制用错误分类 负缓存冷却 候选链降级三板斧把单点依赖某一家模型服务商的风险降到最低参数问题就地修复服务问题自动切换内容问题快速失败不空转。对新手来说只需把两个服务商配好剩下的交给它——行情不停你的 AI 盯盘也不该停。【免费下载链接】PanWatchPanWatch — AI stock monitoring for A-shares, HK US markets, powered by TradingAgents. Portfolio insights, real-time alerts automated reports.盯盘侠覆盖 A股/港股/美股的 AI 盯盘、持仓分析、实时提醒与自动报告。项目地址: https://gitcode.com/GitHub_Trending/pa/PanWatch创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑