资讯动态

Pydantic Deep Agents多模型配置指南:Claude、GPT、Gemini到Ollama本地模型如何无缝切换

发布时间:2026/10/16 3:39:31 来源:尧图企业网站定制
人工智能AI AgentAgent 框架多智能体工具调用Agent 沙箱交互助手MCP Clients【免费下载链接】pydantic-deepagentsOpen-source, self-hosted Claude Code - a terminal AI assistant and the Python framework behind it. Tool-calling, sandboxed execution, multi-agent teams, skills, checkpoints, unlimited context - on Pydantic AI, any model.项目地址https://gitcode.com/gh_mirrors/py/pydantic-deepagents点击查看免费下载pydantic-deepagents是一个开源、可自托管的终端 AI 助手Claude Code 风格其底层 Python 框架支持在 Claude、GPT、Gemini 乃至 Ollama 本地模型之间无缝切换。无论你是想省 API 费用还是担心限流、或是追求完全离线这套多模型配置体系都能让你一行命令或一个斜杠命令完成切换——无需改动项目代码。支持的模型提供商一览CLI 内置了一张统一的提供商元数据表源码见 providers.py首次启动时会自动引导你选择提供商环境变量默认模型示例OpenRouter聚合多家模型OPENROUTER_API_KEYopenrouter:anthropic/claude-sonnet-4AnthropicClaudeANTHROPIC_API_KEYanthropic:claude-sonnet-4-6OpenAIGPTOPENAI_API_KEYopenai:gpt-4.1GoogleGeminiGOOGLE_API_KEYgoogle-gla:gemini-2.5-proOllama本地免费无需密钥ollama:llama3.3OpenAI-compatiblellama.cpp / LM Studio / vLLM可选openai-compatible:local-model除此之外模型选择器还会读取 Pydantic AI 自带的模型目录见 known_models.py覆盖 DeepSeek、xAI、Groq、Mistral、Cohere 等十几家提供商——模型目录始终与底层框架同步不会过期。一键配置提供商使用 /provider 命令最省心的配置方式是内置的/provider命令实现在 commands.py在对话中输入/provider弹出提供商选择列表选中目标提供商如 Anthropic 或 Ollama按提示粘贴 API Key——本地提供商Ollama / OpenAI-compatible跳过此步密钥自动写入.pydantic-deep/keys.toml已被 git 忽略无需手动编辑文件。密钥的读取优先级为Shell 环境变量 项目./.pydantic-deep/.env./.env 全局~/.pydantic-deep/.env详见 getting-started.md。如果不想走引导流程直接export ANTHROPIC_API_KEYsk-ant-...也能立即生效。用 /model 在 Claude、GPT 与 Gemini 之间热切换运行时切换模型不需要退出会话。输入/model会打开一个交互式选择器model_picker.py它整合了四类来源最近使用最多记住 12 个历史模型保存在用户级的~/.pydantic-deep/model_history.jsonmodel_history.py本地发现自动查询 Ollama 的/api/tags和 OpenAI 兼容服务的/models接口列出真实在跑的模型发现逻辑在 local_models.py2 秒超时服务宕机也不阻塞界面OpenRouter 实时目录拉取并缓存最多 250 个模型离线时用内置兜底列表各提供商目录支持输入过滤也可手动键入任意provider:model字符串。选中回车后Agent 会即时围绕新模型重建当前会话无缝继续——这就是无缝切换的核心体验。你也可以在命令行直接指定pydantic-deep --model anthropic:claude-sonnet-4-6命令行参数永远优先于已保存的配置。配置 Ollama 本地模型免费、离线、无密钥本地模型是这套配置体系中最灵活的一环分两条路径路径一Ollama在/provider中选 Ollama免密钥或直接写入配置model ollama:llama3.3CLI 默认连接localhost:11434如果 Ollama 跑在别的机器上设置环境变量OLLAMA_BASE_URL如http://gpu-box:11434/v1即可。解析逻辑见 model_resolve.py。路径二OpenAI 兼容服务llama.cpp / LM Studio / vLLM这类服务需要一个base_url因此执行/provider选择OpenAI-compatible并输入服务器地址配置将保存为model openai-compatible:qwen2.5 base_url http://localhost:8080/v1⚠️注意Agent 依赖工具调用能力本地模型需要配合正确的 chat/tool 模板使用过小或缺少模板的模型可能失败或死循环——这是模型本身的限制而非 CLI 的缺陷。另外端点若需要密钥只会存入密钥保险库的OPENAI_COMPATIBLE_API_KEY绝不出现在配置文件里你的OPENAI_API_KEY也永远不会被发送到本地端点。进阶设置 fallback 模型防止限流中断多模型的另一个价值是高可用。在/model选完主模型后会追问是否设置备用模型两者都持久化到.pydantic-deep/config.tomlmodel openai:gpt-4.1 fallback_model openrouter:anthropic/claude-haiku-4-5当主模型遭遇限流或 5xx 瞬时错误时Agent 会自动切到备用模型继续工作。可以跨提供商自由组合例如 Claude 挂了就落到 GPT。更细致的触发条件、MODEL_FALLBACK_TRIGGERED钩子与成本统计说明见 fallback-models.md。配置持久化与优先级速查所有设置最终落在项目级.pydantic-deep/config.toml优先级为环境变量 配置文件 默认值settings.mdmodel/fallback_model— 主模型与备用模型base_url— 仅当model带openai-compatible:前缀时生效PYDANTIC_DEEP_MODEL— 一次性覆盖单次运行的模型适合临时换模型试验。配合/settings面板还可以同步调整 thinking effort、temperature 等参数全部改动即时生效并自动写盘。常见问题FAQQ切换模型后需要重启 CLI 吗不需要。/model与/settings的改动即时生效Agent 会在后台重建。Q本地模型没出现在选择器里确认 Ollama 正在运行ollama list能列出模型OpenAI 兼容服务需先通过/provider配好base_url。发现失败不会报错也可以直接在输入框手动键入模型名。Q如何保证密钥安全/provider保存的密钥位于.pydantic-deep/keys.tomlinit命令会自动将其加入 git 忽略pydantic-deep keys list可查看所有已保存凭证。总结pydantic-deepagents 的多模型配置设计非常直观/provider管钥匙/model管选择fallback_model管兜底。从云端的 Claude、GPT、Gemini 到免费的 Ollama 本地推理切换成本几乎为零。更多命令细节可查阅 commands.md 与 settings.md完整文档索引见 docs/cli/。赞分享人工智能AI AgentAgent 框架多智能体工具调用Agent 沙箱交互助手MCP Clients【免费下载链接】pydantic-deepagentsOpen-source, self-hosted Claude Code - a terminal AI assistant and the Python framework behind it. Tool-calling, sandboxed execution, multi-agent teams, skills, checkpoints, unlimited context - on Pydantic AI, any model.项目地址https://gitcode.com/gh_mirrors/py/pydantic-deepagents点击查看免费下载相关推荐LangAlpha多模型适配指南Claude、GPT、Kimi、本地模型如何自由切换LangAlpha多模型适配指南Claude、GPT、Kimi、本地模型如何自由切换 LangAlpha 是一个面向金融市场的 AI 投研 AgentClaARTEMIS配置系统实战一份artemis.jsonc切换四大模型的完整指南Gemini/Claude/GPT-4o/本地OllamaARTEMIS配置系统实战一份artemis.jsonc切换四大模型的完整指南Gemini/Claude/GPT 4o/本地Ollama ARTEMIS人工智能AI AgentGUI 自动化测试MCP 服务移动开发AI 评测从云端到本地Langflow多模型无缝切换指南从云端到本地Langflow多模型无缝切换指南 你是否还在为AI模型选择发愁想尝试最新的GPT 4o又担心API费用太高需要处理敏感数据必须使用本地模人工智能大模型AI AgentRAG工作流自动化低代码MCP 服务创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑