资讯动态

别再手写 FastAPI 和 Streamlit:agent-service-toolkit 五分钟拉起一套 LangGraph 多智能体服务

发布时间:2026/10/17 6:29:17 来源:尧图企业网站定制
别再手写 FastAPI 和 Streamlitagent-service-toolkit 五分钟拉起一套 LangGraph 多智能体服务【免费下载链接】agent-service-toolkitFull toolkit for running an AI agent service built with LangGraph, FastAPI and Streamlit项目地址: https://gitcode.com/GitHub_Trending/ag/agent-service-toolkit图画完了想让智能体真正能用还得自己包 FastAPI、搭 Streamlit 聊天窗、写 Dockerfile。agent-service-toolkit 把 LangGraph 智能体、FastAPI 服务、客户端 SDK 和 Streamlit 界面打成一套模板内置 10 个智能体示例clone 下来换个 API 密钥就能跑。 能力清单先知道它能干什么上手前先看能力版图方便你决定拿它干什么。能力说明10 个内置智能体示例chatbot、research-assistant、rag-assistant、supervisor 多智能体、interrupt 人在环、GitHub MCP 等双模式流式token 级与消息级流式同时支持多 LLM 提供商OpenAI、Anthropic、Google、VertexAI、Ollama、Bedrock、DeepSeek、OpenRouter 等环境变量切换内容安全内置 Safeguard 做提示注入检测需 Groq 密钥对话历史/threads接口 界面侧边栏 Previous Chats检查点存储sqlite / postgres / mongo 三种后端可切⚡ 跑通它本地三条命令容器两行两条路线Python 裸跑和 Docker 跑都不超过三步。本地裸跑。先拿代码、配密钥git clone https://gitcode.com/GitHub_Trending/ag/agent-service-toolkit cd agent-service-toolkit echo OPENAI_API_KEYyour_openai_api_key .env这步就是把仓库拿下来并给服务配上一个 LLM 密钥任意提供商均可完整变量参考.env.example。接着装依赖并启动 FastAPI 服务uv 会自动建好虚拟环境curl -LsSf https://astral.sh/uv/0.12.5/install.sh | sh uv sync --frozen source .venv/bin/activate python src/run_service.py最后在新终端启动聊天界面浏览器开http://localhost:8501即可API 文档在http://localhost:8080/redocstreamlit run src/streamlit_app.py容器化启动。团队用 Docker 的话就两行cp .env.example .env # 填入密钥 docker compose watchcompose.yaml会同时拉起 postgres、FastAPI 服务、Streamlit 三个容器watch 模式下改代码自动重载改动pyproject.toml时需要docker compose up --build重建。️ 加一个自己的智能体复制、注册、完事分层的原因改图逻辑只动src/agents/下的文件服务和界面不用跟着改。加自己的智能体走三步复制示例改造以 src/agents/research_assistant.py 或 src/agents/chatbot.py 为底换 prompt 和 tools注册在 src/agents/agents.py 的agents字典里加一行界面想贴合新功能再调 src/streamlit_app.py不追求就跳过。my-agent: Agent(descriptionMy custom agent., graph_likemy_agent),my_agent本体可以极简一个 StateGraph 就够graph StateGraph(AgentState) graph.add_node(process, process_message) graph.add_edge(START, process) graph.add_edge(process, END) return graph.compile()注册完/my-agent/invoke和/my-agent/stream两个路径自动可用/info会列出全部智能体与可用模型。 进阶玩法跑起来后的三个真问题跑通之后接下来想问的通常是怎么换模型、怎么加自己的知识库、怎么别让 API 裸奔。不想绑死单一模型提供商设OLLAMA_MODELllama3.2即可切到本地 Ollama 模型服务跑在容器里再加一个OLLAMA_BASE_URL见 docs/Ollama.md。想让智能体基于你的文档回答把 pdf/docx 放进data/跑python scripts/create_chroma_db.py建好向量库rag-assistant就能检索作答见 docs/RAG_Assistant.md。担心 API 被裸奔设AUTH_SECRET后请求必须带 Bearer 头客户端会自动附带要并发就用ainvoke/astream异步接口现成例子在 src/run_client.py。收束agent-service-toolkit 是一套从智能体定义到聊天界面全流程可见的 LangGraph 智能体服务模板最快的开始方式是 clone 下来改git clone https://gitcode.com/GitHub_Trending/ag/agent-service-toolkit【免费下载链接】agent-service-toolkitFull toolkit for running an AI agent service built with LangGraph, FastAPI and Streamlit项目地址: https://gitcode.com/GitHub_Trending/ag/agent-service-toolkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑