资讯动态

Open WebUI 自托管 AI 平台:Docker 部署本地大模型的实践

发布时间:2026/8/28 10:56:39 来源:尧图企业网站定制
Open WebUI 自托管 AI 平台Docker 部署本地大模型的实践【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webuiOpen WebUI 是一个可完全离线运行的自托管 AI 平台它把 Ollama、OpenAI 兼容 API、知识库检索、图像生成装进一个 Web 界面数据始终留在你自己的机器上。用 Docker 部署10 分钟就能跑起第一个本地 AI 实例。三步跑通本地实例⚡ 前置检查只需要两件事机器上装好 Docker 与 Docker Compose确认 3000 端口没被占用ss -lntp | grep 3000空输出即空闲。仓库自带的docker-compose.yaml会同时拉起 Ollama 和 Open WebUI 两个容器Ollama 负责本地推理WebUI 挂在它的上游无需额外配置。克隆仓库一条命令启动git clone https://gitcode.com/GitHub_Trending/op/open-webui cd open-webui docker-compose up -d验证成功分两步。浏览器打开http://localhost:3000看到欢迎页即可注册第一个管理员账号终端再执行docker logs ollama出现模型加载日志说明推理引擎已就绪。接上你的第一个模型能做什么本地模型和云端模型可以混着用同一个界面里随时切换。怎么用本地模型先给 Ollama 拉一个再到管理后台「Settings → Ollama」点 Pull 也行云端或自建推理服务vLLM、Groq、LMStudio 等则填一个 OpenAI 兼容端点即可# 管理后台 Ollama API 设置 OLLAMA_BASE_URL: http://your-vllm:8000适用场景个人玩机、给小团队搭一个不依赖外网的问答入口。多模型切换的玩法是在一个对话里 多个模型并排回答横向比较输出质量选型时特别好用。本地 RAG 建知识库能做什么把私有文档喂给模型让它基于你的资料回答而不是凭空编。怎么用在聊天页点「」上传 PDF、网页或纯文本文档会自动入库提问时输入#加关键词即可检索知识库内容。本地 RAG 配置并不复杂默认向量库开箱即用要换 PGVector、Qdrant 之类再去环境变量里配。适用场景团队 wiki、产品手册、个人笔记库这类答案只存在自己手里的问答。图像生成与语音扩展图像接上 DALL·E 或 Gemini 后端就能文生图纯本地则连 ComfyUI 或 AUTOMATIC1111提示词还能改图不用切工具。语音内置 Whisper 语音识别和多家合成引擎打开麦克风就能免提视频通话配置都在管理后台的「Voice Speech」里填 API Key 即用。生产部署备忘 上线前建议过一遍这四条端口冲突遇到「Open WebUI 端口占用怎么办」改 compose 文件里这一行即可如- 8080:8080容器内固定是 8080持久化数据库、上传文件都在open-webui这个 volume 里备份它等于备份了整个实例密钥WEBUI_SECRET_KEY生产环境务必填一个随机长串它用于会话签名认证多人使用时接 OAuth 或 LDAP/AD 统一身份比逐人建账号省心下一步先给 Ollama 拉一个qwen2.5:7b跑起来把上面三个功能各摸一遍再深入时翻仓库里的 docker-compose.yaml 和 TROUBLESHOOTING.md前者标清了所有可调环境变量后者列了社区验证过的排错方案。【免费下载链接】open-webuiUser-friendly AI Interface (Supports Ollama, OpenAI API, ...)项目地址: https://gitcode.com/GitHub_Trending/op/open-webui创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价