WeKnora离线部署实战指南无网络环境下搭建本地文档问答平台【免费下载链接】WeKnoraOpen-source LLM knowledge platform: turn raw documents into a queryable RAG, an autonomous reasoning agent, and a self-maintaining Wiki.项目地址: https://gitcode.com/GitHub_Trending/we/WeKnoraWeKnora 是一款开源的 LLM 知识平台能把原始文档变成可检索的 RAG 问答、自主推理 Agent 和自维护 Wiki。本文带你完成 WeKnora离线部署全程容器化运行在本地不依赖任何公网 API适合企业内网、涉密/私有化环境做本地化文档处理与智能问答。无网络环境为什么选全容器化离线部署内网、涉密环境里做文档问答你通常会碰到三个卡点调不了云端模型 API、敏感数据不能出内网、机房资源有限。WeKnora 的解法是把整条链路——文档解析docreader、向量入库与检索内置 ParadeDB/PostgreSQL 向量扩展、大模型推理宿主机 Ollama、Web 界面——全部塞进 Docker 容器组件之间只走内部网络WeKnora-network对外只暴露前端 80 端口和 API 8080 端口。从 docker-compose.yml 可以看到默认不带 profile只会拉起五个核心容器frontend、app、docreader、postgres、redisMinIO、Neo4j、Qdrant、Milvus、SearXNG 等都是可选 profile内网最小化部署时可以不启用。模型服务 Ollama 跑在宿主机上容器通过host.docker.internal:11434访问它这也意味着你的文档和向量数据全程不出本机。部署前检查清单硬件与软件前置条件核对表动手前先对照这张表缺一项都会在后面卡住类别项目建议配置/版本说明硬件CPU8 核起推荐 16 核大模型推理主要吃 CPU无 GPU 时硬件内存32GB 起7B 模型 向量库的底线硬件磁盘≥200GB建议 SSD镜像 模型 知识库数据软件Docker Engine20.10容器运行时软件Docker Composev2或 v1 兜底启动脚本两种都能识别软件Ollama宿主机已安装并运行提供 LLM 与 Embedding软件Git任意新版获取代码网络外网不需要首次部署需提前备好镜像与模型提示若镜像和模型都来自内部制品库/离线介质上述首次部署需提前准备一项即可满足完全断网条件。一键跑起来从获取代码到服务健康验证第 1 步把代码放进内网机器git clone https://gitcode.com/GitHub_Trending/we/WeKnora cd WeKnora第 2 步配置离线环境变量先复制模板再改关键项cp .env.example .env离线模式下重点检查.env.example里这几处默认值大多已经是对的确认即可STORAGE_TYPElocal # 文件存本地卷不接对象存储 RETRIEVE_DRIVERpostgres # 向量检索走内置 ParadeDB OLLAMA_BASE_URLhttp://host.docker.internal:11434 # 指向宿主机 Ollama DB_USERpostgres / DB_NAMEWeKnora # 数据库账号库名另外把DB_PASSWORD、REDIS_PASSWORD、JWT_SECRET、SYSTEM_AES_KEY必须 32 字节丢失后已加密的模型密钥不可恢复改成你自己生成的值。存储、向量库、模型地址都保持上述默认就是一套标准的内网本地化部署。第 3 步启动全部服务项目自带启动脚本 scripts/start_all.sh它会先起 Ollama、再执行docker compose up。完全离线时加--no-pull跳过镜像拉取直接用本地已导入的镜像./scripts/start_all.sh --no-pull常用变体-s停止全部服务、-c体检环境、-l列出容器、-r 容器名重建单个容器。第 4 步验证部署状态docker compose ps # 五个核心服务应全部 Up curl http://localhost/health 2/dev/null || curl http://localhost:8080/health浏览器访问http://localhost能打开 Web 界面即部署成功。开启智能问答拉取本地模型并在界面完成配置 服务只是骨架模型才是大脑。先在宿主机用 Ollama 备好两个模型断网环境提前用ollama pull下载好 gguf/模型文件再导入ollama pull bge-m3 # 中文 Embedding 模型 ollama pull qwen2.5:7b # 对话模型CPU 上比 70B 级模型快得多确认 Ollama 已监听 11434 端口后回到 Web 界面注册管理员账号进入「系统设置 → 模型管理」添加 Ollama 供应商指向http://host.docker.internal:11434创建第一个知识库时初始化向导会列出 Ollama 上的可用模型为知识库分别指定 LLM 与 Embedding 模型界面还提供 Ollama 模型状态检查、可用性测试甚至直接触发模型下载对应接口见 docs/api/initialization.md保存配置。若想让所有空间开箱即用同一套模型可以改用声明式内置模型参考 config/builtin_models.yaml.example 复制为config/builtin_models.yaml后取消 docker-compose.yml 中对应挂载行机制见 docs/BUILTIN_MODELS.md。三步上手建库、传文档、提问能力激活后最小可用路径只有三步建库知识库 → 新建知识库按向导选好本地 LLM/Embedding 即可传文档拖入 PDF、Word、TXT 等文件系统自动完成离线解析、分块与向量化入库提问在知识库问答框输入问题回答基于本地文档内容生成并给出引用来源。文档解析由 docreader 容器按 gRPC 服务处理支持十余种格式解析链路如下图所示踩坑与调优故障排查表和性能调优要点常见问题速查现象处理思路服务启动失败docker compose logs app看后端日志九成是.env里数据库/Redis 凭证没配对文档解析失败docker compose logs docreader定位确认格式受支持、文件未损坏问答报错但服务正常多半是模型没配置或 Ollama 未启动OLLAMA_OPTIONALtrue时 Ollama 掉线只告警不阻断容易误判为启动成功回答质量差换更大的对话模型或微调 config/prompt_templates/ 下的提示词模板模型加载慢换更小/更量化档位如llama3.1:8b→ 4-bit或加内存、关掉其他占资源进程更多问题任务积压、图片外链、内置模型漂移巡检等见官方 FAQdocs/QA.md。资源与并发调优限制容器资源在 docker-compose.yml 对应服务下加deploy.resources.limits如 app 8 核/16G、宿主机 Ollama 预留更多内存防止单容器吃满压低并发.env里CONCURRENCY_POOL_SIZE默认 5、WEKNORA_ASYNQ_CORE_CONCURRENCY默认 8按机器规格下调减少解析任务排队控制分块与文件大小上传时可指定处理参数单文件上限由MAX_FILE_SIZE_MB默认 50控制扫描件多时适当减小分块能降低向量库压力。数据备份别忘# 备份数据库注意账号/库名与 .env 保持一致 docker compose exec postgres pg_dump -U postgres WeKnora backup_$(date %F).sql # 备份知识库原始文件data-files 卷挂载在 app 容器 /data/files docker compose exec app tar czf - -C /data/files . files_$(date %F).tar.gz收尾继续深入的方向到这里一套完全离线的 WeKnora 文档问答平台就跑通了解析、检索、推理、界面全部本地化敏感数据不出内网。完整文档README.md、官方 FAQdocs/QA.md环境变量全解.env.example约 150 个变量均有中文注释API 参考docs/api/README.md进阶方向供你规划下一期GPU 加速宿主机 Ollama 挂上 NVIDIA 显卡推理与 Embedding 速度可提升一个量级知识图谱docker compose --profile neo4j up -d并设NEO4J_ENABLEtrue打开实体关系抽取K8s 规模化仓库自带 helm/ chart多节点机房可直接接管轻量档位资源吃紧时可看 docs/LITE.md 的 Lite 精简形态。【免费下载链接】WeKnoraOpen-source LLM knowledge platform: turn raw documents into a queryable RAG, an autonomous reasoning agent, and a self-maintaining Wiki.项目地址: https://gitcode.com/GitHub_Trending/we/WeKnora创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考