资讯动态

RAG-Anything 部署指南:多模态 RAG 系统 3 步跑通

发布时间:2026/9/5 21:19:00 来源:尧图企业网站定制
RAG-Anything 部署指南多模态 RAG 系统 3 步跑通【免费下载链接】RAG-AnythingRAG-Anything: All-in-One RAG Framework项目地址: https://gitcode.com/GitHub_Trending/ra/RAG-Anything本文带你完成 RAG-Anything 的部署上手克隆代码、装好依赖、填一份 .env就能把含图片、表格、公式的 PDF 文档变成可查询的知识库。读完你应能独立完成安装、首次运行、容器化部署和常用调优。先看看它是什么RAG-Anything 在 LightRAG 基础上做了一层多模态封装文档里的文本、图片、表格、公式各走专属处理流水线再统一挂到知识图谱上做检索。它适合两类人手里有大量 PDF/PPT/表格类文档普通 RAG 只吃文本、丢图的场景想把解析、入库、问答做成一条流水线而不是自己拼装五个组件如果你只需要纯文本检索它的多模态部分反而是多余的可以先看看别的轻量方案。从克隆到跑通安装到首次运行的完整步骤整条链路不长按顺序做一遍即可。拉代码装依赖git clone https://gitcode.com/GitHub_Trending/ra/RAG-Anything cd RAG-Anything pip install -e .[all].[all]会带上图像格式转换Pillow和文本转 PDFReportLab的依赖。注意 Office 文档解析还需要系统级安装 LibreOfficepip 装不出来。填配置cp env.example .env打开.env重点改这几组LLM_BINDING/LLM_MODEL/LLM_BINDING_HOST/LLM_BINDING_API_KEY指定你的 LLM 服务OpenAI 兼容接口、Ollama、vLLM 都行EMBEDDING_BINDING一组指定嵌入模型默认 Ollama 的 bge-m3。其余数据库配置Postgres、Neo4j、Qdrant 等默认用本地文件存储时可先不动。首次运行放一份测试 PDF 进来跑仓库自带的端到端示例python examples/raganything_example.py 你的文档.pdf看到解析进度走完接着打出两段查询——一次纯文本aquery、一次带表格内容的多模态查询末尾都有Answer: ...的作答就算跑通了。日志同时会写到raganything_example.log排查问题先看它。不想配 LLM 密钥也可以先用python examples/office_document_test.py --check-libreoffice --file dummy单测解析链路是否通畅。什么时候才需要容器化或云平台部署本地脚本能跑通之后再考虑这两件事容器化当你要把 RAG-Anything 作为服务长期运行、而不是本地跑一次脚本时。镜像本质上就是 Python 3.10 运行环境加上raganything[all]和 LibreOffice 两个大件构建思路照 env.example 的依赖清单来即可。云平台当解析量上来了MinerU 解析吃 CPU 和内存视觉模型推理吃 GPU或需要对外提供 API 时选带 GPU 的实例部署并把EMBEDDING_BINDING_HOST指向同一台机器上的本地模型服务。个人调试阶段两者都不需要。关键配置与调优真正影响体验的就这几项都在.env里PARSER选mineru默认、docling或paddleocr。扫描版 PDF 多时换paddleocr需额外pip install raganything[paddleocr]。CHUNK_SIZE切块大小建议 500~1500默认 1200。块太大检索不精太小丢上下文。MAX_CONCURRENT_FILES/MAX_PARALLEL_INSERT批量处理时的文件并发机器内存小于 16GB 时保持 1~2别贪。两个性能调优点开了ENABLE_LLM_CACHEtrue后重复的实体抽取不再重复调 LLM省钱也提速批量入库吞吐看 docs/batch_processing.md。调优时顺手盯三件事日志里的WARNING频率、单文档解析耗时、LLM 调用的超时率这三项恶化基本都指向并发开大了。踩坑速查现象处理初始化报 tiktoken 下载失败HTTPSConnectionPool...离线环境在有网机器跑python scripts/create_tiktoken_cache.py再在.env设TIKTOKEN_CACHE_DIR./tiktoken_cache详见 docs/offline_setup.mdOffice 文档解析报错或结果全空系统没装 LibreOfficesudo apt-get install libreofficemacOS 用 brewBMP/TIFF/GIF 等格式识别不了依赖没装全改装pip install -e .[image]或.[all]批量处理内存爆掉把MAX_CONCURRENT_FILES调回 1MAX_PARALLEL_INSERT设为 MAX_ASYNC 的一半以下LLM 调用频繁超时调大TIMEOUT并检查MAX_ASYNC是否超过了模型服务的承载解析器内部逻辑集中在 raganything/parser.py行为不符合预期时优先看它。下一步想给文档挂上页级上下文读 docs/context_aware_processing.md想接 vLLM 做高吞吐推理参考 docs/vllm_integration.md批量场景先看 docs/batch_processing.md。【免费下载链接】RAG-AnythingRAG-Anything: All-in-One RAG Framework项目地址: https://gitcode.com/GitHub_Trending/ra/RAG-Anything创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价