资讯动态

LEANN 快速上手:3步在笔记本跑通本地 RAG,省 97% 存储

发布时间:2026/9/13 7:36:41 来源:尧图企业网站定制
LEANN 快速上手3步在笔记本跑通本地 RAG省 97% 存储【免费下载链接】LEANN[MLsys2026 Best Paper]: https://arxiv.org/abs/2506.08276. RAG on Everything with LEANN. Enjoy 97% storage savings while running a fast, accurate, and 100% private RAG application on your personal device.项目地址: https://gitcode.com/GitHub_Trending/le/LEANNLEANN是一个能在个人设备上运行的**本地 RAG检索增强生成**系统。它靠图结构剪枝加按需重算向量把 6000 万条文本索引从 201GB 压到 6GB省掉 97% 存储数据全程不出你的电脑。适合想零云成本、零隐私风险做个人语义检索的人。 谁用得上 LEANN3 类典型场景LEANN 把建索引 语义搜索 问答封装成一套命令行工具。先对号入座个人文档库一个文件夹堆满 PDF、TXT、Markdown。建好索引后直接问这两篇论文的核心方法是什么它检索相关段落再生成答案。聊天记录检索微信、iMessage、邮件这类散落记录按语义找某次聊到的周末计划而不是靠关键词硬搜。代码库语义搜索整个仓库建索引在 IDE 里问认证逻辑写在哪个函数它定位到具体代码块并解释。✅ 开始前确认清单LEANN 安装教程开始前逐项打勾缺哪项就卡在哪。检查项说明是否必须Python版本 3.10–3.13必须uv包管理器建虚拟环境、装依赖必须操作系统Ubuntu / Arch / WSLmacOSARM64/IntelWindows必须LLM 后端问答功能需要推荐本地 Ollama问答必须GPU加速 embeddingCPU 也能跑非必须 3步快速上手第 1 步装好 uv 并克隆仓库。git clone https://gitcode.com/GitHub_Trending/le/LEANN leann cd leann uv venv source .venv/bin/activate uv pip install leann你会看到什么虚拟环境被激活终端提示符前出现(.venv)说明依赖已装进隔离环境。第 2 步验证命令入口。运行leann --help。你会看到什么打印出 build、search、ask、list 等子命令说明 CLI 正常。第 3 步跑通第一个文档问答。仓库自带示例数据直接执行python -m apps.document_rag --query What are the main techniques LEANN explores?你会看到什么先按 chunk 建 HNSW分层可导航小世界图索引再检索命中的论文段落送进 LLM屏幕打印出一段回答。能出回答本地 RAG 就跑通了。完整参数说明见 docs/configuration-guide.md。 实操把一文件夹文档变成可问答知识库demo 用的是仓库自带数据换成你自己的文档走这条任务线。LEANN 参数怎么调主要看下面几个。建索引leann build my-docs --docs ./你的目录。它自动识别 PDF、TXT、MD、DOCX 和代码文件切块后存进.leann/indexes/。重复执行是增量的只处理变化的文件。搜索leann search my-docs 机器学习的核心概念默认返回前 5 条可用--top-k调多。问答leann ask my-docs --interactive进入连续对话输quit退出或leann ask my-docs 你的问题只问一次。看改动leann watch my-docs对比上次检查点列出新增、删除、修改的文件和 chunk帮你判断要不要重建。参数作用默认--backend选后端 hnsw 或 diskannhnsw--top-k返回几条5--llm问答后端 ollama/openai/hf/anthropicollama--no-recompute向量落盘换更快搜索关这条 build→search→ask 链路同样适用于邮件、浏览器历史、ChatGPT/Claude 导出对话仓库apps/目录下每个数据源都有对应脚本命令形如python -m apps.email_rag --query ...。 进阶给 LEANN 接更多入口拉 Slack / Twitter 实时数据功能一句话通过 MCP模型上下文协议连到 Slack、Twitter 等平台边拉数据边建索引不用手动导出。 适用场景团队群聊决策、收藏夹推文想按语义翻旧账。 关键设置先装对应 MCP server 并配好 token再执行python -m apps.slack_rag --mcp-server slack-mcp-server --query 产品上线定了吗完成建索引加检索。接进 Claude Code 做语义代码搜索功能一句话把 LEANN 注册成 MCP 服务Claude Code 在 IDE 里直接调leann_search做全仓语义搜索而不靠 grep 撞关键词。 适用场景大仓库里按意图找代码比如缓存重排怎么实现的。 关键设置先uv tool install leann-core --with leann全局装好再claude mcp add --scope user leann-server -- leann_mcp进 IDE 授权后即可用。完整接入步骤见 packages/leann-mcp/README.md。❓ 常见问题构建很慢多半是 embedding 模型太重。换轻量的--embedding-model sentence-transformers/all-MiniLM-L6-v2约 3000 万参数速度明显上去对多数个人数据质量够用。检索结果不准先确认建索引和搜索用的是同一个 embedding 模型别给普通模型硬加 prompt 模板那会污染向量。排查思路见 docs/faq.md。想全程不出网把--llm指到本地 Ollamaembedding 也用本地模型问答和检索都在机器上完成。索引越来越大或想更快磁盘宽裕时给 build 加--no-recompute把向量直接落盘跳过搜索时的重算换更低的查询延迟。想清理索引leann list列出所有索引及状态leann remove 索引名删除多个同名时它会让你选。LEANN 把省 97% 存储 全本地 一套 CLI打包给你个人数据和隐私都不用交给云。先按 3 步跑通 demo再挑手里最乱的一份数据文档、邮件或聊天记录建第一个索引。想深入调参或接新数据源从仓库docs/目录继续看。【免费下载链接】LEANN[MLsys2026 Best Paper]: https://arxiv.org/abs/2506.08276. RAG on Everything with LEANN. Enjoy 97% storage savings while running a fast, accurate, and 100% private RAG application on your personal device.项目地址: https://gitcode.com/GitHub_Trending/le/LEANN创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价