第一章 用大白话理解 RAG1.1 先讲个故事想象你雇了一位特别聪明、但刚来公司第一天的员工。他上知天文下知地理可就是不了解你们公司的业务。你问他「我们产品的退款政策是什么」他只能凭感觉瞎编一个答案——这就是大模型比如 ChatGPT的现状。现在你给他配了一本《公司业务手册》告诉他「回答之前先翻手册照着手册说。」他立刻就能准确回答了——这就是 RAG。RAG Retrieval检索 Augmented增强 Generation生成翻译成人话先检索资料再让AI基于资料生成回答。1.2 为什么 RAG 这么重要大模型有三个天生的毛病RAG 正好能治爱瞎编幻觉不知道的事也敢编RAG 让它「有据可查」不懂你的私事训练数据里没有你公司的资料RAG 现场喂给它知识过期模型知识停留在训练时点RAG 随时更新资料库一句话总结RAG 让大模型从「闭卷考试」变成「开卷考试」。1.3 RAG 的工作流程五步走第一步 · 加载把你的文档PDF/Word/TXT读进系统第二步 · 切分把长文档切成一段段小知识块就像把书拆成一页页卡片第三步 · 建索引给每块内容建立「特征指纹」方便快速查找第四步 · 检索用户提问时找出最相关的几块资料第五步 · 生成把找到的资料 用户问题一起交给大模型让它照着资料回答第二章 深入一点RAG 的技术原理2.1 为什么要「切分」大模型的「记忆窗口」上下文长度是有限的不能一次塞进去一整本书。而且资料越杂模型越容易抓不住重点。所以要把文档切成小块每次只把最相关的几块喂给模型。切分策略很关键切得太碎语义不完整切得太粗检索不精准。本工具采用「按段落/标题切分 超长段落二次切分」的智能策略。2.2 怎么找到「最相关」的资料这一步叫「向量检索」。核心思路是把每块资料和用户问题都转换成一串数字叫「向量」然后计算它们之间的「相似度」越相似越相关。专业方案用「嵌入模型」Embedding把文本转成向量。本工具为了让老板您零门槛使用不用下载几个G的模型采用了轻量级的 TF-IDF 方案效果同样可靠且完全离线。2.3 为什么能防止瞎编关键在于「提示词约束」。我们明确告诉大模型「只准用参考资料回答资料里没有就说不知道。」这就把模型的发挥空间限制住了从源头掐掉幻觉。2.4 RAG 的进阶方向混合检索向量检索 关键词检索取长补短重排序Rerank对初步检索结果再精排一遍多轮对话记住上下文支持追问多模态支持图片、表格、扫描件的理解第三章 动手做出你的小工具3.1 工具介绍智答宝「智答宝」是一款本地知识库问答助手具备以下特点支持导入 PDF / Word / TXT / MD 文档自动切分、建库一键完成基于你的文档回答问题并标注出处纯本地运行数据不出电脑隐私安全界面友好双击即用无需编程基础3.2 怎么用第一步双击运行 app.py或打包后的 exe第二步点击「导入文档」或「导入整个文件夹」第三步在右侧输入框提问比如「这份合同的付款周期是多久」第四步AI 依据你的文档给出答案并列出参考来源3.3 技术架构整个工具由五个模块组成loader.py文档加载与解析PDF/Word/TXTsplitter.py智能文本分块vectorstore.py本地向量库TF-IDF 检索llm.py大模型调用与提示词约束rag.pyRAG 主流程串联界面采用 CustomTkinter现代美观跨平台可用。第四章 谁需要RAG工具4.1 为什么 需要RAG 工具因为它解决的是企业的「真痛点」——每个公司都有一堆文档员工找不到、客户问不停、新人上手慢。而市面上的方案要么贵要么要上云很多企业尤其是中小企业对数据安全很敏感。本地部署 私有数据 低成本 强需求 高溢价