一、什么是RAGrag 检索增强生成 是外部知识检索信息检索和大模型大模型语言生成结合的技术架构解决大模型“不懂新知识容易胡编乱造”的问题。简单汇总 让模型在回答问题前先去外部知识库里查资料再基于查到的真实内容来生成回答而不是只依赖训练时记住的参数知识。核心步骤用户提问-检索相关文档-将文档与问题一起送入LLM-生成回答检索 将用户问题向量化在向量数据库中搜索语义相关的文档片段增强把检索的内容作为上下文与原始问题拼接成完整的prompt生成LLM基于提供的上下文生成最终回答二、为什么使用RAG1. 模型知识没有有效期 rag可随时接入最新的文档和数据库2. 幻觉编造事实 基于真实内容作答真实可靠3. 领域知识不足接入企业私有知识库4. 无法溯源 回答可附带引用来源三、构建RAG离线建库文档加载-文本分块-向量化-存入向量数据库在线问答用户提问-检索召回-重排序-组装prompt-生成回答文档加载把文档读入提取成纯文本文本分块把长文档切成有语义的小块影响检索效果的关键一步切太碎语义不完整切太大主题混乱常用策略有固定长度切块、递归切块、语义切块切之间最好留10%-20%的重叠向量化用嵌入模型把每个文本转成高维向量相当于给文本在语义空间里定坐标文档查询必须在同一个嵌入模型否则向量空间不对齐。向量存储把向量存进向量数据库并和原始文本块建立关联方便检索时快速找到原文检索召回用户提问后 把问题转为向量去库里找最相似的TOP-K个块。普遍采用“向量检索BM25关键词检索”的混合检索在用RRF倒数排名融合合并两路结果兼顾语义理解与精准匹配。重排序混合检索回来时粗排结果用更重的模型对每个候选块和问题做精细打分 把最相关的排到前面过滤掉低质量内容典型做法召回Top-50精排出Top-5组装prompt与生成把重排后的相关块、用户问题、系统指令拼成prompt交给大模型。prompt强调只根据资料回答资料里没有就说不知道否则模型容易放飞自我瞎编。三、进阶优化检索前优化把用户的口语问题转成更规范的表达检索中优化混合检索、迭代检索、递归检索及更精细的分块策略检索后优化上下文压缩、去重重排序四、RAG排查思路答案完全无关 - 信息检索TOP-K有没有相关块答案部分正确、但缺信息 - 召回不全尝试扩大TOP-K答案有编造内容 - prompt无 “不知道”兜底专有名词搜不到 - 向量检索不擅长精准匹配增加关键字做多路召回