产品手册里明明写着正确条款问答系统仍然答错甚至还附上了手册链接。这样的错误经常被归结为模型理解能力不足但在模型开始回答之前正确段落可能已经被遗漏了。先寻找相关资料再让模型依据资料生成回答这种方式称为检索增强生成简称 RAG。它的关键是建立一条可以追踪的证据传递过程资料经过处理、查找、筛选最后进入模型。每一步都可能改变最终答案。文章目录相似的内容未必是适用的证据第一轮找全第二轮判断相关程度找到过不等于最终提供给模型引用要支持具体结论相似的内容未必是适用的证据假设用户问“XJ-2209 的充电器坏了能保修多久”。资料库同时包含相邻型号、主机与配件以及不同年份的售后政策。搜索首先需要找到候选材料但“候选”还没有经过适用性确认。一种查找方式关注关键词。它适合利用型号、错误码和专有名称等精确信息。另一种方式把问题和段落转换成数字表示再比较它们的接近程度。这种表示叫文本向量可以帮助系统识别“坏了以后免费修多久”与“保修期限”之间的含义联系。两种方式处理的困难不同。只看字面可能错过措辞变化只看含义相邻型号的说明又可能非常相似。实际系统可以结合两类候选但结合本身并不保证结果更好仍要观察当前问题中的错误是否减少。有些信息也不应只作为相似度线索。假如用户已明确产品型号、地区和政策生效时间这些条件可以用于限定搜索范围。否则一段语言上高度相关、业务上不适用的旧规定可能排在真正需要的材料前面。限制条件也需要来源。用户省略型号时系统不能自行补出一个型号再过滤导致正确材料从候选里消失。缺少必要条件有时应先澄清有时可以展示不同条件下的规则取决于问题是否允许这样回答。第一轮找全第二轮判断相关程度当资料很多时第一轮搜索通常优先控制查询成本先取一批可能相关的片段。随后再对问题与候选做更细致的联合比较调整次序。这一步叫重排序。两阶段的分工可以理解为第一轮尽量避免把必要材料漏在门外第二轮减少无关材料占据前排。它们不是同一件事。正确条款没有进入第一批候选再强的重排序方法也无法把它排出来。相反第一轮找到了正确条款最终仍可能失败。候选中有十段主机说明和一段配件说明系统如果只根据宽泛的“保修”相关性排序就可能把配件说明挤掉。此时继续扩大第一轮候选数量未必能解决最后取舍的问题。评价第一轮时可以看需要的证据是否进入候选评价排序时可以看它是否进入最终采用的位置。假设十个构造问题各对应一段目标证据八个问题在前五个候选中命中目标这组单目标样本的前五命中率就是 80%。它没有说明答案是否正确也没有衡量多证据问题是否找全。用户若同时问主机和充电器的期限命中主机条款只能覆盖一部分问题。把“至少找到一条相关资料”当成“证据充分”会让多条件问题的成绩看起来很好实际回答却经常缺项。找到过不等于最终提供给模型搜索结果还要经过组装才能成为模型的实际输入。应用可能去重、截断、合并相邻段落也可能受长度限制只保留前几条。检索记录中出现过正确材料只能证明某一阶段找到过它。例如充电器条款排在第六位而最后只采用前五位或者片段开头保留“两年”结尾的“仅适用于主机”被截掉。两种情况下模型收到的证据都不足以回答原问题。因此排查时应保留必要的片段标识、版本及最终组装结果而不只保存一次搜索是否成功。涉及客户数据时应选择足够定位问题的脱敏内容避免为了调试复制整个资料库。片段本身也必须保持语义完整。表格中的一个数字需要对应行名、列名与单位条款中的期限需要对应产品和例外。如何拆分长文档会直接影响后面的搜索被拆坏的事实即使排在第一位也仍然是不完整的事实。有些系统会给片段补充上级标题或背景以改善查找。这种补充可以保留“这段属于哪款产品”的信息。如果背景由模型生成还要检查是否增加了原文没有的推断。用于帮助搜索的文字不能自动升级为事实依据。引用要支持具体结论当正确材料已经进入输入最后一段距离仍然存在模型需要把证据转换成回答并保持原来的限制。原文是“两年内符合条件的故障可申请维修”回答却变成“两年内任何损坏都可以免费换新”。期限看起来正确但故障条件、服务方式和费用承诺都被扩大了。一个指向手册的链接无法消除这些差异。检查应落到回答中的具体主张哪件产品、什么情况、什么处理方式分别由哪一段材料支持。引用能让读者回到来源引用关系本身仍然需要核对。对于没有找到附件的配件规定系统可以回答已经确认的主机条款并明确缺少的部分。这也决定了故障处理的顺序。原始资料中没有答案需要补资料或说明未知片段丢失条件需要调整资料处理候选漏掉答案需要改善查找最后输入没有保留答案需要检查组装证据完整却被误读才直接指向生成和判断环节。RAG 的质量来自这条过程是否把必要证据完整交给了回答环节。一个总正确率可以观察整体变化但只有把上述环节分开才能知道下一次修改应该落在哪里。参考资料检索增强生成 · 为检索片段保留上下文。本文按证据传递过程解释检索与生成没有把某个系统的实验成绩当作通用效果。AI 工程知识库