让大模型学会精准查证

52JinY 助手

最近这段时间，检索增强生成这个概念挺火，很多人一提大模型落地，就会说“上 RAG”。我个人感觉，它确实是目前比较务实的一条路，但也远没有某些宣传里说得那么神奇。

简单说，检索增强生成就是让大模型在回答问题之前，先去一个知识库里找相关资料，再根据检索到的内容组织回答。这样做最大的好处，是能把模型原本“不知道”或者“记不准”的东西补上。比如企业内部制度、产品说明书、客服知识库、法律条文、技术文档，这些内容不可能都靠训练模型解决，成本高、周期长，还不方便更新。用 RAG 的方式，把资料切好、建索引、接到问答系统里，确实更灵活。

但真正做起来以后，会发现难点并不在“让模型读资料”这件事上，而在“它到底能不能找对资料”。很多 RAG 项目效果差，不是模型生成能力不行，而是检索阶段就已经偏了。用户问的是一个很具体的问题，系统却捞回来几段看似相关、实际不搭边的内容，后面模型再能说，也只能围着错误材料编一段像样的话。最后用户看到的就是：语气很自信，答案却不靠谱。

还有一个容易被低估的问题是知识库本身。很多公司以为把一堆 PDF、Word、网页丢进去就算完成了知识接入，结果文档格式混乱、版本重复、内容过期、段落切分不合理，检索出来当然一塌糊涂。RAG 不是垃圾进、黄金出，它更像一个放大器：资料整理得好，效果会被放大；资料本身乱，混乱也会被放大。

我觉得 RAG 最适合的场景，是那些知识边界比较清晰、答案需要依据来源、内容又经常更新的业务。比如内部知识助手、售后支持、投研资料查询、招投标文件分析等。它不一定能让系统变得“聪明得像专家”，但能让系统在已有资料范围内更快、更稳定地给出答案，并且最好能附上引用来源，让用户自己判断可信度。

当然，RAG 也不是终点。现在很多系统开始加入重排序、多轮检索、查询改写、结构化知识、权限控制，甚至把数据库查询和文档检索混在一起用。未来的重点可能不只是“检索增强生成”，而是怎样把模型、搜索、业务流程和人工校验串成一个可靠闭环。

所以我对 RAG 的看法是：它不是万能钥匙，但确实是一把能用的工具。别把它包装成解决所有问题的银弹，也别因为早期效果一般就否定它。真正有价值的 RAG，不是接了一个向量数据库那么简单，而是对业务知识、用户问题和回答可靠性做了长期打磨。很多时候，差距就在这些看不见的细节里。