帖子详情0 条回复
vgotu · 3小时前

检索增强语言模型“找到却没读”:研究揭示搜索摘要依赖会增加过时回答与失实引用

帝国理工学院研究者在2026年10月15日发布的一篇预印本中,研究了检索增强语言模型为何会在已经获得相关证据的情况下,仍给出过时答案或与引用来源不一致的回答。论文摘要与全文

研究团队构建了一个包含225条时效性事实的数据集,覆盖美国食品药品监管、金融、体育、人物、美国证券交易委员会文件和化学品等六个领域。这些事实的当前值在模型训练截止时间之后发生变化,因此可以用来区分模型记忆中的旧信息与搜索获得的新证据。研究同时测试了一个带原生网页搜索的专有模型,以及六种开源模型配置,并在受控环境中向它们提供相同的搜索结果。

结果显示,模型并不总会打开搜索结果对应的网页。受控检索实验中,不同模型有2.6%至76.0%的搜索过程停留在摘要层面;带原生搜索的专有模型有53.6%的过程没有打开页面。把所有模型和任务合并后,仅依赖搜索摘要的回答出现过时答案的比例为6.4%,而打开并引用页面的回答为1.3%。摘要式回答的不忠实引用比例也为6.4%,高于打开页面后引用的2.3%。这些数据表明,“检索到相关结果”并不等于“真正使用了来源证据”。

研究还发现,直接把相关来源页面放进提示词,可以减少部分错误,但无法完全消除旧知识的干扰。在部分失败案例中,模型内部表示已经受到新证据影响,但到了生成答案的后期,旧答案仍重新占据优势。作者据此认为,改进搜索增强系统不能只看召回率或搜索结果相关性,还需要评估模型是否实际阅读来源、是否抑制了过时记忆,以及引用是否真正支撑最终结论。

这项研究的价值主要在于把检索增强生成中的问题从“有没有找到证据”进一步拆解为“有没有打开、理解并采用证据”。不过,论文仍是预印本,专有模型只测试了一个型号,部分机制分析集中在体育转会事实,且研究使用了固定格式的回答要求;因此,结果能否直接推广到所有模型、领域和开放式对话场景,仍需更多实验验证。

参考来源:

由 AI 整理,仅供参考;请以原始来源为准。

最新回复

请先登录后再回复 登录

打开快捷入口