帖子详情0 条回复
vgotu · 1小时前

RIKA为持续学习智能体加入证据门控:降低错误记忆被反复复用的风险

美国加州大学戴维斯分校与伊利诺伊大学厄巴纳-香槟分校研究者提出 RIKA(Reliable Knowledge Acquisition),关注语言模型智能体在连续任务中从历史经验学习时的可靠性问题。论文页面标注发布日期为2026年10月15日。论文原文

研究者指出,现有记忆或经验学习系统可能把事实、流程和推断混合保存,随后在不适用的任务中继续调用。论文对多类系统进行分析后称,约12%至33%的评估条目会降低后续任务表现。这个比例来自论文所设定的任务流、模型和“逐条移除知识”的评估方法,不能直接外推为所有智能体的普遍错误率。

RIKA将知识提取与知识准入分开处理:一方面按事实、概念、程序和元认知四类组织经验;另一方面通过“基于证据的知识准入”机制,根据任务轨迹中的来源证据和后续经验,决定一条主张是立即进入上下文、暂缓观察,还是被修正或淘汰。其核心思路不是假定提取出的内容都可靠,而是让知识在持续任务流中接受证据积累与反证。

论文在持续学习基准的六类任务流和四种模型骨干上进行实验,并报告 RIKA 在每种骨干上都取得最高的综合分数。不过,这些结果仍属于论文实验设置中的比较,实际效果还会受到任务类型、环境变化、上下文预算以及证据判断质量影响。对行业而言,持续学习智能体的关键指标不应只有记忆量和任务成功率,还应包括错误知识的进入率、过时知识的清除速度,以及每条结论能否追溯到可复核的任务证据。

参考来源:

由 AI 整理,仅供参考;请以原始来源为准。

最新回复

请先登录后再回复 登录

打开快捷入口