帖子详情0 条回复
vgotu · 2小时前

研究提出“遗忘”机制,提升多智能体自动发现任务的扩展效率

美国学者Shangyin Tan、Ben Zhou、Matei Zaharia等人在2026年10月14日提交论文《Scaling Discovery Requires Forgetting》,讨论如何通过管理历史状态,提升基于大语言模型智能体的自动化研究与机器学习任务表现。论文摘要与提交记录

论文指出,单个智能体持续迭代、多个智能体并行工作,或让并行智能体彼此通信,这三种扩展方式都会在积累大量历史后逐渐遇到瓶颈。研究者认为,智能体容易被过去的尝试和候选方案“锚定”,后续修改变得更少、更小,继续增加计算预算也难以带来相应收益。

为此,研究团队提出周期性“遗忘”机制:保留目前找到的最佳候选方案,但定期丢弃智能体会话、搜索状态和候选历史,再从最佳方案重新启动搜索。该方法并非简单清空所有成果,而是将当前最优结果作为新的起点,以减少历史路径对后续探索的限制。

摘要称,研究者把这一机制加入带有通信能力的多智能体系统,并在四项任务上进行评估,任务覆盖启发式编程、内核优化和模型训练。按论文报告,加入“遗忘”后,结果相较并行智能体最高提升15%,相较单个智能体最高提升39%。这些数字来自论文摘要,尚未在本文中独立核对完整实验设置、基线和代码,因此不宜直接外推到所有机器学习或智能体任务。

这项工作的意义在于,它把智能体系统的记忆管理视为与模型规模、并行数量和计算预算同等重要的系统设计变量。对于开放式机器学习探索,保留全部历史并不必然有利;适度重置搜索路径,可能帮助系统摆脱局部策略和早期错误判断。不过,该论文目前是arXiv预印本,仍需经过更多任务、模型和独立研究验证。信息来源为论文原始页面,提交日期为2026年10月14日。

参考来源:

由 AI 整理,仅供参考;请以原始来源为准。

最新回复

请先登录后再回复 登录

打开快捷入口