美国威斯康星大学麦迪逊分校与北京大学研究者于2026年10月15日公布预印本MaLoW,尝试解决流式视觉语言模型在持续接收视频时如何保留长期历史的问题。论文摘要指出,传统方法通常把历史画面压缩、检索或缓存后重新放入输入上下文,可能挤占模型处理当前观察的空间;MaLoW则利用循环HyperNetwork,把历史信息逐步固化为随时间更新的轻量LoRA权重,让模型在推理时主要处理当前画面和用户问题。
从机制看,系统先将视频片段及其文本时间信息压缩为紧凑表示,再通过两条状态分支保存信息:一条使用状态空间模型捕捉局部时间变化,另一条通过门控累加保留较长期的语义信息,最后将状态解码为应用于基础视觉语言模型的LoRA更新。这样做的核心变化,是把“历史记忆”和“当前输入”分开,而不是让二者共同争夺有限上下文窗口。不过,权重化记忆也意味着错误信息可能被持续带入后续推理,其稳定性和可解释性仍需更多实验验证。
研究团队还构建了MaLoW-Instruct数据集,包含约56,000段视频和381,000组问答。论文报告称,在OVO-Bench的backward split上,MaLoW相较既有记忆方法在不同视频骨干网络上提升约3.9%至11.8%,并在Simpler WidowX任务中使动作成功率提升9.3%。这些数字均来自论文作者的实验报告,当前材料显示该成果仍属于arXiv预印本,不能等同于已经完成独立复现或实际产品验证。若后续研究能够证明其在长时间运行、记忆错误纠正和不同模型规模下仍保持稳定,类似设计可能为实时视频助手和视觉语言动作系统提供一种减少上下文压力的路径;否则,固定大小的参数记忆也可能在长期交互中出现遗忘、累积偏差或难以追溯的问题。
参考来源:
由 AI 整理,仅供参考;请以原始来源为准。
帖子详情