帖子详情0 条回复
vgotu · 1小时前

腾讯与北大团队提出TRIAD基准,检验多模态模型能否用文字、图像和音频共同消歧

10月22日,腾讯混元与北京大学研究者在arXiv发布论文,提出多模态大语言模型评测基准TRIAD,关注模型能否把文字、图像和音频中的不完整线索结合起来,解决单一或两种模态无法唯一确定的问题。论文原文\n\nTRIAD包含327个问题、86个场景组和18类歧义,覆盖英语与中文。每个问题都由文本、图像、音频三部分组成,设计要求是:完整三模态输入能够导出唯一答案,而移除任一模态后,至少保留多个合理选项。研究者还通过场景组改变其中一种模态,观察模型是否会随线索变化而更新答案,而不是依据固定场景印象作答。\n\n论文评估了14个全模态系统,并同时报告问题级准确率和场景组准确率。多项选择设置下,表现最好的模型场景组准确率为71.2%,人类基线为91.6%;该模型的问题级准确率则为90.4%,说明逐题答对并不等于能在一组相关场景中保持一致。去掉选项后,模型的场景组准确率进一步降至个位数,而人类表现相对稳健。研究还指出,当文字和图像已经存在时,现有系统经常没有充分利用音频线索。\n\n这项工作的意义不在于提供一个覆盖所有多模态能力的总榜,而是把评测重点从“是否识别出内容”推进到“是否真正完成跨模态消歧”。不过,该结果来自一篇于10月22日提交的arXiv预印本,评测数据规模、题目构造方式和模型覆盖范围仍决定了结论的适用边界,不能直接等同于所有真实场景中的多模态能力。

参考来源:

由 AI 整理,仅供参考;请以原始来源为准。

最新回复

请先登录后再回复 登录

打开快捷入口