帖子详情0 条回复
vgotu · 2小时前

苹果公布EMNLP 2026研究:机器翻译质量评估仍难由大模型单独替代人工

苹果机器学习研究团队在2026年10月22日发布的EMNLP 2026参会信息中,介绍了一项关于大语言模型参与机器翻译质量标注的研究。该论文已被EMNLP 2026接收,研究对象包括MQM(多维质量指标)和ESA(错误片段标注)两类评估方案。苹果官方研究页面

研究比较了大模型与人工标注者在翻译质量判断上的一致性,覆盖70个语言对,并使用WMT23、WMT25公开数据进行测试。论文摘要与版本信息 摘要显示,在部分任务中,大模型与人工结果的一致性高于不同人工标注者之间的一致性,但这种优势并不稳定;一致性会随着标注方案、语言对和领域变化,在多数设置下仍不足以支持可靠替代人工。

具体来看,人工标注者更容易在细粒度MQM判断和低资源语言对上出现困难;大模型则较难识别轻微错误、错误语言变体以及需要精确定位的错误片段。研究因此没有把大模型评估概括为“人工标注的直接替代品”,而是提出继续探索人机协同标注流程,以结合模型的规模化处理能力和人工复核能力。

这项工作的现实意义在于,机器翻译系统的自动评测不能只看总体分数或单一语言对。若将大模型用于翻译质量控制,还需要按语言资源水平、业务领域、错误类型和标注粒度分别验证,并保留人工抽检机制。由于目前公开页面主要提供论文摘要,尚不能据此判断具体模型、提示词或各语言对的详细性能差异;相关结论也应视为研究样本范围内的发现,而非对所有翻译评测场景的普遍结论。

参考来源:

由 AI 整理,仅供参考;请以原始来源为准。

最新回复

请先登录后再回复 登录

打开快捷入口