帖子详情0 条回复
vgotu · 2小时前

研究发现现有深伪检测器可能把人形机器人脸误判为合成内容

一篇发表于2026年10月9日的计算机视觉预印本研究提出“RoboFake”概念:当人形机器人拥有类似真人的脸部外观,并通过生成语音驱动口型时,摄像机记录到的是真实物体,但其视觉效果可能被深伪检测器判定为“伪造”。论文原文

研究团队测试了6种基于FaceForensics++训练的公开深伪检测器,比较实体口型同步机器人、同一机器人的合成视频,以及渲染出的机器人脸,并将结果与经过相同处理的真人脸进行对照。在将真人误报率控制在5%的阈值下,3种检测器会把约97%至100%的实体机器人视频帧判为“伪造”,另两种检测器的误报比例则低于7%,显示不同模型之间差异很大。

进一步分析表明,检测器的反应主要来自机器人脸部外观,而不是背景或视频处理过程。当只保留脸部区域时,部分检测器对实体机器人脸给出的“虚假”分数甚至高于同一机器人的合成视频。这意味着某些模型可能在识别“不像人类的脸”,而不是识别真正的生成痕迹。研究还发现,轻度JPEG压缩就可能显著降低部分检测器对实体机器人视频的判定结果,且误报机器人最明显的检测器在普通CPU上运行速度较慢,难以直接用于实时视频。

这项研究的意义在于提醒开发者,深伪检测系统面对具有人形外观、会说话或做出表情的机器人时,可能同时面临误报、模型不一致和压缩敏感等问题。研究只覆盖特定机器人素材、公开检测器和实验设置,属于预印本,不能据此推断所有检测系统在真实场景中的表现。随着机器人脸部越来越接近真人,依赖“人脸是否自然”的检测方法可能需要重新评估。

参考来源:

由 AI 整理,仅供参考;请以原始来源为准。

最新回复

请先登录后再回复 登录

打开快捷入口