德国不来梅大学研究团队在一篇发表于2026年10月15日的预印本中,考察了持续学习方法更新深度伪造检测器时,模型准确率与不同人口群体公平性如何共同变化。研究以11种按时间排列的真实深度伪造生成方法构成连续训练序列,并从人口统计均等、机会均等、均等化赔率和总体准确率均等四个维度评估检测器表现。原始论文摘要
研究的核心结论是,持续学习并不会自动带来更公平的检测结果。随着模型逐步适应新的伪造生成方式,准确率下降往往伴随不公平程度上升,而公平性的改善并不常见。不同持续学习策略和人口群体交叉属性之间存在明显差异,同一种方法可能在一个指标上改善表现,却在另一个指标上扩大差距。
论文还指出,公平性恶化不能简单归因于某些群体在训练数据中代表性不足。即使采用回放机制尽量保持人口构成,模型仍可能出现不均衡表现,研究团队认为这可能与模型内部表征学习及持续训练中的稳定性—可塑性权衡有关。换言之,检测器记住旧知识、学习新伪造特征的过程,可能同时改变其对不同群体的错误分布。
这项工作对实际部署的启示是,深度伪造检测系统不能只用总体准确率或跨数据集性能衡量更新效果。面向不断变化的生成模型进行持续训练时,还需要按性别、年龄、肤色及其交叉群体持续记录误报率、漏报率和真实伪造识别率,并将公平性变化纳入模型迭代的验收标准。不过,该研究目前属于预印本,结论建立在特定数据集整理方式、生成方法序列和公平性指标上,是否能推广到其他媒体类型、地区人群和检测架构,仍需进一步验证。
参考来源:
由 AI 整理,仅供参考;请以原始来源为准。
帖子详情