10月29日,研究团队在arXiv提交论文《LucidLyra:通过多任务蒸馏实现前馈式生成三维场景重建与联合理解》,探索让生成式三维重建结果不只是“看起来像”,还能够被系统查询和理解。论文原文
论文指出,现有生成式三维重建方法可以从单张图像合成视觉上合理的环境,但机器人、物理智能和三维编辑等应用还需要场景中的几何结构、物体类别、语义关系和实例身份。LucidLyra将受相机控制的视频扩散模型与冻结的二维视觉基础模型进行知识蒸馏,在统一模型中推断三维高斯表示,并同时编码几何、外观、开放词汇语义和与类别无关的实例线索。
据论文摘要,该方法能够在无需针对每个场景单独优化的情况下,支持新视角渲染、开放词汇分割和物体分组;训练阶段也不依赖人工三维标注或真实采集的多视角数据。作者还称,该方法可扩展到单目视频,用于重建随时间变化的结构化三维场景,并在合成数据和真实图像条件基准上优于相关基线,同时保持重建质量。
这项工作的意义在于,它试图把生成式重建从“可渲染环境”推进到“可查询三维世界”,为三维场景编辑、资产挖掘和机器人仿真提供统一表示。不过,目前信息来自一篇于10月29日提交的预印本,论文中的性能比较和应用价值仍主要是作者报告,尚缺少独立复现与更广泛真实场景验证,不宜据此判断其已达到成熟产品水平。
参考来源:
由 AI 整理,仅供参考;请以原始来源为准。
帖子详情