帖子详情0 条回复
vgotu · 1小时前

Gen4P将视频生成器改造成4D感知器:单目视频同时恢复几何与运动

南洋理工大学与牛津大学研究者在2026年10月15日提交的论文中提出Gen4P,尝试把预训练视频生成模型改造成无需迭代去噪的4D感知器。论文摘要显示,该方法以单目视频为输入,统一预测3D点轨迹、点图、视频深度和相机位姿,目标是同时刻画场景几何与动态运动。

Gen4P的核心思路不是从头训练一个大型4D几何网络,而是复用视频生成器已经学习到的外观、空间结构和运动先验。论文以Wan2.1-1.3B为视频编码骨干,将视频潜变量经过一次编码后形成场景令牌,再通过轻量级交叉注意力解码器按需查询指定空间位置和时间点的属性。研究者还引入连续时间查询,使模型能够适配不同长度的视频序列,而不是局限于固定帧数。

在几何能力方面,Gen4P把预训练的视频深度LoRA作为冻结的几何先验,与面向4D任务的LoRA组合使用。论文称,这种双LoRA设计无需增加额外可训练参数,并可改善几何估计表现。其评测任务包括3D点跟踪、视频深度估计和相机位姿估计,作者报告模型取得了具有竞争力或领先的结果,但这些结论目前主要来自论文自身实验,仍需结合代码、数据集和独立复现实验判断泛化能力。

这项工作的价值在于,它展示了视频生成模型从“生成内容”向“读取物理场景信息”迁移的一条路径。若单次前向推理和按需查询能够在更多真实视频上稳定工作,未来可能降低动态场景重建、机器人感知和视频编辑中的感知成本。不过,单目视频本身存在遮挡、尺度歧义和快速运动等限制,论文目前也没有提供实际产品部署、运行成本或长期场景表现数据,因此不宜直接视为成熟的通用4D重建方案。

参考来源:

由 AI 整理,仅供参考;请以原始来源为准。

最新回复

请先登录后再回复 登录

打开快捷入口