MVGenMaster – 复旦联合阿里等实验室推出的多视图扩散模型 | AI工具集

MVGenMaster是什么

MVGenMaster是复旦大学、阿里巴巴达摩院和湖潘实验室共同推出的多视图扩散模型，基于增强3D先验处理多样化的新视角合成（NVS）任务。模型基于度量深度和相机姿态扭曲的3D先验，提升NVS的泛化和3D一致性。MVGenMaster能从单一图像出发，用单次前向传播生成多达100个新视图。研究团队推出了一个包含160万场景的大型多视图图像数据集MvD-1M，多项训练和模型优化技术，增强模型在大规模数据集上的表现。

MVGenMaster的主要功能

• 多视图生成：从单一图像或多个参考图像生成多达100个新视图，适用于不同的NVS任务，如单视图NVS、两视图插值和任意参考视图与目标视图的灵活NVS。
• 3D先验整合：用度量深度和相机姿态扭曲的3D先验，模型在2D扩散模型中保持了一致的3D结构。
• 灵活性和泛化：模型设计灵活，能适应不同的视角和场景，展现出在多种场景下的泛化能力。
• 高效前向过程：在单次前向过程中完成多视图的生成，无需复杂的迭代推理或数据集更新。
• 大规模数据集支持：结合MvD-1M数据集，包含160万场景和对齐良好的度量深度。

MVGenMaster的技术原理

• 3D先验：MVGenMaster用度量深度和相机姿态创建3D先验，3D先验在模型中被用来指导新视图的生成，确保3D结构的一致性。
• 几何扭曲：基于几何扭曲函数，模型将参考视图的像素和规范坐标映射（CCM）从源视图扭曲到目标视图。
• 多视图扩散模型（LDM）：MVGenMaster基于潜在扩散模型（LDM），学习如何从参考图像和3D先验中合成目标视图的图像。
• 注意力机制：模型用全注意力机制，跨越所有参考和目标视图，捕获密集的相机姿态表示。
• Plücker射线：用Plücker射线表示相机姿态，为模型提供精确的相机位置和方向信息。
• 关键重缩放技术：为处理极长序列的目标视图，MVGenMaster引入关键重缩放技术，增强参考视图的指导，平衡注意力稀释问题。

MVGenMaster的项目地址

MVGenMaster的应用场景

• 视频游戏：在视频游戏中，用在生成高质量的3D内容，提升游戏画面的真实感和沉浸感。
• 电影和视觉特效：在电影制作和视觉特效中，创建复杂的3D场景和特效，减少实际拍摄和后期制作的成本。
• 虚拟现实（VR）和增强现实（AR）：在VR和AR应用中，生成逼真的3D环境，为用户提供更加丰富和互动的体验。
• 3D建模和设计：设计师从2D图像创建3D模型，加速产品设计和原型制作的过程。
• 建筑可视化：在建筑和城市规划中，帮助建筑师和规划师从不同角度展示建筑设计，进行更好的方案评估。