DimensionX – 港科大、清华和生数科技共同推出的单图像生成复杂3D、4D场景框架 | AI工具集

DimensionX是什么

DimensionX是香港科技大学、清华大学和生数科技共同推出的框架，能从单张图片生成高逼真度的3D和4D场景，基于视频扩散技术实现对空间和时间维度的精确控制。框架基于ST-Director技术解耦空间和时间因素，支持独立或组合控制，生成具有动态变化的复杂场景。DimensionX包含轨迹感知机制和身份保持去噪策略，增强场景的一致性和真实感。

DimensionX的主要功能

• 3D场景生成：从单张图片生成新的视角渲染图，构建3D场景。
• 4D场景生成：从单张图片生成包含时间和空间变化的动态场景。
• 视频扩散控制：基于ST-Director技术，实现对视频扩散过程中空间和时间因素的解耦和精确控制。
• 轨迹感知机制：为3D生成设计，处理复杂的现实世界场景和相机运动。
• 身份保持去噪策略：为4D生成设计，增强场景的一致性，特别是在动态对象和背景之间。

DimensionX的技术原理

• ST-Director（空间和时间导演）：
  • 维度感知LoRAs：学习从维度变化数据中得到的低秩适应（LoRAs），实现对视频扩散中空间和时间因素的解耦。
  • S-Director（空间导演）：负责生成与空间变化相关的视频帧，控制相机视角和位置。
  • T-Director（时间导演）：负责生成与时间变化相关的视频帧，控制场景中对象的动态。
• 维度感知分解：定义空间和时间等价关系，创建S-Quotient Space和T-Quotient Space，分别捕获视频中的空间轨迹和时间运动轨迹。
• 无需训练的维度感知组合：基于视频扩散过程中的去噪机制，开发无需训练的方法实现混合维度控制，用在去噪过程的不同阶段切换S-Director和T-Director生成包含空间和时间变化的视频。
• 3D场景生成：
  • 轨迹感知机制：根据不同的相机运动轨迹训练多种S-Director，覆盖广泛的相机运动模式。
  • 视频插值模型：生成高质量的插值视频，平滑和一致地过渡稀疏视图。
• 4D场景生成：
  • 参考视频latent共享：基于选择参考帧并共享其latent代码增强所有空间变体视频之间的一致性。
  • 外观细化：对每个视点的动态视频进行细化，增强多视图视频之间的稳定性和一致性。

DimensionX的项目地址

DimensionX的应用场景

• 电影和娱乐行业：生成特效场景，减少拍摄成本，创建虚拟背景。
• 游戏开发：生成逼真游戏环境，快速原型设计。
• 虚拟现实（VR）和增强现实（AR）：创建动态三维环境，增强用户体验。
• 建筑和城市规划：根据设计图生成建筑模型，模拟城市规划。
• 教育和培训：创建历史场景可视化，模拟紧急情况。