FaceLift – Adobe 联合加州大学推出的单张图像到 3D 头部模型生成技术

FaceLift是什么

FaceLift是Adobe和加州大学默塞德分校推出的单图像到3D头部模型的转换技术，能从单一的人脸图像中重建出360度的头部模型。FaceLift基于两阶段的流程实现：基于扩散的多视图生成模型从单张人脸图像生成一致的侧面和背面视图；生成的视图被输入到GS-LRM重建器中，产出详细的3D高斯表示。FaceLift能精确保持个体的身份特征，生成具有精细几何和纹理细节的3D头部模型。FaceLift支持视频输入，实现4D新视图合成，能与2D面部重动画技术无缝集成，实现3D面部动画。

FaceLift的主要功能

• 单图像3D头部重建：从单张人脸图像中快速、高质量地重建出360度的3D头部模型，包括面部和头发的精细细节。
• 多视图一致性：生成的3D模型在不同视角下保持一致，确保从任何角度查看都具有高质量的视觉效果。
• 身份保持：在重建过程中，准确保持个体的身份特征，即使在生成不可见视图时也能保持高度的身份一致性。
• 4D新视图合成：支持视频输入，实现4D新视图合成，在时间序列上生成一致的3D模型，适用于动态场景。
• 与2D重动画技术集成：与2D面部重动画技术无缝集成，实现3D面部动画，为数字娱乐和虚拟现实应用提供支持。

FaceLift的技术原理

• 多视图扩散模型：
  • 输入处理：基于图像条件扩散模型，用单张正面人脸图像为输入，生成多个视角的图像，包括侧面和背面视图。
  • 扩散模型核心：用Stable Diffusion V2-1-unCLIP模型，基于CLIP图像编码器生成的嵌入作为条件信号，确保生成图像的身份一致性和多视图一致性。
  • 多视图注意力机制：基于多视图注意力机制，模型在不同视图之间共享信息，生成多视角一致的RGB图像。
• GS-LRM重建器：
  • 输入融合：将生成的多视图图像及其对应的相机姿态输入到GS-LRM模型中，生成详细的3D高斯表示。
  • 3D高斯表示：用3D高斯作为底层表示，特别适合捕捉人类头部的复杂细节，如头发。每个2D像素对应一个3D高斯，参数包括RGB颜色、尺度、旋转四元数、不透明度和射线距离等。
  • 变换器架构：GS-LRM采用变换器架构，从一组姿态图像中回归像素对齐的3D高斯，生成详细的3D模型。
• 优化与评估：
  • 损失函数：在训练过程中，用MSE和感知损失的组合优化模型，确保生成的3D模型在视觉上与真实图像高度一致。
  • 评估指标：用PSNR、SSIM、LPIPS和DreamSim等标准指标评估重建质量，基于ArcFace进行身份保持的评估。

FaceLift的项目地址

FaceLift的应用场景

• 虚拟现实（VR）和增强现实（AR）：创建逼真的3D虚拟角色，提供沉浸式体验，支持实时交互。
• 数字娱乐：生成高质量3D角色模型，用于电影、电视剧、游戏开发和动画制作，提高制作效率和质量。
• 远程存在系统：在视频会议和远程协作中，用3D形式呈现用户，增强交流的自然感和沉浸感。
• 社交媒体和内容创作：生成个性化3D头像，为内容创作者提供工具，丰富创作内容。
• 医疗和教育：生成逼真的3D人体模型，用于医学教育、虚拟手术模拟，及文化遗产保护和虚拟博物馆展示。