LLaMA-Mesh – 清华联合英伟达推出的自然语言生成复杂的3D模型项目 | AI工具集

LLaMA-Mesh是清华大学和NVIDIA共同推出的项目，基于将3D网格生成与大型语言模型（LLMs）结合，实现用文本提示直接生成3D模型的功能。项目用OBJ文件格式将3D网格的顶点坐标和面定义转换为文本，基于顶点量化技术优化处理，让模型能理解和生成3D网格。LLaMA-Mesh能生成高质量的3D网格，保持强大的语言理解和生成能力，为3D内容创作提供一种更直观、高效的新方法。

LLaMA-Mesh的主要功能

• 3D网格生成：根据文本提示生成相应的3D网格模型。
• 网格理解：理解和解释3D网格的结构和特征。
• 文本-网格交错输出：在对话中生成文本和3D网格的交错输出，实现交互式设计。
• 保持语言能力：在扩展到3D网格生成的同时，保持模型的文本理解和生成能力。

LLaMA-Mesh的技术原理

• 3D表示：
  • OBJ文件格式：用OBJ文件格式将3D网格的顶点坐标和面定义表示为纯文本，能被语言模型处理。
  • 顶点量化：将顶点坐标量化到固定数量的区间，减少标记数量，让模型能处理更长的序列，保持几何细节。
• 预训练模型：LLaMA3.1-8B-Instruct选用经过指令调整的预训练模型，具备理解文本提示、生成3D网格的能力。
• 3D任务微调：
• 监督微调（SFT）数据集：构建包含文本-3D对和交错文本-3D对话的数据集，基于微调让模型掌握3D网格生成技能。
• 规则和LLM增强：结合规则方法和基于语言模型的增强手段构建训练数据，提高模型的3D理解和生成能力。
• 统一模型：
• 文本和3D网格统一：在统一的模型中生成文本和3D网格，实现多模态内容生成。

LLaMA-Mesh的项目地址

LLaMA-Mesh的应用场景

• 创意设计：设计师快速生成家具、装饰品、艺术品等3D模型，加速从概念到原型的转变。
• 游戏开发：游戏开发者快速生成游戏中的武器、道具、角色等3D模型，提高游戏设计的效率和丰富性。
• 教育与培训：在教育领域，辅助教学，生成几何图形、生物结构、历史文物等3D模型，增强学生的理解和学习体验。
• 建筑与工程：建筑师和工程师生成建筑模型和工程组件，进行设计验证和可视化展示。
• 虚拟现实（VR）和增强现实（AR）：在VR和AR应用中，生成逼真的3D场景和物体，提供沉浸式的用户体验。