MagicClay是什么
MagicClay 是 Adobe 推出3D建模工具，结合网格和有向距离场（SDF）技术，支持艺术家基于文本提示对3D模型的特定部分进行雕刻，同时保持模型的其他区域不变。MagicClay 支持生成具有纹理的三维模型，能非破坏性地编辑局部网格，让艺术家用文本提示为基础，对3D模型进行更直观和更精细的编辑。MagicClay 将文本到图像的生成能力转化为艺术家在迭代工作流程中使用的实际建模工具。
MagicClay的主要功能
- 文本引导的3D雕刻：MagicClay 支持用户输入文本提示指导3D模型特定区域的雕刻，实现局部编辑。
- 混合表示：结合网格和有向距离场（SDF）的表示，用两者的优势进行3D建模。
- 非破坏性编辑：用户能对选定区域进行编辑，不影响模型的其他部分，保留原始模型的完整性。
- 顺序编辑：支持对同一网格进行多次编辑，支持艺术家逐步精细化模型。
- 保留原始属性：在编辑过程中，保留原始三角剖分的属性，如顶点组，便于动画和其他后续处理。
- 高分辨率渲染：基于网格表示高效渲染SDF，实现高分辨率的体积渲染。
MagicClay的技术原理
- 混合网格-SDF表示：用一个混合表示，包括三角网格和SDF。混合表示支持网格的直观控制和SDF的拓扑灵活性。
- 一致性维护：在优化过程中，保持网格和SDF的一致性，用多视图一致性损失和自适应重构同步两者。
- 可微分渲染：用可微分渲染技术，从不同角度渲染网格和SDF，要求它们在RGB渲染、不透明度和法线图中保持一致。
- 局部化和冻结损失：基于局部化损失和冻结损失，确保编辑只发生在用户选定的区域内，未选定区域保持不变。
- 动态网格重建：用可微分网格重建技术，如ROAR，动态更新网格拓扑，包括面分割、边折叠和边翻转。
- 表面平滑和正则化：基于网格的显式表示定义平滑项，用Laplacian向量编码局部曲率变化，鼓励网格平滑。
- SDF正则化：用Eikonal损失和其他SDF特定的损失鼓励SDF学习有效的距离场表示。
MagicClay的项目地址
- 项目官网：amirbarda.github.io/MagicClay.github.io
- GitHub仓库：https://github.com/amirbarda/MagicClay
- arXiv技术论文：https://arxiv.org/pdf/2403.02460
MagicClay的应用场景
- 3D艺术创作：艺术家进行3D雕塑和模型创作，用文本提示快速实现创意构思，无需复杂的3D建模技能。
- 游戏开发：游戏设计师快速原型设计和迭代游戏角色、道具和环境，提高开发效率。
- 动画制作：在动画电影和电视制作中，创建和修改复杂的3D角色和场景，同时保留动画所需的顶点权重和绑定。
- 虚拟现实（VR）和增强现实（AR）：在VR和AR应用中，设计和优化虚拟对象和环境，提供更加丰富和动态的用户体验。
- 教育和培训：在教育领域，作为教学工具，帮助学生理解3D建模的基本概念，基于实践学习3D设计。
