SynthLight – 耶鲁大学联合 Adobe 推出的人像重照明技术

SynthLight是什么

SynthLight 是耶鲁大学和 Adobe Research 联合推出的基于扩散模型的人像重照明技术，通过模拟不同光照条件下的合成数据进行训练，能将人像照片重新渲染为具有全新光照效果的图像，比如添加高光、阴影或调整整体光照氛围。核心在于基于物理基础的渲染引擎生成合成数据集，通过多任务训练和分类器引导的扩散采样策略，弥合合成数据与真实图像之间的差异，实现对真实人像的高质量重照明。

SynthLight的主要功能

• 肖像重光照：通过环境光照图对肖像进行重光照处理，生成逼真的光照效果，如自然的高光、投影和漫反射。
• 多任务训练：基于无光照标签的真实人像进行多任务训练，提升模型的泛化能力，能处理各种真实场景。
• 推理时间采样：采用基于无分类器指导的扩散采样程序，在推理阶段保留输入肖像的细节，确保生成的光照效果自然且细腻。
• 物理渲染引擎：使用物理渲染引擎生成合成数据集，模拟不同光照条件下的光照转换，提供高质量的光照效果。
• 通用性：尽管仅使用合成数据进行训练，SynthLight 能很好地泛化到真实场景，包括半身像和全身像。

SynthLight的技术原理

• 将重光照视为重新渲染问题：SynthLight 将图像重光照定义为一个重新渲染的过程，通过改变环境光照条件来调整像素的渲染效果。
• 基于物理的渲染引擎与合成数据集：技术基于物理的渲染引擎（Physically-Based Rendering Engine）生成合成数据集。通过在不同光照条件下对3D头部模型进行渲染，模拟真实光照条件下的像素变化。
• 多任务训练策略：SynthLight 采用了多任务训练方法，利用没有光照标签的真实人像进行训练。通过结合真实图像和合成图像的训练，帮助模型更好地适应真实场景，减少合成数据与真实图像之间的域差距。
• 基于无分类器指导的扩散采样：在推理阶段，SynthLight 使用基于无分类器指导的扩散采样程序（Classifier-Free Guidance）。利用输入的人像细节来更好地保留图像的纹理和特征，同时生成逼真的光照效果。
• 扩散模型的优势：扩散模型通过逐步添加噪声并学习去噪过程来生成图像。SynthLight 基于这一特性，生成高质量的光照效果，包括镜面高光、阴影和次表面散射等。

SynthLight的项目地址

• 项目官网：https://vrroom.github.io/synthlight
• arXiv技术论文：https://arxiv.org/pdf/2501.09756

SynthLight的应用场景

• 人像摄影后期处理：SynthLight 可以对真实人像照片进行重光照处理，生成逼真的光照效果，如自然的高光、阴影和漫反射。
• 虚拟场景渲染与合成：通过模拟不同的光照条件，SynthLight 可以将真实人像与虚拟场景无缝融合，生成高质量的合成图像。
• 游戏开发与角色设计：在游戏开发中，SynthLight 可以用于快速调整角色的光照效果，适应不同的场景和环境，节省时间和成本。
• 广告与商业图像制作：在广告和商业图像制作中，SynthLight 能快速生成多种光照条件下的图像，帮助设计师快速探索不同的视觉效果，提升工作效率。