ViewExtrapolator – 南洋理工联合UCAS团队推出的新型视图合成方法

ViewExtrapolator是什么

ViewExtrapolator是南洋理工大学、UCAS研究团队共同推出的新视角外推方法，基于稳定视频扩散（Stable Video Diffusion, SVD）的生成先验合成远超出训练视图范围的新视角。这种方法基于重新设计SVD的去噪过程，有效优化辐射场或点云渲染中易产生伪影的视图，生成更清晰、更逼真的新视角图像。ViewExtrapolator不需要对SVD进行微调，具有数据和计算效率，能广泛应用于不同的3D渲染技术。

ViewExtrapolator的主要功能

• 新视角外推：生成超出训练视图范围的新视角图像，对于提供沉浸式3D体验和自由探索重建的辐射场至关重要。
• 伪影减少：基于稳定视频扩散（SVD）的生成先验，优化由辐射场或点云渲染产生的伪影，提高合成新视角的视觉质量。
• 数据和计算效率：作为一个无需微调SVD的推断阶段方法，在数据和计算上都很高效，让新视角外推更加实用和可访问。
• 广泛的适用性：与不同的3D渲染方法配合使用，包括从单视图或单目视频派生的点云渲染，具有很好的通用性和适应性。

ViewExtrapolator的技术原理

• SVD去噪过程：基于稳定视频扩散（SVD）模型，模型基于逐步去噪高斯噪声生成视频。
• 引导退火和重采样退火：引入引导退火和重采样退火技术。基于在去噪过程中的不同阶段应用不同程度的引导，有效地修复未见区域并提高视觉质量。
• 多视图一致性：用SVD的多视图一致性，对辐射场或点云渲染中未观测到的部分进行自然视频细节的生成，且保留原始内容，包括相机运动和场景动态。
• 无需训练：用SVD的生成先验进行新视角外推，在数据和计算上都很高效。
• 3D渲染的灵活性：无论是从多视图图像生成的辐射场，还是从单视图生成的点云，ViewExtrapolator都能处理，并有效提升渲染质量。

ViewExtrapolator的项目地址

• 项目官网：kunhao-liu.github.io/ViewExtrapolator
• GitHub仓库：https://github.com/Kunhao-Liu/ViewExtrapolator
• arXiv技术论文：https://arxiv.org/pdf/2411.14208

ViewExtrapolator的应用场景

• 虚拟现实（VR）和增强现实（AR）：在VR和AR应用中，生成超出预先渲染视图的新视角，提升用户体验。
• 3D内容创建：对于3D艺术家和游戏开发者，从有限的视图合成完整的3D场景，减少手动建模的工作量，加速内容创作过程。
• 电影和视频制作：在电影制作中，生成摄像机未实际捕捉到的视角，或用于创建复杂的特效场景。
• 文物和历史遗迹的数字化：对于文物和历史遗迹的数字化保护，从有限的视角重建完整的3D模型，让研究和展示更加全面。
• 建筑和室内设计可视化：在建筑和室内设计领域，帮助设计师从不同角度预览设计效果，即使这些角度在实际拍摄时难以达到。