公司研发了ID2Reflectance算法,能够从单张图像生成人脸几何与对应的贴图(diffuse/roughness/specular/normal,并能够直接应用到专业引擎中,与现有CG通用流程相结合,能够直接应用于游戏、元宇宙、数字人等行业。
在本算法中,我们学习了图像空间而不是 UV 空间中的反射率先验,并提出了一个名为 ID2Reflectance 的框架。 我们的框架可以直接估计单个图像的反射率图,同时使用有限的反射率数据进行训练。 我们的主要见解是反射率数据与 RGB 面部共享面部结构,这使得能够从廉价的 RGB 数据中获得富有表现力的面部先验,从而减少对反射率数据的依赖。 我们首先学习面部反射率的高质量先验。 具体来说,我们预训练多域面部特征码本,并设计一种码本融合方法来对齐反射率域和 RGB 域。 然后,我们提出了一个身份条件交换模块,将目标图像中的面部身份注入到预先训练的自动编码器中,以修改源反射图像的身份。 最后,我们缝合多视图交换反射图像以获得可渲染资源。 大量的实验表明,我们的方法表现出出色的泛化能力,并为通用人脸实现了最先进的面部反射率重建结果。
相关论文发表于世界顶级计算机视觉会议CVPR2024中。