Follow-Your-Emoji,基于扩散模型的动态表情肖像动画生成模型,可以将参考头像的表情和动作转换为动画

2024-06-17 15:30:17 浏览数 (2)

在数字化时代,人们对个性化和互动式内容的需求不断增长,而最新技术的进步也使这成为可能。香渊科技与香港科技大学和清华大学的研究团队合作开发了一款名为“Follow-Your-Emoji”的创新人像动画框架,这一技术基于扩散模型,能够将静态的肖像转化为表情丰富的动画。

这项技术的核心在于其能够捕捉并同步预定义或实时捕获的表情序列到任何静态参考肖像上,从而实现动态的眨眼、微笑、皱眉等复杂表情。Follow-Your-Emoji不仅支持多种风格的动画制作,如真人、卡通、雕塑甚至动物形象,还能保持人物的身份特征,防止在动画转换过程中身份信息的丢失或泄露。

动画生成的过程中,通过使用扩散模型(Stable Diffusion)和表情感知标志点技术(Expression-Aware Landmark),此框架能够精确控制动画的每一个细节。这些标志点特别关注表情变化的关键区域,如眼睛和嘴巴,使得动画不仅表现自然,还能够表现出夸张的动作,如瞳孔的大幅度扩张或收缩。

为了保持动画的连贯性和时间一致性,Follow-Your-Emoji引入了面部精细损失函数和时间注意力机制,这些技术确保生成的每一帧动画都与前后帧在视觉上和时间上保持一致。此外,采用渐进式生成策略的长期动画生成技术也显著提高了动画的稳定性和质量。

这项技术不仅限于个人创作的范畴,其广泛的应用场景也涵盖了娱乐、教育和商业领域。无论是通过单一的动作序列驱动多个不同的参考头像,还是使用单一的参考头像结合多个不同的驱动视频,Follow-Your-Emoji都能提供一致和高质量的动画效果。

总的来说,Follow-Your-Emoji技术的开发不仅展示了扩散模型在动画制作中的强大潜力,也为动画制作行业带来了新的工具,使得个性化和动态内容的创作更加方便和精确。这一技术的推广和应用,预示着我们进入了一个全新的、高度互动的数字娱乐时代。

0 人点赞