Meta 新模型:如果我每14秒生成一个高清视频,好莱坞的各位要如何应对|「变压器」
利用人工智能来合成视频一直是该领域的难题,因为其中最关键的一环——映射与合成,缺乏优秀的模型算法,只能利用卷积神经网络(CNN)和生成对抗网络(GAN)来不断提取特征、生成、判断,直至最后结果。比如此前曾大火的Deepfake技术,俗称人工智能换脸,生成一个短短几秒的“换头”视频也需要10分钟左右的时间。
以后就不一样了,Meta在12月的月末发布了一篇论文《Fairy: Fast Parallelized Instruction-Guided Video-to-Video Synthesis》。论文提出了一个新的模型,也就是标题中的Fairy。Fairy能够在仅14秒内生成120帧的512x384分辨率视频(30FPS,时长为4秒),超过了之前的方法至少44倍的速度。
原图Fairy合成的视频
这是一种比较另类的图像编辑扩散模型,使其摇身一变,成为了视频编辑应用。
Fairy的技术核心是“锚点式跨帧注意力”机制,它可以在帧之间隐式传播扩散特征,确保时间上的连贯性和高保真度合成。有了这个机制后,Fairy不仅解决了以前模型中的内存和处理速度限制,还通过独特的数据增强策略改进了时间一致性。这种策略使模型对源图像和目标图像中的仿射变换保持等变性。
“锚点式跨帧注意力”说的直白一点,就是允许模型在不同帧之间建立时间对应关系。比如下面这几张图,左边的猫和右边的船上面都有一个红点,代表模型定位了图中物体的特征,Fairy模型中,这个红点叫做查询点(query point)。物体开始移动,途中的红点会跟随其移动,这是模型将要分析的另一帧,目的是找到与查询点相对应的区域或特征,而这个几帧后的红点叫做目标帧(target frame)。所谓锚点式跨帧注意力,正是评估查询点在当前帧中的特征,并将这些特征与目标帧中的特征进行比较,以估计最佳匹配。
查询点
那么“锚点”又是指什么呢?如果放在其他模型里,锚点指的是用来参考的点。图片以及视频中的锚点,则特指用于稳定识别、追踪或定位特征的固定参考点。比如上文提到的猫鼻子,就是特定的面部特征锚点(如眼角或嘴角)。视频是有多个连续的图片组成的,在Fairy模型中,会从某一帧图片里的K个锚点帧中提取扩散特征,并将提取出的特征定义为一组全局特征,以便传播到后续帧。
在生成每个新帧时,Fairy模型用跨帧注意力替换自注意力层,这种注意力是针对锚点帧的缓存特征。通过跨帧注意力,每个帧中的token取用锚点帧中展示出相似语义内容的特征,从而增强了一致性。
Fairy通过结合跨帧注意力和对应估计,改进了扩散模型中的特征跟踪和传播方法。模型把跨帧注意力当成是一种相似性度量,以评估不同帧之间token的对应关系。这种方法使得相似的语义区域在不同帧中获得更高的注意力。通过这种注意力机制,Fairy在帧间对相似区域进行加权求和,从而细化和传播当前特征,显著减少帧间特征差异。
这也是为什么Fairy能够那么快就合成出一个新的视频,因为从技术原理上来看,它只合成了一张图片,剩下所有的内容都是这张图片连续扩散的结果。很像是一种讨巧,其实更多的像是“偷懒和投机”。人工智能和人理解世界的方式不同,它所表现出来的,就是对“最低劳动力成本”的完美诠释。
Fairy将原视频转换为新的风格
革视频特效行业的命
Fairy对于视频编辑行业来说,可能会带来一场革命性的变化。当下视频合成最主要的用途是制作特效,我们熟悉的特效大片每一帧都是单独制作的,因此每一帧所耗费的成本大约数百到数千美元,平均下来相当于每分钟烧掉4万美元。试想一下,一旦采用Fairy,特效大片动辄几千万几百万的特效费用,将会直接减少至几千美金,且制作周期大幅度缩短,以前需要花费几个月来渲染,以后兴许只需要几个礼拜。
有可能你会有疑惑,现在的一些视频软件也可以做到类似的功能,比如抖音、快手,就可以实时美颜,或者添加道具跟随视频中物体移动,为什么他们就不能冲击视频合成行业呢?首先是商业场景对技术的需求不同,需要满足直播、手机等内存比较小的设备这些先天的条件下,就没办法使用像Fairy一样的扩散方法,最后技术产出的表现力也就没办法做到那么出色。
就以论文提到的猫举例,Fairy将视频里的猫变成狮子、给猫配上墨镜、或者把白猫变成黑猫,最多也就花费几秒钟而已。你仔细看,合成后的视频特效是会跟随猫的面部朝向而改变的,在墨镜那张图上,这点表现的最明显。
对同一视频合成不同风格的心视频
而且Fairy目前还只是个“宝宝”。因为任何一个模型从诞生到使用,中间必不可少的一个环节叫做“调试”。调试主要由两件事组成,第一个是调整模型训练、推理以及最后的输出,将其变成更符合实际商业场景化的形式。这个过程可以让模型表现出更好的性能。第二件事是压缩、优化模型,提高模型的运行效率,缩减运行成本,用最短时间完成业务。
另外Fairy除了能够生成高质量视频,还能够以前所未有的速度生成高分辨率的视频,这个提升也是巨大的。论文用生成的1000个视频和现有的方法进行比较,包括TokenFlow、Renderer和Gen-1等方法。评估结果显示,Fairy在质量上超过了之前的最先进方法。因此研究团队对此称道“这是迄今为止视频/视频生成文献中最大规模的评估。”
与其他模型的比较,占比越高代表质量越好
Fairy的出现可能会开启一波视频生成热,就像GPT开启文字生成热潮,DALL·E开启图片生成热潮那样。视频合成领域虽然有Deepfake那样的先锋,不过在结合实际的训练、推理、交互、生成等等一系列综合体验来说,Fairy是独树一帜的存在。毕竟它太快了,快到让人觉得有些不可思议。好莱坞的好日子好像又变短了一些。
AI高考作文交卷了!钉钉斜杠“/”宣布挑战五篇高考作文
今日,钉钉斜杠“/”宣布挑战五篇高考作文,分别是全国甲卷2篇,新课标1卷、新课标II卷和上海卷。钉钉表示,在这其中,钉钉斜杠“/”展现了多变的文风,不管是议论文体,还是仿文言文表达,AI都能轻松驾驭。面对同一个作文题目(全国甲卷),斜杠“/”还可多次生成不同的文章。据了解,目前接入阿里云通义大模型的钉钉斜杠“/”正在定向邀请企业用户进行体验,开启小范围邀测。站长网2023-06-08 07:23:180008辟谣:蝙蝠携带病毒却不生病,仅仅是体温高那么简单?
蝙蝠体内携带有众多对人类非常危险的病毒,包括埃德拉病毒、马尔堡病毒、亨德拉病毒、尼帕病毒和中东呼吸综合征冠状病毒等,这些病毒的流行曾导致大量人死亡,然而蝙蝠自己却从不因此生病,这是为什么呢?站长网2023-05-23 15:35:120000极氪高管怼小米汽车:营销值得学习 技术需要向我们学习
在极氪001发布会后的媒体交流环节,极氪的高管就小米汽车这一话题发表了看法。当被问及如何看待小米汽车时,极氪高管表示,他们对小米汽车持有尊重和敬畏的态度,认为小米作为头部互联网科技企业,实力不容小觑。站长网2024-02-28 13:57:290000微信将推出微信分期 目前正小范围内部测试中
据镭射财经消息,微信即将推出一款名为“微信分期”的全系消费信贷产品,目前正处于小范围内部测试阶段,预计下半年会扩大用户测试范围,但正式上线时间尚未确定。据微信客服透露,“微信分期”目前处于小规模测试阶段,拥有测试资格的用户可以在【钱包】版块中看到【分期】入口。站长网2023-09-06 17:47:350000ARC浏览器发布了2个好用功能 彻底改变传统搜索模式
ARC浏览器日前发布了两项引人瞩目的新功能,为用户提供了更为高效的搜索体验,彻底改变了传统搜索的模式。首先,对于一般的搜索需求,比如查找特定视频,ARC浏览器直接将用户导向目标视频的播放页面,省去了翻阅多个搜索结果的烦恼,让搜索过程更为直观和迅速。站长网2024-02-02 10:31:170000