拖拽下图像就能生成视频,中科大、微软等DragNUWA属实惊艳
随着 ChatGPT、GPT-4、LLaMa 等模型的问世,人们越来越关注生成式模型的发展。相比于日渐成熟的文本生成和图像生成,视频、语音等模态的 AI 生成还面临着较大的挑战。
现有可控视频生成工作主要存在两个问题:首先,大多数现有工作基于文本、图像或轨迹来控制视频的生成,无法实现视频的细粒度控制;其次,轨迹控制研究仍处于早期阶段,大多数实验都是在 Human3.6M 等简单数据集上进行的,这种约束限制了模型有效处理开放域图像和复杂弯曲轨迹的能力。
基于此,来自中国科学技术大学、微软亚研和北京大学的研究者提出了一种基于开放域扩散的新型视频生成模型 ——DragNUWA。DragNUWA 从语义、空间和时间三个角度实现了对视频内容的细粒度控制。本文共一作殷晟明、吴晨飞,通讯作者段楠。
论文地址:https://arxiv.org/abs/2308.08089
以拖动(drag)的方式给出运动轨迹,DragNUWA 就能让图像中的物体对象按照该轨迹移动位置,并且可以直接生成连贯的视频。例如,让两个滑滑板的小男孩按要求路线滑行:
还可以「变换」静态景物图像的相机位置和角度:
方法简介
该研究认为文本、图像、轨迹这三种类型的控制是缺一不可的,因为它们各自有助于从语义、空间和时间角度控制视频内容。如下图1所示,仅文本和图像的组合不足以传达视频中存在的复杂运动细节,这可以用轨迹信息来补充;仅图像和轨迹组合无法充分表征视频中的未来物体,文本控制可以弥补这一点;在表达抽象概念时,仅依赖轨迹和文本可能会导致歧义,图像控制可以提供必要的区别。
DragNUWA 是一种端到端的视频生成模型,它无缝集成了三个基本控件 —— 文本、图像和轨迹,提供强大且用户友好的可控性,从语义、空间和时间角度对视频内容进行细粒度控制。
为了解决当前研究中有限的开放域轨迹控制问题,该研究重点关注三个方面的轨迹建模:
使用轨迹采样器(Trajectory Sampler,TS)在训练期间直接从开放域视频流中采样轨迹,用于实现任意轨迹的开放域控制;
使用多尺度融合(Multiscale Fusion,MF)将轨迹下采样到各种尺度,并将其与 UNet 架构每个块内的文本和图像深度集成,用于控制不同粒度的轨迹;
采用自适应训练(Adaptive Training,AT)策略,以密集流为初始条件来稳定视频生成,然后在稀疏轨迹上进行训练以适应模型,最终生成稳定且连贯的视频。
实验及结果
该研究用大量实验来验证 DragNUWA 的有效性,实验结果展示了其在视频合成细粒度控制方面的卓越性能。
与现有专注于文本或图像控制的研究不同,DragNUWA 主要强调建模轨迹控制。为了验证轨迹控制的有效性,该研究从相机运动和复杂轨迹两个方面测试了 DragNUWA。
如下图4所示,DragNUWA 虽然没有明确地对相机运动进行建模,但它从开放域轨迹的建模中学习了各种相机运动。
为了评估 DragNUWA 对复杂运动的精确建模能力,该研究使用相同的图像和文本对各种复杂的拖动(drag)轨迹进行了测试。如下图5所示,实验结果表明 DragNUWA 能够可靠地控制复杂运动。
此外,DragNUWA 虽然主要强调轨迹控制建模,但也融合了文本和图像控制。研究团队认为,文本、图像和轨迹分别对应视频的三个基本控制方面:语义、空间和时间。下图6通过展示文本(p)、轨迹(g)和图像(s)的不同组合(包括 s2v、p2v、gs2v、ps2v 和 pgs2v)说明了这些控制条件的必要性。
ResumeBuilder:91% 的公司希望雇用懂得 ChatGPT 的员工
根据ResumeBuilder最新的研究,91%的公司想要雇用了解ChatGPT的工作者。企业领导人表示,这个AI聊天机器人可以提高生产力,节省资源并提供支持。站长网2023-05-12 20:27:020000淄博烧烤,带火五一“山东游”
“小饼烤炉加蘸料”的烧烤三件套,正在成为年轻人的新晋社交暗号。截至目前,抖音平台上“淄博烧烤”话题的视频总播放量超过62亿,两个月内18次霸榜微博热搜,小红书关于“淄博”的笔记达66万篇。而在这些社交平台上,随处可见周末去山东进行”特种兵式旅游”的大学生,以及求“五一组队”、求“烧烤搭子”的年轻人。站长网2023-04-20 18:16:550001Stability AI CEO 辞职 自称没董事会控制权
划重点:⭐️明星AI公司内部崩塌,CEO辞职。⭐️公司核心技术遭质疑,CEO被指涉及学历、资历造假。⭐️公司面临商业挑战,员工离职、财务困境,仍受追捧。StabilityAI是一家备受瞩目的AI公司,然而,近日突然爆出CEOEmadMostaque辞职的消息,引发了公司内部的巨大变动。站长网2024-03-25 10:17:040000年亏损5亿刀,OpenAI 2024年破产?Altaman自曝GPU短缺,顶级人才掀离职潮
1.OpenAI每天烧掉70万美元用于维持ChatGPT的运作,加上用户基数下降和顶级人才离职,导致OpenAI面临破产的危机。2.OpenAI在寻找实现盈利的方法,但持续的亏损和GPU短缺等问题使其面临严重困境。3.微软通过整合OpenAI的技术并推出相关产品,努力将OpenAI的成果变现,但面临机密知识产权泄露的风险。站长网2023-08-15 09:29:400000“中国制造”走向世界舞台
当今世界,中国企业正以惊人的速度崛起,不断加强自主创新,并积极融入国际市场。这一变化不仅为中国经济注入了新的动力,也给海外消费者带来了更多全新的体验。中国制造正迈向中国智造的新时代。站长网2023-05-25 01:10:550000