登陆注册
19892

对标Sora?国产公司推文生视频工具Etna 能生成15秒4K视频

站长网2024-03-14 09:27:330

要点:

国产公司推出的AI视频技术实现了15秒4K60帧超逼真效果,与小米、快手合作瞄准500亿美元的短剧出海市场。

Etna模型作为成功复现Sora技术的重要成果之一,采用Diffusion Transformer处理不同维度数据,实现了时长、清晰度、细节丰富度和语义理解的优势。

七火山公司布局全产业链,通过AI多模态产品如Etna、Lava、miniTV和Bromo,改造短视频全产业链,受到资本市场的关注和青睐。

随着国产公司推出的AI视频技术的崛起,短剧市场迎来了新的变革。七火山公司在国内率先复现了Sora的成果,并通过Etna模型等创新技术取得了重大突破。

Etna模型采用了Diffusion Transformer处理视频数据,实现了15秒4K60帧的超高清晰度,同时具备了时空理解能力和深度语义理解能力。

官网地址:https://etna.7volcanoes.com/

论文地址:https://arxiv.org/pdf/2212.09748.pdf

从上图可以看出,相较于市场上的现有模型,Etna在时长、高清晰度、丰富生动细节和强语义理解上,都保持着较大优势。

为什么七火山能成为国内率先复现出Sora的公司?Sora的关键创新,是一个可以灵活地处理不同维度数据的Diffusion Transformer。时空压缩器会把原始视频转映射到潜空间中,视觉Transformer(ViT)模型会对已经被分词的潜表征进行处理,并输出去除噪声后的潜表征。

一个与CLIP模型类似的系统根据用户的指令(已经通过大语言模型进行了增强)和潜视觉提示,引导扩散模型生成具有特定风格或主题的视频。经过多次去噪处理之后,会得到生成视频的潜表征,然后通过相应的解码器映射回像素空间。

在相关领域技术积累的基础上,Etna模型迅速抓住了Sora的精髓,另外还引入了几项创新。技术架构创新主要是针对视频的时空特性提出的挑战,如何从空间和时间上将视频压缩到潜空间,以实现高效去噪,如何将压缩潜空间转换为patches,并将其输入到Transformer中,以及如何处理长距离的时空依赖性,并确保内容的一致性。

为此,Etna模型在主干网络上采用了Diffusion架构,同时在一个更大的数据集上实验和适配与Sora相似的Diffusion Transform架构。融合了Diffusion模型和Transformer模型的优势,Etna形成了一种高效且先进的新型模型架构,提升了模型的生成效率,保证了生成内容的高质量和高一致性。

七火山公司不仅布局了AI多模态产品,还与小米、快手等合作伙伴展开战略合作,共同探索短剧出海市场。

资本市场对七火山公司的发展充满了期待,认为其具备了潜在的成长空间和投资价值。AI视频技术的兴起将颠覆整个短视频产业链,为用户带来全新的观影体验,也为产业链上下游企业带来了更多的商机和发展空间。

0000
评论列表
共(0)条