17645

撕掉虚拟人「营业脸」 DreamTalk开源释机会

站长网2024-01-11 11:47:222

搭上AI大模型的春风,元宇宙概念期出圈的虚拟数字人又火了一把。结合人工智能自然语言大模型,用3D动画、动态捕捉、中之人等技术动起来、说起来的虚拟人,现在拥有“大脑”了。

AI化后,原本就能以文字、声音输出内容的虚拟人,在与外界交互时更显智能,输出的内容也在丰富度、专业性上提升了一个档次。更重要的是,AI提高了虚拟人在制作层面的生产力。

2023年,各种添加了人工智能元素的虚拟人被广泛用于内容播报、直播等场景中,成为电商、短视频博主们的新宠。

然而,不足始终存在。拟真类的虚拟人在表情、声音、动作上仍然能被识别到机器感,自然度、真实感远不能与人类的肉身媲美。一些开发者试图用AI大模型来弥补虚拟数字人的这个短板,DreamTalk就是解决方案之一。

这个基于扩散模型的框架由阿里巴巴、清华大学和华中科大共同研发,从“头”开始,不仅能让虚拟头像开口说话、唱歌,还能模仿表情变化、同步嘴形。

最近,DreamTalk开源了,这个框架有望为虚拟人注入“情绪”。

为虚拟人丰富声情言表

DreamTalk的绝活儿是仅凭一张头像图片,就可以让脸动起来,加上语音的输入,说起来也不成问题,而且还能对上嘴型和神态,然后生成一段头部说话的视频。

拟人从“学习”开始。基于大模型框架,DreamTalk可以从输入的语音和肖像中学习并推断出表达风格,生成有个性的表达视频。即使使用同一音源,头像也能够表现出生气、开心、难过、鄙视等不同的情绪神态,并以相应的面部表情来表达。

DreamTalk支持多种人物表情

DreamTalk这类模拟人类表情的解决方案再次为虚拟人制作环节增加了一个工具,毕竟,情绪是当前虚拟人最匮乏的表现力。

喜上眉梢、横眉怒目、涕泗横流、笑逐颜开,人类的喜怒哀乐等情绪总是第一时间表达在脸上,再辅以语言呈现态度。而总想模拟人类的各种虚拟人人均一副“营业脸”,表情包里要么是“微笑”,要么是“扮酷”,情绪不能再多了,机器人语音虽然有各种腔调,但还是能让人识别出机器感。

今年初,小冰公司启动了“GPT克隆人计划”,将AI和虚拟人做了结合。由此而来的AI克隆人网红“半藏森林”上线后引起关注,但其僵硬的表情也让很多人吐槽体验不佳。

近期,小冰的克隆人上线了淘宝旗舰店,面部僵化的问题依然存在,有买家评论吐槽:“视频通话假的要死,跟博主半毛钱关系没有。”

中国传媒大学发布的调查显示,对不同类型的虚拟数字人,大众对其外形、人设、技术能力、服务能力有着明显的期待差异:60%以上的用户最关注虚拟偶像的外形和作品,66%的用户关注虚拟主播的主持风格,50%的用户认为虚拟员工最重要的是技术服务以及跨界合作能力。

随着虚拟人以直播等方式走进与人类交互的场景时,需求正在朝着虚拟人的个性化发展衍生,尤其是当AI大模型出现后,解决虚拟人情绪甚至情感的方案将成为一个独立的赛道。

DreamTalk的开发方之一阿里巴巴此前就申请了“对话内容生成、虚拟对话、对话内容的数据处理方法”的专利。摘要显示,该申请通过构建情感关联图,可以深度理解引发对话情感的具体关键词,从而通过情感关键词预测目标关键词,有效地在对话回复内容中展现同理心,进而实现共情对话,提高对话内容生成的准确性。

进入2024年,市场对虚拟人的需求不再只是能说会动了,还得把“情绪价值”拉满。

AI给完「大脑」给「情绪」

能通过声音、图像适配情绪的DreamTalk类AI方案有望让虚拟人的“表情包”丰富起来,也会给虚拟人制作带来了便捷工具。

在技术上,虚拟人有机会借助AI拟态工具摆脱真人驱动的限制。

在“算法驱动型”虚拟人之前,虚拟人应用的实现往往依靠真人驱动,这就是我们常说的“中之人”,即借助真人通过动作捕捉设备进行形体、眼神、动作等的捕捉,然后才能进行驱动和渲染。一般而言,它的生产周期更长,成本也比较高。

花脸AI创始人刘威曾表示,只有实现虚拟人的快速生成,解决低成本大量复制、高频次内容产出两大问题,同时摆脱中之人的束缚,虚拟人才能有普遍的商业价值。

而“算法驱动型”的虚拟人,可以自驱动学习模特说话时的唇动、表情、语音,以及姿态和动作等等,不仅无需真人参与,还可以实现更快速的渲染,降低制作成本。所以,这种技术方法更适用于虚拟人的规模化制作。

在用户体验上,智能化的情感生成将有效提高虚拟人交互能力的提升。

目前已出现较多陪伴型虚拟人应用,其中一款名为Talkie的虚拟陪伴APP在在海外已有百万日活。从去年8月开始,这款应用的下载量一直在高位徘徊,并长期霸占着美国Google Play娱乐应用下载榜前十的位置。除了美国之外,在新西兰、英国、加拿大、澳大利亚这些发达市场,Talkie同样取得了不错的成绩。

但包含Talkie在内,目前的绝大多数主打陪伴场景的虚拟人应用,在情感互动层面表现单一。以Talkie为例,里面的所有虚拟角色均以静态图片的形式出现在聊天背景中,互动的方式只有语言,主打一个“陪聊”。

随着AI技术的突破发展,Talkie这类应用绝不是虚拟陪伴产品的最终形态,它们将作为一种过渡形式,而解决数字人情绪表达的方案有望为虚拟人注入“灵魂”,成为虚拟人产品革命性的机会。

0002
评论列表
共(0)条
login
相关推荐
  • 在小红书接收「TikTok难民」的中国游戏公司,能接住泼天富贵吗?

    小红书在美国是真火了。由于强制剥离TikTok的法令可能在1月19日生效,不少美国用户开始从TikTok向小红书转移。据七麦数据统计,不到一天时间,小红书便登顶美国iOS免费榜。基于此,大家最近在打开小红书时,或许就被“歪果仁”发布的帖子刷屏了。
    站长网站长资讯2025-01-15 09:30:25
    0001
  • 完胜Win自带功能 文件复制神器FastCopy 5.0升级:SSD提速30%

    快科技4月15日消息,CtrlC、CtrlV复制粘贴是电脑使用中最常见的操作之一,小文件可以用Win自带功能,大量数据拷贝的话自带功能就有些弱了,很多人都知道FastCopy这个神器,完胜Win自带复制功能。
    站长网2023-04-15 17:38:40
    0005
  • 首批小米汽车SU7开始交付 雷军给小米车主开车门

    今日,北京亦庄小米汽车工厂内举办了一场意义非凡的仪式——小米SU7首批车主交付活动。作为小米的创始人和董事长,雷军亲临现场,与首批车主共同见证这一激动人心的时刻,并亲自为他们开车门,送上最诚挚的祝福。
    站长网2024-04-18 14:54:37
    0001
  • 腾讯客服回应微信号回收:长时间未登录 根据使用情况决定

    今日,#微信号长期没有使用#话题登上微博热搜。有网友反馈称,自己登入微信时,页面提示“该微信号由于长期没有使用,已被回收。”,引发网友热议。据中国新闻网,对此,腾讯客服表示:“正常登录使用的微信号不会被系统回收,但对于长时间未登录的微信号,系统根据该帐号的使用情况可能会进行回收处理,感谢您的理解与支持”。
    站长网2023-07-17 16:11:24
    0002
  • 图灵奖得主Hinton入局机器人创业 新公司获得9000万美元投资

    要点:图灵奖得主GeoffreyHinton将担任初创公司VayuRobotics的顾问,这标志着他重返机器人领域。VayuRobotics是一家强调AI应用的初创公司,拥有强大的团队和创新技术,获得了9000万美元的投资。Hinton之所以加入VayuRobotics,是因为他认为该公司的技术路线具有较低的AI道德风险。
    站长网2023-10-12 14:32:18
    0003
  • Skybox AI:随手涂鸦即可一键生成 360 度全景图像

    SkyboxAI是由BlockadeLabs开发的一款一键生成360度全景图像的工具。用户可以在几秒钟内创建惊艳的3D场景,无需专业的3D设计经验。
    站长网2023-08-01 16:28:13
    0003
  • 英伟达正考虑将其部分人工智能 GPU 外包给三星电子制造

    据报道,英伟达正考虑将其部分人工智能GPU外包给三星电子进行制造,因为台积电供应能力日益紧张。行业观察人士指出,如果三星的3纳米试验产品通过性能验证,并且其2.5D先进封装技术符合美国芯片制造商的要求,那么三星有可能从英伟达那里获得一些订单。
    站长网2023-07-06 16:33:44
    0003
  • 大一统视频编辑框架:浙大&微软推出UniEdit,无须训练、支持多种编辑场景

    随着Sora的爆火,人们看到了AI视频生成的巨大潜力,对这一领域的关注度也越来越高。除了视频生成,在现实生活中,如何对视频进行编辑同样是一个重要的问题,且应用场景更为广泛。以往的视频编辑方法往往局限于「外观」层面的编辑,例如对视频进行「风格迁移」或者替换视频中的物体,但关于更改视频中对象的「动作」的尝试还很少。
    站长网2024-03-04 19:32:37
    0005
  • 抖音再不接入DeepSeek就晚了

    尚未接入DeepSeek的抖音,刚刚把大门又敞开了一点点。近日,字节剪映的AI视频生成工具即梦被爆出正考虑使用DeepSeek。同时,即梦迎来新的移动端负责人,原零一万物PopAI产品负责人曹大鹏走马上任,向抖音前CEO、如今带队剪映的张楠汇报。
    站长网站长资讯2025-03-03 16:50:59
    0002
  • 用ChatGPT分析金融数据!摩根士丹利与OpenAI合作

    9月8日,路透社消息,全球最大金融机构之一摩根士丹利,将在本月正式发布一款生成式AI产品用于金融服务。例如,查询专业金融数据,总结金融顾问与客户的对话内容,起草电子邮件等。据悉,该产品由OpenAI提供支持,并结合了摩根士丹利超过10万份财务报告、内部资料、金融文献等数据进行了微调。以确保AI机器人生成的内容准确无误,不会出现虚假、非法信息,同时帮助业务人员节省查阅资料时间。
    站长网2023-09-09 09:18:02
    0001