登陆注册
10598

Meta版ChatGPT来了:Llama 2加持,接入必应搜索,小扎现场演示

站长网2023-09-29 09:53:560

「杀死」OpenAI,小扎这波稳定了吗?

今天凌晨,一年一度的 Meta Connect 大会上发布了一系列以 AI 为重点的公告。

不仅是最新的 MR 耳机、与 Ray-Ban 合作打造的智能眼镜,最重要的是,Meta 将在自身的所有通讯类 App、Meta Quest3和未来的 Ray-Ban Meta 智能眼镜中内置生成式 AI 技术驱动的新功能,从多轮对话的AI助手到图像编辑等一应俱全。

所有这些发布都涉及基于 Llama2的 AI 技术——迄今为止最强大的开源大模型。不过 Meta 也提前宣布了,更强大的 Llama3将于2024年推出。

Meta仍在Connect大会上宣布推出全新的图像生成器Emu,将为AI贴纸和图像编辑等功能提供支持。

Meta版聊天机器人「Meta AI」问世

大模型出现后,科技公司都在推出一系列新的人工智能机器人,引领开源一方的Meta也不例外,其正在其消息应用程序中推出一系列新的人工智能机器人,包括WhatsApp、Messenger和Instagram。从本周三开始,全新上线的大模型能够供美国的部分测试版用户使用。

扎克伯格展示元版 ChatGPT

这个名为 Meta AI 的人工智能助手,看起来与 OpenAI 的 ChatGPT 和 Anthropic 的 Claude2等聊天机器人非常相似。

扎克伯格表示,用户现在已经可以通过群聊接受大模型的帮助,与朋友计划旅行、收获知识问题回答,并通过微软的必应搜索互联网提供实时网络结果。

与 Facebook 的虚拟助手 M 不同,为更广大的用户群体定制的 Meta AI 助手,而且是完全自动化的,其模型可以参考之前的对话,调整后可以给出「非常简洁」的答案。

这意味着最新的AI助手需要拥有强大的上下文学习能力。关于如何实现,Meta也在一篇新论文中介绍了背后的技术:

论文地址:https://ai.meta.com/research/publications/ effective-long-context-scaling-of-foundation-models/

在这篇论文中,Meta 通过持续预训练 LLAMA2个检查点来构建模型,并使用了额外的4000亿个令牌作为长训练序列。在该系列模型中,使用了较小规模的7B/13B 变体了32768个token序列进行训练,而34B/70B变体则使用了16,384个token序列。

与现有研究进行的有限评估不同,元使用语言建模、合成任务以及头部长河流域任务的各种实际基准对我们的模型进行了广泛评估。在语言建模方面,元的模型在上下文长度缩放行为不仅表明该模型能够持续从更多语境中进行这种行为,还表明语境长度是缩放LLM的另一个重要轴心。在研究基准上将新模型与 LLAMA2进行比较时,我们不仅能观察到在长语境任务上的显着改进,而且还观察到在标准习题境任务上的修正改进,尤其是在编码、数学和知识基准上。

研究人员探索了一种简单而经济有效的方法,在没有任何人工标注数据的情况下,对持续预训练的长模型进行指导性调整。最终的结果是,在一系列长语境基准测试中,聊天模型的整体性能超过了 gpt-3.5-turbo-16k,这些基准测试包括问题解答、摘要和多文档聚合任务。

目前,Meta AI 可以在任何聊天中调用。与 ChatGPT 接入 DALLE・3能力类似,Meta AI 可以利用自家的图像生成模型 EmuImage 来生成带水印的。

除了Meta AI之外,Meta今天还推出了一系列「AI角色」——大模型可以模仿某些名人的个性,包括Kendall Jenner、德维恩·韦德、MrBeast、帕丽斯·希尔顿、Charli D' Amelio 和 Snoop Dogg,其他机器人,包括贝尔·格里尔斯(Bear Grylls)、Chloe Kim 和 Josh Richards 正在联机。与 Meta AI 一样,聊天机器人也存在于 Meta 的消息应用程序中,他们有个人资料和时间线,就像真人一样。当你和他们聊天时,化身会根据对话巧妙地产生动画。

Meta表示,为了保证安全性,其在发布模型之前花费了6000个小时寻找有问题的例子并招募员工在内部与模型进行交互。还声称已经开发了新来的捕获违反其政策的内容内容其采取的行动,阻止Meta AI以外的聊天机器人搜索网络。

图像生成领域另一选手:Emu

在大会上,扎克伯格还介绍了全新的图像生成模型「鸸鹋」。

鸸鹋(鸸鹋)的命名方式继承了Meta的动物主题。这是Meta对DALL-E和MidJourney等爆火应用程序的正式回应,同时推出的还有「生成式AI表情」和「图像编辑」两款一个重点新功能。

由 Emu 允许提供支持的新功能将用户在几个教室内创作想象的 AI 表情,不久之后就会登陆 WhatsApp、Messenger、Instagram 甚至 Facebook Stories 等 Meta 推出的应用程序。

扎克伯格表示:“每天都会发送数以亿计的表情来表达聊天内容。每次聊天都是不同的人,人们想表达的表情也有微妙的不同,但现在我们只有固定数量的表情。有有了Emu,你就可以轻松输入想要的东西了。」

具体来说,想要使用这个功能,用户可以在文本框中输入想要看到的图片:

Meta 表示,生成多个即时分享选项平均需要三个配置。

另外,Meta 还即将在 Instagram 应用程序中推出「图片编辑」功能。用户可以改造自己的图片,或与朋友共同创建 AI 生成的图片,同样由 Emu 的技术提供支持。

以「风格选项」(Restyle)为例,通过输入「风景」详细的提示词,用户可以改造图片的景观风格:

现场,扎克伯格演示了对自己的狗狗「野兽」照片的编辑,将其变成了折纸和十字绣的风格:

再比如,利用「背景」(Backdrop)选项,用户可以通过提示词来改变图像的场景或背景:

在最新发表的论文中,Meta 也介绍了 Emu 背后的技术细节:

论文地址:https://ai.meta.com/research/publications/emu-enhancing-image- Generation-models-using-photogenic-needles-in-a-haystack/

具体来说,元数据在11亿的训练文本上预制了一个潜在的扩散模型(LDM),并在从大量图像语料库中手工打造出的几千张高质量图像上对模型进行了质量调整。图像则选择具有独特性和文化依赖性的标准。元在此过程中遵循了一些常见的摄影原则,包括但不限于构图、照明、色彩、有效分辨率、焦点和故事性。

通过对扩散潜在架构进行一些优化,Meta建立了一个强大的预训练模型,并通过质量调整最大限度地提高了生成图像的视觉吸引力,也就是说Emu。在视觉吸引力方面,Emu的表现明显优于当前的开源SOTA模型SDXL v1.0,如下图所示。

另外,Meta还验证了质量调整是一种通用方法,对像素扩散和遮光罩生成Transformer模型同样有效。

Meta AI 接入微软必应网络搜索

我们知道,自AI大模型火爆以来,OpenAI与微软的合作可谓是迅速、严密全面,从搜索引擎到办公软件,不一而足。

此次,Meta也寻求自身与微软的进一步合作,在Meta AI聊天体验中接入了微软必应的网络搜索。7月,Meta和微软就曾宣布在Windows和Azure上支持Llama2系列大语言模型。

微软首席执行官纳德拉分享了微软与 Meta 合作的消息

微软副兼总裁消费者首席营销官 Yusuf Mehdi 介绍了双方的合作。他表示,微软与 Meta 合作,必将集成到 Meta AI 的聊天体验中,通过访问实时搜索信息来提供更即时、最新的答案。我们来看扎克伯格在现场的演示。

除了 Meta AI 聊天机器人,还必须集成到 Meta 的其他产品,比如在 WhatsApp、Messenger 和 Instagram 中发送消息。

双方的合作将加速AI时代的创新,未来将持续拓展合作关系,为人们常用的产品提供更强大、好用的AI体验。

对于 Meta 与微软的合作,有网友做了一些有趣的梗图,比如「杀死 OpenAI」。

你觉得小扎这波稳定了吗?

参考链接:

https://about.fb.com/news/2023/09/introducing-ai-powered-assistants-characters-and-creative-tools/

https://searchengineland.com/meta-ai-assistant-uses-microsoft-bing-search-results-432565

0000
评论列表
共(0)条