登陆注册
13489

亚马逊宣布推出新的人工智能芯片「Trainium2」,深化与英伟达的合作关系

站长网2023-11-29 10:48:340

亚马逊的云计算部门 AWS 宣布推出新的芯片,供客户构建和运行人工智能应用程序,同时计划提供对 Nvidia 最新芯片的访问。

亚马逊 AWS 服务致力于作为云提供商脱颖而出,提供多种成本效益高的选项。它不仅销售廉价的亚马逊品牌产品。与其在线零售市场一样,亚马逊的云服务还将提供其他供应商的顶级产品,包括来自顶级 AI 芯片制造商 Nvidia 的备受追捧的 GPU。

自从创业公司 OpenAI 去年发布其 ChatGPT 聊天机器人以来,对 Nvidia GPU 的需求激增,该机器人以总结信息和撰写类似人类的文本的能力惊艳了人们。这导致 Nvidia 芯片短缺,因为公司争相将类似的生成式 AI 技术纳入其产品中。

亚马逊的双管齐下策略,即建造自己的芯片并让客户访问 Nvidia 的最新芯片,可能会帮助它对抗其最大的云计算竞争对手微软。本月早些时候,微软采取了类似的方法,公布了其首款 AI 芯片 Maia 100,并表示 Azure 云将配备 Nvidia H200 GPU。

这一消息是在周二拉斯维加斯的 Reinvent 大会上宣布的。具体来说,AWS 表示将提供对 Nvidia 最新 H200 AI 图形处理单元的访问。它还宣布了新的 Trainium2 人工智能芯片和通用 Graviton4 处理器

新的 Nvidia GPU 是从 H100 升级而来,OpenAI 用它来训练其最先进的大型语言模型 GPT-4。大公司、初创企业和政府机构都在争夺有限的芯片供应,这意味着像亚马逊这样的云提供商出租芯片的需求也很高。Nvidia 表示,H200 将产生的输出速度几乎是 H100 的两倍。

亚马逊自己的 Trainium2 芯片是为训练 AI 模型而设计的,包括 OpenAI 的 ChatGPT 及其竞争对手运行的那种 AI 聊天机器人。初创公司 Databricks 和亚马逊支持的 Anthropic(OpenAI 的竞争对手)计划使用新的 Trainium2 芯片构建模型,亚马逊表示,这将使性能比原始型号提高四倍。

Graviton4 处理器基于 Arm 架构,比英特尔或 AMD 的芯片节能。Graviton4 承诺比现有的 Graviton3 芯片性能提高 30%,AWS 表示这将使输出与价格更匹配。由于通货膨胀高于平时,中央银行提高了利率。希望继续使用 AWS 但降低云账单以更好应对经济的组织可能希望考虑转移到 Graviton。

亚马逊表示,已有超过 50,000 名 AWS 客户正在使用 Graviton 芯片

最后,作为与 Nvidia 关系加深的一部分,AWS 表示将运营超过 16,000 个 Nvidia GH200 Grace Hopper Superchips,

这些芯片包含 Nvidia GPU 和 Nvidia 基于 Arm 的通用处理器。Nvidia 自己的研发小组和 AWS 客户都将能够利用这一基础设施。

自 2006 年推出其 EC2 和 S3 用于计算和存储数据的服务以来,AWS 已经推出了 200 多种云产品。并非所有产品都成功。有些产品长时间没有更新,极少数产品被停产,使亚马逊可以重新分配资源。然而,公司继续投资于 Graviton 和 Trainium 项目,这表明亚马逊感知到了需求。

AWS 尚未宣布带有 Nvidia H200 芯片的虚拟机实例的发布日期,也没有宣布依赖其 Trainium2 芯片的实例。客户现在可以开始测试 Graviton4 虚拟机实例,然后再在未来几个月内投入商业使用。

0000
评论列表
共(0)条