亚马逊的 Trainium2 AI 芯片配备 96GB HBM,训练性能提高四倍
本周,亚马逊网络服务(AWS)推出了其新的人工智能(AI)加速器芯片 Trainium2,相比其前身,它显著提升了性能,使 AWS 能够训练具有高达数万亿参数的基础模型(FMs)和大型语言模型(LLMs)。此外,AWS 还为自己设定了一个宏伟目标,即使其客户能够为他们的工作负载访问高达 65 'AI' ExaFLOPS 的性能。
AWS Trainium2 是亚马逊第二代加速器,专为 FMs 和 LLMs 训练而设计。与原始 Trainium 相比,它的训练性能提高了四倍,每瓦性能提高了两倍,内存增加了三倍,总共为 96GB HBM。该芯片由亚马逊的 Annapurna Labs 设计,是一个多瓦片系统级封装,包含两个计算瓦片、四个 HBM 内存堆栈和两个目前用途未公开的芯片。
亚马逊并未披露 Trainium2 的具体性能数据,但表示其 Trn2 实例可以扩展到多达 100,000 个 Trainium2 芯片,以实现 AI 工作负载的低精度计算性能高达 65 ExaFLOPS。这意味着单个 Trainium2 加速器的性能约为 650 TFLOPS。65 EFLOPS 是预计只能在即将上市的高性能 AI 超级计算机,如 Jupiter 上实现的水平。这样的扩展应该会将 3000 亿参数大型语言模型的训练时间从数月缩短到数周。
亚马逊尚未披露 Trainium2 的完整规格,但如果它没有在原始 Trainium 已支持的基础上添加一些功能,我们会感到惊讶。需要提醒的是,该协处理器支持 FP32、TF32、BF16、FP16、UINT8 和可配置的 FP8 数据格式,并提供高达 190 TFLOPS 的 FP16/BF16 计算性能。
或许比单个 AWS Trainium2 加速器的纯性能数据更重要的是,亚马逊有合作伙伴,如 Anthropic,已准备好部署它。
Anthropic 的联合创始人 Tom Brown 表示:「我们正在与 AWS 紧密合作,使用 Trainium 芯片开发我们未来的基础模型。Trainium2 将帮助我们在非常大的规模上构建和训练模型,我们预计它将比第一代 Trainium 芯片在一些关键工作负载上至少快 4 倍。我们与 AWS 的合作将帮助各种规模的组织解锁新的可能性,因为它们使用 Anthropic 的最先进 AI 系统与 AWS 的安全可靠云技术结合。」
医学研究者发出紧急警告:AI生成大量健康虚假信息
**划重点:**1.🚨医学研究表明,生成式人工智能(GenerativeAI)可轻松制造大量健康虚假信息,引发社区关切。2.🌐通过使用GenerativeAI工具,研究团队在短短一小时内生成了超过100篇具有误导性的博客、20张欺骗性图片,以及一段令人信服的深度伪造视频,声称健康虚假信息。站长网2023-11-14 14:53:290000微软必应吸引近 15 亿用户使用 Bing AI:或再次占据市场主导地位
站长之家(ChinaZ.com)7月10日消息:BingAI是当今最受认可的人工智能工具之一,与ChatGPT的受欢迎程度不相上下。其多功能性和高效性对于增强教育机构、项目和生产力至关重要。最近,许多用户通过BingAI推动创意的边界,进行了引人入胜的创新实验,吸引了社区的关注。站长网2023-07-10 17:07:070001拿到全球千万下载后,AI图片App如何对抗“一波流体质”?| 对话创始人
前些日子,data.ai借着ChatGPT(2022年11月桌面端发布)上线一周年发布了一个榜单,罗列了自ChatGPT移动版本发布以来(2023年5月),全球下载量最高的10款AIGC应用。0000天猫精灵宣布“精灵大模型”已全面上线
天猫精灵“精灵大模型”现已全面上线,带来四大升级技能,包括开放域对话和AIGC创作功能的优化、解决就近唤醒问题以及支持音色切换。具体来说,天猫精灵的“精灵大模型”具有以下特点:全双工连续对话功能,让你随时打断,无需多次唤醒,带来无限畅聊体验。AIGC创作功能,让你通过AI灵感创作学富五车,作诗、故事共创都能行。开放域对话功能,让你随时随地与天猫精灵进行百科闲聊,享受懂你所想的陪伴。站长网2023-10-24 21:25:110001生成式AI NPC角色开发平台inworld.ai获5000万美元融资
8月3日,生成式AI平台inworld.ai在官网上宣布获得5000万美元(约3.5亿元)融资,估值达到5亿美元,由LightspeedVenture领投,斯坦福大学、LG风险投资、三星Next等跟投。站长网2023-08-04 09:03:370000