亚马逊推出搭载英伟达 H100 GPU 的新 Amazon EC2 P5 实例 助力 AI 训练与推理
站长之家(ChinaZ.com) 7月27日消息:AWS 用户现在可以访问 AI 训练和推理领域业界基准测试中展示的领先性能。
图片来自 NVIDIA
这家云计算巨头正式推出了由英伟达 H100 Tensor Core GPU 提供支持的新 Amazon EC2 P5 实例。该服务允许用户通过浏览器一键扩展生成式 AI、高性能计算(HPC)和其他应用程序。
据官方介绍,英伟达 H100 GPU 通过包括第四代 Tensor Cores、新的 Transformer 引擎用于加速 LLMs 以及最新的 NVLink 技术(可让 GPU 之间的通信速度达到 900GB/秒)等架构创新提供超级计算级别的性能。
Amazon EC2 P5 实例非常适合训练和运行日益复杂的 LLMs 和计算机视觉模型的推断。这些神经网络驱动着最具挑战性和计算密集型的生成式 AI 应用,包括问题回答、代码生成、视频和图像生成、语音识别等。
P5 实例可以部署在超大规模集群中,称为 EC2 UltraClusters,由高性能计算、网络和云存储组成。每个 EC2 UltraCluster 都是一台强大的超级计算机,使客户能够在多个系统上运行最复杂的 AI 训练和分布式 HPC 工作负载。
因此,客户可以在需要计算节点之间高水平通信的规模应用程序上运行 P5 实例。P5 实例采用由 AWS EFA 提供支持的 petabit 级非阻塞网络,为 Amazon EC2 实例提供 3,200 Gbps 的网络接口。
借助 P5 实例,机器学习应用程序可以使用 NVIDIA Collective Communications Library 来使用多达 20,000 个 H100 GPU。
英伟达 AI Enterprise 可帮助用户充分发挥 P5 实例的潜力,提供包括 100 多个框架、预训练模型、AI 工作流程和用于调整 AI 基础设施的工具在内的全套软件。
英伟达 AI Enterprise 旨在简化 AI 应用程序的开发和部署,解决构建和维护高性能、安全、云原生 AI 软件平台的复杂性。该软件可在 AWS Marketplace 上获得,提供持续的安全监控、定期修补常见漏洞、API 稳定性、企业支持以及访问英伟达 AI 专家的机会。
汤姆猫:“汤姆猫”IP已植入AI交互产品功能原型中
昨日晚间,汤姆猫发布2023年第一季度报告称,一季度实现营业收入3.41亿元,同比下降26.48%;归属于上市公司股东的净利润1.02亿元,同比下降44.01%;基本每股收益0.03元。站长网2023-04-25 08:24:520000百度搜索资源平台发布视频封面进阶要求
昨日,百度搜索资源平台发布了视频封面进阶要求,称创作者需要通过色彩的搭配,文字的排版设计等,展现封面制作的精良感和美感,第一时间抓住用户眼球,提升用户对内容的兴趣度。以下为具体规范:一,丰富画面信息量创作者可以有效利用文字的排版设计,在封面上加入文字,能够让用户了解视频的内容主体,增加文字的设计也会很大程度会更抓人眼球。站长网2023-05-12 09:23:500000Getty与Nvidia合作推文生图AI平台Generative AI by iStock
划重点:📸iStock的生成式AI:GettyImages和Nvidia合作推出GenerativeAIbyiStock,这是一款专门为制作库存照片而设计的文本到图像平台。💡面向小中型企业:该平台旨在帮助小中型企业更高效地获取所需的照片,提供个人或单用户的使用方案。站长网2024-01-09 15:32:210000沃尔玛宣布负责任的 AI 承诺:为采用道德人工智能设定标准
站长之家(ChinaZ.com)10月18日消息:沃尔玛(Walmart)于官网发布新闻稿,宣布了其负责任的人工智能承诺。沃尔玛表示,人工智能(AI)已经深入到其业务各个方面,从如何个性化和改善顾客、会员和员工的体验,到如何通过供应链获取库存等等。站长网2023-10-18 21:18:050000谷歌推出AI音乐创作工具“MusicFX”,几句话即可创作音乐
**划重点:**1.🚀MusicFX利用Google的MusicLM和DeepMind的SynthID技术,让用户通过几句话即可创作音乐,标志性的AI音乐创作工具。2.🛡️工具在保护原创艺术家声音和风格的同时,强调了负责任的AI创新,通过早期公众参与和隐私保护解决了潜在问题。站长网2023-12-14 10:24:380000