登陆注册
6783

亚马逊Amazon EC2 P5 实例正式可用 可将训练时间缩减6倍

站长网2023-07-31 21:54:530

亚马逊云科技近日在纽约峰会上宣布 Amazon Elastic Compute Cloud(EC2)P5实例正式可用。这是一款下一代 GPU 实例,由最新的英伟达 H100Tensor Core GPU 提供支持,可以满足客户在运行人工智能、机器学习和高性能计算工作负载时对高性能和高扩展性的需求。

与上一代基于 GPU 的实例相比,Amazon EC2P5实例可以将训练时间缩减6倍(从几天缩短到几小时),从而帮助客户节省高达40%的训练成本。

Amazon EC2P5实例提供8个英伟达 H100Tensor Core GPU,具有640GB 高带宽 GPU 内存,同时提供第三代 AMD EPYC 处理器、2TB 系统内存和30TB 本地 NVMe 存储。Amazon EC2P5实例还提供3200Gbps 的聚合网络带宽并支持 GPUDirect RDMA,从而能够绕过 CPU 进行节点间通信,实现更低的延迟和高效的横向扩展性能。

Amazon EC2P5实例现已在以下区域正式可用:美国东部(北弗吉尼亚)和美国西部(俄勒冈)。

0000
评论列表
共(0)条