登陆注册
20082

英伟达发布最强AI加速卡 大语言模型性能比H100提升30倍

站长网2024-03-19 11:58:270

英伟达在 GTC 开发者大会上发布了最强 AI 加速卡 Blackwell GB200,计划今年晚些时候发货。

GB200采用新一代 AI 图形处理器架构 Blackwell,其 AI 性能可达20petaflops,比之前的 H100提升了5倍。每个 Blackwell Die 的浮点运算能力比 Hopper Die 高出25%,每个封装中有两个 Blackwell 芯片,总性能提高了2.5倍。

GB200包含两个 B200Blackwell GPU 和一个基于 Arm 的 Grace CPU,推理大语言模型性能比 H100提升30倍,成本和能耗降低至25分之一。

NVIDIA 表示,2000个 Blackwell GPU 就能完成之前需要8000个 Hopper GPU 和15兆瓦电力的训练任务。英伟达还提供了 GB200NVL72服务器,提供了36个 CPU 和72个 Blackwell GPU,并实现了720petaflops 的 AI 训练性能或1.4exaflops 的推理性能。

英伟达的系统还可扩展至数万 GB200超级芯片,具有11.5exaflops 的 FP4计算能力。

0000
评论列表
共(0)条