英伟达 H100 GPU 现已对亚马逊 AWS 云服务用户开放
站长网2023-07-30 10:21:540阅
据英伟达官方网站公告,亚马逊云现已正式推出由英伟达 H100Tensor Core GPU 驱动的全新 Amazon Elastic Compute Cloud(EC2)P5实例。
新的 EC2P5实例使用户能够通过浏览器轻松扩展生成式 AI、高性能计算(HPC)和其他应用。
据了解, H100GPU 的一个重要特点是其对 Transformer 的优化,这是许多最新的先进 AI 应用所使用的关键技术,确保 H100在这些应用中提供更高的性能和效率。
尽管亚马逊 AWS 尚未公开承诺将 AMD MI300芯片集成到其云服务中,但亚马逊弹性计算云副总裁 Dave Brown 确认 AWS 正在积极考虑这一方案。
英伟达表示,开发人员和研究人员几乎每天都在利用大型语言模型(LLMs)探索 AI 的新应用,而将这些新用例推向市场需要加速计算效率。
通过架构创新,NVIDIA H100GPU 提供了超级计算级别的性能,包括第四代 Tensor Cores、用于加速 LLMs 的新 Transformer 引擎以及最新的 NVLink 技术,可提供出色的性能。
据悉,EC2P5实例非常适合训练和运行复杂的 LLMs 和计算机视觉模型推理。这些神经网络驱动着最复杂和计算密集型的生成式人工智能应用程序,例如问答、代码生成、视频和图像生成以及语音识别等。
0000
评论列表
共(0)条相关推荐
Polycam推出大更新:用户可以根据自己的想法修改3D模型
Polycam是一款创新的应用,它允许用户在手机上捕捉和编辑Splat,这是一种3D模型。现在,Polycam推出了一项重大更新,用户可以在网页和移动端进行高斯Splat编辑。体验地址:https://poly.cam/tools/gaussian-splatting站长网2024-03-15 12:04:530000WPS移动端APP上线WPS AI能力 包括AI读写、问答总结等功能
WPS宣布在移动端上线了WPSAI能力,让手机创作变得更加轻松。只需动动手指或发段语音,告诉它你想创作的方向,文章即可马上写好。对于阅读长文档的不便,WPSAI可快速提炼重点,并支持语音发起提问(支持Doc、PDF等文档格式)。站长网2023-08-03 09:04:260000美国司法部指控谷歌利用市场地位排挤竞争对手
站长之家(ChinaZ.com)9月18日消息:据国外媒体报道,美国政府起诉谷歌反垄断案,已于本周一在华盛顿哥伦比亚特区正式开庭。这被视为是近年来规模最大的科技公司反垄断官司之一。美国司法部指控谷歌利用其在搜索引擎市场的主导地位,通过一系列不公平交易巩固自身地位,包括向苹果公司和Mozilla浏览器支付费用以成为默认搜索引擎。司法部认为,这使得搜索引擎市场陷入停滞,排挤了竞争对手。站长网2023-09-18 11:22:380000英特尔在 Meteor Lake 中对 AI 的关注或将为行业注入新的活力
随着英特尔「MeteorLake」平台的发布,业界再次掀起一阵风暴,新平台采用了基于chiplet-based的设计,并专门用于人工智能(AI)应用的神经网络处理单元(NPU),这不仅仅是一次代际升级,更是英特尔引领计算新纪元的有力一步,它有望为近年来处于停滞状态的PC行业注入新的活力,而人工智能将成为这一切的核心。引领风潮的人工智能站长网2023-10-24 21:25:090000