英伟达发布新一代AI处理器H200 性能较H100提高60%至90%
站长网2023-11-14 09:09:550阅
昨日晚间,英伟达Nvidia 推出了 H200,这是一款专为训练和部署生成式人工智能模型的图形处理单元(GPU)。

它基于 NVIDIA Hopper 架构,具有先进的内存和处理能力,可处理海量的数据用于生成式 AI 和高性能计算工作负载。
H200是第一款具有 HBM3e 内存的 GPU,提供了141GB 的内存和4.8TB/s 的内存带宽,几乎是 NVIDIA H100Tensor Core GPU 容量的两倍,内存带宽也增加了1.4倍。
在 AI 领域,业务需要使用大型语言模型来满足各种推理需求。H200在处理类似 Llama2这样的大型语言模型时,相比 H100GPU 的推理速度提高了2倍。
对于高性能计算应用,内存带宽对于提高数据传输速度、减少处理瓶颈至关重要。H200的更高内存带宽确保高效地访问和操作数据,使得与 CPU 相比,处理时间快了110倍。

此外,H200的能效和总拥有成本也有所降低。这项前沿技术不仅提供了卓越的性能,而且功耗与 H100相同。
预计 H200将在2024年第二季度开始发货。
Nvidia 表示,H200将兼容 H100,这意味着已经在使用先前模型进行训练的人工智能公司无需更改其服务器系统或软件即可使用新版本。
0000
评论列表
共(0)条相关推荐
情绪价值是高转化爆量内容的流量密码!
情绪价值是高转化爆款短视频的核心密码,兴趣电商的另一种解读方式是传递情绪价值寻找情感认同,在我们可触及的传播链中,最容易引人转发和互动的视频,多数都利用了情绪价值。情绪价值的多面是喜怒哀乐,其A面是悲喜剧,这个链路我们不多讲;我们主要谈一下情绪视频的B面,寻求情感共鸣点,引发用户心理触动和微波心理冲击,促使用户自愿转发、点赞、评论、点击、成单的内容表现方式。站长网2023-07-22 07:07:170000微信文件传输助手是真人?官方回应:查无此人
最近,有关微信文件传输助手背后是真人的传闻在一些社交平台上热传,让很多人感到担忧,毕竟涉及一些个人隐私信息。对此,腾讯微信团队在6月27日做出回应:很抱歉,查无此人。“你发给‘文件传输助手’的小秘密,只有你自己知道。”2021年12月,微信上线仅文件传输功能,无需登录电脑版微信就可以直接传输文件。站长网2023-06-28 18:40:020000美食账号月销万单,7大类型揭晓
各位村民好,我是村长。美食是抖音最容易做的账号,也是最难做的账号。很多人都想去做美食账号,毕竟民以食为天,食品的受众如此之广,消费如此高频。今天村长就来和大家聊一聊,关于食品大类,有哪些方向可以切入的。备注:这里先解释一下,我这里的美食包含了线上线下,也包含了餐饮、零食等产品。01食谱教学号这是做美食账号的同学,最先容易想到的。站长网2023-05-09 09:03:260000没有人比米哈游更懂垃圾桶
4月的尾声属于《崩坏:星穹铁道》。2023年4月26日,来自米哈游的旗舰新作《崩坏:星穹铁道》正式公测。上线前《星穹铁道》就曾以空前热度登上热搜,官方预约量破2000万,海外预约量超1000万。开放预下载之后,它一口气在100多个国家和地区登上AppStore免费游戏榜榜首。站长网2023-05-12 20:40:330001必应聊天Bing Chat每轮会话已最多支持30次交流
据微软官方宣布,必应聊天(BingChat)的限制已经进一步放宽,每轮会话最多支持30次交流,而且用户每天最多可进行300次聊天交流。微软推出的必应聊天(BingChat)是一款基于人工智能的搜索引擎聊天模式,用户可以通过自然语言与必应搜索交流,获取信息、娱乐和创意内容。必应聊天的目标是为用户提供更加人性化、有趣和高效的搜索体验。站长网2023-06-03 09:19:420000