英伟达推出 AI 领域顶尖新芯片 HGX H200:以更高性能满足生成式 AI 需求
英伟达公司当地时间周一宣布,推出其 AI 工作的新一代顶级芯片 —— HGX H200。该新 GPU 在其广受欢迎的前代产品 H100 的基础上,实现了1.4 倍的内存带宽提升和 1.8 倍的内存容量增加,大幅提高了其处理密集型生成 AI 工作的能力。

然而,目前市场对于这些新芯片的可获得性仍存疑问,尤其是考虑到 H100 的供应限制。英伟达尚未就此问题提供明确答复。英伟达公司表示,首批 H200 芯片将于 2024 年第二季度发布,目前正与「全球系统制造商和云服务提供商」合作以确保芯片的可用性。英伟达发言人 Kristin Uchiyama 对生产数量不予置评。
除了内存之外,H200 在其他方面与 H100 大体相同。但内存的改进使其成为了一次有意义的升级。这款新 GPU 是首个使用新型、更快的 HBM3e 内存规格,将其内存带宽提高至每秒 4.8TB,相较于 H100 的 3.35TB 有显著提升,总内存容量也从 80GB 增至 141GB。
英伟达高性能计算产品副总裁 Ian Buck 在今天的视频演示中表示:「更快更大容量的 HBM 内存的整合,旨在加速包括生成 AI 模型和高性能计算应用在内的计算密集型任务的性能,同时优化 GPU 的利用率和效率。」
H200 还设计为与已支持 H100 的系统兼容。英伟达表示,云服务提供商在加入 H200 时无需进行任何改动。亚马逊、谷歌、微软和甲骨文的云服务部门将是明年首批提供新 GPU 的公司之一。
新芯片一经推出,定将售价不菲。虽然英伟达未公布其价格,但据 CNBC 报道,上一代 H100 的估计售价在每颗 25000 至 40000 美元之间,运行顶级水平的系统需要数千颗。Uchiyama 表示,定价由英伟达的合作伙伴决定。
随着 AI 公司仍然迫切寻找 H100 芯片,英伟达的这一公告具有重要意义。英伟达的芯片被视为高效处理生成图像工具和大型语言模型所需巨量数据的最佳选择。这些芯片足够珍贵,以至于有公司使用它们作为贷款的抵押。谁拥有 H100 成为硅谷的热门话题,初创公司甚至合作共享这些芯片的任何可用性。
Uchiyama 表示,H200 的推出不会影响 H100 的生产。「你将看到我们在今年增加整体供应,并且我们正在长期供应购买,」Uchiyama 在发给 The Verge 的电子邮件中写道。
展望明年,对于 GPU 买家来说或许是更加吉利的时期。英国《金融时报》今年 8 月报道称,英伟达计划在 2024 年将 H100 的产量增加三倍。目标是明年生产多达 200 万颗,相比之下 2023 年约为 50 万颗。但随着生成式 AI 的需求如今仍与年初一样旺盛,需求可能只会更大——这还不包括英伟达推出的更热门新芯片。
广州:鼓励民营企业积极参与人工智能应用场景建设
广州发改委发布广州市促进民营经济发展壮大的若干措施。其中提到,打造和开放创新应用场景。聚焦应用场景示范,鼓励民营企业积极参与人工智能应用场景建设。在智能制造、智慧城市、智慧交通、智慧教育、智慧医疗等多个领域加大应用场景开放力度,支持民营企业参与应用场景设计与建设,促进人工智能与其他产业链的融合和赋能。依托行业专业机构牵头组织人工智能企业产业场景应用对接,加快产品产业转化。站长网2023-08-02 16:50:010000英伟达人工智能概念驱动股价飙升 市盈率是特斯拉的三倍
站长之家(ChinaZ.com)8月14日消息:在去年科技股市场暴跌后,所有科技行业的知名公司都在2023年实现了反弹。但有一家公司远远胜过其他所有公司,那就是英伟达。站长网2023-08-14 09:07:220000斯坦福大学:大模型“卷”错方向了?上下文窗口越长,模型越笨
在语言模型中,上下文窗口对于理解和生成与特定上下文相关的文本至关重要。一般而言较大的上下文窗口可以提供更丰富的语义信息、消除歧义。由于硬件和算法的最新进步,大模型的上下文窗口的长度也越来越“卷”。其中的卷王当属Anthropic公司,其五月份就将Claude的上下文窗口从9ktoken扩展到了100k。最近更新的Claude2更是让其100K的上下文能力“常驻”模型。站长网2023-07-28 14:05:130000苹果 iPhone 15 选择直观的人工智能应用 而非生成式 AI
站长之家(ChinaZ.com)9月14日消息:2023年技术产品的推出已经变得可预测:现在所有产品都配备了生成式人工智能功能,可以提供健谈且知识渊博的文本或惊人的图像。本周iPhone15的发布显示出苹果选择了「不同的思考」(ThinkDifferent非同凡想)。站长网2023-09-14 19:43:060000《银河文明IV:超新星》通过 AlienGPT 技术将 ChatGPT 集成到游戏中
众所周知,游戏行业已开始探索使用人工智能的途径。目前,我们看到这一技术推动的新迭代,如银河文明IV:超新星版将把ChatGPT集成到其游戏,让玩家可以通过AI创建知识、对话对话以及更多方面。这项技术被称为AlienGPT,现在就可以使用。Steam游戏截图站长网2023-05-02 09:38:150001