AMD 推出「生成式 AI 加速器」 MI300x AI 芯片以挑战英伟达的主导地位
AMD 宣布其最先进的人工智能图形处理器(GPU)MI300X 将于今年晚些时候开始向部分客户发货。根据分析师的说法,这一宣布对英伟达构成了最强有力的挑战,英伟达目前在 AI 芯片市场上占据了超过 80% 的市场份额。
图片来自 AMD
GPU 是由 OpenAI 等公司用于构建先进的 AI 程序(如 ChatGPT)的芯片。如果开发人员和服务器制造商将 AMD 所称的「加速器」作为英伟达产品的替代品采用,这可能为该芯片制造商开辟一个巨大的未开发市场,该公司以其传统的计算机处理器而闻名。
AMD 首席执行官苏姿丰在周二的旧金山投资者和分析师会议上表示,AI 是该公司「最大且最具战略性的长期增长机会」。苏姿丰表示:「我们预计数据中心的 AI 加速器市场从今年的约 300 亿美元,以超过 50% 的复合年增长率增长到 2027 年的 1500 亿美元以上。」
虽然 AMD 没有透露价格,但此举可能对英伟达的 GPU 施加价格压力,例如 H100 型号的 GPU 可能售价高达 30,000 美元或更高。较低的 GPU 价格可能有助于降低提供生成 AI 应用的高成本。
AI 芯片是半导体行业的亮点之一,而传统驱动半导体处理器销售的个人电脑销售却下滑。
上个月,AMD 首席执行官苏姿丰在财报电话会议上表示,尽管 MI300X 将在今年秋季提供样品,但明年将开始大规模出货。苏姿丰在周二的演讲中分享了有关芯片的更多细节,她说:「我喜欢这颗芯片。」
MI300X 芯片和其 CDNA 架构专为大型语言模型和其他先进 AI 模型而设计。苏姿丰表示:「其核心是 GPU。GPU 正在推动生成 AI 的发展。」MI300X 最多可以使用 192GB 的内存,这意味着它可以容纳比其他芯片更大的 AI 模型。例如,竞争对手英伟达的 H100 只支持 120GB 的内存。
生成 AI 应用的大型语言模型运行计算量越来越大,因此需要大量内存。AMD 演示了 MI300X 运行名为 Falcon 的 400 亿参数模型。OpenAI 的 GPT-3 模型有 1750 亿参数。苏姿丰指出:「模型的规模正在变得更大,实际上你需要多个 GPU 来运行最新的大型语言模型。」由于 AMD 芯片具有更多的内存,开发人员就不需要使用那么多的 GPUs 了。
AMD 还表示将提供一种名为 Infinity Architecture 的解决方案,将八个 M1300X 加速器组合在一个系统中。英伟达和 Google 也开发了类似的系统,将八个或更多的 GPU 组合在一个单独的盒子中用于 AI 应用。
过去,AI 开发人员通常更喜欢英伟达芯片,因为英伟达有一个完善的软件包称为 CUDA,可以让他们访问芯片的核心硬件功能。AMD 在周二表示,他们为自己的 AI 芯片开发了自己的软件,称为 ROCm。
AMD 总裁 Victor Peng 表示:「尽管这是一个过程,但我们在构建强大的软件堆栈方面取得了很大进展,该软件堆栈与开放的模型、库、框架和工具生态系统兼容。」
vivo副总裁:AI大模型投入无上限,人才成本平均税后100万元
据界面新闻报道,vivo副总裁周围表示,vivo大模型现在每年20-30亿的投入成本,人才和设备各占一半,人才成本平均税后100万元。公司对大模型投入定义为高规格投入,目前没有设置上限。在今日的vivo开发者大会上,vivo正式发布自研通用大模型矩阵蓝心大模型。站长网2023-11-01 18:05:270000三星电子 4 纳米工艺代工良率超过 75%:高通和英伟达外包生产可能性增加
三星电子最近将其4纳米工艺的工艺良率(良品率)提高至75%以上,引发人们猜测其可能会扩大半导体代工(合同制造)的主要客户。7月11日,HiInvestment&Securities研究员ParkSang-wook在一份晶圆报告中表示:「三星电子最近成功提高了4纳米工艺的产能。」并且「高通和英伟达通过三星电子晶圆再次外包生产的可能性增加了。」站长网2023-07-13 23:56:270000云从科技将于5月18日发布大模型产品
据36氪消息,知情人士透露,云从科技将于5月18日发布其大模型产品。公司正全力投入行业大模型的研发,并将其引入人机协同操作系统(CWOS)。在具体产品规划上,云从科技将覆盖政府、企业和消费者三个方向,并将涉及各个领域,如金融、游戏、质量、交通、全域治理等。站长网2023-05-08 15:50:380000新品37期 | 滑动匹配、短视频回复、NPC交互,AI应用越走越宽
在上一期中,我们详细介绍了GhostAIWithFriends、Snack、Gemsouls和Iris等4款AI社交产品。这一期,我们将会介绍Hyper、Blush、Pheon、Replica等4款将AI在产品中实际落地的应用。Hyper:Avatar动捕声音=你的AI好友?站长网2023-08-15 09:22:580000人人都爱李子柒
最近抖音发布的一条“美好奇妙夜”推广视频中,出现了李子柒的画面,她身着一身白色的中式女装,在田园风光之间展现插花手艺。尽管露面的时间还不到五秒,却在全网引发了“李子柒复出”的热议。这不是李子柒在最近一段时间的第一次现身,2023年9月的农民丰收节,李子柒作为推广大使出现在了宣传片中。那次,她提到“未来会用自己的方式带来更多优质内容”。当时,一度传出过李子柒和快手签约的消息,后来被快手方面否认。站长网2023-10-11 18:13:040000