MLPerf放榜!AI芯片公司墨芯人工智能再夺MLPerf大模型推理三项冠军
站长网2023-09-15 09:32:080阅
要点:
MLPerf公布最新GPT大模型推理测试结果,墨芯人工智能S30计算卡单卡、4卡、8卡的算力均获得第一。
墨芯通过独创的双稀疏算法与硬件协同设计,在GPT-J大模型上取得1.8倍于英伟达H100的性能优势。
墨芯的成绩证明,稀疏计算是大模型时代算力发展的关键,可根本解决大模型参数增长与算力瓶颈的矛盾。
最新MLPerf推理测试结果公布,墨芯人工智能再次夺冠,其S30计算卡在GPT-J大模型的单卡、4卡、8卡推理性能均位居第一。此前墨芯已在MLPerf上连续两届夺冠。
在60亿参数GPT-J模型上,墨芯通过独创的双稀疏算法与硬件协同设计,实现了高达1.8倍于4nm制程英伟达H100的性能优势。
墨芯的成绩证明,稀疏计算技术是大模型时代的关键,可减少模型计算量,缓解算力需求激增、功耗过大等痛点,为大模型在参数量层面取得飞跃提供可能。墨芯已推出支持多种大模型的AI计算平台,性能高、效率优。
业界认为,墨芯等稀疏计算创新,将引领大模型应用深入各行各业。MLPerf成绩是对墨芯产品实力的肯定,也印证稀疏计算将助力大模型算力实现根本性变革。
0000
评论列表
共(0)条相关推荐
谷歌突失Hinton!深度学习之父警告AI风险,对毕生工作表示遗憾
BreakingNews!深度学习三巨头、神经网络之父GeoffreyHinton已离职谷歌,结束十载生涯。最新推文中透露了原因:为了自由地讨论人工智能的风险。消息一出,整个科技圈炸了,人们震惊于AI已经让Hinton感到害怕了。有网友直接懵住:到底发生了什么?还是我漏掉了什么?你不是曾说过GPT-4为人类的蝴蝶吗?站长网2023-05-02 10:18:460001雷军:小米汽车超级工厂正式揭幕
小米创办人雷军刚刚发文称,今天是个特别的日子,小米汽车超级工厂正式揭幕。这次董事会选择在小米汽车工厂召开,董事们参观了工厂,并试驾了小米SU7。据悉,小米SU7将于3月28日正式上市,并且一上市即可交付。站长网2024-03-19 21:47:270000Canalys报告:到2027年,超过60%出货的PC将是AI PC
**划重点:**-💻Canalys研究揭示,AIPC(具备AI功能的个人电脑)将在未来三到五年内占据PC市场超过60%的份额,带来巨大机遇和挑战。-🚀头部PC厂商,包括戴尔、惠普和联想,计划在2024年开始推出一系列AI加速的新机型,助力用户实现更出色的体验。-🧠英特尔、AMD、Apple和高通等芯片厂商正在努力将专用的AI加速块整合到CPU中,推动端侧AI性能提升。站长网2024-01-09 09:43:550001600万粉丝的三农账号,解散了。
各位村民好,我是村长。最近看到好几个500、600万的三农自媒体账号解散,甚至连1200多万粉丝的账号念乡人周周也宣布停更。其中最为重要的原因就是因为不赚钱还持续亏损,最终宣布解散了。三农的赛道我一直比较关注,因为我也曾经回过农村想尝试做三农类型的自媒体。毕竟许多人都有深厚的三农情节,而且随着城市生活压力的增大,农村生活类的短视频既解压也治愈。0000Midjourney修改服务条款,信心十足迎接版权诉讼?
据外媒报道,人工智能图像生成器Midjourney上周悄悄修改了其服务条款,用更正式的律师语言取代了之前夹杂幽默的用词。这一变动被视为Midjourney坚信自己在与创作者的潜在版权官司中能获胜的信号。图源备注:图片由AI生成,图片授权服务商Midjourney站长网2024-03-18 15:00:550000