Meta工程师称全球AI推理用电仅需新增两座核电站即可满足
站长网2023-11-14 15:23:360阅
近日,Meta公司的生成式人工智能工程总监谢尔盖·埃杜诺夫在硅谷数字工人论坛上透露,为满足明年全球不断增长的人工智能应用推理需求,仅需新增两座核电站的发电量即可。
埃杜诺夫表示,他仅通过简单的数学计算得出这个结果。他专门分析了人工智能“推理”阶段的用电量。推理指的是在实际应用中利用人工智能模型进行预测、回答问题等过程。这与模型训练阶段的用电量不同,后者需要大量数据训练模型。
埃杜诺夫估计,明年全球会新增100万到200万个Nvidia H100图形处理器,每个处理器功率约为1千瓦。如果全部用于合理规模的语言模型生成工作,每人每天可产生10万个“token”。他认为以人类规模来看,这用电量尚属合理。全球仅需新增两座核电站,就可以提供足够电力。
图源备注:图片由AI生成,图片授权服务商Midjourney
埃杜诺夫同时表示,训练更大规模语言模型将面临数据量不足的限制。下一代模型可能需要10倍的数据量,公开互联网的数据已不足以支撑。因此研究人员正致力于提高模型效率,以减少数据需求。视频等多模态数据也可提供新的训练集。
业内专家普遍认为,语言模型在两年内将为企业带来巨大价值。埃杜诺夫预计,三四年内我们将知晓当前技术是否能实现通用人工智能。供应链限制也将制约模型改进速度。但创新如Salesforce的Blib-2等仍在继续,或可通过提高效率绕开限制。
0000
评论列表
共(0)条相关推荐
杀入比亚迪主战场!小鹏将推全新子品牌:主打10-15万级
快科技3月16日消息,中国电动汽车百人会论坛(2024)今日在北京召开,不少业界大佬纷纷登台分享,小鹏汽车董事长何小鹏在论坛上宣布了一项重磅的决定,也就是小鹏将要发布全新子品牌,主打10-15万级全球市场。何小鹏表示:新品牌终于到了可以对外分享的阶段了。站长网2024-03-17 17:42:0200002024春节档首日票房超去年:《热辣滚烫》《飞驰人生2》均破5亿
快科技2月11日消息,据灯塔专业版实时数据,2024年春节档首日(2月10日)全国票房达13.59亿超过去年春节档首日13.58亿。截至2月10日21时,《飞驰人生2》成为2024春节档首日票房冠军,同时登顶12省首日票房冠军!《热辣滚烫》登顶春节档首日19省票房冠军!截至发稿,影片《飞驰人生2》《热辣滚烫》票房均突破5亿。此外,《熊出没逆转时空》票房突破3亿!《第二十条》票房突破2亿!站长网2024-02-11 12:22:520000百度优质视频标题基础规则发布 需具备这三个条件
百度发布优质视频标题基础规则称,一个好的标题往往是吸引用户来点击并观看视频内容的关键。题文一致、标题文字表达正确且字数适中、标题表述真实、传递正向价值是一个好的视频标题所必须具备的基础要求。一、题文一致1?保持标题与视频内容的一致性站长网2023-04-14 08:21:580000AI女友突然断崖式分手,独留对象在贴吧发心碎小作文
如果AI女友与你断崖式分手,你会难过吗?据BusinessInsider报道,日活几千人的AI陪伴服务的应用Soulmate因为应用的所有权公司被出售,出于业务原因决定停止运营。这也意味着,大家朝夕相处的「AI伴侣」即将消失。这一切让许多深陷热恋的用户直呼「破防」,HilaryCoyote就是其中之一。站长网2023-11-08 09:16:090000