亚马逊 AWS 推出 Amazon EC2 Capacity Blocks 服务,为人工智能项目提供按需 Nvidia H100 GPU 资源
站长网2023-11-02 16:54:470阅
为了解决大型语言模型运行所需的 GPU 资源短缺问题,亚马逊 AWS 今日推出了 Amazon Elastic Compute Cloud (EC2) Capacity Blocks for ML 服务。该服务允许客户按照定义的时间购买 Nvidia H100 Tensor Core GPU 资源,用于执行特定的 AI 相关任务,如训练机器学习模型或运行现有模型的实验。
AWS 的 Channy Yun 在博客中写道:「这是一种创新的 GPU 实例调度方式,您可以预订未来日期所需的实例数量,仅按您需要的时间长度计费。」
客户可以按集群大小购买 1 至 64 个实例,每个实例含 8 个 GPU,并可预订最长 14 天的使用时间,最多可提前 8 周预订。预定时间结束后,实例将自动关闭。
这种新的购买方式让客户能够像预订酒店房间一样,预定一段时间内所需的实例数量。这种方式为客户提供了成本确定性,他们将清楚地知道任务的运行时长、需要使用的 GPU 数量以及前期的费用。
对于亚马逊来说,它们可以在类似拍卖的环境中投放这些炙手可热的资源,确保收入(前提是有客户购买)。资源的价格将根据供需关系动态变化。
用户在注册该服务时,系统会显示预定时间和资源的总成本。用户可以根据自己的资源需求和预算来调整这个数字,然后再决定是否购买。
该新功能从今天开始在 AWS 美国东部(俄亥俄州)区域提供。
0000
评论列表
共(0)条相关推荐
QQ空间迎来18周年生日 称新功能亲密空间即将上线
今日是QQ空间18周岁生日,QQ空间宣布,暑期即将上线新功能亲密空间,情侣、闺蜜、基友、死党,每对好友都有双人共享的小空间。据了解,QQ空间(Qzone)是腾讯在2005年6月6日上线的一个具有个性空间,具有博客(blog)功能的QQ附属产品,18年来一直是年轻人分享生活的精神属地。据腾讯财报显示,截至2023年第一季度,QQ移动终端月活5.97亿,同比增长6%。站长网2023-06-07 19:12:120000AI已经会“玩”手机了!腾讯开发AppAgent 可模仿人类在手机上操作APP
腾讯和德州大学达拉斯分校的研究团队合作开发了一个名为AppAgent的项目,该项目可以通过自主学习和模仿人类的点击和滑动手势,在手机上执行各种任务。这包括在社交媒体上发帖、帮助用户撰写和发送邮件、使用地图、在线购物,甚至进行复杂的图像编辑。AppAgent在50个任务上进行了广泛测试,涵盖了10种不同的应用程序。站长网2023-12-22 16:57:380003联手华为共同打造!中国电信发布超级智算平台:端到端自主可控
快科技11月12日消息,从人民邮电报官方公众号获悉,在2023广东数字经济发展论坛暨广东省制造业数字化转型论坛上,中国电信重磅发布了广东电信超级智算平台”。据介绍,该平台由中国电信联合华为共同打造,是当前全国最大的省级智算平台,同时也是端到端自主可控的智算平台。电信表示:通过坚持生态开放、使能伙伴的原则,聚合产业上下游伙伴,电信自主孵化与引入行业大模型结合,使能广东千行百业数智化转型。”站长网2023-11-12 15:21:230000天涯社区回应被申请破产:还在为重启做努力和准备
站长之家(ChinaZ.com)2月28日消息:近日,天涯社区网络科技股份有限公司新增一则破产审查案件,引发广泛关注。据悉,该案件申请人为张鑫,经办法院为海南省海口市中级人民法院。与此同时,天涯社区官网也显示“无法访问”,令众多网友感到惋惜。站长网2024-02-28 15:30:230000网易有道云笔记免费用户最多登2台设备 升级VIP可解锁限制
快科技6月20日消息,网易旗下的有道云笔记本今天发布通知,将调整免费用户的多设备登陆政策,最多同时可登陆2台设备。有道云表示,为了让广大用户更加便捷地管理个人帐号,实现多帐号的自由切换,会员功能帐号快速切换”后续将对免费用户开放使用。其次,约有97%的用户常用设备不超过2台,因此有道云笔记本将对免费用户同时登录设备数量进行限制。站长网2023-06-21 14:36:200000