Nucleus AI发布22亿参数大模型,致力农业领域的AI转型
文章概要:
1. 加利福尼亚初创公司Nucleus AI发布了22B参数的大规模语言模型,计划用于农业领域的AI转型。
2. 该模型可在开源和商业许可下使用,性能优越,可用于不同生成任务。
3. 公司的远景是构建智能农业操作系统,以优化供需关系,解决农业领域的挑战。
加利福尼亚的初创公司Nucleus AI,汇聚了来自亚马逊和三星研究的人才,近日以一款强大的22亿参数大规模语言模型(LLM)正式亮相。这个模型可在开源MIT许可和商业许可下使用,它具有通用性,位于13B和34B模型之间,可以进行不同生成任务和产品的微调。Nucleus表示,这一模型在性能上胜过了相似规模的其他模型,最终将有助于实现公司将AI用于改变农业的目标。
Nucleus AI的首席执行官Gnandeep Moturi表示:“我们首先推出了我们的220亿模型,这是一个变换器模型。然后,大约在两周内,我们将发布我们的最新RetNet模型,这将在成本和推断速度方面带来显著的好处。”
图源备注:图片由AI生成,图片授权服务商Midjourney
Nucleus开始在大约三个半月前对22B模型进行训练,之后收到了一位早期投资者提供的计算资源。公司利用现有研究和开源社区的资源,对这个LLM模型进行了预训练,上下文长度为2048个标记,最终对它进行了万亿级的数据训练,包括从网络、维基百科、Stack Exchange、arXiv和代码中获取的大规模去重和清理信息。这为模型提供了丰富的知识库,涵盖了从一般信息到学术研究和编程见解的内容。
接下来,Nucleus计划发布更多版本的22B模型,它们分别在3500亿和7000亿标记的数据上进行了训练,还有两个RetNet模型,参数分别为30亿和110亿,它们在更大的上下文长度(4096个标记)上进行了预训练。这些较小规模的模型将融合了循环神经网络(RNN)和变换器神经网络架构的优点,将在速度和成本方面实现巨大的提升。在内部实验中,这些模型被发现要快15倍,仅需相似变换器模型通常要求的四分之一GPU内存。
然而,与其他LLM公司OpenAI、Anthropic和Cohere不同,Nucleus AI并没有将其模型仅限于企业应用。公司的远景是利用AI构建一个智能农业操作系统,旨在优化供需关系并减少农民面临的不确定性。Moturi解释道:“我们有一个类似市场的想法,需求和供应将被高度优化,就像Uber为出租车司机所做的那样。”这一举措将有助于解决农民面临的多个挑战,从气候变化和知识不足到供应的优化和分销的维护。
总的来说,Nucleus AI计划在农业领域推出创新性的解决方案,而不仅仅是构建对话机器人。尽管有挑战,但他们有信心通过在开源社区的贡献,将语言模型作为市场的核心,实现他们的愿景。有关面向农业的智能操作系统和RetNet模型的更多细节将在本月晚些时候公布。VentureBeat的使命是成为技术决策者获取有关变革性企业技术的知识和进行交易的数字城镇广场。
Midjourney 升级 GPU 集群 提高图片生成速度
Midjourney今天宣布进行了GPU集群的升级。升级后,Pro和Mega级别的订阅用户将获得1.5倍的加速效果,图片生成时间将从约50秒缩短到30秒左右。此外,渲染的成本也将随之降低。站长网2023-08-11 16:35:460000蔚来全系车型降价3万元 调整起售价及新车主权益
蔚来宣布,全系车型起售价减3万元;新购车首任车主用车权益调整为整车6年或15万公里质保等;免费换电补能不再作为标准用车权益,新用户可灵活选择在家充电或到充换电站付费补能,蔚来此后将推出灵活的充换电服务套餐。已经提车的用户,包括终身免费换电在内的首任车主用车权益保持不变;在购买蔚来新车时,用户可选择将原车的用车权益转移到新车,或者选择放弃其用车权益从而抵扣3万元-5万元的购车款。站长网2023-06-12 17:12:560000科大讯飞公布星火认知大模型使用报告:男性用户占比约达82%
科大讯飞公布了讯飞星火认知大模型上线100多天的数据。数据显示,男性用户在该模型中的使用比例明显高于女性用户,男女比例为82%比18%。从年龄分布上看,中青年用户是星火大模型的主要使用者。用户分布方面,一线城市新一线城市的用户占比超过52%,其中广东占比最高,达到16%,北京和安徽分别占比8%和7%。站长网2023-08-21 22:16:490001用2D图像补全3D场景,谷歌发布NeRFiller
在许多3D场景捕获中,由于网格重建失败或者缺乏观测,例如,物体接触区域或难以触及的区域,场景中的某些部分经常会出现缺失的情况。谷歌和加州大学伯克利分校的研究人员提出了NeRFiller框架,可通过2D图像来修复残缺的3D场景,同时发现当图像形成2x2网格时,会生成更多3D一致性的修复效果。站长网2023-12-15 09:14:580000腾讯宣布:股票回购规模将疯狂扩大 2024年至少1000亿港元
快科技3月20日消息,腾讯公司在过去一年一直在大举回购股票,而在2024年,这一举动将更为激烈。根据腾讯控股发布的2023年全年财报,他们计划将股份回购规模至少翻倍,从2023年的490亿港元增加到2024年的超过1000亿港元。财报显示,腾讯在2023年回购了1.52亿股股票,总耗资达到494.3亿港元,仅去年12月就投入了100亿港元用于回购。站长网2024-03-20 18:07:080000