OpenAI CEO :参数数量不再是AI模型性能的唯一指标
站长网2023-04-17 16:22:080阅
OpenAI CEO Sam Altman 认为,专注于增加大型语言模型的参数数量不再有效,AI 模型的未来应该以效率和数据质量而不是单纯的参数数量来区分。
Altman 建议重点应该放在改进和扩展模型的能力上,未来可能的架构可能由几个较小的模型一起工作组成。

为什么重要:
近年来,对人工智能模型中参数数量的关注一直是衡量潜在进展的主要指标。然而,这种方法可能不再有用,重点应该转向改进和扩展 AI 模型的能力。
参数的数量可能会继续增长,但重点需要放在改进和扩展模型的能力上,而不是参数的数量上。
未来的人工智能模型应该以其效率和数据质量而不是参数的数量来区分。
评析:
OpenAI 一直公开其模型中的参数数量,但对于 GPT-4详细信息,该公司却没有透露,这表明转向关注能力而不是参数的数量。
Deepmind 的 Chinchilla、Aleph Alpha 的 Sparse Luminous Base 和 Meta 的 LLaMA 模型等模型表明,参数较少的语言模型可以通过更高效的架构或更多的数据训练来跟上更大的模型。
0000
评论列表
共(0)条相关推荐
被污名化太久!腾讯张立军:游戏推动芯片、AI等技术发展
快科技7月8日消息,腾讯公司副总裁、华东总部总经理张立军,在世界人工智能大会游戏AI应用与游戏科技论坛上为游戏正名。张立军表示,在过去半个多世纪里,游戏与前沿科技一直处于一种紧密的共生关系之中。站长网2023-07-10 00:07:320000吉比特:已开始实际应用AIGC技术 可提高游戏研发效率
吉比特在接受机构调研时表示,目前AI相关工具已经在实际工作中发挥了帮助作用。美术人员可以利用AI作画工具快速构造一些素材,然后根据素材进行创作;策划人员也可以使用AI作画工具快速构建原型,使美术人员更好地理解他们的意图,降低沟通成本。类似ChatGPT这样自然语言生成内容的工具也被应用于策划设计工作中,有效提高了生产效率。同时也在研究AI如何控制游戏角色,并探索其在产品中的实际应用。站长网2023-05-08 15:57:160000谷歌工程师警告说大型科技公司可能会在人工智能竞赛中输给开源技术
谷歌公司一位工程师警告称,该公司没有赢得人工智能竞赛的能力,可能会输给普遍可得的开源人工智能技术。站长网2023-05-06 12:06:380000GitHub Copilot主创离职创业,抱怨项目奖金仅2万刀,自立门户打造日常生活AI助手
官网已开启排队申请GitHubCopilot彻底改变了编程,背后的最大功臣获得了多少报酬呢?从开始到最终正式发布,只有2万美元奖金和一个头衔提升。他是AlexGraveley,Copilot团队的首席工程师和主架构师。更离谱的是,他不光没有得到应得的报酬,上头的副总裁后来还对他说“你不配得到晋升”。钱没给到位,委屈也受了。Alex老哥干脆离职,自己创业。站长网2023-07-15 16:26:330000腾讯公布大模型进展 但跟你想的不太一样
千呼万唤始出来。6月19日,腾讯披露了大模型研发的最新进展。不过,不是类ChatGPT的C端通用大模型,而是ToB的行业大模型。今年2月初,有消息称,针对类ChatGPT对话式机器人,腾讯成立了混元助手项目组,由腾讯首席科学家张正友带队研发。一季度财报会议上,腾讯总裁刘炽平透露,“混元模型构建进展顺利”。此后便鲜有消息。站长网2023-06-23 23:42:210000