3140亿参数迄今最大

开源社区有福了。说到做到，马斯克承诺的开源版大模型Grok终于来了!今天凌晨，马斯克旗下大模型公司xAI宣布正式开源3140亿参数的混合专家（MoE）模型「Grok-1」，以及该模型的权重和网络架构。这也使得Grok-1成为当前参数量最大的开源大语言模型。