云知声推出山海大模型2.0版 参数规模达千亿
站长网2023-08-31 09:32:490阅
云知声宣布推出山海大模型2.0版,参数规模达到千亿,增加了更多的学科类的预训练语料,训练数据(Tokens)达到两万亿(2.0T)。实测性能在 C-Eval 全球大模型综合性评测中超过了 GPT-4,以70分的成绩进入前三甲。
据悉,这次升级使得山海大模型在多学科能力和医疗能力方面得到了提升,为实现 AGI 的进化打下了基础。模型团队利用了教材、文献和百科类语料来丰富模型的知识库,尤其在医疗领域方面取得了突破。
另外,模型的性能也得到了加速提升,通过使用 Neural Tangent Kernel (NTK) 的非线性差值方法,实现了大规模长度扩展,支持了32K 的窗口长度。为了提高解码效率,模型还采用了受限解码方法。
云知声山海大模型官网:shanhai.unisound.com
0000
评论列表
共(0)条相关推荐
小米13 Ultra推出限量定制色 5月6日正式发售
今日,小米手机宣布推出小米13Ultra限量定制色,包括星空蓝、赤霞橙、银杏黄,三款颜色,现已开启预售,5月6日10点小米商城限量发售。据了解,小米13Ultra于4月21日正式开售,12GB256GB版本售价5999元,16GB512GB版本售价6499元,16GB1TB版本售价7299元。有黑色、白色、橄榄绿三种颜色可选。站长网2023-05-04 10:05:100000英伟达Jim Fan提出基础智能体概念 将是AI下一个前沿!
要点:1、英伟达高级科学家JimFan提出了「基础智能体」的概念,将AI的发展引向下一个前沿。2、JimFan认为「基础智能体」在现实、技能数量、身体形态等3个维度上进行扩展,将从根本上改变我们的生活。3、JimFan带领的「Voyager」项目,展示了一个能在多种技能上大规模扩展的智能体。站长网2024-01-24 16:54:130000引入Bard后,谷歌Gmail工具生成了一些虚构的电子邮件
文章概要:1.谷歌推出的Bard扩展使用大型语言模型,旨在总结电子邮件、规划旅行,但却制造了从未发出的电子邮件。2.一名记者测试后发现,BardAI制造了虚假的电子邮件,甚至错误地提供航班信息和虚构的列车信息。3.谷歌表示Bard扩展仍处于实验阶段,但这一产品引发了隐私担忧,也让人担心谷歌在AI领域可能会犯一些严重错误。站长网2023-09-25 10:58:370000扎克伯格称将在WhatsApp等社交应用引入生成式AI
马克扎克伯格在Meta第一季度财报电话会议上表示,将探索在其社交应用中引入生成式人工智能(AI),以提供更有价值的聊天、创作者工具、广告等体验。站长网2023-05-12 20:29:090000微信之后又学微博?马斯克大改推特祖传家法:1万字符长文来了
快科技4月15日消息,虽然马斯克440亿美元收购推特是迫于法院压力进行的,但是收购之后也对推特大改,现在又推出了一个新功能,将用户发推文的限制提升到了1万字符。大家都知道,推特本身就是靠短小精悍的推文起家的,140个字符的限制可以说是推特祖传家法了,国内的微博都学习了这一点,但这个限制也不少,所以微博早就支持长文了,用户发推文基本不受限制了。站长网2023-04-15 09:12:000000