国产开源MoE指标炸裂:GPT-4级别能力,API价格仅百分之一
最新国产开源MoE大模型,刚刚亮相就火了。
DeepSeek-V2性能达GPT-4级别,但开源、可免费商用、API价格仅为GPT-4-Turbo的百分之一。
因此一经发布,立马引发不小讨论。
从公布的性能指标来看,DeepSeek-V2的中文综合能力超越一众开源模型,并和GPT-4-Turbo、文心4.0等闭源模型同处第一梯队。
英文综合能力也和LLaMA3-70B同处第一梯队,并且超过了同是MoE的Mixtral8x22B。
在知识、数学、推理、编程等方面也表现出不错性能。并支持128K上下文。
这些能力,普通用户都能直接免费使用。现在内测已开启,注册后立马就能体验。
API更是是骨折价:每百万tokens输入1元、输出2元(32K上下文)。价格仅为GPT-4-Turbo的近百分之一。
同时在模型架构也进行创新,采用了自研的MLA(Multi-head Latent Attention)和Sparse结构,可大幅减少模型计算量、推理显存。
网友感叹:DeepSeek总是给人带来惊喜!
具体效果如何,我们已抢先体验!
实测一下
目前V2内测版可以体验通用对话和代码助手。
在通用对话中可以测试大模型的逻辑、知识、生成、数学等能力。
比如可以要求它模仿《甄嬛传》的文风写口红种草文案。
还可以通俗解释什么是量子纠缠。
数学方面,能回答高数微积分问题,比如:
使用微积分证明自然对数的底e 的无穷级数表示。
也能规避掉一些语言逻辑陷阱。
测试显示,DeepSeek-V2的知识内容更新到2023年。
代码方面,内测页面显示是使用DeepSeek-Coder-33B回答问题。
在生成较简单代码上,实测几次都没有出错。
也能针对给出的代码做出解释和分析。
不过测试中也有回答错误的情况。
如下逻辑题目,DeepSeek-V2在计算过程中,错误将一支蜡烛从两端同时点燃、燃烧完的时间,计算成了从一端点燃烧完的四分之一。
带来哪些升级?
据官方介绍,DeepSeek-V2以236B总参数、21B激活,大致达到70B~110B Dense的模型能力。
和此前的DeepSeek67B相比,它的性能更强,同时训练成本更低,可节省42.5%训练成本,减少93.3%的KV缓存,最大吞吐量提高到5.76倍。
官方表示这意味着DeepSeek-V2消耗的显存(KV Cache)只有同级别Dense模型的1/5~1/100,每token成本大幅降低。
专门针对H800规格做了大量通讯优化,实际部署在8卡H800机器上,输入吞吐量超过每秒10万tokens,输出超过每秒5万tokens。
在一些基础Benchmark上,DeepSeek-V2基础模型表现如下:
DeepSeek-V2采用了创新的架构。
提出MLA(Multi-head Latent Attention)架构,大幅减少计算量和推理显存。
同时自研了Sparse结构,使其计算量进一步降低。
有人就表示,这些升级对于数据中心大型计算可能非常有帮助。
而且在API定价上,DeepSeek-V2几乎低于市面上所有明星大模型。
团队表示,DeepSeek-V2模型和论文也将完全开源。模型权重、技术报告都给出。
现在登录DeepSeek API开放平台,注册即赠送1000万输入/500万输出Tokens。普通试玩则完全免费。
感兴趣的童鞋,可以来薅羊毛了~
体验地址:
https://chat.deepseek.com
API平台:
platform.deepseek.com
GitHub:
https://github.com/deepseek-ai/DeepSeek-V2?tab=readme-ov-file
—完—
格力投入30亿启动家电以旧换新活动
格力电器今日正式公告,将斥资30亿元,全面启动家电以旧换新活动,旨在推动家电产品的更新换代,提升消费者的生活品质。据格力董明珠店小程序显示,此次活动已率先在空调产品上实施,最高补贴可达1000元,且旧机拆运完全免费,不限品牌,为用户提供了极大的便利。站长网2024-04-28 17:54:550000戴珊携淘天背水一战
争夺定价权。2023年的双十一,阿里、京东、拼多多、抖音、快手、小红书……,中国几乎所有电商巨头都加入了低价竞争的行列。这样的拼杀,是中国互联网江湖从未有过的景象。全天候科技将借此呈现这个战场中多家公司的切面,观察和预测行业的发展和走向。站长网2023-11-01 17:48:320000Sam Altman突遭起底「生活奢靡」!戴340万名表,开上亿豪车,买价值6亿豪宅
【新智元导读】最近,关于Altman的风波不断。有人挖出他戴着价值48万美元的奢侈品手表,开着价值上亿的豪车,而更让人瞠目结舌的,就是他奢华无比的硅谷大佬朋友圈了。Altman被挖坟了!最近有人注意到,在2018年的一次Wired活动中,Altman低头看了看自己的手腕。继续扒皮后有人发现,当时他戴着一款看起来非常奢华的金表。0000B站第三支播放破亿视频诞生:《敢杀我的马?!》
哔哩哔哩(B站)宣布,其平台第三支播放量突破亿的视频诞生。据悉,该视频由UP主@哦呼w制作,名为《敢杀我的马?!》。视频在B站上线后受到热烈欢迎,播放量不断攀升,最终突破了亿的播放次数。UP主也为庆祝视频突破亿次播放量而制作了漫画风格的纪念版。据悉,敢杀我的马梗是让子弹飞中的经典台词。这句台词在视频中被频繁使用,表达一种吃惊式愤怒的情绪,意味着胆大包天。站长网2024-02-21 14:35:350000新加坡南洋理工大学出品!大规模视频分割数据集MeViS,自动识别视频动态主体
文章概要:1)MeVIS数据集包含2006段视频,强调目标物体的运动属性,不能仅从单帧识别。2)提出LMPM基准方法,利用语言理解和运动评估找到视频中语言描述的目标物体。3)研究为发展更高级的语言引导视频分割算法奠定基础。站长网2023-08-26 16:14:340000