谷歌发布Gemini 1.5 Pro模型技术报告 长文记忆能力惊人
站长网2024-03-11 14:21:352阅
Google发布了Gemini1.5Pro模型的技术报告,报告介绍了Gemini1.5Pro的模型架构、训练数据与基础设施、长文本评测和通用能力评测。Gemini1.5Pro是一个高效能的多模态混合专家模型,可以处理和分析来自数百万Token的信息,包括长篇文档和数小时的视频和音频内容。
Gemini1.5Pro在长篇信息检索任务中展现出几乎完美的记忆回溯能力,刷新了长篇文档问答、长视频问答和自动语音识别领域的技术高度,超越了前代产品Gemini1.0Ultra。在预测下一个Token方面,Gemini1.5Pro取得了显著进步,在处理超过1000万Token的任务时,准确率达到了99%以上,是一次巨大的飞跃。
论文地址:https://arxiv.org/pdf/2403.05530.pdf
此外,Gemini1.5Pro还展现出惊人的能力,当接触到Kalamang语法手册时,即使Kalamang是一种全球使用人数不足200人的小众语言,它也能够学会将英语翻译成Kalamang,其翻译水平媲美于人类。
综上所述,Gemini1.5Pro在处理跨多种媒体格式的长篇信息时表现出色,不仅在技术性能上超越了前代产品,还展现出了惊人的翻译能力,为多模态混合专家模型的发展开辟了新的可能性。
0002
评论列表
共(0)条相关推荐
疯狂的弹幕游戏:主播日流水破150万,开发商月赚百万
“同样是以羊为主题的游戏,但是这个游戏比之前火了的《羊了个羊》玩起来更加得劲,其中的对抗玩法,能让众多用户参与的同时,还能刷礼物,比之前的聊天直播赚的更多了”,一位抖音直播间的主播告诉Tech星球。0000模型融合、混合专家、更小的LLM,几篇论文看懂2024年LLM发展方向
还有10个月,2024年还有很多期待空间。在过去的2023年中,大型语言模型(LLM)在潜力和复杂性方面都获得了飞速的发展。展望2024年的开源和研究进展,似乎我们即将进入一个可喜的新阶段:在不增大模型规模的前提下让模型变得更好,甚至让模型变得更小。站长网2024-02-22 13:43:220001WPS AI将应用于轻文档 支持文本生成、多轮对话、润色改写等
昨日,金山办公旗下WPS宣布会员体系全新升级,原「WPS会员」、「稻壳会员」及「超级会员」合并、升级,推出全新的「WPS超级会员」,并提供基础和Pro两个套餐。在最后,WPS还剧透将推出WPSAI。今日,金山办公表示,WPSAI将最先应用在在线内容协作编辑工具轻文档中。主要包括文本生成、多轮对话、润色改写等功能。具体为:站长网2023-04-18 09:46:120003超200位Stack Overflow版主罢工!保卫我们的社区不被AI侵占
随着生成式AI的发展,网络上充斥着越来越多真假难辨的内容。最近,为了表示对这种现象的抗议,超200位StackOverflow版主联名罢工表示抗议,控诉LLM生成的垃圾内容充斥整个社区。站长网2023-06-05 21:07:030000蚂蚁百灵研发助手CodeFuse插件发布新版 新增支持 Android Studio
蚂蚁百灵研发助手CodeFuse插件发布新版,新增支持AndroidStudio,目前已兼容11款主流IDE,包括VisualStudioCode、IDEA等。此外,新版插件还针对JavaScript、TypeScript等前端语言进行了优化,提升了代码补全的准确率,使得前端代码生成的采纳率相比旧版提升了20%。站长网2023-12-11 14:19:390000