研究表明,开源语言模型无法与 GPT-4 相提并论
站长网2023-05-29 10:10:080阅
开源语言模型的进步是无可争议的。但它们真的能与来自 OpenAI、谷歌和其他公司的训练有素的语言模型竞争吗?
诸如之前所报道的,使用Alpaca Formula训练的开源语言模型几乎不需要怎么训练以及很低的成本就能达到了类似于ChatGPT的水平。
Alpaca Formula指的是开发人员使用 ChatGPT 生成的训练数据来微调Meta语言模型 LLaMA 。使用这些数据,LLaMA 模型可以在很短的时间内学习生成类似于 ChatGPT 的输出,并且只需要很少的计算量。
但伯克利大学的研究人员在最近的一项研究中得出了不同的结论:他们将Alpaca Formula应用于LLaMA和 GPT-2的一些基础模型,然后让这些结果由人工评估并由GPT-4自动评估。
最初,他们得出了与之前的开发人员相同的结论:使用指令改进的模型(研究人员称之为“模仿模型”)的性能远远超过基础模型,与 ChatGPT 相当。
然而,“更有针对性的自动评估”表明,模仿模型实际上只在他们看到模仿数据的任务中表现良好。在所有其他领域,GPT-4仍然存在明显的性能差距。因为这些基础模型在广泛的预训练过程中获得了大部分功能,而不是在微调过程中获取的。
研究人员表示,这些所谓的评价的工作者经常在没有专业知识的情况下在短时间内评估人工智能内容,很容易被忽悠。
OpenAI 研究员约翰舒尔曼最近也批评使用 ChatGPT数据微调开源基础语言模型,称如果微调数据集包含原始模型中不存在的知识,它们可能会产生更多不正确的内容。
0000
评论列表
共(0)条相关推荐
梅赛德斯-奔驰计划2023年在全球培训600多名数据和人工智能专家
随着数字化和强大的人工智能(AI)系统的日益使用,梅赛德斯-奔驰的工作内容也发生了变化。梅赛德斯-奔驰将在2023年培训超过600名全球数据和人工智能(AI)专家。作为Turn2Learn资质计划的一部分,梅赛德斯-奔驰将投资超过20亿欧元(约合24亿美元)用于全球员工的资质培训,重点是数字化和人工智能。站长网2023-07-26 15:11:4600013周收益近7万元,在支付宝发视频就有钱赚?
6.71万播放量,30天内收益超3000元。近期,一张支付宝的收益截图在一些新媒体群引起讨论:“支付宝还可以刷短视频?”“扶持力度大吗?怎么计算收益?是新风口吗?”图片来源:小红书用户“苏密,”评论区很多网友留言“求带”分享经验站长网2023-08-03 14:00:420000埃森哲在班加罗尔启动生成式AI工作室,加速AI采纳
**划重点:**🌐埃森哲(Accenture)在印度班加罗尔启动了生成式人工智能(GenerativeAI)工作室。工作室整合埃森哲在先进人工智能中心的战略投资,旨在推动人工智能和分析技术的广泛应用。💡该决定是基于埃森哲最近的研究,发现74%的高管计划在2024年增加人工智能相关投资,较去年的50%有所增长。0000百度发布基于交通大模型的全域信控缓堵解决方案
百度宣布发布基于交通大模型的全域信控缓堵解决方案。据介绍,面向中大型城市,针对常态拥堵、异常拥堵以及景区学校单点单线区域的拥堵情况,在交通大模型的加持下,提供全域感知、全域优化、全域协同、全栈服务的全链条多场景信控缓堵方案,赋能“减量控大、缓堵保畅、便民出行”等业务场景,让市民出行更便捷、交通管理更安全、城市运转更畅通。站长网2023-04-20 18:10:300000AI生成视频工具Assistive Video 输入描述即可生成视频
AssistiveVideo是一款新的人工智能生成视频工具,用户只需输入描述所想看到内容的提示或上传图片,即可生成一段4秒钟的视频。这项技术能够将零散的信息整合成一个连贯的视频脚本,让用户快速了解所需内容。用户可以控制视频质量、与提示的一致性、运动的强度,甚至设置种子等,以满足个性化的需求。体验地址:https://assistive.chat/product/video站长网2023-12-29 13:39:180000