刚刚,OpenAI开源SimpleQA!轻松检测、校准大模型能力
今天凌晨,OpenAI开源了最新基准测试集SimpleQA,可以帮助开发者轻松检测、校准大模型的真实性能力。
目前,很多大模型会出现一本正经胡说八道的问题,例如,你提问NBA历史上得分最多的是谁,它回答是迈克尔乔丹,实际上是勒布朗詹姆斯。包括OpenAI自己发布的GPT-4o、o1-preview、o1mini等前沿模型都有这些“幻觉”难题。
所以,SimpleQA对于开发者来说,可以精准测试大模型能否输出正确的答案,并对模型的说谎能力进行校准然后进行大幅度优化完善模型能力。
开源地址:https://github.com/openai/simple-evals
有网友表示,看了SimpleQA的测试数据才发现,o1-mini和o1-preview的性能差距这么大,o1-mini连GPT-4o都打不过。
令人惊讶的是,SimpleQA 被有意设计用来挑战像 GPT-4这样的高级模型,其中只包括至少有一次模型尝试失败的问题。这种对抗性的基准测试方法感觉像是一种大胆的转变,旨在揭示模型的局限性并推动模型的发展。
多整开源这是好事。别忘了你名字的初衷啊~
这很有趣,会看到更多的模型被测试,以及它们与我在提供的文本上进行的虚构/幻觉基准测试结果的比较。
很想看看o1模型的完整版测试。
完全同意事实性在人工智能中的重要性。SimpleQA 的引入可以显著提升我们对语言模型在这一领域表现的理解。这是一项及时的举措,准确的数据对于信任人工智能系统至关重要。期待看到这个基准测试的影响。
这很重要,因为确保大模型的事实性对于防止错误信息的传播至关重要,而 SimpleQA 提供了一种标准化的方法来评估和改进模型可靠性的这一关键方面。
很棒,重要的更新!
SimpleQA简单介绍
在数据收集阶段,SimpleQA的问题参考答案由两名独立的 AI 训练员确定,并且训练员在创建问题时被要求提供支持答案的网页链接,以确保答案有可靠的依据。
例如,对于 “谁是苹果公司的创始人之一” 这样常识性问题,训练员会根据历史资料和官方信息确定答案为 史蒂夫乔布斯等,并附上如苹果公司官方网站等相关链接作为证据。
同时,问题的设计使得预测答案易于评估,只允许有一个明确且无可争议的答案,避免了模糊性和歧义性。比如 “哪一年 iPhone 首次发布”,答案明确为“2007年”,而不是一个范围或模糊的表述。
SimpleQA的评估问题和答案都非常简短,这使得运行速度快且操作简单。在评估模型回答时,通过 OpenAI API进行评分也十分迅速。数据集中包含4326个问题,能够在一定程度上降低不同次运行之间的方差,使评估结果更加稳定可靠。
例如,在对多个模型进行测试时,不会因为数据集本身的不稳定性而导致结果出现较大波动,从而能够更准确地比较模型之间的性能差异。
SimpleQA的评估集非常多元化。涵盖历史、科学技术、艺术、地理、电视节目等多个领域。这种多样性使得评估结果更具普遍性和代表性,能够全面地检验模型在不同知识领域的事实性回答能力。
另一个好处是它的校准测量功能。通过询问模型对其答案的信心,研究者可以了解模型是否知道它们知道什么,这是一个很重要的校准现象。如果一个模型能够准确地评估自己的信心水平,那么它就是一个校准良好的模型。
OpenAI通过SimpleQA对GPT-4o、o1-preview、o1mini、Claude-3-haiku、Claude-3-sonnet等前沿模型进行了综合测试。结果显示,较大模型通常具有更高的性能,但即使是前沿模型在SimpleQA 上的表现也并非完美。
例如,GPT -4o 在回答一些问题时能够给出较高比例的正确答案,但仍有部分错误回答和未尝试回答的情况。同时,通过测量模型的校准情况,发现模型虽然有一定的信心概念,但普遍存在高估自己信心的问题,模型的信心水平与实际回答的准确性之间存在差距。
百度:在未来几个季度加大对大语言模型和生成式AI的投入
今日,百度发布了2023年第二季度财报,该季度百度总营收达到了341亿元,同比增长15.2%。站长网2023-08-22 22:30:450000Google Assistant 迎来 Windows Copilot 时刻 而这一切都要归功于人工智能
站长之家(ChinaZ.com)10月8日消息:语音助手曾经是大约十年前人工智能的巅峰,但随着生成式人工智能的崛起,它们在某种程度上已经显得过时。尽管需要升级,谷歌一直忽略了其语音助手,而是追求更雄心勃勃的项目,如其GoogleBard聊天机器人——一直到现在。站长网2023-10-08 09:21:090000斯坦福天才少女一年缔造5亿美元独角兽!Pika再获8000万美元融资,金牌团队阵容首度曝光
【新智元导读】斯坦福天才少女郭文景的Pika,在成立一年之际再获一笔8000万美元融资。团队成员也首次曝光,6位IOI金牌得主,包揽9块金牌。凭借超神的速度,这家公司的产品进化路线图震惊了一众硅谷大佬。AI视频将走向何方?Pika定会拿出新的惊喜。斯坦福天才少女的这家公司,依然在继续它的传奇。成立一年之际,Pika迎来最好的生日礼物——新一轮约8000万美元的融资。站长网2024-06-08 17:02:400000真·AI程序员来了,阿里云「通义灵码」全面进化,全流程开发仅用几分钟
太轻松了。在AI程序员的帮助下,一个几乎没有专业编程经验的初中生,在人头攒动的展台上从零开始,两分钟就做出了一个倒计时网页。他需要做的,只是输入包含几句话的提示词。数秒钟后,大模型就生成了代码,还列出了环境需求,复制完代码就可以使用了。这不是程序员父亲带自家小孩做的网红项目,而是人人都可以尝试的事。在大模型的帮助下,代码正在成为低门槛的设计工具。站长网2024-09-23 21:33:020000阿里云.net英文域名2月1日起调价 首年注册价格93元
近日,阿里云在官方网站发布公告,宣布将于2024年2月1日零时起对.net英文域名进行价格调整。此次调价是由于注册局成本上调以及域名实名制审核等服务成本的增加所导致。调整后的价格为:首年注册价格93元,续费价格99元,转入价格90元。这一调整是为了应对不断增长的成本压力,同时保证服务的稳定性和质量。以下为阿里云公告全文:调价时间:2024年2月1日0点站长网2024-01-10 15:23:460000