数学能力超ChatGPT,70B开源大模型火了:用AI微调AI,微软全华班出品
用AI生成的指令微调羊驼大模型,数学能力超ChatGPT——
微软最新开源大模型WizardMath来了。
如下图所示,经过GSM8k数据集测试,WizardMath数学能力直接击败了ChatGPT、Claude Instant1、PaLM2-540B等一众大模型——
并且是在参数只有700亿,远不及后三者的情况之下。
HuggingFace已上线3个在线可玩版本(分别为7B、13B和70B参数),各种数学题可以直接丢进去试一试。
比如解决下面这道四次多项式方程:
或者是一道简单的微积分:
亦或者是稍微修改过的拉格朗日方程推导:
它都全部正确(过程也不需要等太久)。
有网友向作者表示:
效果真的很惊人,感谢你们对开源LLM的贡献。
目前,相关代码、复现方式以及论文也都开源或上线,GitHub短短几天已揽获4.8k标星。
那么,WizardMath究竟是如何做到的?
用AI生成的指令增强大模型能力
OpenAI的大模型(InstructGPT、GPT-4等)能够取得巨大成功、去执行各种复杂和多样化的任务,一部分原因是使用了真实人类用户生成的开放域指令数据进行了微调。
然而,不是谁都能像这家公司一样获得这样的指令数据集。
一是因为整个注释过程极其昂贵且耗时,二是人工难以创建出足够比例的高难度指令。
因此,开发出一种成本相对较低的、大规模开放域指令自动生产方法,成为当下指令调优语言模型的关键。
在此,作者将他们的方法命名为Evol Instruction。
它是一种利用AI来代替人类自动生成涵盖各种难度级别开放域指令的新方法。
具体而言,Evol Instruction分为指令进化器和指令消除器。
其中指令进化器可通过深度进化(蓝线)或广度进化(红线)两种路径,将简单指令升级为更复杂的指令或创建一条全新指令。
具体执行哪一条?随机选择就好。
其中,深度进化的具体“进化法”,则是通过五种类型的操作来完成,包括:
添加约束(add constraints)、深化(deepening)、具体化(concretizing)、增加推理步骤(increase reasoning steps)和使输入复杂化(complicate input)。
由于所有指令均由AI完成,有时难免会出现错误。因此,指令消除器就是用于过滤失败指令的。
以下是一个具体示例,该方法从“1 1=?”开始,最终通过以上步骤自动生成了相当多的新指令。
通过重复这一生成过程,最终我们就能得到足够多的指令,然后将它们合并并随机打乱,组成一个难度级别均匀分布的指令集,就可以对基础大模型进行微调了。
在此,作者选择Alpaca的训练数据(仅由175条人工创建的种子指令生成)作为初始数据集,然后使用ChatGPT的API执行了四个进化周期,最终获得25万条指令。
为了与Vicuna的70k真实用户数据(ShareGPT)进行公平比较,作者从这25万条数据中抽取了等量的样本,训练LLaMA7B模型,最终得到WizardLM,结果WizardLM的性能明显优于Vicuna。
(Alpaca:斯坦福在LLaMa-7B基础上微调出来的模型;Vicuna,UC伯克利在LLaMa-13B的基础上微调得来)
此外,在更为复杂的测试指令下,人类更喜欢WizardLM的输出,而非ChatGPT,这表明该方法可以显着提高LLM处理复杂指令的能力。
基于此,作者又利用Evol Instruction生成了很多数学领域相关的指令,然后微调羊驼大模型,得到了WizardMath。
其效果如开头所示,在GSM8k数据集上测得其数学能力超越包括ChatGPT、Claude Instant1、PaLM2-540B等一众大模型,位列第5名,仅次于GPT-4、Claud1.3和2.0,以及5400亿参数的Flan-PaLM2之后。
以此类推,作者还在羊驼之上得到了专攻代码能力的WizardCoder,效果超越Claude和Bard(详情可戳文末地址)。
团队介绍
本文共9位作者,全华人。
一作有3位:
Can Xu,微软亚洲互联网工程院S D NLP组高级应用科学家,之前曾在微软小冰研究组和微软亚研院从事聊天机器人系统工作;
Qingfeng Sun, Microsoft Research科学家,研究方向为自然语言处理和信息检索,精通构建高效搜索系统,为Microsoft Bing和Office365贡献了核心深度模型;
Kai Zheng,Microsoft Research科学家,研究方向为自然语言处理、搜索和推荐排名,同样为Microsoft Bing和Office365贡献了核心深度模型。
通讯作者为姜大昕,微软全球合伙人、副总裁、前微软亚洲研究院首席科学家,在微软工作16年有余、曾作为微软必应搜索引擎和Cortana智能助手自然语言理解负责人,日前已被曝离职投身大模型创业。
另还有一位作者Jiazhan Feng,是北大学生,这篇合著论文是TA在微软实习时产出的。
项目主页:https://github.com/nlpxucan/WizardLM/tree/main/WizardMath
论文地址:
https://arxiv.org/abs/2304.12244(WizardLM)
https://arxiv.org/abs/2306.08568(WizardCoder)
—完—
语音大模型SpeechGPT-Gen:8B参数,零样本生成语音
划重点:1.📌SpeechGPT-Gen介绍:由复旦大学研究人员推出,是一种具有语义和感知信息建模高效性的8B参数语音大型语言模型(SLLM)。2.📌创新方法:采用Chain-of-InformationGeneration(CoIG)方法,将语音生成的语义和感知信息分离处理,解决了传统方法中的低效和冗余问题。站长网2024-01-31 10:08:330000孟子3-13B大模型正式开源
澜舟科技近日宣布,其研发的孟子3-13B大模型正式开源,并向学术研究领域全面开放,同时支持免费商用。这一轻量化大模型在多项基准测试中展现了优异的性能,特别是在参数量20B以内的模型中,其中英文语言能力尤为突出,数学和编程能力也位于行业前列。站长网2024-04-06 14:20:430000智己汽车发布“智己生成式大模型Beta版” 预计10月上线
智己汽车正式发布“智己生成式大模型Beta版”,并将在10月与智己LS6车型一起交付并上线。据官方介绍,该大模型融合了千亿级参数,具备自然语言处理和机器学习能力,能够自动编排、自学习进化。它可以通过多重意图识别,精准理解用户的真实需求和指令,并结合历史交流偏好和习惯,为用户生成个性化、专属的出行体验。站长网2023-08-28 08:47:340000佛山电翰上热搜,鹿哈狂赚3500万,普通人也有逆袭的机会?
最近在抖音上最火的,当属@佛山电翰了。丝滑浮夸的动作,魔性的萨克斯配乐,酷似演员张翰的帅气脸庞,让他的直播吸睛无数,也引来各大网红二创模仿。通过蝉妈妈可以看到,近30天内@佛山电翰直播18场,场均直播观看人次突破400万,最高在线突破10万人,一时风头无量。站长网2023-10-19 16:47:070000机器人还会炒菜、颠锅和喂猪?单条视频获赞超10万
日前,视频号创作者“人工智能应用助手”发布了一条“AI机器人炒菜”的视频。在视频中,机器人一手掌勺,一手打蛋,颠锅翻炒,动作一气呵成。观众纷纷惊呼“全都用机器人,那还要人类干什么”。然而,实际上这是用AI制作的特效视频,机器人与背景之间有模糊虚化的边界,锅铲也没有被机器人的手握住。作者在描述中也明确表示,仅供娱乐,不要当真。站长网2024-01-22 14:36:540000