Hugging Face组建H4团队,开源开发类似ChatGPT的AI模型
划重点:
- Hugging Face的两人团队H4致力于开源构建类似ChatGPT的AI模型。
- H4团队已发布多个开源大型语言模型,包括聊天型Zephyr-7B-α和改进型Falcon-40B。
- H4的主要研究重点是对齐技术,以使语言模型根据人类反馈行为进行学习。
AI初创公司Hugging Face最近组建了一个名为H4的两人团队,旨在开源开发类似ChatGPT的人工智能模型。H4的目标是提供工具和“配方”,以便AI社区能够构建类似ChatGPT的AI聊天机器人。
H4团队的两名成员Lewis Tunstall和Ed Beeching近期透露了一些有关他们的工作的信息。H4团队的成立灵感来自于OpenAI于2022年底发布的ChatGPT。当ChatGPT发布时,他们开始思考如何使用开源库和模型来复制其功能,这促使了H4团队的成立。
H4团队的主要研究重点是对齐技术,这意味着他们致力于教导大型语言模型(LLMs)如何根据人类的反馈行为来表现。为了训练他们的模型,H4团队依赖于一个拥有超过1000个Nvidia A100GPU的专用集群。虽然H4的两名成员都远程驻扎在欧洲,但他们得到了来自Hugging Face内部团队的支持。
不仅如此,H4团队还发布了多个开源大型语言模型,其中包括Zephyr-7B-α,这是法国AI初创公司Mistral最近发布的Mistral7B模型的聊天型版本。此外,他们还对来自阿布扎比技术创新研究所的Falcon-40B模型进行了修改,使其在自然语言请求方面更具帮助性。
尽管Hugging Face已从一系列投资者中筹集了数亿美元,但H4团队的Lewis Tunstall表示,H4并没有直接从他们的工具中获得商业化利益。相反,他们的工具有助于Hugging Face的专家加速计划,该计划旨在为企业提供来自Hugging Face团队的指导,以构建定制的AI解决方案。
此外,H4团队的Ed Beeching表示,他们并不将H4视为与其他开源AI倡议竞争的实体。相反,他们的意图是通过发布与其聊天模型相关的训练代码和数据集来“赋能”开源AI社区。
最近,H4团队一直在研究不同的对齐技术,并构建工具来测试社区和行业提出的技术的实际效果。该团队本月发布了一本手册,其中包含了用于构建Zephyr的所有源代码和数据集,并计划随着未来AI模型的发布更新手册。
马斯克的AI项目命名为TruthGPT 号称理解宇宙本质真相
近日,在接受福克斯新闻专访时,马斯克透露,他将启动自己版本的人工智能聊天机器人“TruthGPT”。马斯克表示“我将开始一些我称之为TruthGPT的东西,或者是一个试图理解宇宙本质的最大真相人工智能,而且我认为这可能是通往安全的最佳途径,因为一个关心了解宇宙的人工智能不太可能消灭人类,因为我们是宇宙中有趣的一部分。”站长网2023-04-18 09:16:190000何小鹏:技术的争鸣定能让用户受益 感谢余承东
最近,国内汽车圈因为AEB(自动紧急制动系统)的技术路线争论,几位大佬们隔空互怼,引发了广泛关注。而今天,小鹏汽车CEO何小鹏发文表示,他相信这种技术的争鸣最终会让用户受益。何小鹏表示,他和余承东一起讨论了技术路线,相信通过OTA(空中下载技术)拓展AEB功能,能够引领智驾科技创新,共赢智能电动汽车新时代。他还感谢余承东的建议和大度,表示有时候误会之后更容易成为好朋友。站长网2023-11-09 11:52:550000京东2023年收入破万亿!人力资源支出超千亿 今年大幅涨薪
快科技3月6日消息,京东集团今天公布了2023年四季度及全年业绩。财报显示,2023年,京东全年收入达10847亿元,同比增长3.7%。全年Non-GAAP净利润352亿元,同比增长24.7%。2023年,京东集团人力资源总支出(包括自有员工和外部人员)1047亿元,持续推动高质量就业。截至2023年底,京东集团为社会创造近62万就业业岗位。0000腾讯推出ELLA大型语言模型适配器 助力模型语义对齐与高效提示跟踪
站长之家(ChinaZ.com)3月12日消息:腾讯研发团队于3月8日在预印本平台arXiv发布了一项重要成果,推出了名为ELLA的大型语言模型适配器。这一适配器的推出标志着在扩散模型中配备大语言模型的新里程碑,为模型提供了增强的语义对齐能力。站长网2024-03-12 10:06:130000用AI大模型「改造」QQ浏览器搜索,腾讯独家揭秘
1:引言自从搜索引擎问世以来,信息检索算法历经多次技术更迭,其演进的历程可大致归纳为四个技术代际:1.0文本索引->2.0超链分析->3.0机器学习->4.0深度学习。2022年底,ChatGPT成为全球技术焦点,其具备的多轮对话、推理和对长文本的理解能力,解决了以往搜索引擎所无法有效解决的难题。站长网2023-11-20 09:21:300000