英伟达发布430亿参数大模型ChipNeMo
站长网2023-11-01 09:21:040阅
要点:
1. 英伟达发布了拥有430亿参数的大语言模型ChipNeMo,专注于辅助芯片设计,提高工作效率。
2. ChipNeMo支持问答、EDA脚本生成、Bug总结和分析等任务,帮助芯片设计师完成工作。
3. ChipNeMo的研发采用了领域自适应技术,提升了性能并减小模型大小。
英伟达最新发布的430亿参数大语言模型ChipNeMo专注于辅助芯片设计,旨在提高工程师的工作效率。这一大语言模型的应用范围广泛,包括问答、EDA脚本生成和Bug总结等任务,使芯片设计变得更加便捷。
英伟达首席科学家Bill Dally强调,即使提高生产率的幅度不大,使用ChipNeMo仍然是值得的。ChipNeMo的数据集包括Bug总结、设计源、文档以及硬件相关的代码和自然语言文本,经过数据采集、清洗和过滤后,共有241亿个token。
英伟达采用了领域自适应技术,包括自定义标记器、领域自适应持续预训练、带有领域特定指令的监督微调等方法,以提升大语言模型在工程助理聊天机器人、EDA脚本生成和Bug摘要和分析等领域的性能。
结果显示,这些领域自适应技术不仅提高了性能,还减小了模型大小,但仍有改进空间。英伟达的这一举措标志着大语言模型在半导体设计领域的应用迈出了重要的一步,为专业化领域提供了有用的生成式AI模型。
0000
评论列表
共(0)条相关推荐
金山官方发布中文官方版GPT——WPS AI
金山办公室也发布了中文办公室官方版GPT——WPSAI,将搭载到金山办公新一代在线内容协作编辑产品——轻文档上,而在未来,WPSAI将嵌入金山办公全线产品。细节:WPSAI将嵌入金山办公全线产品,未来将为用户提供更多智能化的办公体验。WPSAI的大型模型由国内合作伙伴MiniMax提供,后续能力预测未来几周可以继续并用户看到。站长网2023-04-19 14:20:150000腾讯等头部厂商创新力不足,游戏行业没等来2023春天
晚春已经有些抵挡不住热浪,但是国内游戏行业的春天还没到来,尤其是这个新老游戏青黄不接的断档期。据EsportsCharts网站数据,在三月份所有电子竞技项目中,《无畏契约》是三月份最受关注的电子竞技比赛,《无畏契约》的总决赛FNATICvsLOUD观众峰值达到了144万。与之相对,英雄联盟LCK春季常规赛KTvsT1的热度位列第三。Dota2的利马Major则只有接近50w的热度。站长网2023-04-17 09:22:340001高盛:生成式AI将极大提高音乐创作能力
高盛(GoldmanSachs)表示,生成式人工智能(AI)将导致音乐行业发生根本性变革,并为该行业提供“重大机遇”。该公司在6月28日的报告中指出,生成式AI将极大地提升音乐创作能力并提高生产力。对于投资者对AI生成的音乐的担忧,如今年4月据称使用该技术创作的一首含有“假德雷克”的曲目,分析师表示这种担忧是“夸大其词”的。站长网2023-07-05 18:20:160001AI Score My Site:AI驱动的SEO工具
AIScoreMySite是一款创新的工具,旨在帮助用户了解他们的网站在AI驱动的搜索引擎上的排名和可发现性,并提供相应的改进建议。在今天的数字化时代,网站的排名对于吸引流量和潜在客户至关重要。然而,传统的搜索引擎优化方法可能不足以适应AI技术的发展。AIScoreMySite填补了这一空白,通过评分和建议,让用户的网站在AI驱动的搜索引擎中更具竞争力。站长网2023-09-20 11:32:310000“榴莲盲盒”上热搜,榴莲为什么越卖越贵?
这一届吃货,一部分在线下商超抢购榴莲盲盒,一部分蹲守在直播间,等着“3、2、1”开盲盒。有关榴莲的话题,在各大热搜榜单上几乎没有下来过。涨价、降价、盲盒、“刺客”......诸多话题词拼凑出了一幅完整的榴莲消费图景。榴莲相关话题站长网2023-05-30 09:20:090000