嘉楠科技Canaan开源通用大语言模型Toucan
站长网2023-08-31 08:45:340阅
近日,嘉楠科技(Canaan)发布了参数量为70亿的通用大语言模型 Toucan-7B 及 INT4量化版本 Toucan-7B-4bit。
Toucan-7B 能够实现文案写作、代码解析、信息抽取等多种自然语言处理任务,并在测试中表现优于 ChatGLM-6B。Toucan-7B-4bit 使用了最新的 INT4量化技术,显存占用量更低,与 Toucan-7B-fp16模型相比,具有较好的推理效果。
据悉,Toucan 是一个基于 Meta LLaMa 架构的开源中文对话语言模型。它具有70亿参数,并结合了模型量化和稀疏技术,可以在端侧进行推理。Toucan-7B 的效果略好于 ChatGLM-6B,而经过4bit 量化后的模型与 ChatGLM-6B 的效果相当。
项目地址:https://github.com/kendryte/Toucan-LLM
0000
评论列表
共(0)条相关推荐
支付宝搜索直达新升级3项营销能力 可实现“搜索后快速入会”
7月13日,据支付宝开放平台消息,支付宝搜索直达升级并新增了3项营销能力——会员有礼、联合营销券以及优惠券自定义排序,可以让商家缩短会员拉新路径,提升券营销的方式和效率。站长网2023-07-14 00:35:470000报道称双11淘宝或新增人工智能服务新一级类目
据媒体报道,淘宝在双11期间新开设了人工智能服务一级类目。淘宝商家的管理后台显示,在商品类目中已经新增了人工智能服务选项,包括AI绘画、AI照片生成、AI四维彩超、AI语音包等。分析称,增设该一级类目后,预计淘宝针对该类目商家将有扶持政策,并会有专门的小二进行运营,逐步丰富商品种类。0000文生图超级大合集!几乎包含所有模型,提示词教程
除了DALL·E3、Midjourney、StableDifusion,你还知道哪些好用小众的文生图模型吗?你知道一张精美的AI图片,需要哪些精准的提示词、效果融合以及制作流程吗?如果把几乎所有文生图模型集合在一个平台中,并且还能叠加效果生成图片,你愿意使用吗?满足你的需求,今天就为大家介绍大名鼎鼎的文生图大合集平台——civitai站长网2023-11-15 20:07:500000图片质量媲美Midjourney、SDXL?PixArt训练成本减少90%
要点:PixArt-α是一款基于Transformer的文本到图像生成模型,具有竞争力的图像生成质量,且训练成本明显低于现有大规模文本到图像模型。PixArt-α采用了三项核心设计:训练策略分解,高效的T2ITransformer,以及使用高信息密度的数据进行训练,从而实现高分辨率图像合成,并在训练成本上取得显著节约。站长网2023-11-10 11:22:340004华为手环8正式发布 配备1.47英寸显示屏售价269元起
今日,华为发布了其最新的智能手环华为手环8,这是该公司迄今为止最薄、最轻的大屏智能手环,有四种不同的颜色,并提供一系列健康监测功能,包括睡眠跟踪和压力监测。NFC版还支持NFC门禁卡和移动支付。华为手环8有标准版和NFC版两种,售价从269元到319元不等。配备1.47英寸彩色显示屏,支持超过10,000个表盘和智能穿戴表盘。其他功能包括:HUAWEITruSleep3.0睡眠监测算法站长网2023-04-17 16:39:120001