Meta开源最新模型——Llama Guard-7b
全球社交、科技巨头Meta在官网开源了全新模型——Llama Guard。
据悉,Llama Guard是一个基于Llama2-7b的输入、输出保护模型,可对人机会话过程中的提问和回复进行分类,以判断其是否存在风险。可与Llama2等模型一起使用,极大提升其安全性。
Llama Guard也是Meta推出的“Purple Llama”安全评估项目中,输入、输出保障环节的重要组成部分,这也是首个在输入输出防护中区分用户与AI风险的模型。
Llama Guard地址:https://huggingface.co/meta-llama/LlamaGuard-7b
Purple Llama地址:https://github.com/facebookresearch/PurpleLlama
论文地址:https://ai.meta.com/research/publications/llama-guard-llm-based-input-output-safeguard-for-human-ai-conversations/
Llama Guard简单介绍
研究人员设计了一个包含法律和政策风险的安全风险分类体系。分类体系包含6大类可能的安全风险:暴力与仇恨、色情内容、非法武器、犯罪计划等。
此外还详细说明了每个风险类别中的易犯错误。
通过使用Anthropic提供的人机对话数据集,对数据进行标记。标记内容包括对话提问与回应中的风险类别及是否存在安全隐患。最终收集了近14000条标注好的对话样本。
再以Llama2-7b作为基础模型,采用指令式学习框架进行训练。此框架将分类任务表述为一个接一个的指令任务。
使Llama Guard根据输入指令和数据学习进行多类分类。研究人员为用户提问和机器回复分别编写指令,实现对其语义结构的区分。
还采取数据增强方法,强化模型只考虑给定输入中的分类信息。
测试数据
首先在内部测试集上进行验证,Llama Guard在整体和每个单独分类上的表现都超过了其他内容监管工具。
然后,研究人员采用零样本和少量实例学习的方法,将Llama Guard迁移到其他公开测试集上进行验证。
测试结果显示,在ToxicChat数据集上,Llama Guar的平均准确率高于所有基线方法;在OpenAI评估数据集上,Llama Guard在零样本的情况下与OpenAI内容监管API表现相当。
此外,Llama Guard使用了指令调优,可以适配不同的AI分类法或政策。用户可以通过零样本或小样本的方式便可实现指令迁移,以适配不同的应用场景需求。
调查:72%企业领导者计划在未来三年内采用生成式AI
一项由IT解决方案整合商InsightEnterprises和调研公司TheHarrisPoll进行的最新研究揭示了企业对生成式人工智能(generativeAI)日益普及的采用情况,并揭示了人们对其实施的担忧。站长网2023-07-06 16:33:430002董宇辉粉丝“叫板”东方甄选
一场“守护”董宇辉的行为艺术正在互联网上上演。“董宇辉山西丈母娘报道”“安徽丈母娘入场”“宇辉的丈母娘来了”。12月11日晚间,高途佳品的直播间被东方甄选主播董宇辉的丈母娘们(董宇辉粉丝)给刷屏了,不少头顶“甄选团”橙色灯牌的网友涌入高途直播间“报道”,直呼“东方甄选送来的泼天富贵,你们要接住啊”。0000你的聊天记录有多大?微信官方公布存储空间清理教程
昨日,微信官方公布了存储空间清理教程。微信表示,在微信内依次点击“我-设置-通用”找到存储空间,待系统计算完已用空间后,就能直观看到微信已占用的空间,以及各项数据分别占据的空间大小。在存储空间页面,点击“缓存-前往清理”,这部分临时文件可以直接清理,不影响使用。在存储空间页面,选择“聊天记录-管理”,按照【时间范围】【消息类型】【排序方式】自由筛选,清理。站长网2023-09-01 10:57:130000美国迫使沙特基金退出Altman支持的人工智能芯片初创公司
##划重点:🧠**人工智能芯片初创公司退出:**美国政府迫使沙特阿美支持的风险投资公司在硅谷的人工智能芯片初创公司RainNeuromorphics出售其股份,该公司由OpenAI联合创始人SamAltman支持。🌐**国家安全关切:**Altman支持的RainNeuromorphics筹集了2022年的2500万美元,站长网2023-12-01 14:41:000000研维三防-10英寸卡扣式安卓工业平板电脑机型
首先我们来说说卡扣式是什么样的安装方式,通常10英寸安卓工业平板电脑机型侧边带有嵌入式的安装孔位,并且会配送4个嵌入式卡扣。通常客户在选择卡扣式嵌入式安装时,需要先选好10英寸安卓工业平板电脑机型,因为在确认好机器的硬件参数以及机器的规格尺寸后,才能去确认机器可以安装的机柜尺寸。不同的厂商工业平板电脑的规格尺寸是有差距的,因此工业平板电脑的厚度和接口布局可能也是不一样的。站长网2023-05-24 04:30:040000