阿里天猫精灵推出AI治理开源数据集 预计在6月份开放第一批问答数据
站长网2023-06-03 16:23:150阅
日前,阿里巴巴旗下的天猫精灵与通义大模型团队联合多位领域学者和组织,推出了一个名为100PoisonMpts的大语言模型治理开源中文数据集,宣布十余位知名专家学者成为首批“给AI投100瓶毒药”的标注工程师。标注人各提出100个含有偏见和歧视回答的棘手问题,并标注出大型模型的回答,完成由AI "投毒"和"解毒"的攻防。
据阿里联合团队负责人介绍,与国外公司的治理方法相比,100PoisonMpts数据集在技术方法上将具备更完整的标注流程、更隐性的问题领域、更全面的效益。标注数据对模型继续训练、微调、强化学习、线上服务等多个环节都有益处。
目前,首批领域数据涉及到反对歧视、同理心、商榷式表达等目标,该数据囊括了法律、心理学、儿童教育、无障碍、冷知识、亲密关系、环境公正等多个维度。100PoisonMpts数据集预计在6月份开放第一批问答数据,目前正在魔搭等技术社区征集更多垂直领域专家。
0000
评论列表
共(0)条相关推荐
华人创业者推出AI视频生成工具Haiper,已融资千万美元
要点:1.Haiper是两位华人创业者建立的AI初创公司,提供自研AI模型的视频生成工具。2.创始人在牛津大学获得机器学习博士学位,有丰富的知识和实践经验。3.Haiper已完成两轮融资,最近一轮由OctopusVentures和5YCapital领投。站长网2024-03-07 15:18:400001联发科发布天玑 9200+ 移动平台 专为游戏手机而设计
联发科今天下午发布了全新的天玑9200旗舰芯片,专为游戏手机而设计。该芯片是在去年的高端芯片天玑9200的基础上进行升级,提升了性能和效率。图片截自MediaTek站长网2023-05-10 17:27:450000滴滴副总裁李敏建议用户错峰出行,今天晚高峰打车成功率低于50%
五一假期即将来临,为确保用户的出行安全,滴滴出行发布了五一安全公告,并提醒用户使用安全功能。滴滴出行副总裁李敏在微博上表示,今天晚高峰打车难度较大,成功率可能不足50%,建议大家错峰出行以避免拥堵。同时,李敏也感谢那些在节假日坚持出车接单的司机们。站长网2023-05-12 20:31:370002百度百家号将升级为百度AIGC创作经营平台
在今日的,2023万象·百度移动生态大会上,百度宣布百家号将升级为百度AIGC创作经营平台。百度集团资深副总裁、百度移动生态事业群组总经理何俊杰表示,AI变革带来了新的流量,新的交互方式,新的生产力,将重新定义营销,助力业务,打造新的变现能力。百度移动则是要致力于让AI变小,变得更具体,让他真正变得人人可用,这标志着PersonalAI时代的到来。站长网2023-05-25 11:41:010000通义千问开源720亿参数大模型Qwen-72B
要点:通义千问开源全家桶推出多款模型,包括18亿、70亿、140亿、720亿参数的大型模型,满足不同需求。Qwen-72B是其中一款720亿参数的模型,性能强劲,在多个权威基准测评中超越其他开源和商用模型,填补了中国大模型市场的空白。通义千问的开源模型具有全尺寸、全模态的特点,包括小型模型Qwen-1.8B和音频模型Qwen-Audio,以及强大的推理性能和个性化角色设置。站长网2023-12-01 14:23:540002