蚂蚁集团、OpenAI、科大讯飞等联合编制 大模型安全国际标准发布
站长网2024-04-18 17:15:150阅
快科技4月17日消息,第27届联合国科技大会在瑞士日内瓦召开。世界数字技术院(WDTA)发布了一系列突破性成果,包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。
据悉,这两项国际标准是由OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成。其中《大语言模型安全测试方法》由蚂蚁集团牵头编制。
此次发布的标准汇集了全球AI安全领域的专家智慧,填补了大语言模型和生成式AI应用方面安全测试领域的空白,为业界提供了统一的测试框架和明确的测试方法,有助于提高AI系统安全性,促进AI技术负责任发展,增强公众信任。
世界数字技术院(WDTA)是在日内瓦注册的国际非政府组织,遵从联合国指导框架,致力于在全球范围内推进数字技术,促进国际合作。
AI STR(安全、可信、负责任)计划是WDTA的核心倡议,旨在确保人工智能系统的安全性、可信性和责任性。蚂蚁集团、华为、科大讯飞、国际数据空间协会(IDSA)、弗劳恩霍夫研究所、中国电子等均为其成员单位。
公开资料显示,蚂蚁集团从2015年起就积极投入可信AI技术研究,目前已建立了大模型综合安全治理体系。蚂蚁集团还自研了业界首个大模型安全一体化解决方案蚁天鉴”,用于AIGC安全性和真实性评测、大模型智能化风控、AI鲁棒和可解释性检测等。
此次发布的《大语言模型安全测评方法》,便是基于蚁天鉴”AI安全检测体系的应用实践,与全球生态伙伴交流编制。此外,蚂蚁集团在公司内成立了科技伦理委员会和专门团队来评估和管理生成式AI的风险,公司所有AI产品均需通过科技伦理评测机制,确保AI安全可信。
0000
评论列表
共(0)条相关推荐
阿里AI新品“通义听悟”正式上线 智能总结、实时语音转文字等
在阿里云峰会·粤港澳大湾区分会场,阿里云公布了通义大模型的进展,聚焦音视频内容的AI新品“通义听悟”正式上线,成为国内首个开放公测的大模型应用产品。据了解,通义听悟是一款工作学习AI助手,它瞄准具有高知识附加值的音视频内容场景,比如开会、上课、访谈、培训、面试、直播、看视频、听播客等,能通过大模型等最新AI技术快速提炼和沉淀知识。站长网2023-06-02 00:11:230000快手自研文生图大模型可图Kolors开启内测
据未来科技力消息,快手自研的文生图大模型“可图”(Kolors)已于近期开启内测。该大模型具有强大的文本理解、丰富的细节刻画和多样的风格转化特点。此前,快手在APP评论区已开始内测“AI玩评”功能,内测中的“AI玩评”功能可以根据用户输入的文字生成相应的图像,并提供多种风格选择。站长网2023-09-18 17:31:330000数据显示:10月全球智能手机市场在连选27个月下跌后迎来增长
在全球智能手机市场经历了两年多的低迷后,据CounterpointResearch的数据显示,由于新兴市场的复苏,该市场在10月份迎来了5%的月销量增长,成为自2021年6月以来首个同比增长的月份,打破了27个月的连续同比负增长记录。图源备注:图片由AI生成,图片授权服务商Midjourney站长网2023-11-22 14:26:080000英国育儿论坛Mumsnet用OpenAI技术创建了AI聊天机器人
本文概要:1.育儿论坛MumsnetOpenAI技术创建了一个AI聊天机器人,名为MumsGPT,可用于分析网站上用户留下的评论和帖子。2.MumsGPT将用于指导决策者在育儿问题上并为广告商提供更精准的营销目标。3.MumsGPT目前只是一个研究工具,但未来可能对公众开放。站长网2023-08-22 14:14:3200004天涨粉近百万,高途佳品就差一个董宇辉了
“董宇辉不是用来挖的,是用来爱的。”一句话,让“丈母娘”们(董宇辉粉丝群体的自称)粉上了高途佳品CEO陈向东。这几天,因为东方甄选的“小作文”风波,竞品高途佳品迎来了一场泼天富贵。据新榜旗下抖音数据工具新抖,高途佳品抖音官号“高途佳品”4天涨粉超99万,一场直播带货500万-750万,相比一周前带货成绩暴涨500倍。站长网2023-12-15 16:41:400000