Google 扩展其漏洞奖励计划以增强生成式人工智能系统的安全性
站长网2023-10-28 13:01:470阅
站长之家(ChinaZ.com) 10 月 28 日消息: Google 宣布,将扩展其漏洞奖励计划(VRP),以奖励研究人员寻找针对生成式人工智能(AI)系统的攻击方案,以增强 AI 的安全性和安全性。
Google 的 Laurie Richardson 和 Royal Hansen 表示:「生成式 AI 带来了与传统数字安全不同的新问题,例如可能存在的不公平偏见、模型操作或数据误解(幻觉)。」
适用范围内的一些类别包括提示注入、训练数据集中敏感数据的泄露、模型操纵、触发误分类的对抗性扰动攻击和模型盗窃。
值得注意的是,Google 在今年 7 月早些时候成立了一个 AI 红队,以帮助解决 AI 系统的威胁,作为其安全 AI 框架(SAIF)的一部分。
同时,作为致力于保障 AI 的承诺的一部分,Google 还宣布了通过现有的开源安全倡议,如软件的供应链级别(SLSA)和 Sigstore 来加强 AI 供应链的努力。
Google 表示:「数字签名,如来自 Sigstore 的签名,允许用户验证软件是否被篡改或替换。」
「诸如 SLSA Provenance 之类的元数据告诉我们软件中有什么以及它是如何构建的,允许消费者确保许可兼容性,识别已知的漏洞,并检测更高级的威胁。」
此项发展是在 OpenAI 揭幕了一个新的内部准备团队,以「跟踪、评估、预测和保护」针对跨越网络安全、化学、生物、放射性和核(CBRN)威胁的生成式 AI 的灾难性风险之际发生的。
两家公司,连同 Anthropic 和微软,还宣布了创建一个 1000 万美元的 AI 安全基金,专注于推动 AI 安全领域的研究。
0000
评论列表
共(0)条相关推荐
与 ChatGPT 对话足以辅助设计 CPU:人工智能也可使硬件制造受益
纽约州立大学(NYU)的一个研究团队完成了一项看似不可能的任务:他们成功设计了一款没有硬件定义语言的半导体芯片。他们仅仅使用了简单的英语,通过其中的定义和示例来定义和描述半导体处理器,展示了人类的聪明才智、好奇心和基础知识在与ChatGPT的AI能力相结合时所能实现的惊人成就。站长网2023-06-20 17:10:310000P图风波后李想首次发声:理想汽车将用光明反击黑暗
理想汽车旗舰车型理想MEGA今日启动交付,但自上市以来,该车在网络上遭遇诸多非议,甚至陷入离奇风波。理想汽车创始人李想,长久以来在微博上保持沉默,然而今日,他通过朋友圈发声,针对近期网络上的负面声音进行了正面回应。李想明确表示,近期网络上的风波,实际上是有组织的违法犯罪行为。他感谢众多用户和朋友的关心与支持,表示这些支持是他们成长的动力。对于存在的违法犯罪行为,理想汽车已经采取法律手段进行应对。站长网2024-03-11 10:55:300000德国未来几年将在人工智能领域投资超过 16 亿欧元
文章概要:1.德国政府计划在未来两年内将人工智能公共研究投资增加一倍,总额达16亿欧元。2.资金将用于建立新实验室、扩充数据中心和提供数据集。3.德国研究部长认为可解释、可信赖的人工智能是欧洲的竞争优势。最近,德国政府公布了一项“人工智能行动计划”,计划在未来两年内将人工智能公共研究投资增加一倍,从5亿欧元增加到近10亿欧元,使总投资达到16亿欧元。站长网2023-08-25 10:54:090000中科闻歌将于6月3日推出雅意AI大模型
中科闻歌宣布,将在6月3日推出雅意AI大模型。据介绍,雅意AI大模型支持实时在线联网、自主私有化部署、企业数据领域知识、领域深度认知等特性,为企业提供大模型、数字人、领域模型应用服务。站长网2023-05-19 16:36:290000微软征求用户关于提供更快 Bing Chat 或更快 DALL-E 3 的反馈
微软BingChat团队日前宣布,为了更好地满足用户需求,现在正式向广大用户征集反馈,决定下一步优化工作的重点。Windows和Web体验团队负责人MikhailParakhin在X平台上发起了一项新的投票,询问用户是更希望提升BingChat的速度,还是加快DALL-E3.0的处理效率。站长网2023-11-06 18:06:540000