OpenAI、谷歌等公司同意白宫列出的八项人工智能安全保证清单
站长网2023-07-25 16:18:430阅
美国白宫于7月21日发布的一份情况说明书正式披露,一些在美国运营的最大的生成式人工智能公司计划为其内容添加水印。亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 就生成式人工智能的使用和监督(包括水印)达成了八项自愿承诺。
此前,白宫在三月份发表了一份声明,表达了对人工智能滥用的担忧。此外,自2022年11月ChatGPT将人工智能内容置于公众视野以来,监管机构正在制定管理生成式人工智能对技术以及人们与其互动方式的影响的程序。
白宫人工智能的八项安全承诺包括:
人工智能系统发布前的内部和外部安全测试。
在整个行业以及与政府、民间社会和学术界共享有关管理人工智能风险的信息。
投资网络安全和内部威胁防护措施,特别是保护模型权重,这会影响人工智能模型关联的偏见和概念。
鼓励第三方发现和报告其人工智能系统中的漏洞。
公开报告所有人工智能系统的功能、局限性以及适当和不适当使用的领域。
优先研究偏见和隐私。
帮助将人工智能用于癌症研究等有益目的。
开发强大的水印技术机制。
水印承诺涉及生成人工智能公司开发一种将文本、音频或视觉内容标记为机器生成的方法;它将适用于水印系统锁定后创建的任何公开可用的生成人工智能内容。由于水印系统尚未创建,因此判断内容是否由人工智能生成的标准方法将公开可用还需要一段时间。
此举是为了解决目前 AI 技术面临的一些重要问题,如偏见、不可靠性和潜在的危险性。通过这些保证,公司将能够更好地管理和控制 AI 系统的风险,确保其在使用过程中不会对人类造成伤害。这份清单的发布得到了业界的广泛关注和赞赏,被认为是 AI 安全领域的重要一步。
0000
评论列表
共(0)条相关推荐
俄大学生AI换脸成普京向普京提问 互动视频在YouTube播放量超15万
近日,俄罗斯总统普京在年度记者会上迎来了一位特别的“替身”——一名俄罗斯大学生使用AI换脸成了“普京”,并向总统提问了一个问题。视频中,普京面对这位“替身”有些语塞,但随后表示决定自己说话的只有自己,这也是他的第一个替身。这段“AI普京互动视频”被上传到YouTube平台后,播放量已超过15万。站长网2023-12-19 16:25:150000甲骨文发布语音AI助手,助力医疗保健领域
文章概要:1.甲骨文在年度健康大会上宣布推出生成式AI助手,旨在改善医疗保健从业者的患者护理工作。2.该助手通过语音和文本命令提供多模态支持,帮助医护人员自动化管理医疗记录和提高患者护理质量。3.甲骨文计划在未来12个月内全面推出此助手,以改善医护工作流程和提供更多服务。站长网2023-09-19 10:17:190000于乾坤:选择做“难而正确的事”,让无人驾驶跑进“快车道”
未来属于青年,希望寄予青年。作为这座城市中最积极、最有生气的力量,上海青年正在成为砥砺奋进的生力军和突击队。为选树青年典型,由青年报社策划主办的上海一线青年新榜样推选展示活动将陆续推出系列报道,充分展现新时代奋斗在一线岗位的青年人物有作为、敢担当的榜样精神,引导更多同龄人从中领悟和学习。今天我们所展示的人物是上汽集团赛可智能技术负责人于乾坤。=青年报·青春上海记者蔡娴/文施剑平/图站长网2023-05-24 18:32:010006人手一个AI!百度这次要让AI变「小」
【新智元导读】大语言模型之战,该如何夺得先机?谁第一个把技术拉下神坛,就能先下一城,抢占客户。多年后,人们提起2023年,会以这样的口吻说起——那一年,ChatGPT爆火,第四次工业革命拉开序幕,人类由「刀耕火种」进入了使用AI工具的年代,AI技术进入了寒武纪大爆发,AI原生的时代来临了。而所有的变革,都是从应用开始。站长网2023-05-26 09:08:510003大模型创业,谁赚到钱了?
几年前,有人问自动驾驶赚不赚钱,一位CEO的回复是:这就像问“小学生赚不赚钱”,可能会逼他去麦当劳打工。现在,很多人想知道大模型创业赚不赚钱,答案可能是:这就像大学生刚毕业去打工,还养不活自己。大模型创业,看起来很火,但赚钱很难。一位大模型创业公司CEO参加了一场线下沙龙,到场的十多家创业公司,只有两家有收入。如果把研发费用算进来,没有一家赚钱。0000