OpenAI、谷歌、微软和 Anthropic联合成立机构监督“前沿人工智能”模型开发
站长网2023-07-27 12:02:250阅
为了响应日益增长的监管呼声,OpenAI、微软、谷歌和 Anthropic 成立了前沿模型论坛,旨在确保 “前沿人工智能” 模型的安全和负责任的开发。该联盟将利用成员公司的专业知识来开发技术评估和基准,并推广最佳实践和标准。
他们认为这类模型对公共安全构成严重风险,具有独特的监管挑战。论坛的目标包括推进人工智能安全研究、确定最佳实践、与政策制定者合作,并支持应对社会挑战的应用程序。具体如下:
新论坛的自定目标包括:
i) 推进人工智能安全研究,以促进负责任的前沿模型开发,最大限度地降低风险,并实现对能力和安全性的独立、标准化评估。
ii) 确定负责任地开发和部署前沿模型的最佳实践,帮助公众了解技术的性质、功能、局限性和影响。
iii) 与政策制定者、学术界、民间社会和公司合作,分享有关信任和安全风险的知识。
iiii) 支持开发有助于应对社会最大挑战的应用程序,例如减缓和适应气候变化、早期癌症检测和预防以及应对网络威胁。
尽管目前只有四名成员,但该团体表示欢迎新成员加入。这一举措旨在向外界展示 AI 行业对安全问题的重视,并试图通过自愿举措来规避即将到来的监管,也许可以为制定规则做一些努力。
欧洲正在推进第一个具体的人工智能法规,旨在将安全、隐私、透明度和反歧视纳入公司的人工智能开发理念。上周,拜登总统在白宫与七家人工智能公司会面,其中包括前沿模型论坛的四个创始成员,以达成自愿保障措施来应对蓬勃发展的人工智能革命。
拜登也表示,未来可能会出现监管监督。拜登当时表示:“通过管理风险来实现人工智能的承诺将需要一些新的法律、法规和监督。” “在未来几周内,我将继续采取行政行动,帮助美国引领负责任的创新之路。我们将与双方合作制定适当的立法和监管。”
0000
评论列表
共(0)条相关推荐
JetBrains 推出 AI 助手功能 提供程序开发的智能辅助
JetBrains发布了基于人工智能驱动的ReSharper版本,这是其针对MicrosoftVisualStudio的开发者生产力扩展。新版本ReSharper2023.2是首个搭载了基于人工智能的开发辅助功能的版本。站长网2023-07-15 11:18:550000华为Mate 60全系配置售价公布 标配12GB内存
站长之家(ChinaZ.com)9月4日消息:今天下午,华为官方发布了Mate60和Mate60Pro的详细配置和价格介绍图。华为Mate60提供三个版本:12GB256GB售价5499元、12GB512GB售价5999元、12GB1TB售价6999元。而华为Mate60Pro同样提供三个版本:12GB256GB售价6499元、12GB512GB售价6999元、12GB1TB售价7999元。站长网2023-09-04 17:32:430000英伟达成立最壕AI实验室 专攻具身智能研究
要点:1.英伟达成立通用具身智能体研究小组,专攻具身智能。2.该实验室旨在打造能在虚拟和现实世界中学习行动的智能系统。3.英伟达此前在具身智能领域的研究成果包括GPT-4生成奖励函数、Voyager在《我的世界》中的应用等。站长网2024-02-27 10:08:200000国美电器自营门店入驻抖音和快手本地生活平台
7月11日,国美电器宣布旗下百家自营门店正式入驻抖音、快手本地生活平台。通过到店团购、直播带货等方式,国美将进一步联动线上平台和线下门店,为消费者提供一站式服务,从购买到售后。国美门店位于各大城市核心商圈、各类商业及社区中心,消费者可使用家电3C抖音、快手到店团购券购买空调、冰箱、洗衣机、彩电等各类大小家电。站长网2023-07-12 15:40:000000NCSC、CISA 等国际机构发布新的 AI 安全指南
划重点:🔸英国国家网络安全中心(NCSC)、美国网络安全与基础设施安全局(CISA)和其他16个国家的国际机构发布了关于人工智能系统安全的新指南。🔸这些指南旨在帮助开发人员在设计、开发、部署和运营AI系统时,确保安全性成为其核心组成部分。🔸指南内容涵盖了AI系统开发生命周期的四个关键阶段:安全设计、安全开发、安全部署和安全运维。站长网2023-11-30 11:30:480000