登陆注册
11831

AI专家呼吁全球政府采取“三分之一投资规则”

站长网2023-10-27 22:14:540

🔍划重点:

1. AI专家集结呼吁政府监管:杰弗里·辛顿、尤瓦尔·赫拉利等AI权威提出“三分之一投资规则”,强调AI的伦理和安全。

2. 国际AI安全峰会前发布共识:专家呼吁政府对AI风险采取民主监管,避免信息误导、社会不公和权力集中等问题。

3. 加强对高级AI系统的监管:专家认为高级AI系统的能力增强必须伴随安全措施,与快速发展的技术同步。

一篇由杰弗里·辛顿、尤瓦尔·赫拉利等联合撰写的论文呼吁全球政府采取具体监管措施,以规范AI的发展和应用。

这些专家包括三位图灵奖得主、一位诺贝尔奖得主以及众多AI学者,他们敦促各国政府采取紧急行动,提出了“三分之一投资规则”,要求主要从事AI系统开发的组织至少投入三分之一的资源来确保AI的安全和伦理使用,这一承诺与他们在能力开发上的投资水平相当。

图源备注:图片由AI生成,图片授权服务商Midjourney

杰弗里·辛顿,被广泛认为是最有影响力的AI科学家之一,表示:“有些公司计划在18个月内用比今天最先进技术多100倍的计算来训练模型。没有人知道它们将有多强大。而且对于它们将能够做什么基本上没有监管。”

在伦敦举行首届国际AI安全峰会之前,这些专家发布了一份简明的文件,概述了政府应如何应对与AI相关的风险。这份文件代表了迄今为止来自顶尖AI学者的最具切实性和全面性的一揽子要求。

这份文件强调了当前的AI模型具有巨大的影响力,需要民主监管以防范潜在风险,包括AI生成的虚假信息、社会不公、权力集中、网络战争和失控等问题。

文件的一位作者、计算机科学家尤瓦尔·赫拉利强调了这些措施的紧迫性,鉴于AI技术的快速发展。他表示:“是时候认真对待高级AI系统了。这些不是玩具。在了解如何使它们安全之前增强它们的能力是极其鲁莽的。公司会抱怨难以满足监管,声称‘监管扼杀创新’,这是荒谬的。对于AI公司来说,比三明治店更多的监管是必要的。”

0000
评论列表
共(0)条