MIT教授警告:当心科技公司陷入“AI竞赛失控”
文章概要:
1. MIT教授Max Tegmark警告人工智能科技公司正在进行激烈的“竞赛”,无法停止发展以考虑AI风险。
2. Tegmark于2023年3月发起了一封开放信,呼吁暂停六个月开发巨大的AI系统,但未能实现这一目标。
3. 该信函警告了AI开发的“失控竞赛”,并敦促政府干预,以避免开发比GPT-4更强大的系统。
麻省理工学院(MIT)的物理学家Max Tegmark教授发出警告,指出人工智能(AI)科技公司正处于一场“失控竞赛”,使得他们无法停下来考虑潜在的AI风险。他是未来生命研究所的共同创始人,于2023年3月组织了一封开放信,呼吁将巨大AI系统的开发暂停六个月。尽管这封信得到了超过3万名签署者的支持,包括埃隆·马斯克和苹果联合创始人史蒂夫·沃兹尼亚克,但未能实现对最有抱负的系统的暂停开发。
Tegmark教授表示,他并没有指望这封信能够阻止科技公司继续努力开发比GPT-4更强大的AI模型,因为竞争变得如此激烈。他说道:“私下里,我与许多企业领导人交谈时,他们想要(暂停),但他们陷入了相互之间的这场失控竞赛之中,因此没有公司可以单独暂停”。
这封信警告了一场“失控竞赛”,该竞赛旨在开发无人能够“理解、预测或可靠控制”的思维,敦促政府干预,如果不能在领先的AI公司之间达成暂停开发比GPT-4更强大系统的禁令,例如谷歌、ChatGPT的所有者OpenAI和微软。
信中提出了以下问题:“我们是否应该开发可能最终数量超过、智胜、使我们过时并取代我们的非人类思维?我们是否应该冒失去对我们文明的控制的风险?”
Tegmark还敦促政府在全球达成安全标准之前暂停开发。他补充说:“在满足约定的安全标准之前,不应该使模型更加强大,这必须暂停。”他补充说:“就安全标准达成一致意见将自然导致暂停。”
此外,Tegmark还敦促政府采取行动,对可以被公众访问和适应的开源AI模型采取行动。马克·扎克伯格的Meta最近发布了一个名为Llama2的开源大型语言模型,并受到一位英国专家的警告,认为这种举动类似于“向人们提供了建造核弹的模板”。
“危险的技术不应该是开源的,无论是生物武器还是软件,”Tegmark表示。
这一问题引发了对AI发展的担忧,从能够生成深度伪造视频和批量制造虚假信息等即时问题,到由超级智能AI引发的对人类控制的威胁或做出不可逆转和高度重大决策的潜在威胁。不过,Tegmark警告称,描述数字“上帝般的通用智能”的发展为长期威胁可能不恰当,他援引了一些AI从业者认为这可能在几年内发生。
暴雪总裁今日离职 微软游戏部门裁员1900人
站长之家(ChinaZ.com)1月26日消息:微软近日宣布,将在Xbox和动视暴雪部门进行大规模裁员,裁员人数约为1900人。这一消息引起了广泛关注和热议。据悉,该部门共有约22000名员工,裁员人数约占微软游戏部门总人数的8%。除了普通员工外,暴雪总裁MikeYbarra和首席设计师AllenAdham也将离开公司。站长网2024-01-26 08:47:060000小米发布新款手机采用相机式设计
小米发布了新款小米13Ultra,其背面设计看起来非常像相机,尤其是徕卡M系列。这款手机还采用了独特的绒面皮革拼接设计和弧形过渡方案,与相机类似。小米13Ultra的设计独特,从市场上的其他智能手机中脱颖而出。它可能会吸引那些正在寻找具有独特外观的手机的消费者。站长网2023-04-18 20:09:290001波音公司正利用 AI 从庞大的数据中剔除安全隐患
波音公司正在利用人工智能来筛选海量的数据,并识别其飞机和航空公司运营中的潜在危险,以加强它在两起致命的737Max坠机事件之后试图增加的安全文化。站长网2023-05-25 15:41:490000YouTube推AI音乐功能,用户可与流行歌手的虚拟声音合作制作音乐
**划重点:**1.YouTube推出名为DreamTrack的AI音乐实验,允许用户通过描述歌曲的情感或概念,利用人工智能生成歌曲,参与的歌手包括DemiLovato、CharliXCX等。2.实验将提供30秒长的歌曲片段,旨在探索技术如何加深歌手、创作者和粉丝之间的联系,以及通过互动工具和体验将其更紧密地连接。站长网2023-11-16 15:54:140000调查显示:公众态度逆转,AI信任度从61%降至53%
**划重点:**1.📉跨足AI革命18个月后,全球AI信任度下降,由2019年的61%降至53%。2.🌐对AI创新的信任缺口扩大,全球普遍认为AI创新管理存在两倍于正面的负面评价。3.🤖仅有35%的美国民众表示信任AI技术,与五年前的50%相比下降明显。站长网2024-03-06 11:13:190000