前OpenAI安全研究员警告:AI毁灭人类的可能性为 20%
站长网2023-05-06 11:09:030阅
一位曾任 OpenAI 安全研究人员的人正在发出警告,提醒人们人工智能可能最终导致人类终结的严峻前景。
前OpenAI 基金会员工保罗·克里斯蒂亚诺在一个播客节目中说,“我认为人工智能取代人类的可能性大约为10-20%,又或者大多数人类已经死亡,需要非常严肃对待这个问题。”
克里斯蒂亚诺认为机器会逐渐地崛起,人类的终结不是一场突如其来的事件,而是人工智能逐渐地崛起,人类与机器已经透过诸如自动驾驶汽车、无人机等已经渗透到了生活中。而当AI超越人类智商阈值时,一切皆有可能。
克里斯蒂亚诺认为,AI杀消灭人类的最可能方式是日常生活中部署的所有AI联合起来,而不是突然消灭人类。
克里斯蒂亚诺的新非营利组织 Alignment Research Center 基于人工智能对齐的概念,该概念早在2018年就被广泛定义为让机器的动机与人类的动机保持一致。尽管 OpenAI 口头上说要对齐,声称它“旨在使人工智能 (AGI) 与人类价值观保持一致并遵循人类意图”,但仍需要进行更多的研究和开发,以确保安全和合乎道德地开发人工智能。确保机器的动机与人类的动机一致对于防止人工智能毁灭的可能性至关重要。
0000
评论列表
共(0)条相关推荐
Sora文生视频火爆出圈!清华大学公布文生视频专利
快科技2月20日消息,2月16日,OpenAI发布其首款文生视频大模型Sora。Sora可根据文字提示生成60秒视频,输出视频堪比影视CG,一经发布火爆出圈。据国家知识产权局网站显示,2月2日,清华大学申请的一种定制化多主体文生视频方法、装置、设备及介质”专利公布。专利摘要显示,该申请提供一种定制化多主体文生视频方法、装置、设备及介质,涉及神经网络技术领域。站长网2024-02-20 22:51:260000高考后第一批染发大军涌入小红书
DIY染发,年轻人“新宠”“染发”成为众多高考后考生最想做的事情,热搜视频上一个刚走出考场的女生表示:高考结束后,最想做的事情就是想染头发,她还声称这个想法是全国统一的。染发成为“准大学生们”走下考场的第一件要做的事情,一方面是对以往高中生活的反叛,另一方面对美的追求也让他们决心从“头”开始改变。站长网2023-07-18 06:37:200000Meta人工智能科学家抨击业内大佬夸大威胁炒作监管
站长之家(ChinaZ.com)10月31日消息:Meta首席人工智能科学家YannLeCun近日在社交平台上发帖,指责OpenAI、谷歌DeepMind、Anthropic等公司的CEO夸大人工智能对人类的威胁,以此来争取对行业的监管。LeCun还抨击了图灵奖得主杰夫·辛顿和约书亚·本吉奥助长了这种对AI的恐惧。站长网2023-10-31 14:53:270000宁德时代发布“神行超充电池” 充电10分钟续航400公里
宁德时代宣布推出名为“神行超充电池”的新品,这是全球首款磷酸铁锂4C电池。该电池的特点是充电10分钟,续航400公里,即使在-10°C的低温环境下也能在30分钟内充至80%。神行超充电池采用了多项先进技术,包括超电子网正极技术、石墨快离子环负极技术、超薄SEI膜、超高导电解液配方和高效隔离膜等。这些技术使得电池的总续航里程可达700公里。站长网2023-08-16 15:58:400000独立开发变现周刊(第105期):开发一个年收入120万美元的拍照工具
分享独立开发、产品变现相关内容,每周五发布(合集:ezindie.com)目录1、Plane:开源的Jira替代产品2、ShopifyApp:靠2个App达到月收入4.9万美金3、jsoncrack:JSON可视化工具4、建立一个年收入120万美元的拍照工具1、Plane:开源的Jira替代产品站长网2023-09-22 09:18:030000