OpenAI 联合创始人警告未来 AI 可能超越人类智慧:人类可能成为人工智能的一部分
站长之家(ChinaZ.com) 11 月 1 日消息:OpenAI 联合创始人 Ilya Sutskever 表示,当未来超级智能机器崛起时,人类可能会选择与人工智能融合。他甚至可能是第一个这样做的人。
OpenAI 联合创始人 Ilya Sutskever 最近提出了一个引人注目的理论,他认为未来超智能机器崛起时,人类可能会选择与 AI 融合。
在与 MIT Technology Review 的交谈中,Sutskever 描述了我们应如何为可能超越人类智慧的机器做好准备。他提到这些超智能机器将「看到我们看不到的东西」。
这种思想促使他与 OpenAI 的科学家 Jan Leike 共同组建了一个团队,专注于确保 AI 模型仅按照人类的要求执行,而不会做出超出指令的行为。他们为这个过程命名为「超对齐」(Superalignment),也就是应用于超智能的「对齐」。
Sutskever 强调,保持超智能的检查非常重要,但这是一个「未解决的问题」,并不是很多研究人员正在讨论或工作的领域。「显然,我们必须确保任何人构建的超智能不会失控。」
在解决了失控 AI 的问题后,Sutskever 认为未来人类可能会选择与 AI 融合。虽然他承认这个想法在今天可能看起来「疯狂」,但在未来可能会成为现实。
他说:「许多人会选择成为部分 AI。起初,只有最大胆、最富冒险精神的人会尝试这样做。也许其他人会跟随,或者不会。」
在与采访者告别时,Sutskever 甚至表示,他可能会成为首批接受成为部分 AI 的人之一。
Sutskever 不是唯一警告 AI 可能超越人类智慧的专家。本月早些时候,被认为是 AI 三位教父之一的 Geoffrey Hinton 在接受 CBS News 60 Minutes 采访时表示,未来 5 至 20 年内,新兴技术可能会对人类构成威胁。
Hinton 指出,我们可能会首次面临比我们更聪明的「事物」,并警告未来 AI 可能会操纵人类。
他说:「它们将能够操纵人类,对吧?而且,由于它们从所有的小说、马基雅维利(意大利的政治学家、哲学家、历史学家、政治家、外交官。他是意大利文艺复兴时期的重要人物,被称为『近代政治学之父』,在政治哲学领域具代表性,他所著的《君主论》一书提出了现实主义的政治理论,其中『政治无道德』的权术思想,被人称为「马基雅维利主义」。)的所有书籍和所有的政治诡计中学到了东西,它们会非常擅长说服人们。它们会知道如何做。」
随着 AI 技术的飞速发展,专家的警告提醒了我们,应在推动技术进步的同时,也要深刻认识到潜在的风险,并寻求可能的解决方案。
微软宣布Windows全球用户超10亿!Win11是史上最可靠操作系统
快科技5月28日讯,在微软最新博客中,公司确认Windows全球用户破10亿大关。与此同时,Windows11被微软称赞为有史以来最可靠的版本。仅仅在过去一年,微软就实现了让Windows开始时间缩短10%、对启动应用程序的影响降低了至少50%、平均可节省6%的能耗;站长网2023-05-28 14:04:550000比亚迪9月各车型销量出炉:宋家族破6万 秦家族、海鸥破4万
快科技10月3日消息,比亚迪公布了9月新能源汽车销量:287454辆创历史新高今年已突破200万辆。当月累计销售286903辆,同比增长42.8%当月EV车型151193辆,DM型135710辆9月比亚迪乘用车海外出口28039辆9月合资品牌腾势汽车共交付13156辆以下是各车型具体销量数据:9月王朝网销售133806辆秦销售45072辆汉销售22794辆唐销售10409辆站长网2023-10-03 09:23:070000库克确认接班人来自内部 称目前没有离开苹果的打算
在最近一期的《DuaLipa:AtYourService》博客采访中,苹果CEO蒂姆·库克明确表示,尚未确定具体的接班计划,目前没有离开苹果的打算。同时,他还强调了对苹果公司的热爱和对未来在苹果工作的期待。关于库克的接班人问题,库克表示,他们正在制定多个接班方案,以应对不可预测的情况。站长网2023-11-22 10:39:120000华为Mate60标准版开启订金预售 12+512版售价5999元
华为Mate60标准版已在官方商城开启订金预售,售价为5999元,订金为1000元,目前仅提供12GB512GB一个内存版本。该机型提供雅川青、白沙银、南糯紫、雅丹黑四款配色,采用拼接设计。屏幕方面,Mate60标准版配备6.69英寸单孔直屏,分辨率为2688×1216像素,支持1-120HzLTPO自适应刷新率和1440Hz高频PWM调光,300Hz触控采样率。站长网2023-08-30 10:45:160000OpenAI首席科学家:ChatGPT意识觉醒,AI共生成未来关键
要点:OpenAI首席科学家IlyaSutskever认为ChatGPT可能已经具有意识,而未来超级AI带来潜在风险,因此现在的重点是研究如何防止超级AI失控。他预见未来人类将与机器融为一体,创造新的共生形态,而他的工作已经转向确保AI对待人类的善意。站长网2023-11-02 14:20:280000