科学家称AI存在5%的概率导致人类灭绝
划重点:
🤖 AI研究者普遍认为,超级人工智能的可能发展存在非常小但非微不足道的导致人类灭绝的风险。
🌐 在最大规模的AI研究者调查中,约58%的研究者认为有5%的概率导致人类灭绝或其他极端糟糕的AI相关结果。
🌍 调查显示,AI研究者对未来AI技术里程碑的时间表存在广泛分歧,同时对AI可能带来的社会后果感到不确定。
在最新一项对人工智能研究者的调查中,科学家们普遍认为,超级人工智能的可能发展存在导致人类灭绝的非微不足道的风险,然而在这一问题上存在广泛的分歧和不确定性。
这一发现来自对2700名近期在六个顶级AI会议上发表论文的研究者进行的调查,这是迄今为止最大规模的AI研究者调查。调查要求参与者分享他们对未来AI技术里程碑可能的时间表的看法,以及这些成就可能带来的社会后果,近58%的研究者表示,他们认为有5%的概率导致人类灭绝或其他极端糟糕的AI相关结果。
图源备注:图片由AI生成,图片授权服务商Midjourney
加利福尼亚州机器智能研究所的Katja Grace是该论文的作者之一,她表示:“这是一个重要的信号,大多数AI研究者并不觉得先进的AI毁灭人类的可能性非常荒谬。我认为这种对非微小风险的普遍认知比确切的风险百分比更有说服力。”
然而,俄亥俄州凯斯西储大学的Émile Torres表示,目前无需过于担忧。他指出,这种AI专家调查在预测未来AI发展方面“没有良好的记录”,并引用2012年的一项研究,显示从长远来看,AI专家的预测并不比非专家公众的观点更准确。该调查的作者还指出,AI研究者并不是未来AI轨迹的专业预测专家。
与2022年同一调查的答案相比,许多AI研究者预测,AI将比以前预计的时间更早地达到某些里程碑。这与ChatGPT在2022年11月首次亮相以及硅谷迅速推出基于大型语言模型的类似AI聊天机器人服务的情况相吻合。
调查显示,研究者预测在未来十年内,AI系统有50%或更高的几率成功完成39项示例任务中的大多数,包括编写与泰勒·斯威夫特(Taylor Swift)的歌曲无法区分或从头开始编写完整的付款处理网站。其他任务,如在新房屋中安装电气布线或解决长期存在的数学难题,则预计需要更长时间。
研究者认为,AI可能在2047年前以50%的概率发展出可以在所有任务上超越人类的能力,而所有人类工作变得完全可自动化的可能性则在2116年前有50%的概率发生。这些估计比去年调查中给出的时间提前了13年和48年。
然而,Torres表示,对于AI发展的许多突破来说,可能会落空。他说:“许多这些突破是相当难以预测的。完全有可能AI领域再次经历一场‘寒冬’”,指的是在1970年代和80年代资金和企业对AI的兴趣减弱的情况。
此外,除了超级人工智能的风险外,还存在更为紧迫的担忧。70%或更多的AI研究者表示,涉及深度伪造、操纵公众舆论、制造武器、对人口实施威权控制和恶化经济不平等的由AI驱动的情境,要么是相当重要的,要么是极端重要的。Torres还强调了AI可能在气候变化等存在性问题上助长虚假信息或加剧民主治理恶化的危险。
他表示:“我们已经拥有了可以严重破坏[美国]民主的技术,现在就在这里。”Torres表示,“我们将看到在2024年选举中会发生什么。”
靶向代谢抗衰老:谷氨酰胺与衰老细胞清除
站长网2023-05-23 15:26:240002LG CNS发布生成式AI平台DAP GenAI 支持产品推荐、文档摘要等
划重点:1.LGCNS推出DAPGenAI,一款用于商业的生成式人工智能平台,支持产品推荐、文档摘要和基于数据的报告。2.该平台可选择大型语言模型(LLM),如OpenAI的ChatGPT,Google的PaLM2等,还支持创建产品推荐AI服务。3.DAPGenAI还提供AIPrompt和LLMOps两项功能,用于提供准确答案和优化LLM范围,适用于特定业务。站长网2023-10-13 15:51:410000第一个向机器人宣战的人类?
4月23日,徐州医科大学附属医院一女子怒砸智能导诊机器人引发关注。视频中,一身穿淡黄色羽绒服、手持棍棒的女子,不断砸向医院的智能导诊机器人;而且她不仅砸机器人,还时不时的用棒子指着机器人,嘴里大声呵斥,仿佛是在同一名真人“对线”。至于该女子此举原因目前尚不清楚,目前,当地派出所已经介入调查。而根据医院保卫处的一名工作人员称,初步判断该女子精神上有问题。“第一个向AI宣战的人类”站长网2023-04-25 09:41:410000iPhone15 Pro多机型破发 华强北商户:第三方最低比官网便宜1500元
快科技10月8日消息,自9月22日首发以来,iPhone15系列手机在发售的两周里,多款机型在第三方渠道的价格持续下滑。据华强北的一位渠道商表示,iPhone15Pro与15ProMax的许多机型已经比官网的价格低,最低的价格比官网便宜近1500元。0000SDXL推精简版本SSD-1B 推理速度提升60%
SegmindStableDiffusion1B(SSD-1B)是一款先进的文本生成图像AI模型,致力于提供高效、高速的图像生成能力。这个模型是稳定扩散XL(SDXL)的精简版本,体积缩小了50%,但在保持高质量文本生成图像功能的同时,速度提高了60%。项目地址:https://huggingface.co/segmind/SSD-1B站长网2023-10-27 20:44:590002