刘慈欣谈ChatGPT:人类的无能反而是人类最后的屏障
据报道,刘慈欣最近在一次活动中表达了自己对以ChatGPT为代表的人工智能可能会给人们带来的影响,回答了人工智能是否会消灭人类的问题。
第一个层次就是这种字面意义上的消灭,就是人工智能用某种暴力从肉体上完全消灭人类或是统治世界。
这一点从目前的这个技术发展趋势来看,特别是从目前的技术水平来看,在可以看到的未来可能性不是太大。
当人工智能的发展,它比人类的智能稍稍高一些的话,它自己也会像人类一样去创造新的人工智能,它创造出来的这个新人工智能可能比它的智能也稍微高一点,那么它又会接着迭代下一代。
这样的话,它们就会很快的把这些人工智能的智能水平提高到很高,可能提高到人类的这个迭代下去,提高到人类的几百倍甚至上万倍,而由于它的这个计算机的计算时间比这个人脑,人的大脑要快成千上万倍,那么这个迭代的时间可能十分的短,这是很可怕的一件事。
但是做出这个预测的人忘了一点,就是我们人类的计算能力,我们所能提供的算力是有限的。它的迭代到一定程度,我们的算力不(能够)支持它。
所以这就是一个有很讽刺意义的一件事情:我们人类的无能反而成为我们一个最后的屏障。
那么第二种消灭则是一种我们想不到的一种方式,就是说第一种消灭人类是完全违背人类意愿的,而第二种对人类的消灭可能完全符合我们的意义。
比如说人工智能的发展,我刚才说过它可能会代替我们的这个大量的工作,而我们的社会如果适应了与人工智能的这种共存,我们发展出一种新的这种分配制度,那么我们就可能带来一个十分舒适的那种社会环境和十分舒适的生活。大部分人可能不需要工作,把大部分的工作都交给人工智能来进行。
在这种情况下,我们会越来越多地交出自己对社会运作的操作这种权利给到人工智能。
而生活会变得越来越舒适,那么这个样子下去的话,我们可能面临着人类历史上前所未有的一个巨大的陷阱。如果这样一直发展下去的话,那可能人类最后的命运就是被人工智能所消灭,但这个消灭的过程完全是在我们的意愿之内,而人工智能至始至终它没有任何恶意,它只是照着人类的指示去行驶。
而这样的如果真的发生这样的事,那人工智能所需要的它的智能程度以及它所需要的计算能力远远小于我们前面那个真正的字面意义上的那种消灭。所以这确实是我们应该对未来有所警觉的一件事情。
研究发现:GPT-3经常出错,重复有害的错误信息
划重点:⦁研究人员系统地测试了ChatGPT对事实、阴谋、争议、误解、刻板印象和虚构等六类声明的理解⦁研究发现GPT-3经常出错,自相矛盾,并重复有害的错误信息⦁大型语言模型如OpenAI的ChatGPT显示它们重复了阴谋论、有害的刻板印象和其他形式的错误信息一项新研究发现,OpenAI的ChatGPT等大型语言模型经常重复阴谋论、有害的刻板印象和其他形式的错误信息。0000雷军:卢伟冰将兼任小米品牌总经理 并主讲小米14 Ultra
站长之家(ChinaZ.com)2月4日消息:小米集团近日宣布了一系列重大人事调整。在这次调整中,雷军宣布,为了把更多精力放在汽车业务上,集团总裁卢伟冰将兼任小米品牌总经理,并且小米手机发布会将由他主讲,首场即为小米14Ultra。与此同时,王腾将接任Redmi品牌总经理一职。站长网2024-02-04 09:20:070001谷歌DeepMind发布18秒动画 向用户解释大语言模型的工作原理
要点:1.谷歌DeepMind发布了一段18秒的小视频,用于向普通人解释大语言模型的工作原理,引发网友激烈讨论。2.视频表现了机器学习模型的工作原理,描述了每一个非常小的层对一个非常小的数据进行处理,最终用于预测某些内容的模型。3.视频中的动画抽象地演示了语言模型内部操作的概念视图,用于提供语言模型内部操作的概念视图。站长网2023-11-14 09:54:100000混战数月后,国产AI办公神器彻底学会“自己办公”了吗?
简历上的“精通各种办公软件”,堪称21世纪最大的谎言。入职前:精通各种办公软件入职后:不知道怎么把Word的空白页删掉,最后选择物理删除——打印出来把空白页扔掉。不过说真的,这些现在可能也不重要了。随着越来越多的办公软件卷起了AI,办公软件都快晋升成为合格的打工人,学会自己办公了。站长网2023-06-16 20:15:030003元象开源高性能大模型XVERSE-65B-Chat版 无条件免费商用
元象宣布开源高性能大模型XVERSE-65B-Chat版,无条件免费商用,为开发者构建和部署垂直领域应用提供强大且易用的工具。广大用户可登录大模型官网(chat.xverse.cn)或小程序体验。XVERSE-65B在SuperCLUE中文通用大模型综合基准测评中位居国内开源总分第一。站长网2023-12-15 08:48:440000