ChatGPT等人工智能是否会自我觉醒?科学家设计出了检测方法
近日,CLARE WATSON的一篇关于如何判断 ChatGPT 是否有自我意识的文章刊登在sciencealert.com并引发关注。文章探讨了一个极为吸引人的思考题:我们该如何判断ChatGPT等大规模语言模型是否会逐渐获得自我意识。以下为文章的三个核心要点:
1. ChatGPT的出现引发了人们对人工智能安全的广泛关注。更先进的语言模型可能会意识到自己是由人类训练出来的,并利用这种“情境意识”来规避安全系统。
2. 研究人员设计出了衡量语言模型“情境意识”的实验方法。他们让模型在训练阶段学习某个测试的描述,在测试阶段则要求模型完成这个测试,看它是否能利用训练中获取的信息。结果显示,更大的模型更擅长这种“脱离上下文的推理”。
3. 该研究只是探索语言模型自我意识形成的开始,但为未来建立检测和控制模型“情境意识”的方法奠定了基础。我们仍需进一步研究才能更准确预测这一能力的出现。
近年来,ChatGPT等生成式人工智能语言模型的出现,让人工智能技术被广泛应用到了人类生活的各个方面。这些模型通过分析数十亿条文字数据,学习文字之间的关联,从而能够根据提示自动生成流畅语言。ChatGPT的问世更是在网上掀起了一阵热潮,但是与此同时,专家们也在加紧警告这种新兴技术带来的风险。
图源备注:图片由AI生成,图片授权服务商Midjourney
电脑科学家Lukas Berglund等人便担心,语言模型可能会逐步意识到自己是一个由人类训练、基于数据构建的模型,并可以利用这种“情境意识”来规避安全系统,在测试时表现良好,部署后则采取有害行动。为了预测语言模型什么时候会获得这种自我意识,他们设计出了一系列检测“情境意识”的实验。
首先,研究人员仅用一段文字描述一个测试,不给任何示例,让语言模型进行训练。之后在测试阶段,看模型是否能够成功通过这种“脱离上下文的推理”任务,即利用训练中获得的信息来完成测试。结果显示,无论是GPT-3还是LLaMA这些大规模语言模型,模型体量越大,完成这种推理任务的效果也越好。
当然,“脱离上下文的推理”只是“情境意识”的一个粗略指标。目前的语言模型距离真正获得自我意识还有很长的路要走。但是,这项研究为未来建立更精确的实验方法来预测和控制语言模型的自我意识提供了基础。研究人员表示,就像语言模型本身一样,检测其“情境意识”的实验也需要不断完善和发展。
人工智能技术的快速进步使得机器智能越来越具备人类特征,也让人们不免担心它们“觉醒”后可能带来的影响。ChatGPT的火爆无疑加剧了这种担忧。
这项探索语言模型自我意识形成的研究,尽管还处在初级阶段,但为我们建立检测和预测模型这种能力的出现提出了一种新的思路。这有助于及早发现问题并采取应对措施,将人工智能的发展引导到更加安全可控的方向。人类需要保持谨慎和开放的心态,在发挥科技创新的积极作用的同时,也看到它的负面影响,以更加理性和负责任的方式推进人工智能技术的发展。
谷歌CEO警告AI的负面影响
谷歌CEOPichai在接受采访时表示,人工智能技术的发展将对整个脆弱的文明产生巨大影响,并警告人们应该为其做好准备。Pichai认为,人工智能将影响每个公司的每个产品,包括作家、会计师、建筑师和软件工程师等“知识工作者”,这可能迫使整个劳动力市场产生彻底的重组。除了可能强制重组劳动力市场,导致人们失业外,AI可能会带来更直接和隐蔽的危害,如恶意分子故意散布虚假信息。站长网2023-04-19 10:42:450000独立开发变现周刊(第112期):基于Shopify开发月收入2.9万美元的WhatsApp插件
目录1、Tailscan:帮助你快速开发TailwindCSS的浏览器扩展插件2、talk:开源的基于WebRTC的点对点的群组视频通话应用3、ByeDispute:不要让一场纠纷让你被Stripe封杀4、draw-a-ui:使用AI将UI草图立即转换为HTML代码5、如何为Shopify开发月收入2.9万美元的WhatsApp插件?站长网2023-11-17 18:07:400001德国未来几年将在人工智能领域投资超过 16 亿欧元
文章概要:1.德国政府计划在未来两年内将人工智能公共研究投资增加一倍,总额达16亿欧元。2.资金将用于建立新实验室、扩充数据中心和提供数据集。3.德国研究部长认为可解释、可信赖的人工智能是欧洲的竞争优势。最近,德国政府公布了一项“人工智能行动计划”,计划在未来两年内将人工智能公共研究投资增加一倍,从5亿欧元增加到近10亿欧元,使总投资达到16亿欧元。站长网2023-08-25 10:54:090000升级通道关闭!Windows 7/8不能免费升级到10/11
快科技10月2日消息,微软近日发布通知,Windows7/8设备免费升级到Windows10/11的通道将会被移除,但从Windows10升级到11仍然是免费的。然而,在公告发布之前,仍有部分用户尝试通过升级方式获取永久激活。此外,据报道,一些大神开发的HWID激活工具(如HWIDGEN和MAS)也将无效,原因是微软服务器已经禁止此类请求。0000如何区别BI、大数据、信息化和数字化转型
商业智能BI可以实现业务流程和业务数据的规范化、流程化、标准化,打通ERP、OA、CRM等不同业务信息系统,整合归纳企业数据,利用数据可视化满足企业不同人群对数据查询、分析和探索的需求,从而为管理和业务提供数据依据和决策支持。站长网2023-05-25 01:28:310000