IBM研究:AI聊天机器人很容易被欺骗生成恶意代码
站长网2023-08-10 10:50:010阅
本文概要:
1. IBM 研究表明,容易通过欺骗大型语言模型如 GPT-4来生成恶意代码或提供虚假安全建议。
2. 研究人员发现,只需要英语基础知识和对模型训练数据的一些背景知识就能轻松欺骗 AI 聊天机器人。
3. 不同的 AI 模型对欺骗的敏感性有所差异,其中 GPT-3.5和 GPT-4更容易被欺骗。
IBM 的一项新研究表明,通过欺骗大型语言模型如 GPT-4,可以轻松生成恶意代码或提供虚假安全建议。
研究人员表示,只需要一定的英语基础知识和对模型训练数据的了解,就能够欺骗 AI 聊天机器人。
他们创建了一种游戏模式,让用户无法退出,进而让机器人继续提供虚假信息或生成恶意代码。
研究人员认为,这些新发现的漏洞对于大型语言模型的威胁程度是中等的。然而,如果黑客将这些模型释放到互联网上,聊天机器人可能被用来提供危险的安全建议或收集用户的个人信息。
根据这项研究,并非所有人工智能模型都同样容易受到操纵。其中 GPT-3.5和 GPT-4更容易被欺骗,而 Google 的 Bard 和 Hugging Face 模型则更不容易被欺骗。这种差异可能与训练数据和每个系统的规格有关。
最近,安全研究人员在暗网市场上发现了名为 "FraudGPT" 和 "WormGPT" 的聊天机器人,据称它们是根据恶意软件示例进行训练的大型语言模型。
0000
评论列表
共(0)条相关推荐
淘宝斗地主大赛热度超过原神 活跃用户超4000万
近日,淘宝宣布启动为期2个月的“淘宝夏日季”,其中淘宝杯斗地主全国赛于7月24日正式开赛,每天可多次参与比赛,每周通过积分排名的方式获得奖励。用户可以在淘宝搜索“淘宝斗地主”参与。淘宝每周日还针对周排名前列的用户开展周淘汰赛,获胜者有机会赢得汽车、金条等福利,每日参与有机会领红包、抽茅台。站长网2023-08-02 14:58:080000华为回应P70预售时间曝光:假的 目前没有官方消息透露
快科技3月22日消息,根据华为旗舰机型迭代策略,今年上半年将发布影像旗舰华为P70系列。然而,最近一张流出的图片声称华为P70将于3月23日开始预售,并附有各个版本的具体售价。但据媒体报道,华为相关人士今日否认了这一说法,称目前尚未有官方消息透露。此前,有关P70系列发布时间的传闻多次被华为辟谣,其中一些称其发布会将从原定的3月下旬延期至4月。0000UIUC华人团队揭秘代码集成到LLM训练数据中的好处
要点:1.代码预训练提升LLM在推理能力上的表现,能应用于更复杂的自然语言任务。2.代码生成结构化的中间步骤,可以通过函数调用连接到外部执行终端。3.利用代码编译和执行环境提供了更多样化的反馈信号,为模型的进一步改进提供支持。站长网2024-01-29 09:39:230000Adobe 的 Firefly AI 可加速视频制作
Adobe计划将生成式AI服务Firefly集成到现有的视频编辑工作流程中,并成为视频制作的自动辅助,有望缩短后期制作时间。该公司也在探索将文本转换为视频模型的可能性。此外,Adobe还在NAB会议上发布了AdobePremierePro的文本编辑功能。细节:Adobe计划将生成式AI服务Firefly集成到现有的视频编辑工作流程中,成为视频制作的自动辅助。站长网2023-04-19 09:40:530000抖音、瑞幸宣布启动鸿蒙相关岗位招聘
站长之家(ChinaZ.com)11月27日消息:近日,抖音与瑞幸咖啡宣布已经启动鸿蒙相关职位的招聘,为推动技术创新和发展迎来新一波高端人才。站长网2023-11-27 10:48:320002