谷歌“窃取”GPT-3.5模型关键信息:成本低至150元,调用API即可得手
划重点:
🔍 谷歌成功攻击OpenAI GPT-3.5-turbo模型,成本低至150元
🛡️ 攻击方法简单,通过API不到2000次查询即可获取整个投影矩阵和隐藏维度
📢 OpenAI已知情并采取措施修改模型API
谷歌最新研究揭示了一种攻击大型语言模型的方法,成功窃取了OpenAI GPT-3.5-turbo模型的关键信息。根据谷歌的声明,他们不仅还原了OpenAI大模型的整个投影矩阵,还获得了确切的隐藏维度大小,而这一切只需不到2000次巧妙的API查询,成本低至150元。
攻击的核心目标是模型的嵌入投影层,即模型的最后一层,负责将隐藏维度映射到logits向量。通过向模型的API发出针对性查询,可以提取出模型的嵌入维度或者最终权重矩阵。谷歌通过大量查询和奇异值排序成功识别出模型的隐藏维度。
该攻击方法不仅可以揭示模型的隐藏维度,还能获取模型的“宽度”(总体参数量)等全局性信息,降低模型的“黑盒程度”,为后续攻击“铺路”。研究团队表示,这种攻击非常高效,攻击OpenAI的Ada和Babbage模型以及GPT-3.5分别只需不到20美元和大约200美元。
OpenAI已经得知这一情况,并在研究团队征得同意后确认了攻击的有效性,最终删除了所有与攻击相关的数据。虽然这种攻击方式获取的信息并不多,但其低成本和高效性令人震惊。
论文中提到的防御措施包括从API下手,彻底删除logit bias参数,或者直接从模型架构下手,在训练完成后修改最后一层的隐藏维度等。在此事件曝光后,OpenAI已经采取了修改模型API的措施,防止类似攻击再次发生。
这项研究揭示了即使是大型语言模型也可能面临安全威胁,即便OpenAI已经采取了一定的防御措施。这一事件提醒了人们,保障模型的安全性仍然是一个复杂而重要的问题。
论文链接:https://arxiv.org/abs/2403.06634
对话「北冥有鱼」:电商机构入局淘宝内容直播,单个主播打赏收入超百万
2023年2月,淘宝直播发布优质内容激励政策,大力招募内容主播。在竞争越来越激烈的直播赛道,淘宝直播对于内容化的大力投入,让不少入局的机构和主播淘到了金、找到了新阵地。这其中,就跑出了一家成立仅2年的MCN机构——北冥有鱼,旗下拥有“蒙面姐弟”、“微风小哥”、“德立干将”等多个优质内容直播间。而且,据了解,北冥有鱼12月的打赏收入已经超过了200万。0000DALL·E 3内部实测效果惊人!Karpathy生成逼真灵动「美国小姐」,50个物体一图全包
OpenAI作图神器DALL·E3内测开启,网友纷纷上手实测后,感慨强到令人发指。文生图从此告别「提示词时代」?一直以来,Midjourney横扫设计界,效果惊艳,让许多网友惊呼将淘汰一波打工人。如今,OpenAI官宣了新一代作图模型——DALL·E3,还将其与ChatGPT合并,画作细腻度令人发指。甚至,不用prompt,它能准确还原细节,为图片配上文字。站长网2023-09-25 09:15:560000阿里云免费开源数据库AI算法PilotScope
站长之家(ChinaZ.com)12月20日消息:现有的数据库系统非常复杂,要求非常稳定,即使将单一的AI算法与数据库进行匹配调试,也需要工程师们数周甚至数月的紧密配合,效率低下,效果不佳,导致业界迟迟无法将AI算法应用到数据库中。站长网2023-12-20 15:29:250000抖音电商推出“抖音商城版”APP 主打超值好物省心选
抖音电商近日推出了名为“抖音商城版”的全新APP,其核心理念为“超值好物省心选”,这一举措标志着抖音电商首次在抖音APP之外,构建了一个全面且独立的电商平台。站长网2024-03-26 14:19:220000比尔·盖茨预测人工智能将引发技术爆炸
**划重点:**1.🌐"人工智能将以前所未见的速度加速新发现"—盖茨在年度展望信说道。2.💡在未来18至24个月内,盖茨预测美国等发达国家普通民众将开始广泛使用人工智能,对生产力和创新产生巨大影响。3.🌍盖茨重点关注人工智能在发展中国家的应用,特别强调在全球卫生领域的平等性。0000