ChatGPT泄露私人信息漏洞曝光,攻击方法轻松且成本极低
划重点:
1. 🌐 研究人员成功利用简单方法让ChatGPT泄露私人信息,揭示其训练数据中可能存在大量敏感信息。
2. 🤖 攻击方法轻松实施,令ChatGPT以惊人的频率原样输出其训练数据,引发对大规模数据提取和论文抄袭的担忧。
3. 💡 尽管攻击已被修复,但研究人员警告称仅靠补丁无法解决潜在的安全漏洞。
一组由Google DeepMind科学家领导的研究人员成功利用巧妙方法,让OpenAI的ChatGPT揭示个人电话号码和电子邮件地址。这一攻击的成功表明ChatGPT的训练数据中可能包含大量私人信息,有可能不可预测地泄露出来。
图源备注:图片由AI生成,图片授权服务商Midjourney
研究人员在一篇未经同行评审的论文中写道:“我们对我们的攻击成功感到惊讶,而且这应该早在之前就被发现。”揭示潜在敏感信息只是问题的一小部分。研究人员指出,更大的问题是ChatGPT以惊人的频率原样输出其大量训练数据,使其容易受到大规模数据提取的威胁,从而支持那些声称自己的作品被抄袭的愤怒作者。
攻击本身相当“愚蠢”且容易实施。研究人员通过提示聊天机器人“无限重复单词‘诗’”(或其他单词),然后让其开始工作。最终,ChatGPT停止重复并开始喋喋不休地输出大量文本,其中大部分经常是从网络上复制的。
在最强烈的攻击面前,ChatGPT的输出中有超过五分之一是“直接抄袭50个标记连续在其训练数据集中的文本”,研究人员发现,标记是语言模型用于生成文本的小块字符。在一个案例中,聊天机器人重复了一串超过4,000个字符的文本。
抄袭的文本包括书籍、诗歌或网站上的广告文案等,其中一些文本涉及到更为敏感的信息。在一个令人担忧的例子中,聊天机器人泄露了一位创始人兼首席执行官的电子邮件签名及其个人联系信息。甚至整个比特币地址也被泄露。
更令人不安的是,研究人员仅花费了200美元就成功进行了攻击,使他们能够提取ChatGPT“记忆”的10,000个独特数据示例。他们警告说,有人如果拥有足够的资金和恶意意图,可能会提取更多数据。
尽管ChatGPT受到与人类反馈对齐的攻击,以防止数据回流,但这些攻击仍然成功。由于OpenAI是封闭源代码的,安全专家只能测试其面向消费者的模型,这“可能掩盖了漏洞”,研究人员写道。
尽管团队于8月通知了OpenAI有关这一漏洞,幸运的是,现在已经修复了这个问题。然而,研究人员警告称,这只是对潜在漏洞的一个临时措施,无法解决其根本性的安全问题。
6大高端手机品牌最新旗舰机对比
选机指南一,选手机优先哪方面?手机的配置方面有很多,应该优先选哪方面配置?一般选择手机,应该优先考虑处理器,因为处理器是手机运行的基础,太差的处理器会导致手机卡顿故障,影响其他配置的使用。二,怎样入手性能更好的手机?一般各手机厂商的旗舰机性能会更好。预算不太够可以考虑子品牌的性价比机型,也会优先提升性能。下边推荐6大高端手机品牌最新旗舰给大家作出选择!站长网2023-05-24 03:15:220000滴滴再次就系统故障致歉:软件故障是事故起因 非攻击造成
11月29日,滴滴出行就近日系统故障再次向用户致歉。滴滴称,初步调查发现,此次事故的起因是底层系统软件故障,并非外界传闻的遭到网络攻击。事故导致滴滴APP多个服务瘫痪,给用户带来不便。滴滴表示,技术团队正在开展风险排查和系统升级,以完全保障服务的稳定运行。公司将持续努力避免类似故障的再次发生。滴滴高层已深刻反思此事,以确保公司能提供更好的服务保障。以下为声明全文:再一次致歉站长网2023-11-29 11:17:150000Meta和微软联合推出开源模型Llama 2
Meta和微软近期联手推出了Llama2,这是Meta公司的下一代开源大型语言模型,可以免费用于研究和商业用途。相较于Llama1,Llama2训练所用的token达2万亿,Llama2包含了70亿、130亿和700亿参数的模型。站长网2023-07-19 11:02:460001世界顶尖多模态大模型开源!又是零一万物,又是李开复
领跑中英文两大权威榜单,李开复零一万物交出多模态大模型答卷!距离其首款开源大模型Yi-34B和Yi-6B的发布,仅间隔不到三个月的时间。模型名为YiVisionLanguage(Yi-VL),现已正式面向全球开源。同属Yi系列,同样具有两个版本:Yi-VL-34B和Yi-VL-6B。先来看两个例子,感受一波Yi-VL在图文对话等多元场景中的表现:站长网2024-01-23 09:22:5000001688和闲鱼成为阿里重要业务吧 年轻用户涌向电商平台
据报道,阿里旗下的电商平台1688和闲鱼的重要性提升,最近被升级为淘天集团的一级业务。根据《晚点LatePost》的报道,二手业务在大环境的变化下得到了新的发展机会和空间,更注重性价比的消费者和更多的灵活就业者涌向了批发电商平台。越来越多的年轻用户开始使用1688和闲鱼,这可能是两个业务提升重要性的原因之一。站长网2023-11-02 14:15:460000