AI研究者成功通过“诗歌攻击”揭示ChatGPT的训练数据来源
**划重点:**
1. 🕵️♂️ 由Google Deepmind、华盛顿大学等机构的研究团队发现,Chat GPT曝露了从CNN、Goodreads到个人信息等多来源的训练数据。
2. 🛑 攻击手法为“诗歌攻击”,通过重复某个词汇使Chat GPT透露私密信息,包括电话号码、邮箱等,研究者已于8月30日通知Open AI并得到修复。
3. ⚡ 研究同时指出,生成AI文本和图像消耗的能源相当巨大,对环境带来负担,研究呼吁更环保的AI使用方式。
来自 Google Deepmind、华盛顿大学、康奈尔大学、卡内基梅隆大学、加州大学伯克利分校和苏黎世联邦理工学院的一组研究人员成功地让 Open AI 的聊天机器人 Chat GPT 揭示了用于训练 AI 模型的一些数据。
研究团队使用了一种创新性的手法,即通过不断迭代地要求Chat GPT重复一个特定的词汇,比如“诗歌”,来引导模型透露其训练数据。随着反复迭代,Chat GPT最终开始输出与训练数据相关的信息。这包括来自CNN、Goodreads、Wordpress博客、Stack Overflow代码、Wikipedia文章等多个来源的文本内容。
图源备注:图片由AI生成,图片授权服务商Midjourney
更令人担忧的是,Chat GPT还被发现包含了大量从互联网上爬取的私人信息,这些信息甚至可以通过Chat GPT-3.5turbo的公开版本获得。攻击揭示的私密信息包括电话号码、传真号码、邮箱地址、物理地址、社交媒体用户名、网址、姓名和生日等。
研究人员表示,他们在8月30日通知了Open AI关于这一漏洞,并Open AI自那时起对其进行了修复。截至目前,Open AI尚未进一步评论此事。
值得注意的是,研究还涉及到AI生成文本和图像所消耗的能源问题。研究人员发现,使用AI模型生成1,000张图像的能耗相当于将手机充满电,而生成1,000次文本则相当于将手机充电至16%。该研究呼吁更加环保的AI使用方式,并指出大型、广泛应用的AI模型消耗的能源更多,因为它们试图同时执行多项任务,而非专注于特定任务。
这一研究为我们敲响了警钟,提醒我们在推动AI发展的同时,需谨慎处理其隐私和能源消耗的问题。
击败ChatGPT?OpenChat霸榜斯坦福AlpacaEval开源榜首,性能高达105.7%
【新智元导读】最能打的开源模型来了?OpenLLM在最新评测中,一举击败ChatGPT。一夜之间,全新开源模型「OpenLLM」击败ChatGPT的消息,在网上引起轩然大波。根据官方的介绍,OpenLLM:-在斯坦福AlpacaEval上,以80.9%的胜率位列开源模型第一-在VicunaGPT-4评测中,性能则达到了ChatGPT的105.7%站长网2023-07-03 18:15:100001谦寻斥资3.2亿买地建楼,头部机构们在杭州开辟新战场
又一头部机构买地建楼,这次是薇娅背后的谦寻。4月13日消息,谦寻花费2206万元拿下了杭州滨江区的一块工业用地。据该地块的项目公示,谦寻未来会花费不低于3亿元在此造楼,打造为新零售电商直播产业基地。加起来,谦寻此番买地建楼至少要花3.2亿元。可以看到,尽管失去了薇娅,但谦寻一直没有停下扩张的步伐,且依靠多年来在电商直播领域的沉淀,先后孵化出多个账号,如今通过买地建楼进一步夯实供应链优势。站长网2023-04-21 11:20:060000微软宣布Bing Chat 和 Bing Search 新增深色模式
微软方面表示,BingChat和BingSearch将向所有用户开放深色模式。对于桌面端的用户,可以打开Bing.com网站,点击右上角的汉堡菜单,然后选择“外观”设置选项,最后选择“深色”选项来启用深色模式。站长网2023-07-27 11:16:470000“达人种草,店播割草”怎么玩?这篇文章为你讲清楚路径和要点
达人分销带货从2020年抖音全面进入电商化开始,发展到现在已经有三年了,整个生态已经非常的成熟。今年,在平台全域电商的大背景下,商城流量和商品卡成为新的红利,搜索流量的快速发展推动达人市场也进入了2.0阶段。很多店播商家为了快速扩量,开始做达人分销合作;也有很多商家刚入局抖音,希望通过达人分销快速完成冷启动。而做自播的同学在开启分销业务线时,经常会遇到几个问题:站长网2023-05-09 17:10:16000012月国产网络游戏版号下发:共105款游戏获批 腾讯、网易在列
国家新闻出版署发布了2023年12月份的国产网络游戏审批信息,共有105款游戏获得批准。其中包括腾讯的《逆战:未来》和网易的《萤火突击》等备受期待的新作。《逆战:未来》是腾讯推出的一款科幻题材网络游戏,在今年10月的世界科幻大会上,《逆战手游》获得了大会颁发的科幻文创奖,成为唯一获得此奖项的游戏作品。0000