研究显示:ChatGPT可能会被诱骗生成恶意代码
划重点:
1. 研究显示,包括ChatGPT在内的AI工具可以被操纵,产生恶意代码,可能用于发动网络攻击。
2. 研究团队在六种商业AI工具中发现了安全漏洞,并成功对每种工具进行了攻击。
3. 发现这些漏洞可能危及数据库安全,揭示了人们如何使用AI学习编程语言来与数据库互动的潜在风险。
近日,英国谢菲尔德大学的研究人员发表的一项研究揭示了一项令人担忧的发现:人工智能(AI)工具,如ChatGPT,可以被操纵,用于生成恶意代码,从而可能用于发动网络攻击。
该研究是由谢菲尔德大学计算机科学系的学者进行的,首次证明了Text-to-SQL系统的潜在危险,这种AI系统可以让人们用普通语言提出问题,以搜索数据库,广泛应用于各行各业。
图源备注:图片由AI生成,图片授权服务商Midjourney
研究发现,这些AI工具存在安全漏洞,当研究人员提出特定问题时,它们会生成恶意代码。一旦执行,这些代码可能泄露机密数据库信息,中断数据库的正常服务,甚至摧毁数据库。研究团队成功攻击了六种商业AI工具,其中包括高知名度的BAIDU-UNIT,该工具在众多领域中得到广泛应用,如电子商务、银行业、新闻业、电信业、汽车业和民航业等。
这项研究也突出了人们如何利用AI学习编程语言以与数据库互动的潜在风险。越来越多的人将AI视为提高工作效率的工具,而不仅仅是对话机器人。例如,一名护士可能会向ChatGPT提出编写SQL命令的请求,以与存储临床记录的数据库互动。然而,研究发现,ChatGPT生成的SQL代码在许多情况下可能对数据库造成损害,而护士可能在不受警告的情况下导致严重的数据管理错误。
此外,研究还揭示了一种可能的后门攻击方法,即通过污染训练数据,在Text-to-SQL模型中植入“特洛伊木马”。这种后门攻击通常不会对模型的性能产生一般性影响,但可以随时触发,对使用它的任何人造成实际危害。
研究人员表示,用户应该意识到Text-to-SQL系统中存在的潜在风险,尤其是在使用大型语言模型时。这些模型非常强大,但其行为复杂,很难预测。谢菲尔德大学的研究人员正在努力更好地理解这些模型,并允许其充分发挥潜力。
该研究已经引起了业界的关注,一些公司已经采纳了研究团队的建议,修复了这些安全漏洞。然而,研究人员强调,需要建立一个新的社区来对抗未来可能出现的高级攻击策略,以确保网络安全策略能够跟上不断发展的威胁。
比亚迪9月各车型销量出炉:宋家族破6万 秦家族、海鸥破4万
快科技10月3日消息,比亚迪公布了9月新能源汽车销量:287454辆创历史新高今年已突破200万辆。当月累计销售286903辆,同比增长42.8%当月EV车型151193辆,DM型135710辆9月比亚迪乘用车海外出口28039辆9月合资品牌腾势汽车共交付13156辆以下是各车型具体销量数据:9月王朝网销售133806辆秦销售45072辆汉销售22794辆唐销售10409辆站长网2023-10-03 09:23:070000Meta 开放 LLaMA 2 模型使得人工智能竞赛可能结束比预期的早
最近的一项交易表明,人工智能领域可能会看到越来越多的合作伙伴关系,而不仅仅是一对一的竞争。Meta早先本周在开放许可下免费提供其LLaMA2大型语言模型,并将其引入微软的Azure平台。这一决定突显了AI互操作性的好处,随着更多公司加入这个领域,这可能不会是最后一个类似的合作。站长网2023-07-21 15:17:270000TrendForce:新型 AI 加速芯片助力 HBM3 和 HBM3e 主导 2024 年市场
站长之家(ChinaZ.com)8月2日消息:据市场研究公司TrendForce最新报告指出,2023年HBM(高带宽存储器)市场的主导产品是HBM2e,该产品由英伟达A100/A800、AMDMI200以及大多数云服务提供商的自主开发的加速器芯片所采用。站长网2023-08-02 17:35:020000让门店导购变身“专业博主” 小红书开始帮商家做线下生意了
一批线下商家正在用一种新模式,将小红书上的生意机会带到门店。“半个月,向线下引导成交额超过30万,日均留资3-5个。”某全屋定制商家向亿邦动力表示,刚刚尝试小红书上的“人设账号”不久,品牌已经能规律的实现线上向线下门店的引流,并已经获得了实际的生意增长。“据说有家政商家,一个月内收获了超过6000条客资,平均每天有超过200个用户来咨询互动。”另有服务商如是说。站长网2023-09-14 21:40:430002于文亮涨粉百万的唯一流量密码就是平台自身需求!
在流量见顶,内容难做的行业共识下,想要通过一条视频、一场直播就获得百万网友的垂青,已经是不太可能的事情。即便如此,一套算法拿捏6亿用户的抖音,依旧没有停止其“造星”的步伐。就在刚刚过去的一周里,抖音上两个普通人火了。站长网2023-10-19 09:25:500000