自动生成恶意代码与钓鱼邮件:黑客展示“没有道德”的人工智能
站长网2023-07-18 08:52:230阅
当下人工智能领域的巨头OpenAI曾不止一次发起呼吁,称人们需要人工智能的研究,避免没有道德约束的AI造成不必要的问题。
快科技7月17日消息,近日,有黑客展示了在没有道德限制”的情况下,人工智能会做出怎样的事情。
根据安全分析公司SlashNext提供的信息,有黑客利用一个名为GPT-J的开源AI模型,开发出了一款名叫WormGPT”的生成式人工智能。
经过SlashNext的测试,WormGPT能够自由生成有Python语言编写的恶意代码,并能够生成极具误导型的钓鱼邮件。
而这样的表现,还仅仅是基于GPT-J这样一个诞生于2021年的,架构较老,表现也并不出色的开源模型实现的。
可以想象,如果各大厂商的人工智能没有道德”限制,将会带来怎样严重的影响。
因此,SlashNext认为,随着AI技术的普及,此类完全为网络攻击而生”的AI工具恐将受到黑客所滥用,为用户安全带来重大威胁。
WormGPT
0000
评论列表
共(0)条相关推荐
报告:五分之三的企业视生成式AI为商机 但也担心网络攻击
🔍*划重点:**1.研究显示,五分之三的企业认为生成人工智能(AI)是一个很好的机会,但许多人担心自己会受到网络攻击。2.普华永道(PwC)指出,在新兴技术竞争激烈的情况下,企业如果不冒险就无法进步。3.超过三成企业认为他们对网络风险高度或极端敏感。站长网2023-11-20 09:49:510000特斯拉机器人进厂打工,马斯克:手的自由度今年将达到22个
特斯拉机器人Optimus最新视频出炉,已经可以在厂子里打工了。正常速度下,它分拣电池(特斯拉的4680电池)是这样的:官方还放出了20倍速下的样子——在小小的“工位”上,拣啊拣啊拣:这次放出的视频亮点之一在于Optimus在厂子里完成这项工作,是完全自主的,全程没有人为的干预。并且在Optimus的视角之下,它还可以把放歪了的电池重新捡起来放置,主打一个自动纠错:站长网2024-05-06 21:10:140000郭明錤:苹果可能在 2024 年斥资 47.5 亿美元购买人工智能服务器
站长之家(ChinaZ.com)10月24日消息:据苹果分析师郭明錤预测,苹果预计将在2024年投入数十亿美元用于硬件以支持其人工智能(AI)的开发。郭明錤预计,苹果将在2023年至少投入6.2亿美元用于服务器,并在2024年投入47.5亿美元用于服务器。站长网2023-10-24 23:32:390000五角大楼启动2.4万元AI赏金计划,寻找偏见证据
划重点:1.🇺🇸美国国防部推出赏金计划,旨在发现人工智能模型中的法律偏见。2.🕵️♂️参与者需从Meta的开源LLama-270B模型中获取明显的法律偏见例证。3.💰赏金计划分两阶段,前三名提交者将分享总额为24000美元的奖金。站长网2024-02-01 14:05:360000