报告:网络犯罪分子正使用Meta的Llama2人工智能发起攻击
划重点:
- 🕵️♂️ 网络犯罪组织开始利用生成式人工智能发动攻击,其中包括 Meta 的 Llama2大型语言模型。
- 💻 群聚蜘蛛利用 Meta 的大型语言模型生成 Microsoft 的 PowerShell 任务自动化程序脚本,用于下载一家北美金融服务公司员工的登录凭证。
- 📈 CrowdStrike 报告警告目前检测基于生成式人工智能的攻击能力有限,但预计恶意使用生成式人工智能的趋势将不断增加。
网络犯罪团伙已开始利用生成式人工智能进行攻击,包括 Meta 的 Llama2大型语言模型,根据网络安全公司 CrowdStrike 周三发布的年度全球威胁报告。据 CrowdStrike 报道,一个名为 Scattered Spider 的组织利用 Meta 的大型语言模型生成了 Microsoft 的 PowerShell 任务自动化程序脚本,用于下载 “一家北美金融服务公司受害者” 的员工登录凭证。
图源备注:图片由AI生成,图片授权服务商Midjourney
报告通过检查 PowerShell 中的代码追踪了 Llama2的使用情况。“用于下载用户不可改变 ID 的 PowerShell 类似于 ChatGPT 等大型语言模型(LLM)输出,例如一个注释的模式,实际命令然后每个命令的新行与 Llama270B 模型输出相匹配。根据相似的代码风格,Scattered Spider 很可能依赖 LLM 生成此次活动中的 PowerShell 脚本。” 作者警告称,目前检测基于生成式人工智能或增强生成式人工智能的攻击能力有限,因为很难找到 LLM 使用的痕迹。该公司假设到目前为止,LLM 的使用是有限的:“只有在某些操作阶段可能的敌方使用生成式人工智能的少数具体观察。”
然而,CrowdStrike 预测,恶意使用生成式人工智能将会增加:“人工智能的持续发展无疑会提高其潜在滥用的效果。” 迄今为止,这些攻击遇到了一个挑战,即开发大型语言模型的高成本限制了攻击者可以从这些模型中生成用作攻击代码的种类。“2023年,威胁行为者试图制作和使用这样的模型的尝试通常都是一种欺诈,生成的输出相对较差,在许多情况下很快就变得无效。” 报告称。
除了生成代码,另一个恶意使用的途径是误导信息,就在这方面,CrowdStrike 报告强调了今年可能受到误导性宣传活动影响的众多政府选举。除了今年的美国总统选举,“来自55个国家的个人,代表全球42% 以上的人口将参与总统、议会和 / 或大选。” 报告作者指出。选举操纵分为高科技和低技术两种方式。高科技途径是通过篡改投票系统以及向选民传播关于投票的信息来破坏或破坏投票机制。
低技术途径是误导信息,例如 “破坏性叙述” 可能 “破坏公众信心”。这种 “信息运营”,或者,正如 CrowdStrike 所称,已经发生,“因为中国行动者在社交媒体影响活动中使用人工智能生成的内容来传播批评台湾总统选举候选人的内容。” 该公司预测,“鉴于人工智能工具可以轻松生成具有欺骗性但令人信服的叙述,对手很可能会使用这些工具针对2024年的选举进行信息运营。那些举办选举的国家中政治活跃的党派很可能会使用生成式人工智能制造虚假信息,以在自己的圈子内传播。”
蚂蚁百灵大模型通过备案 多款产品即将向公众开放
蚂蚁百灵大模型已按照国家七部委联合公布的《生成式人工智能服务管理暂行办法》完成备案,基于该大模型的多款产品也已陆续完成内测,即将向公众开放。蚂蚁百灵语言大模型,它采用Transformer架构,经过万亿级Token语料的训练,支持窗口长度达到32K,并在主流推理类榜单中名列前茅。站长网2023-11-06 10:41:08000199元4件T恤,每年都能卖爆!
99元4件T恤,每一年都能卖爆。今天和大家分享这个案例,希望大家对于应季产品的需求有更深刻的理解,并且从中找到赚钱的机会。01T恤是刚需消耗品随着这几年气温升高,T恤几乎是一年中使用最长的服饰款式了,这里主要是指南方的诸多省份。一般从3月中旬开始持续到10月初,所以长达有半年的时间。而在云南、广东、海南等地甚至更长。有时候天气冷,也就穿个小外套而已。0000LLaVA-1.6来了!赶超Gemini Pro 提升推理性能
要点:1、LLaVA-1.6提升了推理、OCR能力,支持更多场景和广泛用户。2、LLaVA-1.6在多项基准测试中超越了GeminiPro,并优于Qwen-VL-Plus。3、LLaVA-1.6展现出强大的零样本中文能力,取得了SOTA性能。站长网2024-02-01 14:31:010000AI对英国就业的影响:10%-30%的工作可能被AI自动化替代
**划重点:**1.🌐英国教育部发布报告,认为10-30%的工作可能被AI自动化,而生成式人工智能的影响速度和广泛性可能超出先前预期。2.💼金融、法律和商业管理等领域的工作最有可能受到人工智能的影响,尤其是电话销售、法律专业人员和心理学家的岗位。3.🔄欧洲央行的研究表明,与以往技术浪潮不同,目前人工智能的应用在欧洲与高技能职位和年轻工作者的就业增长相关。站长网2023-12-14 10:45:030000孙红雷诉游戏软件“买瓜”台词声音侵权 获赔3万元
据成铁第一法院公众号消息,2023年10月13日,成都互联网法庭对审理的全国首例影视剧台词声音权纠纷案当庭宣判。据了解,今年9月,因《西瓜摊主大战买瓜人》游戏软件中使用了演员孙红雷参演的电视剧《征服》经典桥段中的台词声音,游戏开发商和供应商成都睡神飞科技有限公司、北京睡神飞科技有限公司被孙红雷告上法庭。站长网2023-10-13 17:24:290000