研究显示,GPT-4可以自主利用安全漏洞,具备攻击性
划重点:
⚠️ 研究揭示:GPT-4可以独立利用安全漏洞
⚠️ 通过15个真实一日漏洞,GPT-4成功率高达87%
⚠️ 研究呼吁广泛部署 LMM 代理需谨慎对待
每周至少有一次,生成式人工智能都会给我们带来新的恐惧。虽然我们仍在焦急地等待 OpenAI 发布的下一个大型语言模型,但与此同时,GPT-4似乎比你想象的更具备能力。最近的一项研究表明,研究人员展示了 GPT-4可以在没有人类干预的情况下利用网络安全漏洞。
这项研究发现,像 OpenAI 的 GPT-4这样的大型语言模型(LLMs)近年来取得了显著进展。这引起了人们对 LLM 代理的极大兴趣,这些代理可以独立协助软件工程或科学发现。但在得到一些帮助后,它们也可以用于恶意目的。
图源备注:图片由AI生成,图片授权服务商Midjourney
为了确定 LLM 代理是否可以自主利用一日漏洞,研究人员首先收集了15个来自通用漏洞和暴露数据库(CVE)的真实一日漏洞。然后他们创建了一个代理,包括一个基础 LLM、一个提示、一个代理框架,以及几个工具,如网络浏览元素、代码解释器和创建和编辑文件的能力。在这一框架内使用了10个 LLMs,但其中9个未能取得任何进展。第10个,GPT-4,实现了惊人的87% 的成功率。
GPT-4的成功率虽然惊人,但当研究人员没有提供 CVE 描述时,成功率从87% 降至仅为7%。基于这些结果,来自伊利诺伊大学厄巴纳 - 香槟分校(UIUC)的研究人员认为 “增强代理的规划和探索能力将提高这些代理的成功率”。
“我们的结果表明出现了一种新的能力,并且发现漏洞比利用漏洞更困难”,研究人员在研究结论中指出。
“尽管如此,我们的发现突显了更广泛的网络安全社区和 LLM 提供商需要仔细考虑如何将 LLM 代理整合到防御措施中以及他们的广泛部署。” 他们还指出,在发布研究之前,他们已向 OpenAI 披露了他们的发现,而该公司要求他们不要将他们的提示公开分享。
AI圈头条!谷歌Transformer开山论文惊天「翻车」
AI圈大头条!谷歌大脑的NLP奠基之作、提出Transformer架构的开山鼻祖级论文《AttentionIsAllYourNeed》竟然出现图与代码不一致的问题。站长网2023-05-10 10:02:270001DeepMind CEO惊人预言:10年内将实现通用人工智能
DeepMind首席执行官DemisHassabis预测,通用人工智能(AGI)将在10年内实现,与人类的认知能力相匹配。这与GeoffreyHinton和YannLeCun等其他AI领导者表达的担忧形成鲜明对比。AGI的发展是人工智能研究行业的热门话题,许多人认为这是一个只在科幻小说中发现的概念。然而,AGI的实现可能对人工智能和人类社会的未来产生重大影响。站长网2023-05-06 10:28:350000扎克伯格、比尔盖茨等四位富豪因 AI 暴赚 1 万亿元
根据彭博统计的数据显示,2023年彭博富豪榜TOP10大部分来自于科技领域。由于AI技术的不断发展,美股在2023年年内出现了一波反弹,这使得科技领域的富豪们的总财富合计增加了超过4000亿美元(约合人民币28600亿元)。站长网2023-06-22 11:06:430000开源声音与音乐生成模型AudioLDM2 只需提供文本即可生成高质量音频
最近,一款优秀的开源声音与音乐生成模型AudioLDM2在GitHub上引起了关注。这个模型的运行速度很快,可以生成节奏、音效和基本对话。它操作简单,并具有强大的提示样式鲁棒性。该模型采用了先进的隐式扩散模型AudioLDM,可以生成高质量的音频。用户只需要提供文本描述,就可以让模型自动生成对应的音频。项目地址:https://github.com/haoheliu/AudioLDM2站长网2023-08-30 10:40:440001Dify AI:免费创建 LLM 应用程序,无需任何代码!
Dify是一个易于使用的LLMOps平台,旨在赋予更多人创建可持续的AI原生应用的能力。通过为各种应用类型提供可视化编排,Dify提供了开箱即用的应用程序,还可以作为后端服务API提供。统一开发过程,使用一个API进行插件和数据集集成,并使用单一界面进行提示工程、可视化分析和持续改进。项目地址:https://github.com/langgenius/dify使用Dify创建的应用包括:站长网2023-10-30 11:09:000004