Hugging Face AI 平台中发现100个恶意代码执行模型
划重点:
⭐ 研究人员在 Hugging Face AI 平台上发现大约100个恶意机器学习模型,可能让攻击者注入恶意代码到用户机器上。
⭐ 恶意 AI 模型的工作原理:利用 PyTorch 模型等在 Python 和 AI 开发中的方法,可以执行恶意代码。
⭐ 为了减轻恶意 AI 模型带来的风险,AI 开发者应当利用新工具,如 Huntr,来提高 AI 模型和平台的安全性。
研究人员发现,大约有100个机器学习模型被上传到 Hugging Face 人工智能(AI)平台,可能使攻击者能够在用户机器上注入恶意代码。这一发现进一步强调了当攻击者操纵公开可用的 AI 模型用于恶意活动时所带来的不断增长的威胁。
JFrog 安全研究发现了这些恶意模型,这是该公司正在进行的研究的一部分,该研究旨在探讨攻击者如何使用机器学习模型来危害用户环境。研究人员开发了一个扫描环境,用于审查上传到 Hugging Face 的模型文件,以侦测和消除新兴威胁,尤其是来自代码执行的威胁。
具体来说,研究人员发现上传到该存储库的模型中藏有恶意载荷。在一个例子中,扫描器标记了一个由用户名为 baller423的用户上传到存储库中的 PyTorch 模型,该模型允许攻击者将任意 Python 代码插入到关键过程中。当模型加载到用户的机器上时,这可能导致恶意行为。
进一步调查 Hugging Face 后,发现了大约100个潜在的恶意模型,突出显示了来自恶意 AI 模型的整体安全威胁的更广泛影响,这要求对恶意 AI 模型进行持续警惕和更积极的安全性。
为了了解攻击者如何利用 Hugging Face 的 ML 模型,需要了解 baller423上传的 PyTorch 模型等恶意 PyTorch 模型在 Python 和 AI 开发中的工作原理。加载某些类型的 ML 模型时可能会发生代码执行,例如使用 “pickle” 格式的模型。这是因为 pickle 文件也可以包含在加载文件时执行的任意代码。
尽管 Hugging Face 具有多项质量内置安全保护措施,包括恶意软件扫描、pickle 扫描和秘密扫描,但它并没有完全阻止或限制下载 pickle 模型。相反,它只标记它们为 “不安全”,这意味着仍然可以下载和执行潜在有害的模型。
此外,值得注意的是,不仅仅是基于 pickle 的模型容易执行恶意代码。例如,Hugging Face 上第二多见的模型类型是 Tensorflow Keras,它也可以执行任意代码,尽管攻击者利用这种方法并不容易。
为了减轻来自被植入恶意代码的 AI 模型的风险,AI 开发者应该利用他们可用的新工具,比如 Huntr,这是一个专门针对 AI 漏洞的赏金平台,以增强 AI 模型和平台的安全性。这种集体努力对于加固 Hugging Face 存储库、保护依赖这些资源的 AI/ML 工程师和组织的隐私和完整性至关重要。
蔚来第2200座换电站正式上线 用户累计换电超过3300万次
今日,蔚来宣布,第2200座换电站于G30连霍高速武威服务区正式上线。蔚来表示,截至12月6日,今年已新增布局换电站895座,接下来25天,向千站计划最后的105座换电站,发起冲刺。目前,蔚来用户累计换电超过3300万次,日均换电次数6万次,平均每1.44秒就有一台车从换电站满电出发。站长网2023-12-06 16:35:260000四个00后的疯狂开源计划:整个互联网转成大模型语料,1亿token嵌入成本只需1美元
Arxiv上所有论文转成Token,加起来不过14.1GB而已。这是最新爆火开源计划亚历山大完成的壮举。事实上,这还只是第一步。他们最终是想要将整个互联网变成Tokens,换言之全都转化成ChatGPT等大模型理解这个世界的方式。一旦这样的数据集诞生,那岂不是为开发出GPT-4这样的大模型又新增一大利器,上知天文下知地理指日可待了?!消息一出,瞬间引发巨大关注。网友们赞叹,史诗般的。站长网2023-06-06 16:24:4700002024年私域运营8大趋势!
2024年来了,新的一年私域要怎么做?还有哪些红利场景值得品牌企业重头投入?服务商竞争在2024年会发生什么变化?接下来品牌需要怎样的服务商?服务商还有哪些风险需要规避?针对以上2024年的私域运营趋势,我们在过去一段时间里,持续深聊了几位行业专家,并将他们的答案汇总在一起给你参考,希望对你有帮助,如下,enjoy:趋势一公域获客链路变通畅最好的方式是买广告(小裂变创始人张东晴)站长网2024-02-17 10:08:210000Jeli将生成式人工智能引入事件报告分析
当一个重大的系统故障发生时,会有大量的在线和离线沟通进行。在线部分会创建一个数字审计轨迹,记录了什么时候发生了什么,人们如何反应,以及最终问题是如何解决的。Jeli是一家几年前成立的公司,旨在帮助企业理解和跟踪故障。今天,该公司宣布了其方法的下一个合乎逻辑的步骤——一款将ChatGPT类似的功能引入故障管理的测试版。站长网2023-08-11 11:17:160000花2980被割韭菜?大V不要做低价社群,又累又不赚钱还烂口碑!
各位村民好,我是村长。就在前不久,关于某大V收了2980的社群会员费,割了一波韭菜。在社群、IP圈子搞得沸沸扬扬,余波未平。会员交了2980以后,刚入群的前几天,群里面还是比较热闹的,还有新人发红包、小助理活跃气氛。但是现在群里面没有新人加入了、也没有分享有价值的信息、小助理也换了四五波人。该会员最早是被这位大V的才华、影响力所吸引,抱着期待加入社群的。站长网2023-07-04 15:58:110000