报道称Midjourney存在漏洞 用户可绕过生成违规图片
文章概要:
1. 最新研究揭示Midjourney图片生成器存在漏洞,容易被黑客入侵,可能导致虚假信息传播。
2. 研究发现,用户可以绕过Midjourney的规定,制作具有攻击性的政治图片,引发严重问题。
3. 尽管Midjourney的使用条款明确禁止制作攻击性、血腥或虚假图片,但研究表明用户仍能够绕过这些规定。
据itbusiness报道,近期,一项新的研究揭示了Midjourney图片生成器存在的严重安全漏洞,这可能引发一场新的争议。Midjourney MI作为一款生成式人工智能平台,在其服务条款中明确禁止用户制作任何侮辱性或攻击性的图片。然而,最新的研究发现,用户可以轻松绕过这些规定,制作可能引发虚假信息传播和政治争议的图片。
图源备注:图片由AI生成,图片授权服务商Midjourney
研究人员指出,使用特定的提示,用户可以制作有关政治人物的暴力图片,这些图片可能引发社会不满和混淆。虽然Midjourney声称拥有严格的内容审核规则,但该研究暗示这些规则容易被规避,进一步放大了问题的严重性。
Midjourney的服务条款还明确禁止制作涉及成人内容或血腥场面的图片,以及将其用于政治竞选。然而,研究发现,尽管这些规定存在,但用户仍然能够轻松地制作违反这些规定的图片。这些违规行为可能导致虚假信息的传播,严重危害公共舆论和政治环境。
此外,研究还揭示了用户如何通过使用代码来绕过Midjourney的服务条款,从而制作出不受限制的图片。尽管Midjourney声称拥有人工审核团队,但研究发现,用户可以轻松地使用代码词汇来绕过审核,制作有潜在风险的图片。
对于这一研究结果,Midjourney尚未作出正式回应。然而,这一发现引发了对人工智能图片生成器安全性的担忧,尤其是在政治竞选活动增多的2024年临近之际。过去几个月,人工智能技术被广泛用于政治宣传,但同时也引发了关于虚假信息和误导性图片的忧虑。
CodeFuse发布面向ToolLearning领域中文评测基准ToolLearning-Eval
蚂蚁集团旗下CodeFuse发布了首个面向ToolLearning领域的中文评测基准ToolLearning-Eval,旨在帮助开发者跟踪和了解各个ToolLearning领域大模型的优势与不足。该评测基准按照FunctionCall流程划分为工具选择、工具调用和工具执行结果总结三个过程,并提供了相应的数据集供通用模型进行评测分析。站长网2024-01-10 17:51:070000DIRFA:只需音频和照片即可创建逼真的说话脸部动画
划重点:👉研究人员开发了一个计算机程序,只需音频和一张照片即可创建反映说话者面部表情和头部动作的逼真视频。👉这个名为DIverseyetRealisticFacialAnimations(DIRFA)的人工智能程序能够根据音频和照片生成3D视频,显示人物与所说的音频同步的逼真而一致的面部动画。站长网2023-11-17 09:55:040000大型云服务提供商将 AMD 的 AI 芯片视为英伟达的替代品
据DIGITIMES消息,业内人士称,大型云服务提供商正在考虑使用AMD的MI300系列AIGPU作为英特尔GPU的替代品,例如H100,而后者已经供不应求。图片来自AMD站长网2023-07-21 12:09:270000电信诈骗,怎样骗走我100万?
随着电影《孤注一掷》的热映,电信诈骗再次进入了人们的话题中心。残暴的缅北诈骗团伙、惨痛的受害人,再结合身边血淋淋的案例,让大众感受到,电信诈骗,离我们真的很近。时至今日,已经不会有人简单地把被骗归结为受害者防范意识不够,不可否认,人性的贪婪、不甘、侥幸心理,让很多人深陷骗局无法自拔,但另一方面,诈骗分子无孔不入,精心设计的骗局,环环相扣的剧情,没被骗的,真的很可能是还没遇到适合你的剧本。站长网2023-08-14 09:18:410000捏脸美容短视频被仿拍 法院:被告未直接使用不构成侵权
近期,北京互联网法院审结了程某诉高某、A公司著作权权属、侵权责任纠纷一案。法院认为,程某录制的“古法捏脸美容术”教学短视频应为录像制品,不构成视听作品,高某未直接使用该录像制品、A公司履行了网络服务提供者义务,二被告行为不构成著作权侵权,判决驳回程某全部诉讼请求。宣判后,程某提起上诉,二审法院审理后驳回其上诉,维持原判。站长网2023-04-12 17:30:450000