研究显示为人工智能生成图像添加水印以打击虚假信息和深度伪造可能毫无意义
站长之家(ChinaZ.com) 10月7日消息:今年 7 月,白宫宣布,七家大型科技公司已承诺采取人工智能安全措施,包括部署水印,以确保算法生成的内容可以与真人作品区分开来。
在这些巨头中,亚马逊、谷歌和 OpenAI 都特别提到了水印技术——即在文本和图像中添加信息以证明内容出处的技术——作为抵御其生成式人工智能模型所产生的错误信息、欺诈和深度伪造的一种方法。
这样做的目的是,人工智能生成的材料将被巧妙地标记,以便在有人试图将其内容冒充为人类制作的内容时,能够被检测和识别出来。
但学者们警告说,图像中的数字水印——在创建内容时添加噪声,然后在图像数据集中检测该噪声模式的存在——可能并不能提供多少安全保证。
日前来自马里兰大学的研究团队取得了重大突破,他们制定了一种绕过嵌入在 AI 生成图像中的所有水印保护的方法。在接受 Wired 采访时,计算机科学教授 Soheil Feizi 表示,目前没有可靠的方法可以为 AI 生成的图像加上水印,他的团队成功地绕过了「所有方法」。
就目前而言,恶意行为者绕过水印仍然太容易。而且,还可以将水印添加到人工制作的图像中,从而触发误报。
数字水印已被各种 AI 公司推崇为一种功能,使用户能够知道图像是否是借助 AI 生成的。问题是我们仍然没有万无一失、无法被操纵的水印技术。
Feizi 和他的团队在一份预印本论文中详细记录了他们的研究结果。在论文中,研究人员表示,使用微妙的图像扰动的水印方法可以轻松地通过扩散净化攻击来破解。
这种方法的工作原理是,在使用 AI 生成图像时,会对其应用一种人眼不可见的特定噪声模式。问题在于,这种模式可以很容易地被修改或移除,而对整体图像的更改很小。
同样,使用大量扰动的水印技术,即对图像进行重大更改的技术,可以通过易于移除水印的模型替代对抗攻击来破解。
此外,恶意行为者可以使用水印技术来针对真正的艺术家,将他们的图像标记上会导致它们被错误地识别为由 AI 生成的模式。这可能会损害艺术家的声誉。
TapTap创始人创业项目转型,游戏社区成了创业陷阱?
想要做成一个游戏社区可能真的没那么容易。2021年4月,前TapTap高管黄希威、张乾成立了新公司上海好说,并在半年后公布了创业项目——游戏社区「好说」。不久前「好说」发布公告宣布更名为「好说AI」,之后将成为以AI内容为主导的工具社区。站长网2023-06-13 17:58:250000阿里巴巴:蚂蚁拟回购约7.6%股份 考虑是否参与
阿里巴巴公告称,蚂蚁集团将召开股东大会,以批准(除其他事项外)蚂蚁集团向其全体股东回购不超过7.6%股份的议案。拟议股份回购价格代表蚂蚁集团估值金额约为5671亿元人民币(约784.8亿美元)。据了解,此次回购的股份将转入蚂蚁集团公司员工激励计划。阿里巴巴集团正在考虑是否参与拟议的股份回购。站长网2023-07-10 15:59:450000我在广州,已经骑不起共享单车了
我有点好奇:类似我这样的社畜,到底还有多少人在骑共享单车?似乎互联网的潮水退去,关于共享单车的故事已鲜少有人在意了。而作为普通上班族的我,共享单车依然成为了我日常生活的连结之一。我大概算是个资深的共享单车用户了:从最初的小黄车OFO和橙车摩拜,到现在的仅剩的三巨头——美团单车、哈啰单车和青桔单车;这么7年来,几乎每个工作日,共享单车连结起我在广州的社畜之路。站长网2023-04-14 17:01:150001FC-CLIP彻底改变全景分割:统一的单级AI 框架
要点:1、全景分割将语义分割和实例分割相结合,对图像进行精细分割标注,但受限于数据集标注成本。2、FC-CLIP通过冻结卷积CLIPbackbone实现掩码生成和CLIP文本对齐分类的单阶段统一,突破闭词汇限制。3、FC-CLIP设计简单高效,参数和计算量都大大减少,性能显著提升,可扩展到开放词汇场景。站长网2023-09-27 14:26:370000中农网宣布内测白糖产业AI大模型“AI糖”
🔍划重点:1.中农网旗下沐甜科技发布“AI糖”大模型,服务于白糖产业,旨在提供智能助手功能,支持采购、期现交易、行业资讯需求。2.作为白糖行业首个生成式AI大模型,该系统经过多年深耕和数字化探索,具备强大的信息获取、分析和处理能力。3.“AI糖”目前发布的1.0版本仍在快速成长阶段,将与白糖行业各参与者共同协作,不断升级迭代,丰富其功能与应用场景。站长网2023-11-01 15:39:510000