打击AI深度伪造仍无解?研究称:数字水印保护可被轻松绕过
文章概要:
1. AI生成深度伪造图像的潜在风险,包括恶意用途和法律挑战。
2. 研究指出数字水印保护容易被绕过,引发信息泄漏和欺诈问题。
3. 尽管存在挑战,设计强大的数字水印仍然是应对问题的一种可能解决方案。
近年来,AI技术的发展使得生成深度伪造图像变得轻而易举。例如,阿诺德·施瓦辛格的脸被叠加到克林特·伊斯特伍德的《丑牛》电影中。这些深度伪造图像有时会带来娱乐,但最近的发展却引发了更加不安的趋势,将数字虚假信息转向了恶意用途。
最近,演员汤姆·汉克斯在社交媒体上谴责一则广告,该广告使用了他的AI生成肖像来推广一项牙科保健计划。此外,拥有超过50亿观看次数的YouTuber Mr. Beast被虚假地展示为以2美元的价格提供iPhone15Pro。普通市民也成为目标,他们的面孔出现在社交媒体上,而未经他们同意。最令人不安的是“复仇色情”的增加,其中受伤害感情的人发布了虚假的图像,将前任伴侣描绘成令人尴尬或色情的场景中。
图源备注:图片由AI生成,图片授权服务商Midjourney
为了应对这一问题,主要的数字媒体公司,如OpenAI、Alphabet、亚马逊和DeepMind,承诺开发工具来打击虚假信息。其中一个关键方法是在AI生成的内容上使用数字水印。然而,一份发表在arXiv预印本服务器上的研究报告指出,要遏制这种数字虚假信息滥用的能力存在困难。
马里兰大学的教授进行了测试,展示了保护性水印的轻松绕过方法。其中一位报告作者Soheil Feizi表示:“目前我们没有可靠的数字水印技术。”他表示,他的团队都可以成功绕过数字水印技术。他还警告说,AI的误用可能导致涉及虚假信息、欺诈乃至选举操纵等潜在危害,这些危害涵盖了个人和更广泛社会的伤害。
研究团队采用了一种称为“扩散净化(diffusion purification)”的过程,该过程将高斯噪声应用于数字水印,然后将其删除。这留下了一个扭曲的水印,可以绕过检测算法,而图像的其余部分几乎没有改变。他们还成功地证明,恶意行为者通过访问黑匣子数字水印算法可以发布带有标记的虚假照片,以欺骗检测器认为它们是合法的。
尽管如此,Feizi也表达了一些乐观情绪,他说:“根据我们的研究结果,设计强大的数字水印是一项具有挑战性但不一定不可能的任务。”因此,目前人们在审查包含可能对他们重要的内容的图像时,必须要保持警惕,双重检查来源,并运用常识。
官宣美国平台业务,SHEIN为此没少努力
4月5日,SHEIN在官网宣布既巴西平台业务后,下一站会在美国做平台。外界多次的猜测终于被官方盖章了。从2022年有消息指出SHEIN正在巴西试点平台模式,鼓励第三方卖家及品牌入驻,到SHEIN的平台试点扩展到了墨西哥,到3月份,SHEIN正式在巴西推出平台,再到官宣美国,看得出SHEIN做平台的决心还是很强的。站长网2023-05-06 09:39:320000AntiPlagiarism 推出 AI 文本识别功能:可识别 ChatGPT 等语言模型生成的文本
检测学期论文、毕业论文、学术论文和其他文本材料中的抄袭行为的AntiPlagiarism.NET日前宣布实施一项新功能,可以确定分析的文本是用ChatGPT还是其他主要语言模型生成的。基于多年在自然语言处理(NLP)领域的研究,Antiplagiarism开发了一种用于识别和标记由AI系统生成的文本片段的算法。站长网2023-05-18 11:54:4400007天B站涨粉20万,“猫meme”为何风靡全网?
“猫meme”正在入侵互联网。最近,一个名为“ねこのつぶやき”(猫的自言自语)的日本UP主在B站走红,短短半个月涨粉超27万。这位UP主是一名单亲妈妈,她分享了自己来中国生活后价值观发生变化的故事,不过她并没有真人出镜,而是加入了各种好玩的猫咪表情包进行视频剪辑,做成了“猫meme”版vlog。比如在去中国的飞机上,刚出生不久的孩子猛哭两小时,这里配上双手抱头尖叫的小奶猫表情;站长网2024-03-15 15:09:250000罗永浩救得了刘强东的直播电商梦吗?
重回台前的刘强东,又对直播电商有了新的想法。近日,京东在618启动会上称,5月31日晚,将有神秘机构入驻京东,并带来重磅嘉宾。5月20日交个朋友入驻京东并开启直播带货当天,就曾在直播间放出过提示:5月31日20点,罗永浩直播首秀。站长网2023-05-24 17:12:580000供应商透露小米汽车最新进展:首车报价完毕、明年按计划上市
快科技7月5日消息,小米造车又有好消息传来了,就在近日,有供应商透露了关于小米首款汽车的最新进展,其称当前已经报价完毕,明年可按计划上市。长春一汽富维汽车零部件有限公司在回答公司与小米汽车合作情况如何”一问时表示:公司正积极与小米汽车进行业务沟通,多家分子公司已经进入到小米汽车的采购组当中。当前,小米第一款车型报价完毕。”站长网2023-07-05 17:28:240002