如果避免原图遭AI滥用?使用 AI 防止 AI 图像操纵
站长网2023-07-31 14:39:220阅
麻省理工学院的研究人员开发了一种名为 PhotoGuard 的技术,用于对抗未经授权的图像操纵,保护图像的真实性。
PhotoGuard 通过引入微小的、不可见的像素变化来破坏人工智能模型对图像进行操纵的能力。
它使用了两种不同的攻击方法:编码器攻击和扩散攻击。编码器攻击对模型中图像的潜在表示进行微调,使模型将图像视为随机实体,从而阻止对图像的操纵。
扩散攻击目标是将生成的图像与预选目标对齐,从而保护原始图像免受未经授权的编辑。这种技术可以用于防止图像被恶意编辑,例如用于欺骗、勒索或虚假犯罪。
下面我们来看看PhotoGuard 的真实示例,图片中有两个面孔,可以被P到任何人身上。比如创建提示“两个男人参加婚礼”。提交后,系统将相应地调整图像,创建两个参加婚礼的男子的合理描述。
现在,在没有对保护图像进行编辑情况下,直接上传的图片就可以很毫无痕迹的用ai功能被P到另外一张图片中,如下图:
而如果在上传之前向图像添加扰动可以使其免受修改,在这种情况下,与原始的未免疫图像相比,最终输出将缺乏真实感。
然而,PhotoGuard 并不是万能的,它可能会被一些逆向工程方法破解,但通过与图像编辑模型的合作,可以提供更强大的防御。
研究人员建议政策制定者制定法规,要求公司保护用户数据免受操纵,并呼吁人工智能模型的开发者设计 API,为用户的图像添加额外的保护层。
这项技术有望在防止图像滥用方面发挥积极的作用,但还需要进一步的研究和合作来实现更强大的保护措施。
PhotoGuard论文网址:https://arxiv.org/abs/2302.06588
0000
评论列表
共(0)条相关推荐
又一“姥姥”红人出现,短视频里到底有多少顶流“姥姥”?
@八零徐姥姥最近60天涨粉443万,是今年最火的“姥姥”博主之一。视频中,不太出镜的外孙成成记录八十岁的姥姥做的各种东北美食和在农村的生活,有时候是红烧肉,有时候是姥姥亲手做的桃罐头。姥姥幽默风趣,语言中富有生活智慧,做出来的美食又有观赏性,让不少网友直呼上头,留言道:“从桃罐头开始一直刷到这了。”站长网2023-11-20 13:57:540000AI生成视频:有点惊艳,有点离谱
AI生成的视频,正在入侵互联网。此前,我们已经见识了完全由AI制成的科幻预告片《Trailer:Genesis》,以及用AI合成的《芭比海默》预告片。这两部脑洞大开的片子,让我们见识了AI的神奇。现在,越来越多AI视频工具正在被开发出来,批量制造短视频和电影片段,其生成效果让人惊叹,使用门槛却低到“令人发指”。比如用Pika生成的这个:用RunwayGen-2生成的这个:0000软件公司争夺生成式AI市场份额, 2028 年预计消费市场将创造 110 亿美元的收入
🔍划重点:1.生成式人工智能市场预计将从今年的60亿美元增长至2028年的590亿美元,应用领域包括市场营销和保险等。2.生成式人工智能被广泛应用,但同时也引发了担忧,包括自动化数亿个工作岗位和对人类构成威胁。3.该技术在消费市场中增长最快,用于驱动搜索引擎、写作助手和艺术品制作,预计2028年的收入将达到110亿美元。站长网2023-11-06 15:07:240000汇丰推出利用人工智能投资的「AI全球战术指数」:速度比人类快数千倍
汇丰银行(HSBC)今天宣布推出汇丰AI全球战术指数(HSBCAIGlobalTacticalIndex),该指数将使用由亚马逊网络服务公司(AWS)提供的机器学习,与股票投资相结合。站长网2023-04-21 09:24:100000中消协点名共享充电宝好借难还:企业应提高消费纠纷解决效率
今日,中消协发布了2023年上半年消费维权舆情热点,2023年上半年,有关线下演出“退票难”、酒店民宿毁约侵权纠纷、知名餐饮品牌食品安全问题隐患、视频平台会员服务体验不佳、研学游侵权“陷阱”、家乐福商超购物卡限制消费、航空里程积分清零、共享充电宝“好借难还”、网红竹筒奶茶被曝食品安全问题、低价旅游团强制购物问题等多个案例涉及的消费维权问题较为突出。站长网2023-08-04 11:27:090000