Nightshade:艺术家全新反击工具,可用损坏训练数据“毒害”AI模型
划重点:
1. 🤖 艺术家反击AI:艺术家可以使用一种名为Nightshade的新工具,向他们的图像注入隐形的像素,使AI模型产生错误的认知。
2. 📜 背景:AI公司依赖大量的训练数据,包括来自艺术家的创作,引发了一系列法律诉讼。
3. 💡 希望与风险:Nightshade的开发者希望通过这一工具重塑AI与艺术家之间的权力平衡,但也承认可能被滥用。
自 ChatGPT 几乎一年前登场以来,生成式人工智能(AI)进入了高速发展的时代,但反对声音也逐渐增强。许多艺术家、娱乐人士、表演者甚至唱片公司已经对AI公司提起了诉讼,其中一些诉讼涉及 ChatGPT 制造商 OpenAI,原因是这些新工具背后的“秘密武器”:训练数据。
也就是说,这些AI模型需要访问大量的多媒体内容并从中学习,包括艺术家创作的文字材料和图像,而这些艺术家既没有事先知道,也没有机会反对他们的作品被用于训练新的商业AI产品。
图源备注:图片由AI生成,图片授权服务商Midjourney
在这些AI模型的训练数据集中,许多包括从网络上抓取的材料,这一做法在用于索引他们的材料以提供搜索结果时,以前大多受到艺术家的支持。但现在,许多人已经反对这种做法,因为它允许通过AI创建竞争性作品。
即使没有提起诉讼,艺术家也有机会利用技术来对抗AI。麻省理工技术评论杂志提到了一个还在开发中的名为Nightshade的新开源工具。艺术家可以将Nightshade添加到他们的图像中,然后上传到网络,这个工具可以以一种对人眼隐形的方式改变像素,但对寻求对其进行训练的AI模型来说,却“毒害”了艺术品。
Nightshade由芝加哥大学的研究人员在计算机科学教授Ben Zhao的指导下开发,并将作为其先前产品Glaze的可选设置添加,Glaze是另一款在线工具,可以掩盖数字艺术品并改变其像素以混淆AI模型对其风格的认知。
就Nightshade而言,艺术家对抗AI的反击更进一步:它使AI模型学习错误的物体和景物名称。例如,研究人员通过在像素中注入信息,让图像中的狗看起来像猫。在仅对50张被“毒害”的图像样本进行采样和学习后,AI开始生成具有奇怪腿和不安视觉效果的狗的图像。在100张毒害样本之后,当用户要求生成一只狗时,它可靠地生成一只猫。经过300张毒害样本后,任何对猫的请求都会返回一个几乎完美的狗。
研究人员使用了开源的文本到图像生成模型 Stable Diffusion 来测试Nightshade,并获得了上述结果。由于生成式AI模型的工作方式的特性,即将概念上相似的词语和想法分组为称为“嵌入”的空间集群,Nightshade还成功追踪 Stable Diffusion 并在使用“哈士奇”、“小狗”和“狼”这些词语提示时返回猫的图像。
此外,Nightshade的数据毒害技术难以防御,因为它需要AI模型开发人员清除包含被毒害像素的任何图像,而这些像素是经过设计的,对人眼来说并不明显,甚至可能连软件数据抓取工具也难以检测到。
已经被摄入到AI训练数据集中的任何被毒害的图像也需要被检测并移除。如果AI模型已经在其上进行了训练,那么它很可能需要重新训练。
尽管研究人员承认他们的工作可能被恶意利用,但根据麻省理工技术评论杂志对他们工作的文章,他们“希望通过这一工具帮助重塑AI公司与艺术家之间的权力平衡,从而创建一个强大的威慑力,防止侵犯艺术家的版权和知识产权”。
根据该报道,研究人员已将他们关于制作Nightshade的工作提交给计算机安全会议Usinex的同行评审。
真我12系列获得入网许可:千元档搭载潜望长焦
近日,真我12系列获得了入网许可,型号为RMX3841。作为真我品牌的全新力作,真我12系列延续了上代的设计语言,采用了独特的环形镜头方案,背部为素皮材质,中间一条标志性分界线贯穿机身,提供了红色和白色两种时尚配色。在正面设计上,真我12系列采用了曲面屏形态,前置摄像头居中放置,与上一代真我11系列保持一致。这样的设计不仅提升了整体的美感,更带来了极佳的握持体验。00002倍速怒刷李一舟199元AI课,AI圈的“韭菜”这么好割?
第一批卖AI课的人已经“凉凉”了?2月20日下午,#李一舟AI课程群疑被解散#冲上热搜,这一消息瞬间炸开了锅。据凤凰网财经报道,在李一舟的某个AI实战训练营群中,助教发消息称,自认能力强或粉丝多的同学都可以申请退群。站长网2024-02-22 18:22:020000大模型,拼算力更拼落地力
“一只南美洲亚马逊河流域热带雨林中的蝴蝶,偶尔扇动几下翅膀,可能在两周后在美国德克萨斯引起一场龙卷风。”眼下,由ChatGPT催生的AI大模型热,正在全球烈火烹油,新消息刷新报道,新动向占据版面,创业者躬身入局,守成者高举旗帜,一时间,近年来鲜有亮点的高科技行业突然走入春天。放眼寰宇,综合跟进速度、创新力度、融合程度、应用高度等几个方面,中国都处在相对前列。站长网2023-08-04 09:08:150000三大征兆已经出现,要过苦日子了?你有没有察觉
劳动力调查显示,目前职工总数4亿人左右,而快递员、网约配送员、网约车司机、货车司机等新就业形态劳动者8400万人,占据将近21%,另农民工2.9亿人;职工平均年龄38岁、平均受教育年限近14年(介于高中和大学之间)。电子商务、餐饮外卖和生鲜电商的兴起,推动了快递员、网约配送员这一职业的发展。网约车行业的兴起则是因为消费者对出行方式的需求变化,以及网约车平台的兴起和普及。站长网2023-04-17 18:04:320000DeepMind让大模型学会归纳和演绎,GPT-4准确率提升13.7%
当前,大型语言模型(LLM)在推理任务上表现出令人惊艳的能力,特别是在给出一些样例和中间步骤时。然而,prompt方法往往依赖于LLM中的隐性知识,当隐性知识存在错误或者与任务不一致时,LLM就会给出错误的回答。站长网2023-10-15 09:57:240000