Nightshade 工具助力创作者保护版权 对抗 AI 训练数据的滥用
站长之家(ChinaZ.com) 10 月 26 日消息:随着人工智能(AI)技术的快速发展,其训练数据的获取和使用变得日益重要,但也出现了滥用现象。为了抵御这种滥用,一款名为「Nightshade」的新工具应运而生,为创作者提供了一种保护他们创意作品不被无授权用于 AI 模型训练的方法。
Nightshade 工具使得用户能够将其附加到他们的创意作品上,从而在使用该作品进行训练时「毒化」AI 模型的数据。通过对数字艺术作品的像素进行不可见的修改,Nightshade 能够在作品被 AI 模型训练时利用安全漏洞对模型造成混淆。例如,它可以让模型无法识别汽车图像,反而识别为牛的图像。最终,这种毒化数据可以破坏诸如 DALL-E、Stable Diffusion 和 Midjourney 等 AI 艺术平台的未来模型,剥夺其生成图像的能力。
《麻省理工学院科技评论》报告称,芝加哥大学教授兼 Nightshade 的创建者之一 Ben Zhao 希望通过这款工具,改变目前 AI 公司借助侵权数据训练模型的现状。Nightshade 的研究论文指出,文本至图像的 AI 模型很容易受到这种攻击的影响。
创作者可通过上传他们的作品到 Nightshade 创建者开发的另一款工具 Glaze 中,保护其艺术风格不被模仿。例如,Glaze 可以将通常的现实主义绘图转变为立体主义风格。未来,Nightshade 将被集成到 Glaze 中,让用户选择是否使用「毒丸」,或满足于模型无法模仿他们的艺术风格。
Nightshade 的创建者在论文中提议,应将 Nightshade 及类似工具作为保护创作者免受不遵守退出规则的网络爬虫侵害的「最后防线」。
目前,围绕 AI 生成内容和训练数据的版权问题在缺乏相关法规的情况下仍然是一个灰色地带。许多与版权侵权战斗的诉讼仍在法庭上进行。同时,防止网络爬虫未经许可获取数据的方法也受到了限制。Adobe 公司计划使用标记来标识是否为 AI 生成的内容,同时显示图像的所有者。
最初针对生成性 AI 平台的一些诉讼集中在版权材料被无授权用于模型训练上,特别是在文本至图像平台方面。今年 1 月,三名艺术家分别起诉了 Stable Diffusion、Midjourney 和艺术网站 DeviantArt,声称其模型未经许可使用了他们的艺术作品。Getty Images 也在构建自己的基于许可图像训练的 AI 图像生成器之前,对 Stable Diffusion 提起了诉讼。
谷歌和微软表示,如果客户在使用他们的生成性 AI 产品时因侵犯版权而被起诉,他们愿意承担法律责任。然而,大多数这些产品都是基于文本的。
大模型RoBERTa:一种稳健优化的 BERT 方法
要点:1.BERT模型的出现在自然语言处理领域取得了显著进展,但研究人员继续对其配置进行实验,希望获得更好的性能。2.RoBERTa是一种改进的BERT模型,通过多个独立的改进来提高性能,包括动态遮蔽、取消下一句预测、训练更长的句子、增加词汇量和使用更大的批次。站长网2023-09-25 10:06:190000百万粉撬动千万销售额!美妆段子手如何戳中消费者需求?
在美妆博主界有一位宝藏达人,她是一个能说会道,妙语连珠的段子手。她也是以敢说真话、认真测评而备受粉丝喜爱的美妆博主——是书瑶呀。从短视频博主到带货主播,粉丝仅有189w的是书瑶呀凭借超强的粉丝粘性,将直播间的停留时长拉到7分钟以上,曾创造了单场直播GMV2600w的带货成绩。站长网2023-06-01 21:37:430001没有大V、没有喊单,苹果在淘宝开了一场“冷直播”
最近,天猫AppleStore官方旗舰店开启的苹果(Apple)官方在淘宝的全球首次直播带货引起了不少人的围观,根据淘宝官方披露的数据,近130万人围观了这场直播,直播间也在一小时内吸引了30万人点赞。但从市场的反馈来看,这场直播似乎并没有满足网友的期待,“把直播当成了产品发布会?”、“感觉像录播”等是普遍评价。站长网2023-06-08 07:23:240000出门问问旗下AI数字人视频创作平台奇妙元推出奇妙助手
出门问问对其AI数字人视频创作平台奇妙元进行了全面升级,并推出了一项新功能,称为奇妙助手。据该公司的介绍,奇妙助手可以快速生成制作视频所需的各种素材,包括高质量的图片,这些图片内置了8种风格和3种尺寸比例。此外,奇妙助手还能基于大模型的能力智能生成文本,这些文本也内置了中英双语和多种语言的情绪。站长网2023-12-04 09:51:360002中手游回应网游新规征求意见稿:严格落实并支持修改完善
中手游表示,在行业相关主管部门的指导下,经过陆续几年实践,游戏行业在高质量发展、未成年人保护、消费者权益保护和用户隐私保护等问题上取得了显著的进展。公司一直积极配合落实国家相关法规。对于本次意见稿的出台,中手游认为是提升数字经济治理体系和治理能力现代化水平的现实需要。公司将一如既往地积极参与到征求意见反馈中,并支持并协助主管机关修改完善规章条款。0000