研究表明,AI图像生成器正在接受儿童露骨照片进行训练
划重点:
- 🚩 报告指出,人工智能图像生成器的基础中隐藏着数千张儿童淫秽照片。
- 🚩 这些图片使得 AI 系统更容易生成逼真的虚假儿童图片,并将社交媒体上全副武装的真实青少年照片转化为裸体照片。
- 🚩 这个问题没有简单的解决办法,需要公司采取行动来解决技术中的漏洞。
根据一份新报告,人工智能图像生成器的基础中隐藏着数千张儿童淫秽照片,该报告敦促公司采取行动解决技术中的缺陷。
这些图片使得 AI 系统更容易生成逼真的虚假儿童图片,并将社交媒体上全副武装的真实青少年照片转化为裸体照片,这对学校和公共安全构成了威胁。以前,反虐待研究人员认为,一些未经检查的 AI 工具生成虐待儿童的图片的唯一方法是将它们从两个不同的在线图像库中学习到的知识相结合:成人色情图片和儿童无害图片。
然而,斯坦福大学互联网观察中心在人工智能数据库 LAION 中发现了超过3200张涉嫌儿童淫秽图片。LAION 是一个包含在线图片和标题的索引,已经被用来训练领先的 AI 图像生成器,比如 Stable Diffusion。斯坦福大学观察中心与加拿大儿童保护中心和其他反虐待慈善机构合作,识别出这些非法材料,并向执法部门举报原始图片链接。
图源备注:图片由AI生成,图片授权服务商Midjourney
在斯坦福大学互联网观察中心首次发布报告的前一天,LAION 告诉美联社,他们正在暂时删除数据集。LAION 在一份声明中表示,他们 “对非法内容采取零容忍政策,为了确保数据安全,我们已经将 LAION 数据集下架,待重新发布之前。” 虽然这些图片只占到 LAION58亿张图片索引的一小部分,但斯坦福小组表示,它们很可能影响 AI 工具生成有害输出的能力,并加强以前对真实受害者的虐待。
这个问题没有简单的解决办法,根源在于许多生成型 AI 项目 “实际上是被匆忙推向市场”,并且因为领域竞争激烈,所以变得广泛可访问,斯坦福大学互联网观察中心的首席技术专家大卫・蒂尔在报告中说道。蒂尔表示:“对整个互联网进行爬取,并将其数据集用于训练模型,这本应该是一个研究操作的限制,如果有的话,并不是应该没有经过更加严格的注意就开源的东西。”
一个重要的 LAION 用户,也是对数据集开发起到推动作用的公司是 Stability AI,他们开发了 Stable Diffusion 的文本到图像模型。新版本的 Stable Diffusion 使得创建有害内容变得更加困难,但是2022年引入的旧版本仍然与其他应用和工具交织在一起,根据斯坦福报告。加拿大儿童保护中心的信息技术主任劳埃德・理查德森表示:“我们无法收回来。这个模型现在在许多人的本地机器上。”Stability AI 表示,他们只托管了 Stable Diffusion 的经过过滤的版本,并且在接手独家开发 Stable Diffusion 之后,采取了 “主动措施来减少滥用的风险。”
LAION 是德国研究员克里斯托弗・舒曼的创意,他今年早些时候告诉美联社,将如此庞大的视觉数据库公开可访问的部分原因是为了确保 AI 发展的未来不会被少数强大的公司控制。“如果我们能使其民主化,使整个研究界和广大公众受益,那么它将更安全、更公平,” 他说道。
反儿童性虐待组织 Thorn 的数据科学主任丽贝卡・波顿表示,她的组织进行的研究显示,虐待者使用 AI 生成的图片的普遍性很小,但是持续增长。开发者可以通过确保用于开发 AI 模型的数据集不包含滥用材料来减轻伤害。波顿表示,在模型流通之后也有减少滥用的机会。
Meta 宣布开源多感官 AI 模型 ImageBind:整合文本、音频、视觉等六种类型数据
Meta宣布推出一个新的开源AI模型,可以连接多种数据流,包括文本、音频、视觉数据、温度和动作读数。图片来自Meta该模型目前仅是一个研究项目,没有立即的消费者或实际应用,但它指向了未来可以创建沉浸式、多感官体验的生成式AI系统,并表明了Meta在对手OpenAI和Google日益注重保密的时候仍在分享AI研究。站长网2023-05-10 09:09:390001深度求索开源多模态大模型DeepSeek-VL系列
3月11日,DeepSeek-AI开源了全新多模态大模型DeepSeek-VL系列,分为1.3b和7b两种规模,共有4个版本。它具有融合语言和视觉能力,可以在不损失语言理解能力的情况下处理多模态任务,识别高分辨率图像中的细小物体。这个模型结合了视觉和语言信息,通过预训练微调的方法,在种领域中展现出很好的性能。站长网2024-03-13 09:45:020001中国移动云盘内测AI智能工具 上线AI云笔记、图配文等功能
中国移动云盘最新发布了AI智能工具,这是一款基于人工智能技术的云端应用,可以轻松生成文章、邮件和图片等各类内容,还能自动整理会议纪要、润色文案并回答问题。图片生成方面,通过这款AI智能工具,用户可以轻松实现图片风格转换,只需一键操作,就可以将黑白照片转换成彩色,实拍照片转换成动漫风格,静态照片转换成动态照片,而且这些图片还可以长久保存在云端。站长网2023-10-07 08:57:320003特斯拉公布最新引荐购车奖励规则:推荐购车最高奖 7000 元
特斯拉官方微博7月9日公布了最新的引荐购车奖励规则,针对Model3/Y、S/X等车型推出了3500元至7000元不等的奖励。此前在7月1日,特斯拉还宣布购买ModelS/X可以享受3.5万至4.5万的优惠。站长网2023-07-10 15:59:460000特斯拉中国Model S及Model X全系涨价19000元
据特斯拉中国官网显示,全新ModelS及全新ModelX全系车型上调售价19000元。调整后,ModelS起售价808,900元,ModelSPlaid版本由1,009,900元调整至1,028,900元.ModelX起售价898,900元,ModelXPlaid版本价格由1,039,900元调整至1,058,900元。站长网2023-05-05 09:30:270000