儿童虐待者利用人工智能生成“深度伪造品”引发性勒索循环
站长网2024-04-23 14:46:530阅
儿童虐待者正在利用人工智能技术制作"深度伪造品"来勒索受害者拍摄自己的虐待行为,从而开始一个可持续数年的性勒索循环。
在英国,制作模拟虐待儿童图像是非法的,工党和保守党一致呼吁禁止所有由人工智能生成的露骨图像。但全球范围内对如何监管这一技术几乎没有达成共识。更糟糕的是,只需按一下按钮就能创造出更多此类图像,因为明确的图像已成为人工智能图像生成的基础。
图源备注:图片由AI生成,图片授权服务商Midjourney
研究发现,人工智能图像生成器接受了儿童性虐待图片的训练。斯坦福大学的研究人员发现,构成人工智能图像生成器最大训练集之一的数十亿张图像中,埋藏着数百甚至数千个儿童性虐待材料实例。Laion等数据集的创建者承认,当这些研究被发现时,大量链接已经失效,但非法训练数据已经刻录到人工智能系统的神经网络中。
为应对这一问题,OpenAI等公司采取了措施,试图确保其生成的图像更加清晰可信。但专家表示,即使依赖经过训练不会创造此类图像的系统,这也只是一种不太脆弱的解决方法。长远来看,如何限制一个你不完全理解的人工智能系统仍是一大挑战。
有专家呼吁为开源人工智能的发展保留空间,因为这可能是解决未来危害的最佳工具所在。政策文件建议,短期内应针对单一用途"裸体"工具的创建者和宿主采取行动,但长期应对抗明确的人工智能图像问题仍需进一步探讨。
0000
评论列表
共(0)条相关推荐
华为成立智能汽车解决方案公司“引望智能”
华为智能汽车解决方案新公司“引望”于1月16日在深圳正式成立。该公司的注册资本高达10亿元人民币,注册地址位于华为总部办公楼,由华为技术有限公司全资持股。站长网2024-01-17 18:01:390000百度申请“文心智车”商标
天眼查App显示,近日,百度在线网络技术(北京)有限公司申请注册“文心智车”商标,国际分类为网站服务,当前商标状态为申请中。此前,百度智能云总裁沈抖曾表示,百度要基于文心一言全部改一遍产品线。目前,百度旗下百度网盘、小度、百度文库、集度汽车、度小满、百度地图、爱奇艺等已宣布接入文心一言。站长网2023-04-20 14:13:470000首发3699元起 荣耀智慧屏5发布:电竞级240Hz高刷
快科技7月12日消息,今晚的发布会上,荣耀发布了多款旗舰新品,其中荣耀智慧屏5是一款主打高刷的大屏设备,最高可达240Hz,不仅画质高,玩游戏也能享受高刷乐趣,并且支持丰富的智慧互联功能,首发售价只要3699元。画质方面,荣耀智慧屏5采用4K面板,10.7亿色彩,P3广色域,支持HDR10,屏占比高达98%,色准DeltaE2,画质表现超过了索尼75X85K等高端电视,相当于专业显示器的表现。站长网2023-07-13 09:00:120000面壁智能联合清华发布大模型智能体GitAgent
面壁智能联合清华大学自然语言处理实验室发布了GitAgent,这是一种可以自主扩展工具箱的大模型智能体应用框架。通过GitAgent,大模型智能体可以从GitHub上扩展工具集合,以应对复杂任务需求。站长网2024-01-15 11:42:550000游戏出海,不再风平浪静的2023
大时代的剧变,在2023体现得尤为明显。世界再一次回到动荡和不安,全球化裂痕急速扩大,新市场与老市场的对冲正明显发生。对中国企业而言,四十余年的厚积薄发,在这一年汇成一股大潮——出海加速,并正在深刻改变全球的产业格局。从跨境电商格局重塑,到物流快递产业升级,再到新能源车争霸海外,以及游戏泛娱重新洗牌,出海不仅给中国的企业带来新的机遇和挑战,也正在改变着一个个行业产业。0000