麻省理工学院开发“PhotoGuard” 保护图像免受恶意 AI 编辑
站长网2023-07-25 16:18:410阅
Dall-E和稳定扩散仅仅是开始。随着生成式人工智能系统的激增,以及各公司努力将自己的产品与竞争对手的产品区分开来,互联网上的聊天机器人正在获得编辑图像以及创建图像的能力,其中Shutterstock和Adobe等公司处于领先地位。但这些新的人工智能功能也带来了常见的陷阱,例如未经授权操纵或公然盗窃现有的在线艺术品和图像。水印技术可以帮助缓解后者,而麻省理工学院 CSAIL 开发的新“ PhotoGuard ”技术可以帮助防止前者。
MIT 开发的 “PhotoGuard” 技术通过对图像进行微小的修改,以防止恶意人工智能对图像进行编辑。这种技术使用了两种攻击方法,一种是 “编码器” 攻击,通过修改图像的像素来干扰算法模型对图像的理解能力;另一种是 “扩散” 攻击,将图像伪装成另一张图像,使算法将编辑应用到伪造的目标图像上,从而生成不真实的图像。
然而,这种技术并非完全可靠,恶意人员仍然可能通过添加数字噪音、裁剪或翻转图片等手段来逆向工程保护的图像。作者表示,解决这个问题需要模型开发者、社交媒体平台和政策制定者共同努力,提供一个全面的防御未经授权的图像篡改的解决方案。
论文地址:https://arxiv.org/abs/2302.06588
0000
评论列表
共(0)条相关推荐
创业公司推出AI圣诞老人,孩子可与之进行逼真语音通话
#划重点:-🎅**创意背景:**Fixie公司帮助企业将大型语言模型融入其软件堆栈,创建了HiSanta.ai,为人们提供了与圣诞老人、鲁道夫、圣诞老人夫人等角色进行实时人工智能语音通话的网络体验。-🤖**技术演示:**通过选择想要交谈的角色,点击通话按钮,用户可以与圣诞老人进行关于假期愿望清单等各种话题的对话。站长网2023-12-20 11:51:220000用Chat GPT做小红书,爽爆了!自动取标题、写内容...
真的真的没想到,一个零基础的新人,可以用ChatGPT快速搞懂小红书账号的运营规则。ChatGPT的知识库,至少超过了市场上90%的小红书老师。如果你已经运营了小红书账号,可以利用其强大的AI功能,自动取标题,写帖子内容,模仿“抄袭”其他账号的爆款作品。甚至分析运营模式,优缺点,给出运营方案。站长网2023-04-24 09:21:370002Mistral AI推出Mixtral 8x7B:一种改变机器学习的SMoE语言模型 效果堪比GPT-3.5
##划重点:1.🚀**创新模型介绍:**MistralAI的研究团队推出了基于SparseMixtureofExperts(SMoE)模型的Mixtral8x7B语言模型,采用开放权重。2.🌐**性能突出:**Mixtral8x7B在多语言数据(32k令牌上下文大小)的预训练中表现优异,与Llama270B和GPT-3.5相比,性能不逊色甚至更好。站长网2024-01-15 15:25:560000H100推理飙升8倍!英伟达官宣开源TensorRT-LLM,支持10+模型
声明:本文来自于微信公众号新智元(ID:AI_era),作者:桃子润,授权站长之家转载发布。【新智元导读】H100让模型推理性能最高跃升8倍!英伟达最新开源软件TensorRT-LLM,将彻底改变LLM推理现状。「GPU贫民」即将告别困境!刚刚,英伟达发布了一款开源软件TensorRT-LLM,能够加速H100上大型语言模型的推理。那么,具体能提升多少倍?站长网2023-09-11 09:13:300002盲人辅助神器!微软Seeing AI正式登陆安卓平台 支持18种语言
**划重点:**1.📲微软SeeingAI应用现已在安卓平台上线,可帮助识别人物、货币、文本、条形码,并描述用户面前的场景。2.🔄应用更新包括文本识别、文档识别、条形码阅读、环境描述等功能,以及对安卓平台的特定优化。3.🌍应用支持18种语言,计划在2024年扩展到36种语言,旨在为全球30亿活跃安卓用户提供更多便利。站长网2023-12-06 10:52:010000