Meta开源数字水印Stable Signature,极大增强生成式AI安全
全球社交、科技巨头Meta(Facebook、Instagram等母公司)在官网宣布,开源数字水印产品Stable Signature,并公开论文。
据悉,Stable Signature是由Meta和INRIA(法国国家信息与自动化研究所)联合开发而成,可将数字水印直接嵌入到AI自动生成的图片中,防止其非法用途。
而数字水印也是目前增强生成式AI安全的重要手段之一,微软、谷歌等科技巨头已经在产品中使用。
Stable Signature生成的数字水印不受裁剪、压缩、改变颜色等破坏性操作影响,能追溯到图片的初始来源,可应用于扩散、生成对抗网络等模型,例如,著名文生图开源项目Stable Diffusion。
开源地址:https://github.com/facebookresearch/stable_signature
论文地址:https://arxiv.org/abs/2303.15435
Stable Signature技术原理
Stable Signature的技术原理并不复杂,开发人员用Alice训练了一个主生成模型并进行了微调,以确定Bob给定的水印,用于识别AI图片的版本、公司、用户、特征等属性。
Bob用于接收不同的扩散模型版本并生成图片,并携带水印。而这些水印可以由Alice或第三方AI进行分析,以查看图像是否由AI生成。
为了实现上述目标,开发人员使用了两大步骤来完成。
1)训练两个卷积神经网络。一种将图像和随机消息编码为水印图像,另一种则从水印图像的增强版本中提取消息,目的是使编码和提取的消息匹配。训练完成后,只保留水印提取器。
2)对生成模型的潜在解码器进行微调以生成包含固定签名的图像。在此微调过程中,会对批量图像进行编码、解码和优化,以最大限度地减少提取的消息与目标消息之间的差异,并保持感知图像质量。
这种优化过程快速有效,只需要小批量和很短的时间即可获得高质量的结果。
Stable Signature性能评估
在性能评估过程中,开发人员发现Stable Signature不受裁剪、压缩、改变颜色等破坏性操作影响,同时在被动检测方面有两大技术优势。
1)可以控制并减少误报的情况:误报是指我们将人类制作的图片,误认为是AI生成的图片。鉴于在线共享的非AI生成图片的普遍性,这一点至关重要。
例如,最有效的现有检测方法可以发现大约50%的编辑过的生成图片,但仍然产生大约1/100的误报率。
换句话说,在一个每天收到10亿张图片的用户生成内容平台上,为了仅检测到一半的生成图片,大约有1000万张图片会被错误地标记。
而Stable Signature 可以实现10-10的误报率(可以设置为特定的期望值),提供高精准图片检测。
2)Stable Signature的水印方法,允许用户追踪同一模型的不同版本的图片,这种能力对于识别AI图片非常重要。
Meta表示,Midjourney、Stable Difusion等文本生成图片生成式AI产品非常火爆,已经被大量用户应用在各种业务场景。但也有很多人将其使用在非法用途,例如,通过Midjourney生成一张名人的合成照片,然后用于新闻造谣。
通过Stable Signature将数字水印嵌入到AI图片中,可极大避免此类事件的发生。
语音大模型SpeechGPT-Gen:8B参数,零样本生成语音
划重点:1.📌SpeechGPT-Gen介绍:由复旦大学研究人员推出,是一种具有语义和感知信息建模高效性的8B参数语音大型语言模型(SLLM)。2.📌创新方法:采用Chain-of-InformationGeneration(CoIG)方法,将语音生成的语义和感知信息分离处理,解决了传统方法中的低效和冗余问题。站长网2024-01-31 10:08:33000080%代码秒生成!AI神器Copilot大升级,百万开发者动嘴编码5年内成真
【新智元导读】AI编码神器Copilot模型升级,5年80%的代码自动生成,百万码农提速55%。码农AI神器又升级了!就在刚刚,Github官宣,Copilot模型升级,5年内80%的代码将自动生成。GitHubCopilot发布还不到两年,就已经为100多万的开发者,编写了46%的代码,并提高了55%的编码速度。这次升级究竟改进了什么呢?5年,80%代码自动生成站长网2023-07-31 09:12:220000首席分析师揭秘爆火Groq,每小时要烧168美元!10倍H100拥有成本,老黄笑而不语
【新智元导读】SemiAnalysis的行业专家对最近爆火的Groq推理系统进行了像素级的拆解,测算出其持有成本依然高达现有H100的10倍,看来要赶上老黄的步伐,初创公司还有很多要做。最近爆火的AI初创公司Groq,推出了比目前常见GPU推理系统快4倍,成本低70%的大模型推理解决方案。站长网2024-02-26 18:12:370000万字拆解:在小红书做生意,比你想象的更简单、更赚钱
2024开年,又该制定新的增长计划了!如果你是一名中小商家的老板,必然会跟我一样发愁两个难题:首先是获客-利润的增长:没有客户的情况下,员工在空转、库存成本在增加,公司利润受到影响数字化渠道竞争激烈,自己不熟悉线上获客而别的商家在做,潜在客户被分流了其次是种草-品牌形象的成长:很注重自己的品牌形象和用户口碑,不想依赖短期流量玩法,也不想打价格战站长网2024-01-11 14:06:480003OpenAI 宣布 ChatGPT 现可选择关闭聊天记录 并将推出全新 ChatGPT Business 订阅服务
OpenAI发布公告宣布,在ChatGPT中引入了关闭聊天记录的功能。在关闭聊天记录后开始的对话不会被用来训练和改进OpenAI的模型,也不会出现在历史侧边栏中。图片来自OpenAI站长网2023-04-26 08:59:000000