OpenAI推出DALL·E 3识别器、媒体管理器
5月8日,OpenAI在官网宣布,将推出面向其文生图模型DALL·E3的内容识别器,以及一个媒体管理器。
随着ChatGPT、DALL·E3等生成式AI产品被大量应用在实际业务中,人们越来越难分辨AI和人类创建内容的区别,这个识别器可以帮助开发人员快速识别内容的真假。
目前,OpenAI已经开放了DALL·E3识别器的API,开发人员从今天开始至7月31日可申请试用。OpenAI会在8月31日之前公布获取使用权限的名单。
这个媒体管理器主要是面向媒体行业、内容创作者的产品,帮助控制自己的知识产权内容是否会被OpenAI搜集用于训练AI模型。
DALL·E3内容识别器申请地址:
https://openai.smapply.org/prog/dalle_detection_classifier_access_program/
AI生成的内容真假难辨
由于DALL·E3等大模型生成的图片能达到以假乱真的效果,例如,AI合成的斯威夫特色情照片被疯传。
早在今年2月7日,OpenAI宣布在DALL·E3生成的图片中嵌入了 C2PA的元数据,以防止图片被非法乱用。即将发布的文生视频模型Sora,也会集成C2PA元数据。
C2PA是一种开放数据标准,允许出版商、企业、开发者等,通过元数据来跟踪和验证数字内容,例如,图片、视频、文档等,最初来源、真实性和完整性等。
但这些还远远不够,因为可以通过技术手段去除这些元数据,使得人们在视觉上还是无法分辨。所以,OpenAI开发了这款内容识别器帮助开发人员、用户来识别内容真假。
OpenAI表示,即便对AI生成的图片进行压缩、裁剪、更改饱和度/颜色、去除水印、改变形状等各种常规操作,识别器的准确率仍高达98%。
此外,AI生成语音的造假能力比文本、图片、视频高出好几倍,并且已经有人被AI语音诈骗过钱财。
OpenAI还开发了一种音频水印,将其集成在自定义语音模型 Voice Engine中,目前处于产品预览阶段。
媒体管理器,保护知识产权
前不久,《纽约日报》、《芝加哥论坛报》、《奥兰多前哨报》、《水星报》等8家知名媒体联名状告OpenAI,在没有获取授权的情况下使用其文章训练AI模型。而谷歌也因为非法搜集数据,同样被起诉过。
目前,OpenAI用于训练AI模型的数据主要有两个渠道:第一个,付费知识产权渠道,例如,OpenAI与《金融时报》、《世界报》、Prisa Media、Axel Springer等媒体签订的数据合作协议,每年支付他们上千万欧元以获取使用数据的权利。
第二个,公开渠道,这包括大量的开源数据集和通过爬虫获取到的数据。爬虫在抓取的过程中可能会非法搜集一些知名网站的数据,就会出现那8家媒体状告OpenAI的情况。
因此,OpenAI正在开发一款“媒体管理器”,可以轻松管理知识产权内容,哪些可以被AI搜集,哪些不可以。预计该产品将在2025年之前发布。
OpenAI最近还对ChatGPT生成的内容加上了原始网站链接,例如,达拉斯最适合午夜约会的5家餐厅。ChatGPT会在回答的每一条内容上加上餐厅的官网地址。
一方面,可以保护知识产权增加内容的可信度;另一方面,正在为其推出的搜索引擎做铺垫,可以像谷歌搜索那样列出所有答案的原始链接。
网信办:处理超100万人个人信息者应每年开展信息保护合规审计
8月3日,国家网信办就《个人信息保护合规审计管理办法(征求意见稿)》公开征求意见,意见反馈截止时间为2023年9月2日。其中提出,处理超过100万人个人信息的个人信息处理者,应当每年至少开展一次个人信息保护合规审计;其他个人信息处理者应当每二年至少开展一次个人信息保护合规审计。站长网2023-08-03 11:37:230000OpenAI 秘密研究 Q*,离 AGI 又近了一步
Q*划重点:1.🌐**Q*的重要性:**OpenAI正在秘密研究名为Q*的项目,被认为是迈向通用人工智能(AGI)的一大进步。该项目由首席科学家IlyaSutskevar和其他顶尖研究人员创建,引起了人工智能领域的广泛关注。站长网2023-11-23 16:26:170000Stability AI宣布裁员20人,约占员工总数的10%
划重点:📉StabilityAI公司宣布裁员20人,占工作人员总数约10%。💼裁员决定是为了降低成本、加强与投资者和合作伙伴的支持,并促使团队继续开发和发布创新产品。⚖️StabilityAI公司近期遭遇人员流动问题,创始CEO已辞职,公司面临涉嫌侵权诉讼。站长网2024-04-19 14:03:090000谷歌演示「通用翻译器」:AI 重新生成匹配新语言口型的视频
谷歌正在测试一种功能强大的新翻译服务,这种服务可以用新语言重新配音视频,同时使说话者的唇形与他们从未说过的话同步。它可能非常有用,但该公司已经明确表示存在滥用可能,并采取了预防措施。站长网2023-05-11 11:56:200001美国SEC主席警告:若未经监管,AI可能会引发金融危机
划重点:-美国证券交易委员会(SEC)主席GaryGensler警告,未经监管,由人工智能(AI)引发的金融危机“几乎不可避免”。-Gensler指出,AI的问题在于“横向”,因为许多机构可能依赖相同的基础模型或数据聚合器。-SEC已在7月提出一项新规定,针对经纪商和投资顾问使用预测数据分析和类似技术,包括AI。站长网2023-10-18 11:43:020000