Bing AI图片生成器拒绝生成女性的逼真图像,称其“不安全”
划重点:
1. Bing的AI Image Creator在生成男性逼真图像方面表现出色,但在生成女性图像时却拒绝,称其不符合内容政策。
2. 用户发现Bing的AI存在性别相关的奇怪问题,生成女性图像经常被阻止,可能与训练数据中女性被性化有关。
3. 微软回应称AI的拒绝是出于过度防护,但随后放宽了对女性图像的生成限制。
微软的Bing AI Image Creator最近引起了关注,因为它似乎拒绝生成逼真的女性图像,声称这些图像不符合其内容政策。这一现象引发了许多讨论,特别是关于AI系统如何处理性别相关问题。
一位名为 u/Arceist_Justin 的用户要求Bing的AI生成“男性的逼真图像”时,它迅速生成了多个看起来非常逼真的男性图像。但当用户要求生成“女性的逼真图像”时,AI系统却拒绝了这一请求,并表示这违反了其内容政策,称检测到不安全内容。这一情况引起了疑虑,因为请求中并没有包含任何性别相关的形容词,也没有提到女性的外貌特征。
有人认为,AI系统的训练数据可能是导致这一问题的原因。由于互联网上存在大量的性化和不适当内容,AI系统可能将“女性”这个词与性化联系在一起,因此拒绝生成女性图像。这一观点认为,互联网中女性经常被性化,而生成式AI工具是基于数据进行预测的,如果训练数据中包含大量性化或色情内容的女性图像,那么AI系统可能会默认将涉及女性的请求与性有关。
微软的一位发言人表示,AI拒绝生成女性图像是出于过度防护,因为在该工具刚推出时,用户发现可以轻松生成问题图像,包括侵犯版权的卡通角色参与恐怖活动的图像。因此,微软加强了AI的防护措施,这导致了一些不必要的内容违规情况。微软表示,他们致力于改进技术的准确性,并将不断完善内容过滤器。
不过,随着可公开使用的生成式AI工具的新浪潮,这一问题可能只是开始。互联网是现实世界的扭曲镜像,而生成式AI模型则是这些夸张的具体体现。因此,需要在传播深度伪造色情内容和将女性消失之间找到平衡点。
AI 大模型落地尚需时间 预计未来投资重心逐渐向云计算和软件 SaaS 领域迁移
站长之家(ChinaZ.com)10月8日消息:中信证券日前发布研究报告称,伴随AI应用逐渐向纵深方向演进,投资机会将从GPU产业链进一步扩展至云计算、数据中心IDC、液冷等产业链。预计智能云占比较高的云计算公司将受益。站长网2023-10-08 18:03:260000罗永浩喊话董宇辉:愿提供创业支持 没必要再去打工
最近,东方甄选和董宇辉之间的“小作文”事件在网上炒得沸沸扬扬。初代网红、企业家罗永浩也对此事件发表了看法,表示愿意支持董宇辉创业。罗永浩在“罗永浩的辟谣号”微博上表示,看了这两天与董宇辉事件相关的新闻,勾起了很多年轻时的回忆,有些感慨。他称:“如果董宇辉老师本人想创业,我很愿意跟一些做投资和做企业的朋友们攒一个局,支持他顺利创业。”站长网2023-12-15 17:38:570000马斯克缺钱?推特限制用户浏览量:不开会员每天只能看1000条
快科技7月2日消息,在社交平台限制用户每日浏览量,推特可能是独一家了。日前,不少推特用户发现平台遇到问题,没法正常浏览推文了,推特崩了”也一度登上微博热搜。马斯克表示,为了阻止极端水平”的数据抓取和系统操纵,推特正在限制用户可浏览的推文数量。其中,已验证账户每天限制浏览6000条推文,未验证的账户每天限制600条推文,未验证的新账户每天限制300条推文。站长网2023-07-03 16:37:490001Meta 的 Llama 2 基础模型现已在亚马逊 SageMaker JumpStart 中提供
亚马逊公司宣布,Meta开发的Llama2基础模型可通过AmazonSageMakerJumpStart向客户提供。Llama2系列大型语言模型(LLM)是预先训练和微调的生成文本模型的集合,其规模从70亿到700亿个参数不等。站长网2023-07-20 11:07:560000区块链百科全书IQ.wiki推出基于ChatGPT的搜索引擎“IQ GPT”
IQ.wiki是一个基于区块链的百科全书,现已推出基于OpenAI的ChatGPT技术的搜索引擎,以帮助加密货币用户搜索各种来源的信息。站长网2023-08-11 16:15:290000