登陆注册
19100

谷歌紧急修复Gemini AI图片生成,因生成作品种族歧视问题

站长网2024-02-22 14:52:200

划重点:

🔍 用户批评Gemini在不合适的历史背景下生成多样化图像

🤖 谷歌赶紧修复新的AI工具,避免被指责过于防止种族歧视

🌐 AI在多样性问题上的失误引发了争议

谷歌正在竭力修复其新的AI图片生成工具,因为有人声称该工具过度纠正了可能存在种族歧视的风险。

用户指出,谷歌的Gemini机器人在历史背景不符的情况下提供了各种性别和种族的图像。例如,一个搜索美国开国元勋图片的提示出现了女性和有色人种的图片。公司表示,其工具"偏离了目标"。Gemini体验高级主管杰克·克拉维奇克表示:"Gemini的AI图像生成确实生成了各种各样的人物。这通常是一件好事,因为世界各地的人都在使用它。但在这里,它没有做到位。"他补充道:"我们正在立即改进这类描绘。"

这不是AI第一次在多样性问题上犯错。例如,谷歌曾因其照片应用将一张黑人夫妇的照片标记为"大猩猩"而不得不道歉,这已经接近十年了。竞争对手OpenAI也被指责持续传播有害的刻板印象,用户发现其Dall-E图像生成器对首席执行官的查询的回应主要是白人男性的图片。

谷歌面临着证明自己在AI发展方面没有落后的压力,上周发布了Gemini的最新版本。这款机器人能够根据书面查询创建图片。它很快引起了批评,指责谷歌训练机器人成为可笑的"唤醒"。

计算机科学家德巴格亚·达斯写道:"令人尴尬的是,让谷歌Gemini承认白人的存在是非常困难的。"作家兼幽默作家弗兰克·J·弗莱明在回应他要求一张维京人图片时得到的结果时说:"拜托。"这些指责在美国右翼圈子中迅速传播开来,许多大型科技平台因被指控存在自由主义偏见而已经面临了抨击。

克拉维奇克先生表示,公司认真对待代表性和偏见问题,希望其结果能反映其全球用户群。他在X(以前是Twitter)上写道:"历史背景有更多的细微差别,我们将进一步调整以适应。"他在那里写道:"这是对齐过程的一部分-对反馈的迭代。谢谢你们,继续保持!"

0000
评论列表
共(0)条