AI训练中的缺陷:算法决策或成为未来生活的威胁
要点:
AI系统使用描述性标签训练的数据可能导致比人类更严厉的决定。
设计AI模型的方式存在深刻缺陷,可能在未来影响决策的各个领域。
研究发现,当人们对数据附加描述性标签时,与附加规范标签相比,AI系统的决策更为苛刻。
近期由多伦多大学和麻省理工学院的计算机科学家团队进行的实验发现,当前AI模型的设计存在严重问题,可能给人类带来灾难性后果。这是因为使用描述性标签训练的AI系统往往做出比人类更为苛刻的决定。
随着AI已经广泛渗透到我们生活的方方面面,如语音助手提醒、健康机器人诊断、判决算法建议监禁时间等,未来几乎所有领域都将由算法作为守门人。然而,如果AI算法的训练存在缺陷,那么在申请租房、贷款、手术或工作等方面,频繁被拒可能并非纯粹的倒霉,而是因为背后的公司在AI算法训练方面存在问题。
图源备注:图片由AI生成,图片授权服务商Midjourney
研究人员通过一系列实验发现,人们在附加描述性标签和规范标签时有时会给出不同的反应。具体而言,描述性标签强调客观陈述,而规范标签则包含价值判断。他们在一项实验中使用了狗的图像数据集,其中一组参与者对数据附加描述性标签,另一组对规定禁止侵略性狗的政策有所了解并附加规范标签。
结果显示,那些不知道公寓规定但被要求评论侵略性的描述性标签者相比那些知道规定并附加规范标签的人,无意中判定了更多的狗违反了规定。这一实验结果对人类生活的方方面面都有着深远的影响,尤其是对于不属于主导子群体的人群。
比如,在设计评估博士申请者的算法中,如果数据偏向某一类人,算法可能会将高分、名校背景、种族为白人定义为成功的标志,从而继续强化社会中的偏见和不平等。目前,这一问题在我们周围已经普遍存在,比如在美国广泛使用的定罪算法被发现错误地认定黑人被告更有可能再犯罪,尽管事实证明相反。
这种问题不仅限于种族,还包括性别、种族和年龄等方面的偏见,而AI算法的决策却比人类的判断更为危险,因为它们不仅仅是复制已有的社会偏见,还可能产生比社会偏见更糟糕的结果。研究人员强调,这种相对简单的AI数据集标注过程如果不当,可能成为一个时钟炸弹,导致不可逆转的后果。
在这个算法主导的时代,关键是要及早纠正这一问题,以避免对人类生活造成严重影响。
东方甄选抖音自营店铺被关,都是自有app惹的祸?
东方甄选昨日宣布,抖音“东方甄选自营产品直播间”停播三天,而且被“拖走”了小黄车。同时宣布在自有app上开播进行销售。此事引发业界热议,主要观点之一是因为东方甄选在抖音平台之外的自有app上做直播,简称“出抖”。应该如何看待这件事?一、具体发生了什么?其实,在昨天下午16:34,东方甄选自营产品的抖音账号就已经发布了停播通知。站长网2023-07-28 09:13:120000DragNUWA :一个可以实现精细控制的视频生成模型
DragNUWA是一种基于扩散算法的视频生成模型,DragNUWA模型旨在解决视频生成中的精细控制问题。该模型通过引入文本、图像和轨迹信息,并从语义、空间和时间角度提供精细控制。论文地址:https://arxiv.org/pdf/2308.08089.pdf站长网2023-08-19 15:33:100001出版商屏蔽AI网络爬虫 Direcqt开发AI聊天机器人
随着越来越多的媒体出版商开始阻止人工智能网络爬虫访问其内容,一家名为Direqt的初创公司正与他们合作,提供定制的聊天机器人解决方案。Direqt了解到即时通讯应用正在占据越来越多的消费者时间,因此看到了为出版商构建专门聊天机器人平台的机会。这些聊天机器人使出版商能够直接接触读者,提高内容参与度。站长网2023-10-26 10:30:580001上汽通用汽车与特斯拉中国开启充电网络互联互通合作
上汽通用汽车与特斯拉中国宣布开启充电网络互联互通合作。从2023年底开始,上汽通用汽车旗下的凯迪拉克和别克品牌奥特能纯电车型的车主可以通过相关App,利用充电地图功能在特斯拉开放的超级充电站和目的地充电站进行充电。站长网2023-11-10 16:36:080000DeepMind新机器学习模型UniSim:模拟现实以训练机器人和游戏角色
划重点:-GoogleDeepMind与多所大学合作,研发出一款新的机器学习模型UniSim,用于创建逼真的模拟环境,用于培训各类人工智能系统。-UniSim的特点是能够模拟现实世界的互动,包括高级指令和低级控制,为其他需要真实世界数据的模型提供训练示例。-UniSim的应用潜力广泛,包括培训机器人、游戏角色,以及填补模拟和现实世界之间的鸿沟。站长网2023-10-18 21:24:290000