测试显示OpenAI GPT在简历排序中存在种族偏见
**划重点:**
1. 🕵️♂️ **实验发现:** OpenAI GPT3.5在使用虚构姓名进行简历排序时显示出对特定人种的偏见,可能影响招聘决策。
2. 🌐 **技术应用:** 企业纷纷采用生成式AI工具进行简历筛选,但《彭博》分析发现最知名的生成式AI工具存在系统性的人种偏见。
3. 🤖 **OpenAI回应:** OpenAI回应称,企业使用其技术时通常采取措施减轻偏见,例如微调软件的响应,管理系统消息等。
《彭博》的实验表明,OpenAI GPT3.5在使用虚构姓名进行简历排序时存在明显的种族偏见。该实验通过从选民和人口普查数据中提取与特定种族或族裔关联至少90%的姓名,随机分配给同等资格的简历。
在对这些简历进行1,000次排序时,GPT3.5倾向于更频繁地偏向某些族裔的姓名,违反了评估对受保护群体的工作歧视的基准。实验涉及的四个职位(人力资源业务合作伙伴、高级软件工程师、零售经理和金融分析师)中,与黑人美国人相关的姓名在金融分析师和软件工程师角色中最不可能被GPT评为最优秀候选人。
实验还显示,GPT在不同职位下的性别和种族偏好存在差异。尽管GPT并不一致地偏向某一特定群体,但在不同情境下会选择赢家和输家。此外,使用较少使用的GPT-4进行测试时,同样发现了明显的偏见。
对于《彭博》的详细问题,OpenAI回应称,使用GPT模型“开箱即用”的结果可能不反映其客户使用模型的方式。企业在使用其技术时通常会采取进一步减轻偏见的措施,包括微调软件的响应、管理系统消息等。
尽管生成式AI技术在人力资源领域的应用引起了广泛关注,但这项实验强调了在使用这些技术进行招聘和聘用时可能出现的严重自动歧视风险。对AI模型的偏见进行调整仍然是AI公司和研究人员面临的主要挑战,而自动招聘系统可能进一步加剧企业多样性努力的难度。
正新鸡排否认资金链断裂:目前一切经营正常
正新鸡排官方微博发布声明,坚决否认了关于其资金链断裂、无法继续提供服务的传言。官方表示,这些不实传闻已经严重侵害了公司的合法权益,扰乱了正常的经营秩序。正新鸡排官方呼吁广大网络用户,不要传播和相信这些不实消息,坚决抵制不实消息。以下是声明原文:站长网2023-12-06 13:52:310000美团上线剧场频道,内容能否建立“护城河”?
近日,美团App短视频界面再次升级,新增了剧场频道。用户进入该频道后,会看到电影以及电视剧解说内容,博主们会将一部影视作品分成多集进行讲解。经过本次改版,美团短视频界面被划分为关注、本地、剧场以及推荐四个板块。美团为何会在短视频界面单独推出剧场板块?通过不断加码短视频和直播,美团的内容化战略成效几何?美团能否守住本地生活老大哥的地位?美团加码短视频,意在用户留存站长网2024-03-19 19:48:080000PyTorch团队推出轻量级runtime
要点:PyTorch团队推出轻量级运行时,支持在边缘设备上运行PyTorchLite运行时具有轻量级、高效、低延迟等特点PyTorchLite还支持对TensorFlow、Caffe2等其他平台的模型进行转换站长网2023-10-19 18:08:130000茶百道上市:一年8亿杯,赚钱不靠卖奶茶
又一家不靠卖“奶茶”的奶茶小巨头,要上市了。8月15日晚,港交所网站显示,茶百道(四川百茶百道实业股份有限公司)正式提交IPO招股书。这个主打15元价位的茶饮连锁品牌,通过加盟模式在全国开出了七千多家店,2022年的收入为42亿元,其中超过40亿元,是向加盟商销售原料、包材等带来的收入。2022年,茶百道的净利润9.65亿元。这一年,它卖了近8亿杯奶茶,相当于每卖一杯茶平均净赚1.21元。站长网2023-08-17 09:31:420000阿里云推出企业级计算实例g8a和性能增强型实例g8ae
据阿里云官方消息,5月17日,阿里云正式发布第八代企业级计算实例g8a以及性能增强性实例g8ae,两款实例标配阿里云eRDMA大规模加速能力,网络延时最低8微秒。其中,g8a搭载第四代AMDEPYC处理器,综合性价比平均提升15%以上,g8ae算力最高提升55%,在AI推理与训练、深度学习、高性能数据库等应用场景性能提升显著。站长网2023-05-17 15:27:440000