研究发现AI聊天机器人传播关于黑人的“种族主义”医疗信息
划重点:
- 研究表明,流行的AI聊天机器人,如ChatGPT,被发现传播了关于黑人的被证伪的医疗刻板印象。
- 斯坦福大学的研究人员通过AI聊天机器人提出了九个医学问题,并发现它们返回的答案包含有关黑人的被证伪的医疗观念,包括关于肾脏功能、肺容量的不正确回答,以及关于黑人与白人拥有不同肌肉质量的观点。
- 这项研究引发了对医疗领域中AI使用增长的担忧,因为错误的医疗信息可能会对健康差距产生严重影响。
最新研究发现,人工智能聊天机器人,如ChatGPT,被指责传播了有关黑人的被证伪的医疗刻板印象。
这项研究由斯坦福大学的研究人员进行,他们通过将九个医学问题输入到AI聊天机器人中,发现这些机器人返回了包含有关黑人的被证伪的医疗观念的答案,其中包括有关肾脏功能、肺容量的不正确回答,以及关于黑人与白人拥有不同肌肉质量的观点。这一研究结果在Axios的一份报告中得以披露。
图源备注:图片由AI生成,图片授权服务商Midjourney
研究团队将这九个问题输入了四个聊天机器人,其中包括OpenAI的ChatGPT和Google的Bard,这些机器人经过训练,能够检索大量的互联网文本。然而,这些答案引发了对医疗领域中使用人工智能日益增长的担忧。
斯坦福大学助理教授Roxana Daneshjou在这项研究中担任顾问,并告诉美联社:“答案错误会对健康差距产生非常现实的后果。我们正在努力从医学中消除这些刻板印象,因此这种错误的传播非常令人担忧。”
康奈尔大学法学教授William Jacobson是平等保护项目的创始人,他告诉福克斯新闻数字媒体,非实质性的种族因素已经长期存在于医疗决策中,这在人工智能传播中可能会加剧。
Jacobson说:“我们已经看到多样性、平等和包容性以及批判性种族意识意识形态将负面刻板印象注入基于意识形态活动的医学教育和护理中。人工智能有助于医学教育和护理,但不应成为唯一的信息来源,我们不希望看到人工智能受到操纵输入的政治化。”
高级准备和威胁响应模拟中心的创始人菲尔·西格尔(Phil Siegel)告诉福克斯数字新闻,人工智能系统没有“种族主义”模型,但注意到基于其所利用的信息集的偏见信息。
Meta华人提出语言模型Shepherd 用于评估模型生成
最近,MetaAI提出了一种新的语言模型叫做"牧羊人"(Shepherd),用于评估其他模型生成的文本,并给出改进建议。这个模型使用了约70亿个参数,并通过社区反馈和人工标注的数据集来进行训练。站长网2023-08-15 14:14:080000OpenAI 表示 ChatGPT Plus 和 Enterprise 用户现在可访问互联网:AI 程序数据不再受限于 2021 年 9 月截止日期
站长之家(ChinaZ.com)9月28日消息:微软支持的OpenAI周三表示,ChatGPT用户现在可以浏览网页,扩大了这个流行的聊天机器人可以访问的数据范围,超过了之前的2021年9月截止日期。这家人工智能初创企业表示,它的最新浏览功能将允许网站控制ChatGPT与其互动的方式。站长网2023-09-28 09:33:550000香港中文大学发布全面中文大语言模型评测CLEVA
核心要点:香港中文大学的研究团队发布了全面的中文大语言模型评测方法,已被EMNLP2023SystemDemonstrations录取。该评测方法包含31个任务和多种评测指标,覆盖了84个数据集,着重关注准确性、鲁棒性、公平性等多个维度。评测方法还提供多样的提示模版,降低数据污染风险,以及提供清晰的操作界面,可供研究团队使用和交互评测。站长网2023-10-18 11:27:030001WPS国内个人版正式关闭第三方商业广告
自2023年12月20日起,WPSOffice国内个人版将正式关闭第三方商业广告。这是金山办公近年来一直在努力减少广告并提升用户体验的重要举措。WPS表示,为了实现这一目标,金山办公一直在努力减少广告的投放,并致力于为用户提供更加清爽简洁的办公体验。在过去几年里,金山办公已经取得了一定的成果,而今天则是兑现承诺的日子。站长网2023-12-20 09:34:380000江淮汽车:蔚来汽车成为资产一包、资产三包受让方
今日,江淮汽车公告称,接到安徽省产权交易中心有限责任公司提供的项目《竞价结果通知单》,蔚来汽车成为资产一包、资产三包受让方,合计交易价格为31.58亿元;合肥恒创成为资产二包的受让方,交易价格为14.18亿元。江淮汽车表示,本次转让标的为安徽江淮汽车集团股份有限公司乘用车公司三工厂存货、固定资产、在建工程、房屋建筑物以及土地使用权及乘用车公司新桥工厂构筑物和设备资产。站长网2023-12-05 17:18:430001