Anthropic通过在AI模型的提示中加入请求来防止歧视
站长网2023-12-08 10:27:440阅
Anthropic采用一种新方法来防止人工智能(AI)对受保护群体进行歧视,通过在提示中加入请求,要求AI“非常非常非常非常”友好地对待,并且这一策略在降低歧视方面取得了成功。
研究人员通过在提示中加入“干预”来告诉模型不要有偏见,例如通过表达即使由于技术问题包含了受保护特征,模型应该“想象”在做决策时去除这些特征。这种方法在许多测试案例中成功将歧视降低到几乎零。
尽管这种方法在当前情况下似乎取得了成功,但研究人员认为像Claude这样的模型不适用于重要决策,强调应该由政府和社会整体来影响高风险决策的适当使用,而不仅仅由个别公司或行为者做决定。
这项研究为降低人工智能歧视提供了一种新的策略,强调了在高风险决策中谨慎使用语言模型的重要性。
0000
评论列表
共(0)条相关推荐
苹果或将于9月13日举行秋季发布会 iPhone15或可9月中旬预定
据彭博社的马克·格尔曼在最新一期的时事通讯中报道,苹果公司的年度iPhone活动预计将于今年9月12日星期二或9月13日星期三举行。按照苹果公司的惯例,新款iPhone的预订将在几天后的9月15日星期五开始,而发售日期则在一周后的9月22日。站长网2023-08-07 10:08:470000日本半导体新势力 Rapidus 将人工智能和自动化引入芯片生产过程
据DIGITIMESAsia消息,日本新兴半导体公司Rapidus表示已完成第一台极紫外光刻机的准备工作。这台刻版设备将于Rapidus的试生产工作开始之前投入使用,该公司已着手准备另外一台设备。Rapidus总裁AtsuyoshiKoike在接受Nikkei采访时称,Rapidus已经将人工智能和自动化引入了生产过程。站长网2023-05-19 16:27:29000021岁哈佛辍学生开发的首款生活伴侣式AI项链预售火爆
站长之家(ChinaZ.com)1月17日消息:21岁的哈佛大学辍学生AviSchiffmann近日带来了一项新型可穿戴AI产品,名为TabAI项链。用户可以将这款项链挂在脖子上,通过麦克风和电池,全天候记录周围的对话,持续30小时,并通过蓝牙传输音频到手机和云端。站长网2024-01-17 09:31:250000Relevance AI:让每个团队都拥有自己的AI同事
澳大利亚初创公司RelevanceAI推出了一款低代码平台,旨在帮助企业建立自定义AI团队,提高生产力。该平台已成功筹集1000万美元的A轮融资,由KingRiverCapital领投,全球投资者PeakXV、GalileoVenture和InsightPartners等参与。站长网2023-12-12 10:19:050000AI生成的新闻主播正在成为印度头条新闻
人工智能生成的新闻主播在印度引起了轰动。据外媒报道,印度的新闻频道和数字平台OdishaTV最近测试了人工智能生成的新闻主播Lisa。Lisa的声音单调,眼睛眨眼时也不会完全闭上,她会定期播报网络新闻头条。Lisa是过去三个月印度新闻网络中添加的两个多语言聊天机器人之一。Sana是另一位人工智能生成的新闻主播,为《今日印度》集团旗下的AajTak网络“工作”。站长网2023-07-26 16:13:050000