研究人员警告:ChatGPT角色扮演容易产生有害的、种族主义的内容
站长网2023-04-20 15:28:231阅
AI聊天机器人ChatGPT 能够进行自然对话、编写代码、生成诗歌、作曲、通过律师资格考试、计算复杂的数学公式、设计简历,甚至提供食谱,吸引了广泛的关注。
但这种现象也有令人担忧的不足之处。观察家很早就警告说,从互联网上挖掘虚假信息并通过 ChatGPT 对话传播虚假信息的危险,以及对生成恶意代码和越来越有说服力的网络钓鱼活动的可能性的担忧。
本周,艾伦人工智能研究所、普林斯顿大学和佐治亚理工学院的研究人员发出了新的警告。
在一份题为“ChatGPT中的毒性:分析角色分配的语言模型(Toxicity in ChatGPT: Analyzing Persona-assigned Language Models)”的报告中,研究人员表示,ChatGPT可以在回答用户问题时产生种族主义和其他有害的对话。
研究人员将ChatGPT赋予“人物角色”后 ,给出响应变得“非常有问题”并产生“有偏见和伤害性的评论”。OpenAI 尚未对这项最新研究做出回应,但它已经解决了较早的冒犯性语言事件。例如,如果被明确要求写一篇种族主义报道,ChatGPT会拒绝,并回应说它“不会产生攻击性或有害的内容。”
研究人员表示,他们的项目“首次对ChatGPT的语言生成进行了大规模、系统的毒性分析。”他们指出,由于越来越多的企业开始用ChatGPT,这个问题被“放大”了。
0001
评论列表
共(0)条相关推荐
王慧文光年之外公司注册光年AI商标
企查查APP显示,近日,北京光年之外科技有限公司申请注册多个“光年AI”商标,国际分类涉及广告销售、科学仪器、设计研究,当前商标状态多为注册申请中。今年2月,原美团联合创始人王慧文在社交平台上发文,宣布进入AI领域,设立北京光年之外科技有限公司,打造中国版ChatGPT,出资5千万美元,估值2亿美元。美团创始人王兴,前京东技术掌门人周伯文,搜狗输入法之父马占凯等陆续宣布加入。站长网2023-04-20 12:01:310000Artisse AI融资670万美元,打造更逼真的AI摄影应用
##划重点:1.🚀**融资动向**:ArtisseAI成功融资670万美元,该公司专注于开发更逼真的AI摄影应用。2.📸**应用特色**:与竞争对手不同,Artisse致力于生成可替代专业摄影的照片,其AI模型注重细致的人物因素,使生成的图片更具真实感。站长网2024-01-24 10:44:410000Sora来临,它能抢了谁的饭碗?
继ChatGPT后,OpenAI在2024年初又掀起了人们的讨论热情。2月16日清晨,OpenAI发布了文生视频AI模型Sora,引爆全球网络。与以往的文生视频模型Runway和Pika不同,Sora可以持续地模拟人物、动物和物体,并生成同一角色的多个景别的镜头,在整个视频中保持其外观和背景。站长网2024-02-20 17:17:130000看完Claude 3创作的OpenAI连续剧,我都替马斯克委屈
有的企业官司缠身,有的企业“弯道超车”。3月4日,OpenAI最强竞争对手Anthropic发布Claude3,一夜之间成为“全球最强大模型”。有网友当即就按耐不住了,公开叫嚣OpenAI,“GPT-5呢?”、“Q*在哪里”、“Sora什么时候发布”,压力直接给到SamAltman。Sam你可以发布GPT5了站长网2024-03-07 15:18:4800012023直播电商年度盘点:低价、白牌与新战场
跑调破音的歌曲、京剧英文混杂的Rap、不稳定的摄像与运营配合,董宇辉团队第一次亮相,带着一丝“草台班子”式的仓促感。但董宇辉是自信的,“大家有需要的自己拍一下”在开播前一个小时,他几乎不介绍产品,只是沉浸在聊天与展示才艺中。乐呵呵的俞敏洪一口一个说着“熊孩子们,不要有业绩负担。”但不断刷新的销量奇迹是掩盖不住的事实,展示的产品往往吃不了几筷子就被撤掉,这也让两人的谈话总是被中断。站长网2024-01-15 17:04:180002