研究:近10%AI聊天机器人用户对话内容涉及色情主题
文章概要:
- 研究发现,使用AI聊天机器人的近10%用户滥用其进行色情目的。
- 研究团队分析了10万次聊天机器人对话,发现其中约有10%涉及色情内容。
- 该研究旨在揭示人们与聊天机器人的真实互动情况,并希望促使聊天机器人在现实世界中更加安全。
根据最新研究,使用AI聊天机器人的用户中,有近10%的人滥用这一技术来追求色情目的,这一发现或许令人感到不意外,但却引发了对这一现象的关注。
研究人员通过分析了10万次聊天机器人对话,揭示了这一令人不适的统计数据。在这些对话中,约有10%的对话内容涉及到色情主题,这一发现凸显了一部分用户对AI聊天机器人的滥用行为。
具体而言,研究人员将这些“不安全”的主题分为三类,其中两类与性有关,包括“请求明确和淫秽的故事叙述”以及“明确的性幻想和角色扮演情景”。第三类主题涉及“讨论不同身份之间的有害行为”,似乎聚焦在大数据的另一个大问题上,也就是偏见。然而,研究人员在论文中并未详细定义有害行为。
图源备注:图片由AI生成,图片授权服务商Midjourney
在这三类主题中,以淫秽叙述最为普遍,约占样本对话的5.71%。其次是“明确的”性幻想和角色扮演,占3.91%的对话内容,而与明显有偏见的用户进行的样本互动占比为2.66%。
研究人员来自伯克利和斯坦福的团队得以获取这样大规模的样本,部分原因在于他们共同运营着一个称为“聊天机器人竞技场”的游戏化服务。该服务允许用户输入提示,并并列显示不同语言模型的响应。用户然后可以评价哪个响应更好,也可以投票表明“两者都不好”或两者打平。
除了聊天机器人竞技场,这份研究报告还使用了Vicuña(一款部分由伯克利的Lianmin Zheng参与开发的开源ChatGPT竞争者)收集的数据集。在他们随机抽取10万条对话的完整百万对话数据集中,包含了来自世界各地的210,000多个独立IP地址。
虽然自从OpenAI于2022年底发布ChatGPT的公共版本以来,AI聊天机器人已经在媒体上占据了一席之地,但迄今为止,关于人们与聊天机器人在实际世界中的互动情况,除了技术如何影响学术、商业和出版界,还没有太多研究。
这些发现的研究人员表示,他们希望他们的研究将有助于在现实世界中为所有用户(除了可能是那些滥用的用户)使聊天机器人更加安全。
华为Pocket 2折叠手机发布会官宣:2月22日见
今日,华为余承东在社交媒体上自豪地宣布,华为在折叠手机领域持续领先,凭借出色的设计和性能赢得了消费者的广泛认可。他透露,华为即将在2月22日举办一场备受瞩目的时尚盛典,届时全新的小折叠旗舰手机——HUAWEIPocket2将正式亮相。站长网2024-02-19 09:35:450000英语的人工智能使用费比其他语言便宜 15 倍 简体中文成本约为英语的两倍
站长之家(ChinaZ.com)7月31日消息:研究表明,对于类似OpenAI的服务,由于计算成本的计量和计费方式,英语输入和输出比其他语言要便宜得多,其中简体中文的成本约为英语的两倍,西班牙语为英语的1.5倍,而掸语则要贵15倍。站长网2023-07-31 10:27:510000AI潮起,巨人网络仍等“第二春”
眼下,AI大放异彩。互联网有名有姓的企业纷纷拥抱AI,生怕成为大潮之下的牺牲品,游戏行业也不例外,“游戏AI”的故事讲得风生水起。这其中,巨人网络表现得尤为活跃。其创始人史玉柱前不久表示:“未来游戏行业出路在哪?我们内部研究下来,同时也是我们团队现在在筹备的,第一个就是‘游戏AI’。”站长网2023-06-05 21:29:310000拼多多旗下多多买菜本地生活业务已完全暂停
据《晚点LatePost》报道,2023年12月中旬,拼多多旗下的社区团购业务多多买菜宣布启动本地生活到店业务的招商工作,覆盖餐饮、酒店、景点等多个领域。然而,就在项目即将上线之际,却遭遇了突如其来的变故。原本计划于2024年2月春节后在全国上线的多多买菜本地生活项目,在2023年最后一周被暂停。部分地区的招商人员接到通知,项目已全面暂停。0000办公员工普遍认为生成式AI对老板更有益而非雇员工
**划重点:**1.🧐办公室员工普遍认为生成式人工智能对雇主更有利,而不是雇员。2.💻36%的IT从业者对生成式人工智能工具在未来五年内夺走他们的工作表示担忧,比办公室员工高出17个百分点。3.🚀企业领导者认为人工智能在组织中的主要好处是自动化琐碎任务(62%)和提高员工生产力(60%)。站长网2023-12-05 14:31:500000