反转!美国饮食失调协会下线AI客服 人类员工回归
站长网2023-06-03 15:40:240阅
在解雇了所有员工并用聊天机器人取而代之后,最新报道称,美国饮食失调协会(NEDA)再度宣布其求助热线已经宣布将让人类回归,并下线AI聊天机器人。
前不久,NEDA计划停止其已有20年历史的电话线或“帮助热线”,为那些寻求饮食失调和身体形象问题帮助的人提供人工咨询和指导服务。与此同时,该组织计划继续让一个名为 Tessa 的“健康聊天机器人”提供服务,该机器人由 Cass 公司(前身为 X2AI Inc.)与华盛顿大学研究人员联合开发,并于2022年2月在 NEDA 网站上推出。
本周早些时候,体重包容性顾问莎朗·麦克斯韦(Sharon Maxwell)在Instagram上发帖称,她曾与Tessa交谈过,聊天机器人给了她可能造成伤害的建议,包括限制性节食。
在麦克斯韦的帖子发布后,NEDA在其Instagram帐户上发表声明说,该组织已经了解反馈的问题,并“在进一步通知进行全面调查之前取消了该计划,也就是暂时下线Tessa。
NEDA首席执行官Liz Thompson表示,他们发现了Tessa异常活动,表明Tessa受到恶意行为者或机器人的攻击。上周,Tessa的流量激增了600%,数据表明不良行为者试图欺骗Tessa进行各种形式的邪恶活动。接下来,在解决所有问题之前,Tessa都不会重新上线。
0000
评论列表
共(0)条相关推荐
Hugging Face AI 平台中发现100个恶意代码执行模型
划重点:⭐研究人员在HuggingFaceAI平台上发现大约100个恶意机器学习模型,可能让攻击者注入恶意代码到用户机器上。⭐恶意AI模型的工作原理:利用PyTorch模型等在Python和AI开发中的方法,可以执行恶意代码。⭐为了减轻恶意AI模型带来的风险,AI开发者应当利用新工具,如Huntr,来提高AI模型和平台的安全性。站长网2024-03-01 11:20:180000文生视频“黑马”Morph Studio来袭:好用、1080P 、7秒时长还免费
“发光的水母从海洋中慢慢升起,”在MorphStudio中继续输入想看到的景象,“在夜空中变成闪闪发光的星座”。几分钟后,MorphStudio生成一个短视频。一只水母通体透明,闪闪发光,一边旋转着一边上升,摇曳的身姿与夜空繁星相映成趣。站长网2024-01-06 10:04:540000小冰上线小样本AI数字员工 只面向企业开放
小冰公司宣布了AI数字员工SaaS产品线最新进展。升级后的AI数字员工,采用大模型小样本技术,支持线上自助创建,以及真实人类的声音和形象复刻,能进行内容生产与实时交互。站长网2023-04-21 18:04:570000百度文心一格推出图片涂抹编辑、风格叠加等AIGC功能
百度宣布,AI作画产品文心一格“二次编辑”功能上线。通过AI技术结合创作者的需求对图像进行二次编辑优化,使得画作更加精准的符合用户创意需求,创作优质画作。据介绍,用户只需通过涂抹等形式确定原画作中待编辑和加工的区域;接着调用人工智能AI编辑功能,获取整幅画作的编辑信息;最后对编辑区域的内容进行与原画风格一致的补全编辑,并对补全画作连接处进行平滑处理,最终即可生成满足用户需求和审美的理想画作。站长网2023-07-05 20:58:020000AI公司澜码科技完成数千万元A轮融资
据36氪消息,大模型中间件厂商“澜码科技”完成数千万元A轮融资,该轮由IDG资本、联新资本、AtomCapital参与投资。澜码科技成立于2023年,致力于基于大语言模型打造新一代自动化平台。澜码科技基于底层的大语言模型,通过提供自动化平台,从而在效率场景下学习人们在PC/手机/会议等场景下的技能,建构出自己独特的多模态基础大模型。站长网2023-08-08 10:32:530000