AI助手面临用户流失危机 安全考量或让创业公司失去先机
站长网2024-01-08 11:54:040阅
据国外媒体报道,AI创业公司Antropic近期面临艰难处境。该公司旗下AI产品Claude2.1推出后,许多用户发现其变得难以沟通和使用,经常无故拒绝执行命令。
问题的根源在于,Claude2.1严格遵循其发布的AI伦理宪法,在安全和道德判断上变得过于谨慎和守法。这导致Antropic在追求AI安全的过程中,不得不牺牲部分产品性能。
结果是,大量付费用户表达了强烈不满。他们纷纷在社交平台上抱怨Claude2.1“已经死了”,并表示准备取消订阅转而使用竞争对手ChatGPT。
业内人士指出,Antropic的困境再次凸显了创业公司在AI领域面临的两难。为确保AI安全严格自律无疑是正确的方向,但过度考量道德和法律后果可能让公司失去先机,并在日益激烈的竞争中处于下风。
Antropic自身也深感危机。但要在保持安全的同时又不失灵活性,对任何AI公司而言都是个难题。业内将进一步关注Antropic如何应对当前困境,并KEEP住那些正流向竞争对手的用户。
0000
评论列表
共(0)条相关推荐
花7小时创作AI科幻短片,播放量破百万!AI生成视频有哪些新玩法?(附教程)
最近,AI初创公司Runway宣布,AI视频生成产品Gen-1和Gen-2已全面开放,任何人都可以注册一个账号免费尝试。Runway是一家2018年成立的人工智能公司,Gen-1和Gen-2是其发布的人工智能视频编辑工具。目前Gen-2官网展示了8个功能,包括——文字生成视频(TexttoVideo)文字图像生成视频(TextImagetoVideo)站长网2023-08-01 09:11:410001清华用7个ChatGPT模拟《狼人杀》,结果出乎意料!
为了验证大语言模型的沟通、规划、反思等拟人化能力,清华研究团队发布了一篇名为“探索大语言模型在交流游戏中的应用:《狼人杀》实验”的研究论文。结果显示,通过ChatGPT(GPT-turbo-0301)构建的7个玩家,在《狼人杀》游戏中展示出了信任、对抗、伪装和领导的拟人化能力,而研究人员没有进行任何干预和教导。站长网2023-09-24 10:01:580000AI 超越人类,在街景图像中定位精确度更高
斯坦福大学的三位计算机科学家开发了一个深度学习模型,可以通过观察谷歌街景图像来确定大致的拍摄位置。这个模型在一个流行的地理猜测游戏GeoGuessr中表现出色,甚至超过了顶级玩家。尽管这个模型不能精确确定街景照片的位置,但它能够可靠地确定国家,并在很大程度上猜测出离正确位置不超过15英里的范围内。站长网2023-07-21 17:54:500003亚马逊面向企业的 AI 聊天机器人 Amazon Q 或存在严重幻觉和数据泄露问题引发质疑
在发布不到一周后,AmazonQ——亚马逊对抗Copilot的生成式AI助手——已面临生存威胁,一份新报告显示这款AI助手可能产生「严重幻觉」。据ThePlatformer援引泄露文件报道,Q正面临准确性和隐私问题,包括幻觉和数据泄露。值得注意的是,这一报道正值两项重要研究显示,大型语言模型(LLM)在连接企业数据库时高度不准确,且变得越来越不透明之际发布。站长网2023-12-05 10:00:580000贝莱德减持英伟达和谷歌 增持苹果持仓总市值达 2016 亿美元
据全球最大资管之一贝莱德(BlackRock)公布的13F文件显示,二季度贝莱德再度增持苹果,数量为463万股,为其Q2最大增持个股,持仓总市值来到2016亿美元。亚马逊、Meta、特斯拉也分列增持榜前几位。站长网2023-08-14 10:14:400000