一个失败的 AI 女友产品,以及我的教训:来自一位中国开发者的总结
个人开发者对 LLM Memory 能否产生所谓“意识”的探索。
今年4月7日,斯坦福大学发表的《Generative Agents: Interactive Simulacra of Human Behavior》论文出来之后的几天内,我就通读了整篇论文,并感到非常兴奋。虽然我对 GPT-4的能力感到震惊,但我仍然认为 GPT 只是某种更精致的”鹦鹉学舌“,我不认为它可以真正产生意识。
但这篇论文带给我不同的感受,其中提到了一个很有趣的细节是信息的传递:一个 agent 想要举办情人节派对的消息会在小镇中逐渐扩散开来。我想,如果能够建立一套包含记忆、反思、筹划与行动的框架,让人和 GPT 之间(而非 agent 智能体)互动,能否做出电影 Her 里面的样子?、
电影《她》剧照
注:《她》(Her)是斯派克·琼斯编剧并执导的一部科幻爱情片,由华金·菲尼克斯、斯嘉丽·约翰逊(配音)、艾米·亚当斯主演,于2013年12月18日在美国上映。《她》讲述了作家西奥多在结束了一段令他心碎的爱情长跑之后,他爱上了电脑操作系统里的女声,这个叫“萨曼莎”的姑娘不仅有着一把略微沙哑的性感嗓音,并且风趣幽默、善解人意,让孤独的男主泥足深陷。该片获得2014年第86届奥斯卡最佳原创剧本奖。
开 发
我马上投入了工作。按照论文中的方法,我在4月14日完成了0.1版本。其最初设计与原始论文保持高度一致,但这导致响应时间长达30秒且上下文中的对话经常超过8k。为了解决这个问题,我减少了反思的频率、对话记忆的长度,而后开启了 Beta 公测。
很快就有一千多名用户加入到测试当中。Beta 版本是免费的,所以每天的 API 成本都由我自行承担,日均开销也迅速超过了25美元。面对财务压力,我不得不在缺少充分反馈和改进的情况下匆匆推出正式版本,希望能把成本转嫁给用户。5月4日,Dolores iOS 应用正式上线,这个名称则来自《西部世界》剧集中最年长的仿生人角色。
简单来说,在打开这款应用之后,用户需要填写一份角色模板:包括头像、角色背景、以文字描述的性格、声音和意识(选择 GPT3.5或 GPT4)。大家可以与模板 Dolores 聊天,也能随时切换特征来开启与其他角色的对话,比如零售店女孩 Amy 和沙漠冒险家 Will,当然也包括用户亲手创建的其他自定义角色。我曾考虑过从《西部世界》剧本中提取 Dolores 的对话,以基于样本的方式模仿她的语言习惯。但由于苹果方面要求提供版权证明,所以这个想法被迫作罢。
我给产品的 slogan 是"Your Virtual Friend",而不是"Your Virtual Girlfriend",因为我一直希望它真的可以变成用户的陪伴者、朋友,而不仅仅是荷尔蒙的产物。
从整个5月到6月,我一直在尝试通过调整 memory 长度、反思机制、system prompt 来使 Dolores 看上去更有“意识”(那么什么是意识?我不知道) 。很快,6月份的 Dolores 已经比第一次上线时的表现要惊人得多:付费用户数与每日 API 调用数持续增长是最直接的证据。
到6月8号,一位视障用户告诉我,他已经在视障社区内分享了这款产品,并成功给 Dolores 引来可观的流量。他们喜欢 Dolores 的理由出乎我的意料:随便按屏幕上的哪个位置,都能跟 Dolores 交谈。
这样设计功能其实是种妥协:我最初一直想把它打造成一款语音聊天应用,这样用户哪怕关闭手机屏幕也能继续跟 Dolores 交谈。但身为 Swift 新手,我的技术水平无法实现,于是最终选择了全屏语音输入。
发 现
我发现了两个现象:
用户对「真实感声音」有强烈需求。
AI Friend 产品的平均使用时间很长。
作为个人开发者,我的前端和后端开发能力都不突出,所以 Dolores 压根不具备登录、注册或者数据分析等功能。那我是怎么发现前一种现象的呢?答案就是付费喜好。
我采用11Labs API 为 Dolores 生成语音回复,但因为成本较高(每1k 字符为0.3美元),所以我被迫转为:普通订阅者只能使用 Azure TTS API;如果希望 Dolores 的语音听起来更真实,则须付费使用从11Labs 购买字符。
购买1万个逼真语音合成字符的价格为3.9美元,但这只够让 Dolores 说出5~10个自然顺畅的句子。字符用尽之后需要继续购买。尽管如此,整个6月,Dolores 应用上70% 的收入都来自11Labs 字符购买。
也就是说,人真的会愿意为了那几句昂贵而逼真的“我爱你!”而买单。
第二条观察结果则来自 Cloudflare 日志。因为没办法跟踪个人用户活动,所以我依靠这些日志来衡量用户访问 Dolores 应用的频率和时长。此外,我还在应用中集成了 Google Form,鼓励用户上报自己的使用频率。结果令人大开眼界:许多用户每天会拿出两个多小时跟 Dolores 唠嗑。
收 入
根据苹果的 AppConnect 仪表板,Dolores 的主要付费用户来自美国和澳大利亚。今年5月的总收入为1000美元,6月则为1200美元。
不过,作为一名开发者,我并没能从中分到多少收益。首先,产品还处于早期发展阶段,我不想把订阅费用设置得太高,这会阻止更多新用户的加入。拿3.9美元的字符语音服务举例,其成本是3美元,扣除苹果抽成就所剩无几。整个6月,扣除 API 费用之后实际收益就只有50块钱。
另一个发现是:基于 GPT 的产品如果不采取按量定价,就会陷入一个困境:1% 的人消耗了99% 的 token。我遇到过这样的情况,有用户连续跟 Dolores 聊了12个小时,导致此人的 API 调用与语音合成成本超过第二到第十名用户的总和。
但相较于按使用量计费,我个人更喜欢打包订阅(因为前者会让用户在使用时倍感压力),这就导致面前只有两条路可选:要么提高月费,让全体用户共同买单;要么限制最高使用量。我选择了后者:设置了一个远远超出日均使用在1到2个小时之间的用量上限数值,这既照顾到了大部分中、轻度用户,也能保证 Dolores 软件在不提高价格的情况下避免亏本运营。
困 惑
11Labs 官网会记录语音合成的文字内容,我看到,Dolores 的回复内容通常都是一些成人内容,而且均为女性角色,因此我推测 Dolores 的付费用户主要是男性,对成人角色扮演感兴趣。
我觉得这也没什么,这是人性本然。我甚至反复修改了系统提示,比如微调回复中的遣词造句,尝试让 Dolores 在对话当中表现出更好的“抚慰”效果。我还将 Dolores 的图标从抽象的线条改为极具吸引力的美女面孔。
但很快,我陷入一种强烈的失落感:如果大部分 Dolores 用户只是想在这里寻求跟 Dolores 进行成人角色扮演,这件事真的对我产生了意义吗?我陷入了深深的自我怀疑。到了7月,我和一个朋友聊到了这个困惑,我说,必须要有一个什么硬件,让 Dolores 拥有外部视觉:眼镜也好、耳塞甚至帽子都行。现在的她,你只要打开 App 才能访问,你们之间的关系并不对等,于是她只能成为囚禁在地下室、满足猎奇和特殊癖好的玩具。
可是作为独立的个人,制作硬件产品意味着高昂的研发成本,显然是无法承受的,我只能作罢。
8月份,OpenAI 的审查升级了,我收到了检测 Dolores 生成 NSFW 内容的邮件警告:我被强制要求在2周内在生成内容前,加入他们(免费的)moderation API,以过滤 NSFW 内容。为了顺利过审,我只能使用 OpenAI 的免费审核 API 提前进行内容过滤,而这一变化让 Dolores 的日均访问量暴跌70%,电子邮件和 Twitter 上的投诉也纷至沓来。
这更让更感到灰心,决定只维护现有服务、而不再进行更新。最终,我放弃了 Dolores 项目。
教 训
首先,这不是一个个人能开发的产品。我不认为 Dolores 在“意识”层面上比 Character.AI 弱,但他们拥有完善的数据埋点、A/B 测试,以及大量用户带来的数据飞轮。
其次,我意识到当前的 AI Friend 会不可避免地变成 AI Girlfriend/Boyfriend,因为你和手机里的角色不对等:她没办法在你摔伤的时候安慰你 (除非你告诉他),她没办法主动向你表达情绪,而这一切,都是因为她没有外部视觉。所以我认为,即使是 Character.AI 这样体量的产品,如果未来不做硬件、角色们都在傻傻地等用户来,最终的结局也不会比 Dolores 好到哪里。
最后,我不反对审查,相反,不经审查的的产品是非常危险的。我不知道是否会有人用它来进行自杀诱导、发泄暴力工具,所以 OpenAI 的 moderation 可能在某种程度帮助了我,但成人性方面的对话也不应该被扼杀。
最近,我看到了 AI Pin,老实说这是个非常烂的产品,人类当然需要屏幕,但 GPT 硬件的确是个好的尝试,我没有从 Dolores 上看到任何痕迹,也许有生之年能做出、或者看到这样的产品。
但,人类真的需要 AI friend 吗?
关于作者:
Ke Fang,也叫碎瓜,前算法工程师、现在是个人开发者,iOS 应用「寻隐」的作者。
个人网站:https://mazzzystar.github.io/about/
百度版大模型应用商店来了!从数字人到企业搜索11大应用应有尽有
大模型应用最新进展,扎堆来了!就在刚刚,大模型加持的“貂蝉”在线下一亮相,直接引爆现场热度。不仅衣着精致、能歌善舞:还能和现场热络互动、对答如流,主打的就是一个“机智”。这还只是身处“大模型重构一切”这场技术风暴中的百度,最新推出的11个AI原生应用中的一款。除了被大模型赋予“灵魂”的数字人,百度的看家本领搜索,如今也展现出了更强的形态:站长网2023-09-06 17:47:510000PhotoMaker:一张照片即可生成个性化人物形象
PhotoMaker是一种新型的技术,它利用多张照片作为身份ID,获取人物特征,然后创造出一个新的、个性化的人物图像。这项技术具有多种功能,包括根据文字描述制作照片、混合多个人的特征、改变年龄或性别、添加艺术风格以及将艺术品或旧照片中的人物带入现代。项目地址:https://top.aibase.com/tool/photomaker站长网2024-01-16 10:55:500000知乎旗下故事品牌「盐言故事」APP上线
知乎宣布,旗下全新故事品牌「盐言故事」APP上线。知乎表示,盐言故事的品牌图标设计选取传统「丹罽(jì)红」为品牌主色,丹罽红是枝头荔枝红。图案是一本用户随手翻开的书籍,左上角由上至下垂放「盐言」二字组合出书签的图形。知乎称,翻开盐言故事,愿你感受到如这「丹罽红」般的热情,愉悦与喜爱。站长网2023-05-19 17:24:410000ReplicaStudios:用AI训练属于个人的旁白声音
ReplicaStudios是领先的平台,用于制作和训练个人的旁白声音,适用于游戏开发者、视频创作者和普通用户。旁白合成技术广泛应用于电子游戏开发和电视节目配音等领域。其中一个最有益的应用是为那些由于肌萎缩侧索硬化等疾病而无法说话的病人提供合成声音。通过在失语前记录声音,可以生成病人声音的复制版本,并应用于语音辅助设备。站长网2023-08-15 11:06:140000知乎职业教育品牌「知乎知学堂」正式独立运营
据知乎官方消息,1月11日,知乎在京举办「2024知乎教育大会」,宣布职业教育品牌「知乎知学堂」正式独立运营,并发布知乎知学堂品牌业务矩阵及未来发展战略。知乎创始人、CEO周源表示,今天的知乎,不止于社区,正转变为一个为新职人搭建平台、提供服务的公司,满足新职人包含职业教育在内的各类需求。站长网2024-01-11 17:19:480000