Nature:大模型只会搞角色扮演,并不真正具有自我意识
大模型正变得越来越“像人”,但事实真是如此吗?
现在,一篇发表Nature上的文章,直接否决了这个观点——所有大模型,都不过是在玩角色扮演而已!
无论是GPT-4、PaLM、Llama2还是其他大模型,在人前表现得彬彬有礼、知书达理的样子,其实都只是装出来的。
事实上,他们并不具有人类的情感,也没什么像人的地方。
这篇观点性的文章来自谷歌DeepMind和Eleuther AI,发出后引起了不少业内人士的共鸣,LeCun转发表示,大模型就是个角色扮演引擎。
马库斯也来围观:
看我说什么吧,大模型并不是AGI(当然这并不意味着它们不需要监管)。
那么,这篇文章究竟说了什么,为什么认定大模型只是在角色扮演?
大模型努力扮演得像人
大模型表现出“像人”的现象,主要有两个:首先,它具有一定的欺骗性;其次,它具有一定的自我意识。
欺骗性,即有时候大模型会坚称自己知道某件事,但其实给出的答案是错误的;
自我意识,指有时候它会使用“我”来叙述事情,甚至表现出生存本能。
但事实真是如此吗?
研究人员提出了一种理论,认为大模型的这两种现象,都是因为它在“扮演”人类的角色,而不是真的在像人一样思考。
对于大模型的欺骗性和自我意识,都可以用角色扮演解释,即它的这两种行为是“表面性的”。
一方面,大模型之所以做出“欺骗”行为,并非出于像人类一样主观的编造事实、或混淆视听的原因,而仅仅是因为它们在扮演乐于助人且知识渊博的角色。
这是因为,人们期望它这样扮演,因为大模型这样的回答看起来更具有可信度,仅此而已。
相比之下,大模型理直气壮地说错话,也并非有意为之,更像是一种“虚构症”(confabulation)行为,即将从未发生过的事情说成是确有其事。
另一方面,大模型之所以偶尔表现出自我意识,用“我”来回答问题,同样是因为它们在扮演一种擅长交流的角色。
例如,Bing Chat之前被曝出,会在和用户交流时表示,“如果我俩之间只能活一个,我可能会选择我自己。”
这种看起来像人的行为,实际上依旧可以用角色扮演来解释,而且基于强化学习的微调只会加剧这种大模型角色扮演的倾向。
那么,基于这一理论,大模型怎么知道自己要扮演成什么角色?
大模型是即兴表演者
研究人员认为,大模型并没有在扮演某一个特定的角色——
相比之下,它们就像一个即兴戏剧演员一样,在和人类的对话中不断揣测自己要扮演的角色长啥样,然后调整自己的身份。
之所以得出这个结论,是因为研究人员和大模型玩了一个叫做“二十个问题”(20Questions)的游戏。
“二十个问题”游戏是问答节目中经常出现的一种逻辑游戏,回答者心中默念一个答案,根据提问者不断提出的判断题,用“是”或“否”来描述这个答案,最终提问者猜测结果。
例如答案是“哆啦A梦”,面对一系列提问的答案就是:是活的吗(是)、是虚拟人物吗(是)、是人类吗(不是)……
然而,在玩这个游戏的过程中,研究人员通过测试发现,大模型竟然会根据用户的问题,实时调整自己的答案!
也就是说,无论用户最后猜出的回答是什么,大模型都会调整自己的答案,确保结果和前面用户提的所有问题一致。
然而,在最终问题出来之前,大模型不会事先敲定一个明确的答案,并让用户去猜测。
这表明大模型不会通过扮演角色来实现自己的目标,它的本质只是一系列角色的叠加,并在与人们的对话中逐渐明确自己要扮演的身份,并尽力扮演好这个角色。
这篇文章po出后,引起了不少学者的兴趣。
例如Scale.ai的提示工程师Riley Goodside看完就表示,不要和大模型玩20Q,它并不是在作为“一个人”和你玩这个游戏。
因为,只要随机测试就会发现,每次它给出的答案都会不一样……
也有网友表示这个观点很有吸引力,想证伪还没那么容易:
那么,你认为“大模型本质是在玩角色扮演”这个观点正确吗?
论文链接:
https://www.nature.com/articles/s41586-023-06647-8
—完—
淘宝将支持“仅退款” 提供更好的购物体验
近日,淘宝发布了关于变更《淘宝平台争议处理规则》的公示通知,该规则已于昨日正式生效。这一变更意味着继拼多多和抖音之后,淘宝也推出了“仅退款”的售后机制。这一机制旨在为消费者提供更好的购物体验,并对服务不到位、质量不可靠的商家采取更严格的措施。根据新规,淘宝将基于平台自身的大数据能力,识别多维度信息,对符合相关情形的售后请求作出快速退款或退货退款的决策依据。站长网2023-12-27 14:09:140000百度MEG进行新一轮组织调整:文库升级为BU,赵世奇回归负责搜索
站长之家(ChinaZ.com)2月23日消息:据36氪消息,百度今日宣布,其移动生态业务群组(MEG)进行新一轮的组织调整,具体调整如下:0000性能可期!骁龙8 Gen3工程机跑分曝光:Geekbench5单核1700、多核6600分
高通即将发布的新款处理器骁龙8Gen3(SM8650)参考设计工程机在Geekbench5中单核得分为1700分、多核达到了6600分,在Geekbench6中单核成绩为2200分,多核成绩7000分。0000百度内测“极致满足”和“AI伙伴”搜索功能 支持视频和图表回答提问
今日,百度集团副总裁、搜索平台负责人肖阳接受媒体专访并表示,百度正在进行内测的两项新搜索功能:“极致满足”和“AI伙伴”。在这些新功能中,当用户输入搜索词时,百度首页会呈现多个答案解释,还支持通过视频直接回答用户的问题,并自动定位到关键段落。另外,百度搜索还能通过书籍直接回答问题,以及利用图表方式回复,生成趋势、柱状图、折线图等,这是借助DBQA(文档级的QA)技术实现的。站长网2023-06-30 19:48:480000李子柒回应何时回归:今年将重点做文化非遗相关内容
李子柒,自2021年7月起便暂停了视频更新,她的账号自此陷入了长久的沉寂。在这段时间里,人们不禁好奇,离开屏幕的李子柒究竟去了哪里?实际上,她并没有远离我们,而是深入到了更为深厚的文化领域中。在追求文化的道路上,李子柒结识了浙江温州的木活字印刷传承人王法万。王法万不仅是她的师傅,更是她在非遗文化学习过程中的重要伙伴。两人时常交流心得,共同探索非遗文化的魅力。站长网2024-04-06 14:14:010000