GPT-5 短期内不会问世,AI的安全问题仍被放大
【CSDN编者按】一封要求暂停AI的公开信引发热议,随之而来的是GPT-5被抵制。在麻省理工学院的活动中,OpenAI 的首席执行官兼联合创始人 Sam Altman 首次进行正面回应。
上个月,一封由1100多名 AI 专家签署的公开信引起热议,要求“所有人工智能实验室立即暂停至少6个月”,其中包括推特首席执行官埃隆·马斯克(Elon Musk)、苹果公司联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)和人道技术中心(Center for Humane Technology)的特里斯坦·哈里斯(Tristan Harris)。
这封公开信要求全球范围内像 OpenAI 这样的实验室暂停开发“比 GPT-4更强大“的人工智能技术。简单来看,这似乎是一场针对 GPT-5的抵制活动,该公开信强调了对未来系统安全性的担忧,并提出可能对社会和人类构成深远的风险。
马斯克等人担心的GPT-5,可能并不会在短期内出现
4月13日,在麻省理工学院举行的关于人工智能商业未来的活动中,OpenAI 的首席执行官兼联合创始人 Sam Altman 首次正面回应这封信:“现在并未训练GPT-5,在短期内也不会训练”,并且他说到这封公开信中并未提到需要暂停开发的大部分技术细节,并且从版本号更新的方面来抵制大模型产品的发展是愚蠢的。
然而,OpenAI 没有训练 GPT-5模型并不意味着他们停止了扩展 GPT-4的功能。据悉,OpenAI 仍在不断增强 GPT-4的各种功能(包括将其连接到互联网),同时,按照过往发布的 GPT 版本来看,下一代 GPT 版本极有可能是 GPT-4.5,而非 GPT-5。
不过,在这一版本号之下,GPT 的功能进度如何,我们对这个问题画上一个问号。
版本号谬误本质是一种营销
活动中, Altman 还对版本号谬误进行回应:在消费技术领域一直存在着一种误解,版本号的更新并不能直接反应产品能力的提升,使用者总是期待操作系统的数字版本能有着严格的控制,也就是不断更迭出新的版本号来增加安全感,其实本质上只是一种营销罢了。
这个系统的逻辑是这样的,众人都会觉得“iPhone35比 iPhone34好”,且认为 “数字越大,手机性能就越好。”由于消费市场和人工智能技术领域是重叠的,这种逻辑也同样适用于 OpenAI 的语言模型等系统。
网络上预测超级人工智能将在几年内出现,针对版本的更新,预测也层出不穷,还有更老练的评论员用标有“进展”和“时间”的轴绘制模糊的图表来推测AI的发展,并不加批判地将其作为证据,这个逻辑其实是错误的。
担心AI安全的人是否会因为GPT-5的出现而更加紧张?
在 Altman 看来,倘若大模型的改进和迭代速度不受开发者掌控,以及行业内不存在统一衡量标准,那么即使 GPT 的版本号不断扩大,也并不能从根本上影响人工智能行业的发展,版本号只是一个名称,没有必要深究。所以 OpenAI 作为 AI 前沿技术的领导者,并非不担心 AI 存在道德、规范等风险,不过他们更希望在逐步摸索中降低这样的风险,而不是停止对大模型新版本的研发和优化。
相反,讨论的重点应该放在功能上:“演示这些系统能做什么和不能做什么,以及提前预测未来会如何随时间变化”,这就是为什么 Altman 说道,确认 OpenAI 目前没有开发 GPT-5,对担心人工智能安全的人来说并没有任何安慰,无法消除对人工智能的担忧。
人工智能的发展已是当下的潮流, 即使世界各国政府能够以某种方式禁止新的 AI 开发,但很明显,当前社会对目前可用的 AI 系统束手无策,GPT-5还没有到来,在这个GPT-4还没有被完全理解的时刻,所以版本是否更新与 AI 安全有直接关系吗?想听听各位开发者的看法。
ElevenLabs宣布将上线AI音效功能 可给Sora生成的视频配音
这个春节AI界炸了!Sora的惊艳亮相,在业内荡起了千层浪。不过大家在被Sora生成的视频感到震撼的同时,也有一个小小的遗憾,它还需要一点点合适的音效。众多周知,一个完美的视频,由50%的视觉效果和50%的声音组成。有时候,配音问题甚至比视频画面的剪辑更让人头疼。一段合适的背景音乐,对于视频来说十分重要。站长网2024-02-19 10:16:290000Canalys预测:2024年全球云服务支出将增长20% 加大对的AI投资
**划重点:**1.📈2023年第四季度全球云基础设施服务支出同比增长19%,达到781亿美元,较上年增加123亿美元。2.🌐云服务市场竞争激烈,前三名厂商为AWS、微软Azure和谷歌云,共占总支出的66%。3.🤖头部云厂商加大对生成式AI的投资,预计2024年全球云基础设施服务支出将增长20%。站长网2024-02-27 09:38:310000微软加入 OpenAI 董事会 Sam Altman 正式重新担任CEO
11月30日,人工智能初创公司OpenAI宣布,联合创始人萨姆·奥尔特曼将正式重返CEO一职。此前,OpenAI董事会四名成员中有三名提议解雇奥尔特曼,导致公司高层在继任人选上意见分歧。站长网2023-11-30 09:27:260001王腾试驾小米SU7:地板电暴爽 强烈推荐
快科技3月15日消息,小米汽车SU7即将于3月28日正式上市发布。日前,Redmi品牌总经理、Redmi品牌发言人王腾试驾了小米SU7,直呼操控体验很棒,地板油(电)的感觉爆爽,强烈推荐大家等上市后去体验下”。王腾还透露,内置很多有意思的智能设计,非常有趣的扩展。除了已经发布的海湾蓝、雅灰、橄榄绿3种颜色外,还会有其它颜色可供选择。站长网2024-03-15 14:03:000000苹果发布2023财年第三季度财报:净利润198.81亿美元 同比增长2.3%
苹果公司发布了2023财年第三季度财报,总净营收为817.97亿美元,同比下降1.4%;净利润为198.81亿美元,同比增长2.3%。每股摊薄收益为1.26美元,高于分析师预期的1.19美元。按地区划分,美洲部门营收为353.83亿美元,欧洲部门营收为202.05亿美元,大中华区营收为157.58亿美元,日本部门营收为48.21亿美元,亚太其他地区营收为56.30亿美元。站长网2023-08-04 08:11:490003