先进的人工智能工具正在崛起,但「安全」并不是监管人工智能的最佳标准
微软于上周发布了其Bing Image Creator的新版本,这是一个由 OpenAI 的新模型 DALL-E 3 提供支持的 AI 图像生成工具。它旨在提供比之前的图像生成 AI 模型(如 Midjourney、Stable Diffusion 或 OpenAI 自己的 DALL-E 2)更强大的功能,包括比以前更丰富地理解复杂用户请求的能力。
与过去一年发布的大多数生成式 AI 模型一样,OpenAI 和微软的模型都非常强调「安全」。在图像生成的情况下,安全可以指的是系统生成伪造真实人物图像的能力的限制,或者识别提供的图像中的人物。但安全也意味着更广泛的内容:正如微软所表明的,它已构建了一个内容审查系统,将拒绝生成有害或不适当内容的任何请求,包括任何可能被视为种族主义、性别歧视或其他令人反感的内容。
在 Bing Image Creator 发布后的几小时内,该内容审查系统就面临了考验。用户很快就能生成著名卡通角色在飞往 911 事件前的世界贸易中心的飞机驾驶舱内的图像,以及某人与饶有意思地类似说唱歌手 Drake 的形象解救纳粹集中营的图像。
内容审查系统通常会拒绝明确请求描绘 911 事件或者飞机驾驶舱窗户里能看到双子塔的图像。但用户发现了一种变通方法:他们指示系统创建像海绵宝宝这样的角色在一架飞机上,背景是纽约市的天际线,以及「两座高楼大厦」。
显然,这种「艺术」幼稚且毫无品味。但它在相对低风险的环境中提出了一个更广泛的问题,涉及人工智能安全工作的性质,甚至安全本身的性质。
随着 AI 变得更加强大,个体将能够以越来越精确的方式运用它,就像 Adobe Photoshop 拥有比 Microsoft Paint 更多的选项一样。随着这一趋势的发展,将变得更难以根据媒体、学术界和许多 AI 公司所提倡的「安全」的广泛定义来制定系统。AI 可以受到更精确的控制,聪明的用户将能够更精确地找到绕过旨在防止制作冒犯自由观念的内容的审查规则的方法。
即使按照广泛定义的安全标准,制定一个高度先进的 AI 系统是可能的,也不清楚这样的系统是否令人满意。互联网恶作剧者用来生成上述图像的变通方法是操纵系统的方式。但请考虑哪种系统听起来更令人担忧:一个可以操纵以生成一些人可能会感到冒犯的内容的系统,还是一个可以窥视用户的内心、理解他们真正的动机,并决定是否愿意遵守的系统?前者是数字工具的延伸,尽管能力极强,但已经有几十年了。后者让人想起了《2001 太空漫游》中的 HAL 9000。即使这样的系统是可能的,也很不清楚它是否是一个好的创造,特别是如果它是为了防止人们在互联网上感到冒犯而被创建的。
随着 AI 变得更加强大,以及拥有如此令人担忧的能力的可能性变得更清晰,有必要在最初就确定 AI 系统应受用户控制。增加安全性的努力直接与这一目标相冲突,可能导致高度强大的 AI 系统是为了满足监管机构和其他守门人而建,而不是个体用户。
通用人工智能工具的崛起,如 DALL-E 3 或 ChatGPT,以及即将到来的更强大的系统,引发了政策制定者、技术专家和所有相关公民的严重担忧,确保系统符合安全的过于宽泛的标准不是其中之一。可以想象,未来几年可能会出现 AI 系统,例如,能够民主化开发新型生物武器,但 AI 已经被用于帮助人类探索科学和工程的新领域,如核聚变和癌症治疗。它们将有一天被用于教育数百万儿童,并帮助公民应对不断发展的挑战。
我们如何处理这些新工具,我们是否信任它们,以及我们如何将它们纳入我们的社会,将决定它们是否会使个人和整体的能力提升。倘若幸运的话,也许它还能提升我们讨论的基调。
GPT-4推理提升1750%!普林斯顿清华姚班校友提出全新「思维树ToT」框架,让LLM反复思考
2022年,前谷歌大脑华人科学家JasonWei在一篇思维链的开山之作中首次提出,CoT可以增强LLM的推理能力。但即便有了思维链,LLM有时也会在非常简单的问题上犯错。最近,来自普林斯顿大学和GoogleDeepMind研究人员提出了一种全新的语言模型推理框架——「思维树」(ToT)。站长网2023-05-22 17:40:320004研究显示人工智能在挑选私募股权基金方面表现优于机构投资者
人工智能可以比许多机构投资者更好地挑选出表现优异的私募股权(PE)基金,这是来自牛津大学的研究所表明的。研究人员通过阅读400份募资说明书,并考虑到通常被投资者忽视的长篇部分,训练了一个人工智能模型来识别高收益的PE基金,用于牛津赛德商学院的一项研究。站长网2023-07-05 18:20:270000OpenAI逐步恢复 ChatGPT Plus 会员注册 已向部分用户发出邀请
OpenAI已经开始逐渐恢复ChatGPTPlus注册,已有部分用户收到邀请。站长网2023-12-13 08:36:480000扎克伯格:AGI开发将成为公司未来五年最重要的战略之一
本周Meta宣布全力冲刺通用人工智能(AGI)外,公司内部还有一条重磅消息——扎克伯格将旗下顶尖AI研究团队FAIR纳入产品部门。这意味着,原先隶属于技术总监BozBosworth领导的RealityLabs,现将由首席产品官ChrisCox直接掌控FAIR和GenAI两大AI重器。站长网2024-01-19 09:58:280000女子优酷追剧惊现3000秒广告 重进后恢复正常
浙江一位女士在看电视时遇到了一则50多分钟的广告,比一集电视剧还长。她将这一特殊经历发到了短视频平台上,并配文:“优酷,你别太过分了”。根据她所说,当时她正在优酷平台观看电视剧《长月烬明》。在该短视频的评论区,女士今天中午回应称并不是每一集都会有3000多秒的广告,前几集都是正常的100多秒,只是这一集出现了问题,但返回重进就好了。站长网2023-04-12 13:19:100000