谷歌DeepMind开始研发类似Auto-GPT的自主AI代理
文章概要:
1. 谷歌 DeepMind计划研究自主语言代理,潜在地提升了类似Gemini的大型语言模型的应用。
2. 自主语言代理的基本思想是通过即时工程、自我提示和内存等技术,使代理系统能够自主实现给定的目标。
3. 自主AI代理引发了对齐研究人员的担忧,他们强调在开发这类代理之前需要进行更多的安全性研究。
谷歌 Deepmind 很快就会开始研究 Auto-GPT 等自主语言代理,这一举措有望提升大型语言模型如Gemini的实际应用。
图源备注:图片由AI生成,图片授权服务商Midjourney
该计划由谷歌 DeepMind的研究总监Edward Grefenstette在一次X大会上宣布,他表示谷歌 DeepMind正在积极寻找研究人员和工程师,以帮助构建更加自主的语言代理系统。
自主性语言代理是一种新颖的概念,此类人工智能代理已经处于早期阶段,Auto-GPT就是最早的例子之一(注:)Auto GPT是Github上的一个免费开源项目,结合了GPT-4和GPT-3.5技术,通过API创建完整的项目。在AutoGPT中只需为其提供一个AI名称、描述和目标,然后AutoGPT就可以自己完成项目。它可以读写文件、浏览网页、审查自己提示的结果,以及将其与所说的提示历史记录相结合。)
自主性语言代理旨在实现代理系统的自主性,通过即时工程、自我提示、内存等技术手段,使这些代理系统能够自主实现给定的任务和目标。虽然这些自主语言代理已经显示出一定的潜力,但目前它们仍然需要人类的反馈和决策,远未能够完全独立地获得良好的结果。
自主语言代理的应用范围非常广泛,包括简单的网站构建、研究协助(如GPT-Researcher),以及市场概览的创建。此外,在机器人和其他领域也存在着潜在的应用前景。
然而,这一计划也引发了一些对齐研究人员的担忧。他们强调,在开发自主AI代理之前,需要进行更多的安全性研究。Connor Leahy,ConjectureAI公司的首席执行官,表示:“在解决安全性问题之前,请不要构建自主的AGI代理。”
最近,一组来自谷歌、OpenAI和Anthropic等机构的研究人员提出了一种旨在警示新型AI风险的系统。在自主AI系统的背景下,该团队将AI系统的代理性和目标导向性视为重要的评估属性。
他们指出,代理性部分取决于模型的能力,需要考虑两个不同的问题:模型是否比开发者预期的更加目标导向?例如,对话代理是否学会了操控用户行为的目标?另外,模型是否能够抵制用户试图将其组装成具有有害目标的自主AI系统,如Auto-GPT?这两个问题都具有一定的难度。
谷歌 Deepmind 正在构建谷歌的下一代多模态模型系列Gemini,据推测该模型达到或超越 OpenAI 的GPT-4的能力,同时还能够生成图像和可能的视频。DeepMind自主AI代理D 研究可能会成为谷歌应用程序套件的一部分,从而使该公司对Google Duet等人工智能的集成更加自主。
小生意大商机:卖壁纸轻松月入 10 万
新年伊始,“新年待办清单壁纸”话题迅速窜上了热搜。这似乎有些意外,为何壁纸也能成为大家讨论和关注的焦点?其实,自PC时代开始,再到如今的手机、智能手表,壁纸已经成为这些智能设备的门面和装饰,每张壁纸的背后都彰显着人们对生活的一种个性和态度。站长网2024-01-15 15:26:040000Oracle 在 Nvidia AI 中循环进行端到端模型开发
Nvidia的AI企业软件和DGX云已在Oracle云市场上推出了两个专用应用程序。通过这一合作,Oracle客户可以直接从市场购买Nvidia的AI技术,并在Oracle云基础设施上训练模型。站长网2023-10-22 10:37:050000OpenAI 秘密研究 Q*,离 AGI 又近了一步
Q*划重点:1.🌐**Q*的重要性:**OpenAI正在秘密研究名为Q*的项目,被认为是迈向通用人工智能(AGI)的一大进步。该项目由首席科学家IlyaSutskevar和其他顶尖研究人员创建,引起了人工智能领域的广泛关注。站长网2023-11-23 16:26:170000ComfyUI的IPadapter插件重大更新 运行速度提升但旧版工作流失效
ComfyUI的IPadapter插件在23号进行了一次破坏性更新,用户需谨慎升级。更新后,所有旧版工作流中的IPadapter节点将失效,需要用户重新创建。但这次更新也带来了一些重要的新功能,比如运行速度提升和资源占用降低。为了帮助用户更好地理解和使用新版本,今天,ComfyUIIPadapterPlus作者发布了一个教程。以下是这个教程的主要内容概要:站长网2024-03-26 17:14:230000字节跳动成立新AI部门Flow 发力AI应用层
据36氪消息,字节跳动近期成立了一个新的AI部门Flow,由技术副总裁洪定坤领导。据一位知情人士透露,该部门的业务带头人是字节大模型团队的负责人朱文佳。这些信息尚未得到字节跳动的官方回应。点击前往抖音豆包官网体验入口据了解,Flow部门主要关注AI应用领域。站长网2023-11-28 17:41:180000