登陆注册
19028

五角大楼探讨大型语言模型的军用用途

站长网2024-02-21 10:54:360

划重点:

⭐️ 五角大楼与科技专家会晤,讨论如何将人工智能融入军 事规划。

⭐️ 大型语言模型在军 事情报分析等领域有潜在用途,但仍需面临可靠性和安全性挑战。

⭐️ 五角大楼强调需要工业界的协助,以推动人工智能技术在军 事领域的应用。

ChatGPT 和 AI 图像生成器的出现初期令全球欢欣鼓舞,然而政府官员开始担心它们可能被用于更黑暗的用途。本周二,五角大楼开始与科技行业领袖举行会议,加速发现和实施最有用的军 事应用。与会人士一致认为:新兴人工智能技术可能对军 事领域产生深远影响,但需要进行深入测试,以确保其可靠性,避免被对手利用。

图源备注:图片由AI生成,图片授权服务商Midjourney

五角大楼首席数字与人工智能官办公室主管克雷格・马特尔在华盛顿希尔顿酒店的一场座无虚席的研讨会上表示,他的团队正试图在实施尖端人工智能技术时平衡速度与谨慎。

大型语言模型(LLMs)如 ChatGPT 可以在几秒内审查海量信息并将其凝聚为几个关键要点,这为军 事和情报机构带来了诱人的可能性。美国海军船长 M・赛维尔・卢戈在研讨会上表示,对个人而言,特别是在高活动环境中,信息流量是巨大的。具备可靠摘要技术可以帮助我们管理这些信息,这对我们至关重要。

研究人员表示,LLMs 在军 事领域的其他潜在用途可能包括通过复杂的战争游戏训练军官,甚至帮助实时决策。一些最佳用途可能尚未被发现。LLMs 让国防官员感到振奋的是它们的灵活性,可以处理各种任务,与早期的人工智能系统相比,更具多样性。

然而,一个主要障碍,甚至可能是一个致命缺陷,是 LLMs 继续存在 “幻觉”,即它们会产生不准确信息。卢戈表示目前还不清楚是否可以解决这个问题,称这是工业界的 “头号挑战”。五角大楼首席数字与人工智能官办公室成立了 Lima 特别小组,目的是研究生成式人工智能,该小组最初是为 LLMs 而成立的,但很快扩展到包括图像和视频生成。

LLMs 在高风险目的上仍需继续改进。一位卡内基梅隆大学的研究人员在会议上表示,他们去年受国家情报总监办公室之托,探讨 LLMs 如何被情报机构使用。该研究小组设计了一个 “气球测试”,激励 LLMs 描述去年高空中国监视气球事件的发生情况,作为情报机构可能感兴趣的地缘政治事件的代理。回答各不相同,有些带有偏见且无益。

更令人担忧的是,一个对抗性黑客可能会破解军方的 LLM,并导致其从后端泄露数据集。研究人员在去年证明了这是可能的:通过要求 ChatGPT 永远重复单词 “诗歌”,他们让其开始泄漏训练数据。ChatGPT 修复了这个漏洞,但其他漏洞可能仍存在。

在周二的讲话中,马特尔呼吁工业界的帮助,称国防部也许没有必要建立自己的人工智能模型。“没有你们我们办不到。” 马特尔说。“我们构想的所有这些组件都将是工业解决方案的集合体。” 周二的讲话中,马特尔是在向合作伙伴传道,大约100家技术供应商争相入住希尔顿酒店,其中许多人渴望赢得即将到来的合同。

早在一月初,OpenAI 从其 “使用政策” 页面上删除了针对军 事应用的限制,该页面曾禁止 “有高风险的实体危害活动”,特别是 “武器开发” 和 “军 事和战争”。“英国国防人工智能中心” 负责人瑞秋・辛格顿上校在研讨会上表示,英国感到有必要迅速为内部军 事使用开发一个 LLM 解决方案,因为担心员工可能会诱惑使用商业 LLMs,从而使敏感信息面临风险。

0000
评论列表
共(0)条