五角大楼探讨大型语言模型的军用用途

划重点:

⭐️ 五角大楼与科技专家会晤，讨论如何将人工智能融入军 事规划。

⭐️ 大型语言模型在军 事情报分析等领域有潜在用途，但仍需面临可靠性和安全性挑战。

⭐️ 五角大楼强调需要工业界的协助，以推动人工智能技术在军 事领域的应用。

ChatGPT 和 AI 图像生成器的出现初期令全球欢欣鼓舞，然而政府官员开始担心它们可能被用于更黑暗的用途。本周二，五角大楼开始与科技行业领袖举行会议，加速发现和实施最有用的军 事应用。与会人士一致认为:新兴人工智能技术可能对军 事领域产生深远影响，但需要进行深入测试，以确保其可靠性，避免被对手利用。

图源备注：图片由AI生成，图片授权服务商Midjourney

五角大楼首席数字与人工智能官办公室主管克雷格・马特尔在华盛顿希尔顿酒店的一场座无虚席的研讨会上表示，他的团队正试图在实施尖端人工智能技术时平衡速度与谨慎。

大型语言模型（LLMs）如 ChatGPT 可以在几秒内审查海量信息并将其凝聚为几个关键要点，这为军 事和情报机构带来了诱人的可能性。美国海军船长 M・赛维尔・卢戈在研讨会上表示，对个人而言，特别是在高活动环境中，信息流量是巨大的。具备可靠摘要技术可以帮助我们管理这些信息，这对我们至关重要。

研究人员表示，LLMs 在军 事领域的其他潜在用途可能包括通过复杂的战争游戏训练军官，甚至帮助实时决策。一些最佳用途可能尚未被发现。LLMs 让国防官员感到振奋的是它们的灵活性，可以处理各种任务，与早期的人工智能系统相比，更具多样性。

然而，一个主要障碍，甚至可能是一个致命缺陷，是 LLMs 继续存在 “幻觉”，即它们会产生不准确信息。卢戈表示目前还不清楚是否可以解决这个问题，称这是工业界的 “头号挑战”。五角大楼首席数字与人工智能官办公室成立了 Lima 特别小组，目的是研究生成式人工智能，该小组最初是为 LLMs 而成立的，但很快扩展到包括图像和视频生成。

LLMs 在高风险目的上仍需继续改进。一位卡内基梅隆大学的研究人员在会议上表示，他们去年受国家情报总监办公室之托，探讨 LLMs 如何被情报机构使用。该研究小组设计了一个 “气球测试”，激励 LLMs 描述去年高空中国监视气球事件的发生情况，作为情报机构可能感兴趣的地缘政治事件的代理。回答各不相同，有些带有偏见且无益。

更令人担忧的是，一个对抗性黑客可能会破解军方的 LLM，并导致其从后端泄露数据集。研究人员在去年证明了这是可能的:通过要求 ChatGPT 永远重复单词 “诗歌”，他们让其开始泄漏训练数据。ChatGPT 修复了这个漏洞，但其他漏洞可能仍存在。

在周二的讲话中，马特尔呼吁工业界的帮助，称国防部也许没有必要建立自己的人工智能模型。“没有你们我们办不到。” 马特尔说。“我们构想的所有这些组件都将是工业解决方案的集合体。” 周二的讲话中，马特尔是在向合作伙伴传道，大约100家技术供应商争相入住希尔顿酒店，其中许多人渴望赢得即将到来的合同。

早在一月初，OpenAI 从其 “使用政策” 页面上删除了针对军 事应用的限制，该页面曾禁止 “有高风险的实体危害活动”，特别是 “武器开发” 和 “军 事和战争”。“英国国防人工智能中心” 负责人瑞秋・辛格顿上校在研讨会上表示，英国感到有必要迅速为内部军 事使用开发一个 LLM 解决方案，因为担心员工可能会诱惑使用商业 LLMs，从而使敏感信息面临风险。