获取竞争优势：美国生成式人工智能的军事应用

【关键词】美国  生成式人工智能  军事应用  ChatGPT

生成式人工智能是指利用复杂的算法、模型和规则，以大规模数据集中学习，创造新的原创内容的人工智能技术。人工智能文生视频大模型Sora的发布，标志着该技术继ChatGPT后再次取得突破性进展。美国高度关注生成式人工智能技术的发展，大规模推动其在军事领域的运用，旨在全面提升作战能力，获取竞争优势。如何确立科学发展理念、建立务实发展路径、选准重点突破方向、看清未来面临问题，是美国推动生成式人工智能军事应用重点关注的问题。

美国对生成式人工智能军事应用的基本认知

美国对生成式人工智能军事应用的认知是指其对生成式人工智能在军事领域的应用价值、发展目标和推进方向等的认识。这主要反映在美军高层领导人讲话、发布的相关文件以及预算投入中，具体体现在以下三个方面。

第一，具有广阔应用前景，需要大力发展。在2022年11月美国人工智能公司OpenAI推出ChatGPT时，生成式人工智能的直接影响和发展潜力就引起美军前所未有的重视。美国国防信息系统局局长、空军中将斯金纳表示，生成式人工智能可能是很长一段时间内最具颠覆性的技术和举措之一，“那些懂得如何最好地利用它，以及如何最好地防范它的人，将成为占据制高点的人”。在乌克兰危机中，ChatGPT等生成式人工智能的实践运用，进一步引起美军对该技术的重视。美国国防部在2023年11月发布的《数据、分析与人工智能采用战略》中，强调生成式人工智能在情报搜集、作战筹划、指挥决策、作战行动、后勤保障等方面具有巨大的潜在作用。为此，美国国防部各部门、各军种纷纷将生成式人工智能纳入尖端技术目录，并将其作为未来重点研发的技术之一。2024年2月，美国白宫科学技术政策办公室公布对美国家安全至关重要的关键和新兴技术最新清单，对18个技术领域进行了修订，其中人工智能领域包括机器学习、深度学习、生成式人工智能系统等。美国还为这些列入优先发展清单的技术提供专项研发经费。美国2024财年《国防授权法案》为包括生成式人工智能在内的人工智能研发与运用专门拨款18亿美元，并要求国防部长为生成式人工智能的开发、使用制定战略计划。

第二，面临多重风险挑战，需要稳步推进。美国国防部对生成式人工智能的发展既寄予厚望，但也顾虑重重，不断强调其可能带来的风险。一方面是技术发展不成熟的风险。生成式人工智能根据提示使用统计数据来实现人类想法，但高质量数据的缺乏使其远不能代替人类进行深层思考和决策。美国国防部负责关键技术的副首席技术官梅纳德·霍利迪认为，美国国防部缺乏训练生成式人工智能模型的特定数据语料库，其还不能为军事决策提供很好的服务。美国空军部长弗兰克·肯德尔也表示，ChatGPT等生成式人工智能很有创意，但其军事用途有限，因其可能生成一些错误和虚假信息，短期内仍难以依靠类似工具执行编制行动命令等任务。美国中央司令部首席技术官斯凯勒·摩尔宣称，美国国防部正在积极运用生成式人工智能，但这些工具仍是武器库中“不成熟的技术”，涉及军事冲突时，它会被放在一边。

另一方面，技术存在被恶意利用的风险。生成式人工智能可能生成虚假信息、虚假网站等，一些没有受过专业技术培训的人可以借此发起网络攻击，这可能被对手利用，造成新的网络威胁。美国国防高级研究计划局信息创新办公室主任凯瑟琳·费舍尔表示，生成式人工智能将使对手更容易开展高质量的网络钓鱼、勒索软件等活动，从而改变威胁格局。美国国家安全局网络安全主管罗布·乔也宣称，生成式人工智能将对数字安全和恶意黑客产生影响，美必须积极应对。

为此，美国国防部希望稳步推进生成式人工智能发展，不直接采购成熟商业产品，而是依托自身数据，联合多家公司研发美军自己适用的“多模态”生成式人工智能。美国国防部负责关键技术的副首席技术官梅纳德·霍利迪表示，虽然大型语言模型有很多用处，但美国国防部不会使用现有ChatGPT，而将依托自身数据定制和培训生成式人工智能模型，然后借助云或本地计算对其进行加密、分析和反馈。

第三，处于初级发展阶段，需要科学统筹。2023年9月，美国国防部生成式人工智能工作组负责人泽维尔·卢戈声称，生成式人工智能最终是否、以何种方式以及出于何种目的被军队和国防部大规模部署，仍然存在许多未知数。在美国国防部各部门、各军种、各战区纷纷大力开展生成式人工智能研发和应用的情况下，美军首先加强国防部层面集中统筹。美国防部第一副部长凯瑟琳·希克斯宣称，“美国国防部迫切需要探索生成式人工智能的使用，挖掘其模型的规模、速度和交互能力的潜力，以提高国防部执行任务的效率，同时采取适当的保护措施并减轻各种相关风险。”目前，美国国防部依托其下设的首席数字和人工智能办公室重点开展以下工作：一是制定生成式人工智能顶层发展规划，二是构建生成式人工智能跨部门合作机制，三是收集基于作战需求的生成式人工智能的用例，四是推动这些用例应用于作战实践，五是搭建多种生成式人工智能技术的集成平台，六是采取措施降低生成式人工智能带来的各种风险。

美国生成式人工智能军事应用的实现路径

为了加快生成式人工智能军事领域运用，美军采取从上至下、“实践—理论—实践”的发展思路，其核心是成立生成式人工智能工作组，分政策指导、作战应用、安全维护三条线展开相关工作。

一、核心：设置专门指导机构

2022年6月，美国国防部整合联合人工智能中心、国防数字服务局、首席数据办公室等机构成立的国防部首席数字和人工智能办公室正式运行，该办公室直接向国防部第一副部长报告工作，并对国防部22个涉及数据分析及人工智能的相关机构进行评估和精简。为了加强对生成式人工智能发展的指导，美国国防部于2023年8月在首席数字和人工智能办公室下设立生成式人工智能工作组，也称 “利马”工作组，旨在推进美军生成式人工智能能力的研发和“负责任的部署”。该工作组具有以下特点。

一是打破跨部门壁垒。工作组是在美国国防部第一副部长凯瑟琳·希克斯亲自督导下成立的，希克斯专门发布备忘录，明确工作组的职责。在首席数字和人工智能办公室层面，工作组负责人由首席数字和人工智能办公室核心部门算法战局局长兼任，工作组的成果由首席数字和人工智能办公室核心部门“负责任人工智能工作委员会”进行转化。[1]在国防部层面，希克斯要求所有部门都要为工作组的举措实施和政策制定提供信息。与此同时，工作组通过举行 “行业日”等活动，整合企业界与学术界生成式人工智能研发力量。

二是聚焦军事需求。基于国防部各部门、各军种等的需求，工作组重点开展以下工作：盘点国防部正在进行的生成式人工智能研发、部署、使用等工作；分析生成式人工智能的任务领域、工作流程与用例；支持国防部的技术开发工作，并监督相关技术整合情况；监督生成式人工智能与联合演习和实验的整合；针对生成式人工智能制定国防部长期发展计划等。[2]

三是贯通研用环节。工作组的工作分学习、加速和指导3个阶段展开。学习阶段主要是全面了解人工智能的工作原理和外部数据应用过程，分析军方对生成式人工智能的需求，向业界发布信息征询书，收集和评估生成式人工智能军事用例，并把其集成到工作流程中。目前，工作组已收集230多个用例，主要集中在信息摘要、填表、物流、规划等管理层面，并正在评估这些用例，以确定哪些技术适合当前军队需求。加速阶段主要是聚焦军事用例与作战过程的联系，与国防部其他机构、军种部门等合作，加快对用例的理解、评估、部署及监测，根据任务需求整合相关技术。指导阶段主要是为国防部制定基于生成式人工智能的临时指南、框架和工作流程，参与国防部对大语言模型的实际研究和部署，并制定国防部生成式人工智能战略。

二、政策线：颁布顶层规划指导

2023年11月，在美国国防部发布《国防部数据、分析和人工智能采用战略》的同时，首席数字和人工智能办公室发布生成式人工智能工作组提交的《生成式人工智能临时指南》，主要围绕应对生成式人工智能带来风险提出建议，其内容体现在以下几个方面。

一是理性看待风险。面对生成式人工智能带来的风险挑战，美国国防部敦促其各部门采用稳健的管理流程，而非彻底禁止使用生成式人工智能工具。美军认为，风险不可能完全消除，关键是记录使用案例相关的风险，分析哪些是可接受的、哪些是不可接受的。

二是科学规避风险。谨慎使用商用生成式人工智能工具；禁止在没有审批的生成式人工智能模型中输入机密级国家安全信息或受控非机密信息；所有数据、代码、文本或媒体在输入军方的生成式人工智能模型前必须经批准公开发布；为提高透明度，鼓励对借助生成式人工智能工具创建的文档进行适当的标记。

三是强化责任意识。所有国防部人员都要对生成人工智能协助下作出的结果和决策负责，建议用户验证并交叉检查此类工具的所有输出。

三、作战线：开展作战实验测试

生成式人工智能工作组成立以来，一直积极探索在作战领域使用生成式人工智能的可能性。其采取的主要措施是与各军种、战区司令部合作在相关作战环境中开展功能实验。

一是“全球信息优势实验”。美国国防部首席数字和人工智能办公室于2023年2月重启“全球信息优势实验”，旨在为联合全域指挥控制提供数据集成以及人工智能使用的相关解决方案。实验团队由来自美军各军种和多个作战司令部的军人和文职人员组成，这是国防部举行的由数据、人工智能支持的全球综合实验。目前，该实验已经进行了9次。该实验的主管马修·斯特罗迈耶表示，“全球信息优势实验”为生成式人工智能工作组提供了一个基于美军作战任务试验人工智能能力的新场所。重启后的“全球信息优势实验”使作战人员能够利用生成式人工智能在战场上更快作出决策。2024年3月完成的第9次实验在多个作战司令部参与下对生成式人工智能工作组提供的用例进行测试，检验其能否执行后勤作战任务。

二是人工智能作战实验。目前，美军欧洲司令部和印太司令部正与国防部首席数字和人工智能办公室的算法战局和国防创新小组合作，建立两个人工智能作战实验室，推动国防部人工智能技术的运用。国防部负责算法战的副首席数字和人工智能官乔伊·拉森表示，在人工智能作战实验室中，人工智能职能部门将与作战人员一起对人工智能工具的功能进行设计、测试和分析，从而能够准确掌握并提供作战人员需要的信息，为赢得作战胜利奠定基础。在人工智能作战实验室建设完善后，一些生成式人工智能工作组收集的用例在此实验。

三是“虚拟沙盒”实验。2023年9月，美国“特别竞争研究项目”专家建议创建“沙盒”环境，推动生成式人工智能的应用。基于此，生成式人工智能工作组建立“虚拟沙盒”中心，旨在使作战人员使用经审核的生成式人工智能工具开展实验。生成式人工智能工作组负责人泽维尔·卢戈表示，该中心将为更多生成式人工智能用例的开发与验证提供安全可控的环境。[3]

四、安全线：实施技术漏洞挖掘

为应对包括生成式人工智能在内的人工智能技术带来的风险，美国国防部首席数字和人工智能办公室于2023年7月制定“赏金”计划，旨在发现人工智能模型存在的漏洞。2024年2月，该办公室开启针对人工智能漏洞的“赏金”活动，检测人工智能系统中的偏见，对已识别风险开展实验，确保人工智能系统在特定部署环境中安全、可靠和无偏见。该项活动由首席数字和人工智能办公室下设的负责任人工智能工作委员会牵头，首席数字和人工智能办公室下设的国防数字服务理事会负责指导。2024年1月29日—2月27日，第一次活动聚焦开源聊天机器人，主要识别大语言模型中的未知风险。