人工智能和国家安全有什么关系

人工智能（AI）是发展迅速的技术领域，对国家安全可能具有重大的影响，引起国际竞争对手、商业领导者、国防研究者和政策制定者的广泛关注。近期，美国国会服务研究中心（Congressional Research Service）发布《人工智能与国家安全》报告，报告主要概述了美国的人工智能国防应用，包括网络空间运营、情报监视和侦察、深度伪造、致命性自主武器系统（LAWS），技术和人员等方面的军事化AI集成挑战，中俄两国的军事化AI发展进程及其存在的问题，以及AI对作战的潜在影响等内容。

哪些类型的军事人工智能应用是可能的，应该施加哪些限制？

人工智能发展存在哪些独特的优势和缺陷？

人工智能将如何改变战争，对与美国竞争对手之间的军事平衡会产生怎样的影响？

国会观点

许多国会议员已经呼吁对军事人工智能采取行动。2018年1月，在众议院武装委员会举行的听证会上，委员会主席呼吁采取“国家层面的行动”，以保证在人工智能领域的技术优势。前国防部副部长罗伯特·沃克也曾在2017年11月的一次采访中表示，联邦政府需要在最高层次上强调人工智能问题，这并不是仅仅靠五角大楼就能够解决的。

国会可能希望关注人工智能发展的资金问题。在2017年参议院商业科学和运输委员会的听证会上，一位专家表示，“尽管人工智能的重要性显著提高，但是联邦政府对人工智能研究和开发的资金投入一直相对平稳。”五角大楼人工智能项目负责人约翰·沙纳汉中将也称，资金是人工智能发展的障碍。根据2017年美国陆军科学委员会的一份报告指出，现有资金的不足导致难以发展人工智能这项颠覆性的技术。下图显示了自2012年以来国防部在人工智能合同方面的支出。

批评增加联邦资金投入的人认为，可能不需要大幅增加人工智能领域的拨款，军方能够更多地利用商业部门进行该领域的研发工作。2017年国家安全战略指出，“建立战略伙伴关系，使私营部门的研发资源与国家优先安全应用相一致”，并鼓励愿意承担风险并迅速开发新兴商业技术的政府机构。此外，预算部门在编制2019财年预算时提出指导意见，称“通过私营部门能够更加有效地发展已有的研发项目，在不再需要或不合适联邦政府参与的情况下，考虑对现有预算进行修改或取消。”国家安全领域的部分专家也认为，当企业可以将产品90%的功能转化为用于军事领域时，再将纳税人的钱用于重复商业领域的人工智能研发是不负责任的。

人工智能的国防应用

国防部正在研究人工智能的多种应用。目前，人工智能的研发工作由个人服务机构和国防部高级研究计划局（DARPA）以及情报高级研究计划机构（IARPA）来负责。负责研究和工程的助理国防部长办公室将对这些计划保持适度监督，并且正在制定国防部人工智能战略。

算法战争跨智能团队，也被称为“Maven项目”，是一项由国防部情报副部长监督的国防部人工智能集成项目。该项目于2017年4月正式启动，负责将人工智能快速融入到现有的国防部系统中，充分展示人工智能技术的潜力。

智能、监视和侦查

监视

人工智能在军事物流领域可能有很好的应用前景。例如，空军正在努力利用人工智能来完成定制的、预测性的飞机维修功能。当一架飞机发生故障或者需要与按照为整个机队设计的脚本计划保持一致而进行维修时，人工智能能够为技术人员对单个飞机进行维修时提供专门的方案。这一类人工智能应用程序将提取嵌入在飞机引擎和其他机载系统的实时传感器数据，并将数据输入到预设算法中，以确定技术人员何时能够完成检查或者更换部件。

网络空间

人工智能可以在网络空间领域可能发挥重要作用。美国网络司令部司令罗杰斯上将曾表示，“当你在保护网络时，如果不能通过大量试图去理解的活动来获取某种程度的人工智能或者机器学习，你总是会落后于权力曲线。”

指挥和控制

美国军方正在寻求利用人工智能在指挥和控制领域的分析潜力。目前，美国空军正在开发一个多领域指挥控制系统——MDC2，该系统旨在集中规划和执行空中、太空、网络空间、海洋和陆地任务。在不久的将来，人工智能可能被用来融合来自所有这些领域传感器的数据，为决策者创建单一的信息源。决策者可以从多个平台获得不同种类的信息，通常有冗余或未未解决的差异。常见的人工智能操作画面能够将这些信息组合，并在一个显示器集中显示友军和敌军的直观图像，并自动解决输入数据的差异问题。

人工智能应用挑战

冷战至今，大多数与国防有关的技术最初都是由政府主导开发的，后来才扩展到商业领域，例如核技术、全球定位系统和互联网。与此相反的是，现在民间企业正引领人工智能的发展，国防部则紧随其后调整其功能以实现国家安全。

人工智能是多种两用技术的其中之一，部分商业应用可直接用于国防安全。然而这种概述也有一些例外，一些独特的复杂情况需要与国防部和商业公司之间不断变化的关系相适应。商业技术对国防的适应性存在着很大的差异。在某些情况下适应是相对无缝的。例如，上述飞机维护算法可能只需要对飞机类型的训练数据和可用的传感器数据进行细微调整。然而，在其他情况下，军事系统运行的作战环境往往结构复杂，发生不可预测事件的可能性更大。

除了应对非结构化的环境外，军事人工智能还必须与那些通过操纵或拒绝信息而试图挫败人工智能系统的人类对手抗争。卡内基梅隆大学的一个研究小组发明了一种人工智能算法，该算法在无上限德州扑克游戏中利用12万种套路击败了4个人。这项成就的意义重大，因为它是第一款专为信息不完美和其他玩家有欺骗动机的环境而设计的游戏应用程序。人工智能“玩家”必须制定自己的计划来隐瞒信息或虚张声势，并且必须从战略上进行思考，以及考虑到每一个动作将对整个游戏产生何种影响。这种人工智能的发展前景被国防部所看好，但可能不得不依靠学术机构或内部实验室来推进这项研究。一位专家认为，商业公司可能没有很强的动力来创造这种人工智能，因为他们的大多数工具遇到的竞争较少。

国际竞争

随着人工智能防御应用规模和复杂程度的不断提高，国会和国防部越来越关注人工智能的国际竞争。参议员特德·克鲁兹（Ted Cruz）表示，“将开发人工智能的领导权拱手让给中国、俄罗斯和其他外国政府，不仅会使美国处于技术劣势，而且可能对国家安全产生严重影响。”

中国

到目前为止，中国是美国在国际人工智能市场上“最大”的竞争对手。2017年，鉴于人工智能已成为“国际竞争的焦点”，中国的“下一代人工智能发展计划”将人工智能作为一项“战略技术”。根据该计划，中国将“牢牢把握战略主动权”，到2030年，人工智能投入将达到“世界领先水平”，政府投入将达到1500亿美元。

分析人士指出，一些差异可能会影响中美两国利用军事人工智能的对比率。值得注意的是，与美国不同，几十年来中国没有参与过多少作战。虽然表面上这似乎是一个弱点，但有些人认为这可能是一个优势，中国更容易发展出作战中独特的人工智能概念。与此形成鲜明对比的是，美国似乎专注于利用人工智能解决即时、战术层面的问题和现有想法的不断改进。

俄罗斯

从新兴的人工智能技术发展和公共政策声明来看，俄罗斯可能是另一个军事人工智能领域潜在的关键竞争对手。尽管俄罗斯在人工智能方面的总投资落后于美国和中国，但俄罗斯正在启动缩小这一差距的计划。作为2008年开始实施的更广泛的国防现代化建设的一部分，俄罗斯军事工业委员会制定了到2025年将30%的军事装备实现自动化的目标。

2016年，俄罗斯政府成立了一个国防研究部门，其功能大致相当于DARPA，该部门致力于研究自动化和机器人技术，并发起了一个关于“俄罗斯联邦武装部队机器人化”的年度会议。俄罗斯的Kaggle用户排名世界第四，俄罗斯风险资本家也在积极寻求国外人工智能市场的机会，这表明俄罗斯可能会联合起来发展人工智能技术。

人工智能对作战的影响

虽然人工智能还没能以一种严肃的方式进入作战领域，但专家们正预测人工智能对未来战争的潜在影响。这种影响将是许多因素共同作用的结果，包括商业投资率、与国际竞争对手竞争的动力、人工智能研究能力的提高、军方对人工智能技术的态度，以及人工智能特定作战概念的发展等等。

对作战的最小影响

虽然许多分析人士认为，军事人工智能技术正处于初级阶段，但从长远来看，很难找到一位专家相信人工智能将无关紧要。然而，人工智能的批评者指出，一些趋势可能会使这项技术的影响降到最低。从技术角度来看，当前人工智能的安全问题有可能是无法克服的，这将导致人工智能不适用于军事应用。此外，目前人工智能发展的拐点有可能导致技术的停滞。一些专家认为，目前这一系列算法将在未来10年内充分发挥其潜力，如果没有像更高能效的芯片或量子计算这样的技术支持的话，人工智能发展将无法实现重大的飞跃。人工智能此前也遇到过类似的障碍，导致了产生了“人工智能冬天”，在此期间人工智能研究的进展明显放缓。

对作战的进阶影响

多数分析人士认为，人工智能至少会对战争产生重大影响。一项研究将人工智能描述为一种“潜在的破坏性技术，它可能在战争过程中造成明显的不连续性”，并进一步断言人工智能技术可能“明显改进军事效能和作战潜力”。这些分析人士指出研究项目，使现有的武器系统和过程更快、更有效，提供了一种手段以应对复杂化情报评估和决策数据的扩散。然而，这些分析师警告说，在不久的将来，人工智能不太可能超越那些需要人为监督的狭隘的、特定任务的应用。

对作战的革命性影响

一大批专家相信人工智能将对战争产生革命性的影响。有分析指出，人工智能将引发战场上的“地震性”转变，从根本上改变战争的发动方式。《2018年国防战略》将人工智能列为改变战争性质的新兴技术，弗兰克·霍夫曼（Frank Hoffman）更进一步地认为，人工智能可能“改变战争的不变性质”。