知遠導讀，本文通過運用軍事變革的四要素——技術變革、軍事系統(tǒng)演變、作戰(zhàn)創(chuàng)新和組織適應來分析美國和中國軍事人工智能發(fā)展，探討人工智能能否開創(chuàng)軍事領域新的革命。文章研究發(fā)現(xiàn)，在短期內(nèi)，人工智能更有可能幫助全面實現(xiàn)偵察-打擊軍事變革，而不是產(chǎn)生全新的人工智能軍事變革。同時，對該問題的探討可以對美國和中國之間軍事技術競爭的潛在軌跡進行分析。

人工智能可能是中美科技競爭中最重要的領域。包括美國和中國在內(nèi)的許多國家都認為人工智能在民用和軍事應用方面具有潛在的革命性。人工智能因其“激活”機器的能力而被比作電力，有些人推測人工智能可能引發(fā)長期社會變革，就像是新工業(yè)革命。1到2021年，44個國家已經(jīng)發(fā)布并正在實施國家級人工智能戰(zhàn)略。2然而美國和中國是全球領導者，體現(xiàn)在以下成功標志上：經(jīng)費支出，學術出版，已獲授權的專利和申請，蓬勃發(fā)展的學術，私營和公共部門人工智能研究。3他們也是半導體行業(yè)的關鍵參與者，該行業(yè)的進步促使人工智能得以持續(xù)發(fā)展。

對本文的研究來說，最重要的是美國和中國處于思考人工智能軍事應用的前沿。兩國都認為這可能是革命性的。人工智能革命性的軍事潛力令人興奮，但仍然存在不確定性。它的發(fā)展軌跡很難預測，歷史上容易出現(xiàn)“寒冬”，其間又不時出現(xiàn)快速發(fā)展。4然而，美國和中國的一些分析人士、戰(zhàn)略家和技術專家認為，它可能會從根本上改變?nèi)伺c機器之間的關系，將對戰(zhàn)爭產(chǎn)生影響，從限制人類在戰(zhàn)場上的參與，到破壞戰(zhàn)略核威懾背后的計算。5計算機視覺、自然語言處理和推薦系統(tǒng)等應用可以通過為指揮與控制、情報收集以及聚合、自主性和決策支持等作戰(zhàn)挑戰(zhàn)提供新穎的解決方案，幫助實現(xiàn)戰(zhàn)略目標。6

因此，美國和中國的國家級人工智能戰(zhàn)略均承認保持、發(fā)展領先地位的重要性。7美國在《2018年國防部人工智能戰(zhàn)略》中指出，人工智能“將改變未來戰(zhàn)場的特征和我們面對威脅時的速度。我們將利用人工智能的潛力，積極轉變國防部的所有職能。8

但人工智能真的預示著軍事變革即將到來嗎？它為什么重要？就軍事變革的概念而言，其要素包括技術變革、軍事系統(tǒng)演變、作戰(zhàn)創(chuàng)新和組織適應，是評估人工智能是否能夠改變戰(zhàn)爭性質(zhì)的自然視角，因為人工智能的價值目前處在狹窄的應用領域。9軍事變革可能是由技術推動的，但除非特定的技術應用刺激了行動和組織的變化，推動軍事進步，否則就不會出現(xiàn)軍事變革。美國凈評估辦公室前主任安德魯·馬歇爾從美國的角度提出了軍事變革的概念：“軍事變革的主要挑戰(zhàn)是智力挑戰(zhàn)，而不是技術挑戰(zhàn)。”10在人工智能潛力及其對系統(tǒng)、作戰(zhàn)和組織影響的基礎分析方面，軍事變革框架有助于避免夸張的猜測。

如果人工智能正在推動美國或中國軍隊的軍事變革，新技術和新概念的結合可能會威脅到任何一方的主導作戰(zhàn)方式。如果不是，理解它在未來為什么以及將如何發(fā)生，可以幫助觀察人士識別出進步和智力發(fā)展的標志，例如軍事人工智能應用和新戰(zhàn)術、新組織結構的結合，使人工智能軍事變革更有可能發(fā)生。因此，評估人工智能是否可能引發(fā)軍事變革，可以為美國如何考慮和塑造未來與中國的戰(zhàn)略競爭提供信息。

本文的研究方法使用了安德魯·克雷平涅維奇（AndrewKrepinevich）在1992年開創(chuàng)性論文中提出的軍事變革四要素，作為評估人工智能是否為一種革命性軍事技術的視角。在研究人工智能的應用之前，論文定義了軍事變革，確定了將在多大程度上引發(fā)美國和中國軍事系統(tǒng)、行動和組織的變化，以及這種變化的本質(zhì)。根據(jù)訪談、學術研究、分析、官方文件、研究報告和歷史案例，本報告發(fā)現(xiàn)人工智能目前并沒有促成軍事變革。人工智能技術的現(xiàn)狀制約了軍事應用，難以實現(xiàn)作戰(zhàn)創(chuàng)新和適應性的組織結構。

從軍事變革要素的視角分析人工智能

技術變革

在過去十年中，特定人工智能技術進步迅速且令人印象深刻。人工智能技術在計算機視覺、自然語言處理和推薦系統(tǒng)等領域的應用，使機器在某些任務上勝過人類，這引發(fā)了美國和中國對軍事應用的創(chuàng)造性思考。然而，人工智能應用目前存在重大缺陷，在可預見的未來，可能會限制其戰(zhàn)場用途。此外，也無法保證當前的快速進步能夠持續(xù)。歷史上，人工智能經(jīng)常會出現(xiàn)發(fā)展緩慢的寒冬，而且諸如半導體技術發(fā)展等因素，可能會制約美國和中國的進步。本節(jié)研究了關于人工智能及其應用的廣泛技術背景、最新進展、優(yōu)勢以及近期實現(xiàn)人工智能軍事變革的重大障礙。

一、技術背景及相關應用

簡單地定義人工智能可能具有挑戰(zhàn)性，因為在整個技術發(fā)展的歷史中，技術和概念發(fā)生了快速的變化，其不斷迭代升級，子類別和應用不斷發(fā)展，且專家之間存在分歧。11就本文的目的而言，人工智能廣義上是指一系列技術，使計算機系統(tǒng)能夠執(zhí)行某些需要人類智慧參與的任務。12雖然人工智能在歷史上包含了一系列決策系統(tǒng)（如專家系統(tǒng)），但在關于突破性能力的討論中，該術語指的是使用計算能力，通過執(zhí)行數(shù)據(jù)驅動算法來完成任務的機器學習系統(tǒng)。算法、數(shù)據(jù)和計算能力（以下統(tǒng)稱為計算）是先進機器學習系統(tǒng)的核心組成部分。13

這三個要素的進步推動了人工智能領域近期的巨大進步，因此它們很有價值，但也很昂貴。專家通常擁有高等學位，創(chuàng)造最前沿的算法。理想情況下，這些算法在高質(zhì)量的數(shù)據(jù)集上進行訓練，而這些數(shù)據(jù)集足以代表給定的問題集，可以提高算法的精度和魯棒性，同時限制偏差。半導體制造的進步以及為機器學習優(yōu)化的芯片，通過促進計算來幫助推動人工智能實現(xiàn)突破：從2012年到2018年，用于訓練頂級人工智能項目的計算增加了300000倍。14

通過深度學習技術訓練的神經(jīng)網(wǎng)絡是人工智能領域最近取得諸多進展的原因。受人類神經(jīng)元通信的啟發(fā)，神經(jīng)網(wǎng)絡是具有輸入、隱藏和輸出節(jié)點層的算法集合。分配給每一層中不同節(jié)點的權重和閾值幫助模型處理數(shù)據(jù)，進而實現(xiàn)某個目標，例如搜索發(fā)現(xiàn)或識別圖像。15人類可以通過提供對性能的反饋來訓練網(wǎng)絡，并通過在特定任務中校準通用模型中的權重，對模型進行微調(diào)。16深度神經(jīng)網(wǎng)絡包含三層以上，在計算機視覺和語言處理方面取得了長足的進步，并且在許多狹窄的應用中大大超過人類，比如從巨大的數(shù)據(jù)集中分析、得到觀點。17然而，深度神經(jīng)網(wǎng)絡就像大腦一樣，包含數(shù)千個相互連接的節(jié)點。這些節(jié)點的相互作用非常復雜，通常無法進行有意義的總結。這限制了產(chǎn)出的可預測性、可解釋性，從而限制了它們在應用于敏感任務時的可信度。18

像深度神經(jīng)網(wǎng)絡這樣的高級機器學習系統(tǒng)，在2016年進入了公眾的視野。當時美國DeepMind公司的AlphaGo系統(tǒng)在圍棋比賽中擊敗了世界排名第一的人類棋手。19AlphaGo開發(fā)的策略和動作對人類棋手來說是不可預測和無法理解的，這暗示了機器學習在某些任務上超越人類的新興潛力。

五年多后，美國和中國將人工智能應用的民事和軍事潛力視為革命性的，特別是在計算機視覺、自然語言處理、大數(shù)據(jù)分析和推薦系統(tǒng)方面。計算能力的提高和訓練時間的減少引發(fā)了計算機視覺方面的重大進展，即系統(tǒng)檢測、處理和環(huán)境識別方面的能力。20民事應用包括醫(yī)學成像、在復雜環(huán)境中提取重要細節(jié)的實時目標檢測以及社交媒體圖像搜索。21軍事應用包括自主導航、基于圖像的情報收集和分析、通過面部或步態(tài)識別個人以及目標識別等。

自然語言處理模型通過理解人類語言來執(zhí)行任務。由于搜索引擎以及蘋果的Siri和亞馬遜的Alexa等虛擬助手的普及，模型通過閱讀現(xiàn)有文本來學習單詞在上下文中的用法，然后“學習”回答開放式查詢，生成預測性文本，翻譯并執(zhí)行聊天機器人功能。22軍方可以使用這種技術掃描文件集以獲取特定信息，翻譯外國情報，甚至直接生成文本信息。23

人工智能在決策支持方面也很有前景。決策支持算法通常受到大數(shù)據(jù)集（來自合并的結構化和非結構化數(shù)據(jù)）的推動，可以發(fā)現(xiàn)人類難以甚至不可能收集到的見解。24顧名思義，推薦系統(tǒng)根據(jù)匯總的數(shù)據(jù)和用戶偏好，提供決策支持。著名的Spotify使用這種算法來創(chuàng)建播放列表，并根據(jù)過去的收聽行為和社區(qū)數(shù)據(jù)為用戶推薦新的音樂。25軍方在融合、分析和消除來自戰(zhàn)場的多源傳感器數(shù)據(jù)以及優(yōu)化復雜的后勤保障或裝備維修方面看到了決策支持的潛力。26

這里只是列舉了一些有前景且可以軍事應用的人工智能最新進展（其他的將在后文中介紹）。然而，在了解它們目前的重大缺陷之后，對這些應用程序的熱情將有所緩和。

二、技術的缺點

深度神經(jīng)網(wǎng)絡在訓練環(huán)境之外可能很脆弱，這意味著對輸入的微小修改就可能導致不正確的輸出。這些缺陷可能會被對手利用。例如，研究人員只需在停車標志上放置黑白貼紙，就能阻止最先進深度神經(jīng)網(wǎng)絡系統(tǒng)中的圖像分類器讀取停車標志。27其他研究人員發(fā)現(xiàn)，以一種人類無法察覺的方式隨機扭曲熊貓的圖像，會使準確率超過99%的模型將圖像標記為長臂猿。28由于模型不像人類那樣看世界，隱藏層也不透明，所以人類充其量只能解釋為什么模型會產(chǎn)生某種輸出。29即使過去的性能是準確的，這也使得在新數(shù)據(jù)上驗證模型未來的表現(xiàn)變得困難。因此對于實現(xiàn)軍事目的的信任，以及如何測試和評估系統(tǒng)是主要的弱點，可能會限制深度神經(jīng)網(wǎng)絡在高度復雜、動態(tài)作戰(zhàn)環(huán)境中的短期有效性。30

深度神經(jīng)網(wǎng)絡數(shù)據(jù)集和訓練也可能是昂貴和困難的，需要高水平的計算或大量的人力來編譯和標記數(shù)據(jù)。在過渡到現(xiàn)實應用時，即使是具有廣泛代表性的訓練數(shù)據(jù)也不能消除問題。31獲取可用數(shù)據(jù)也可能是個問題：美國陸軍利用大數(shù)據(jù)進行預測性維護的一項研究發(fā)現(xiàn)，歷史數(shù)據(jù)是手寫的，不能由機器讀取。32對手可以在訓練和現(xiàn)實環(huán)境中“毒害”數(shù)據(jù)。33此外，由人類培養(yǎng)的數(shù)據(jù)集可能會在無意中納入他們的偏見，引發(fā)對公平、算法正義和準確性的深刻倫理擔憂。34

除了這些挑戰(zhàn)外，整合人類和機器團隊是復雜的，而且存在著潛在的危險。競爭對手帶來的戰(zhàn)場問題對作戰(zhàn)人員來說已經(jīng)足夠具有挑戰(zhàn)性，受限環(huán)境中表現(xiàn)最好的算法工具也并不成熟，不應再引入這種復雜性。35人工智能系統(tǒng)與人類相比的決策速度，再加上可解釋性挑戰(zhàn)，會造成人類默認系統(tǒng)的判斷，被稱為“自動化偏見”。如果對手無法理解人工智能所支持的行動，就會產(chǎn)生戰(zhàn)爭升級的風險。362020年，蘭德公司的一場兵棋推演發(fā)現(xiàn)，快速的機器決策速度使得態(tài)勢升級更快、威懾更弱，以及對降級信號的反應減小，結論是：“廣泛的人工智能和自主系統(tǒng)可能會導致無意的升級和危機的不穩(wěn)定。