知遠(yuǎn)導(dǎo)讀，本文通過運用軍事變革的四要素——技術(shù)變革、軍事系統(tǒng)演變、作戰(zhàn)創(chuàng)新和組織適應(yīng)來分析美國和中國軍事人工智能發(fā)展，探討人工智能能否開創(chuàng)軍事領(lǐng)域新的革命。文章研究發(fā)現(xiàn)，在短期內(nèi)，人工智能更有可能幫助全面實現(xiàn)偵察-打擊軍事變革，而不是產(chǎn)生全新的人工智能軍事變革。同時，對該問題的探討可以對美國和中國之間軍事技術(shù)競爭的潛在軌跡進(jìn)行分析。

人工智能可能是中美科技競爭中最重要的領(lǐng)域。包括美國和中國在內(nèi)的許多國家都認(rèn)為人工智能在民用和軍事應(yīng)用方面具有潛在的革命性。人工智能因其“激活”機(jī)器的能力而被比作電力，有些人推測人工智能可能引發(fā)長期社會變革，就像是新工業(yè)革命。1到2021年，44個國家已經(jīng)發(fā)布并正在實施國家級人工智能戰(zhàn)略。2然而美國和中國是全球領(lǐng)導(dǎo)者，體現(xiàn)在以下成功標(biāo)志上：經(jīng)費支出，學(xué)術(shù)出版，已獲授權(quán)的專利和申請，蓬勃發(fā)展的學(xué)術(shù)，私營和公共部門人工智能研究。3他們也是半導(dǎo)體行業(yè)的關(guān)鍵參與者，該行業(yè)的進(jìn)步促使人工智能得以持續(xù)發(fā)展。

對本文的研究來說，最重要的是美國和中國處于思考人工智能軍事應(yīng)用的前沿。兩國都認(rèn)為這可能是革命性的。人工智能革命性的軍事潛力令人興奮，但仍然存在不確定性。它的發(fā)展軌跡很難預(yù)測，歷史上容易出現(xiàn)“寒冬”，其間又不時出現(xiàn)快速發(fā)展。4然而，美國和中國的一些分析人士、戰(zhàn)略家和技術(shù)專家認(rèn)為，它可能會從根本上改變?nèi)伺c機(jī)器之間的關(guān)系，將對戰(zhàn)爭產(chǎn)生影響，從限制人類在戰(zhàn)場上的參與，到破壞戰(zhàn)略核威懾背后的計算。5計算機(jī)視覺、自然語言處理和推薦系統(tǒng)等應(yīng)用可以通過為指揮與控制、情報收集以及聚合、自主性和決策支持等作戰(zhàn)挑戰(zhàn)提供新穎的解決方案，幫助實現(xiàn)戰(zhàn)略目標(biāo)。6

因此，美國和中國的國家級人工智能戰(zhàn)略均承認(rèn)保持、發(fā)展領(lǐng)先地位的重要性。7美國在《2018年國防部人工智能戰(zhàn)略》中指出，人工智能“將改變未來戰(zhàn)場的特征和我們面對威脅時的速度。我們將利用人工智能的潛力，積極轉(zhuǎn)變國防部的所有職能。8

但人工智能真的預(yù)示著軍事變革即將到來嗎？它為什么重要？就軍事變革的概念而言，其要素包括技術(shù)變革、軍事系統(tǒng)演變、作戰(zhàn)創(chuàng)新和組織適應(yīng)，是評估人工智能是否能夠改變戰(zhàn)爭性質(zhì)的自然視角，因為人工智能的價值目前處在狹窄的應(yīng)用領(lǐng)域。9軍事變革可能是由技術(shù)推動的，但除非特定的技術(shù)應(yīng)用刺激了行動和組織的變化，推動軍事進(jìn)步，否則就不會出現(xiàn)軍事變革。美國凈評估辦公室前主任安德魯·馬歇爾從美國的角度提出了軍事變革的概念：“軍事變革的主要挑戰(zhàn)是智力挑戰(zhàn)，而不是技術(shù)挑戰(zhàn)?！?0在人工智能潛力及其對系統(tǒng)、作戰(zhàn)和組織影響的基礎(chǔ)分析方面，軍事變革框架有助于避免夸張的猜測。

如果人工智能正在推動美國或中國軍隊的軍事變革，新技術(shù)和新概念的結(jié)合可能會威脅到任何一方的主導(dǎo)作戰(zhàn)方式。如果不是，理解它在未來為什么以及將如何發(fā)生，可以幫助觀察人士識別出進(jìn)步和智力發(fā)展的標(biāo)志，例如軍事人工智能應(yīng)用和新戰(zhàn)術(shù)、新組織結(jié)構(gòu)的結(jié)合，使人工智能軍事變革更有可能發(fā)生。因此，評估人工智能是否可能引發(fā)軍事變革，可以為美國如何考慮和塑造未來與中國的戰(zhàn)略競爭提供信息。

本文的研究方法使用了安德魯·克雷平涅維奇（AndrewKrepinevich）在1992年開創(chuàng)性論文中提出的軍事變革四要素，作為評估人工智能是否為一種革命性軍事技術(shù)的視角。在研究人工智能的應(yīng)用之前，論文定義了軍事變革，確定了將在多大程度上引發(fā)美國和中國軍事系統(tǒng)、行動和組織的變化，以及這種變化的本質(zhì)。根據(jù)訪談、學(xué)術(shù)研究、分析、官方文件、研究報告和歷史案例，本報告發(fā)現(xiàn)人工智能目前并沒有促成軍事變革。人工智能技術(shù)的現(xiàn)狀制約了軍事應(yīng)用，難以實現(xiàn)作戰(zhàn)創(chuàng)新和適應(yīng)性的組織結(jié)構(gòu)。

從軍事變革要素的視角分析人工智能

技術(shù)變革

在過去十年中，特定人工智能技術(shù)進(jìn)步迅速且令人印象深刻。人工智能技術(shù)在計算機(jī)視覺、自然語言處理和推薦系統(tǒng)等領(lǐng)域的應(yīng)用，使機(jī)器在某些任務(wù)上勝過人類，這引發(fā)了美國和中國對軍事應(yīng)用的創(chuàng)造性思考。然而，人工智能應(yīng)用目前存在重大缺陷，在可預(yù)見的未來，可能會限制其戰(zhàn)場用途。此外，也無法保證當(dāng)前的快速進(jìn)步能夠持續(xù)。歷史上，人工智能經(jīng)常會出現(xiàn)發(fā)展緩慢的寒冬，而且諸如半導(dǎo)體技術(shù)發(fā)展等因素，可能會制約美國和中國的進(jìn)步。本節(jié)研究了關(guān)于人工智能及其應(yīng)用的廣泛技術(shù)背景、最新進(jìn)展、優(yōu)勢以及近期實現(xiàn)人工智能軍事變革的重大障礙。

一、技術(shù)背景及相關(guān)應(yīng)用

簡單地定義人工智能可能具有挑戰(zhàn)性，因為在整個技術(shù)發(fā)展的歷史中，技術(shù)和概念發(fā)生了快速的變化，其不斷迭代升級，子類別和應(yīng)用不斷發(fā)展，且專家之間存在分歧。11就本文的目的而言，人工智能廣義上是指一系列技術(shù)，使計算機(jī)系統(tǒng)能夠執(zhí)行某些需要人類智慧參與的任務(wù)。12雖然人工智能在歷史上包含了一系列決策系統(tǒng)（如專家系統(tǒng)），但在關(guān)于突破性能力的討論中，該術(shù)語指的是使用計算能力，通過執(zhí)行數(shù)據(jù)驅(qū)動算法來完成任務(wù)的機(jī)器學(xué)習(xí)系統(tǒng)。算法、數(shù)據(jù)和計算能力（以下統(tǒng)稱為計算）是先進(jìn)機(jī)器學(xué)習(xí)系統(tǒng)的核心組成部分。13

這三個要素的進(jìn)步推動了人工智能領(lǐng)域近期的巨大進(jìn)步，因此它們很有價值，但也很昂貴。專家通常擁有高等學(xué)位，創(chuàng)造最前沿的算法。理想情況下，這些算法在高質(zhì)量的數(shù)據(jù)集上進(jìn)行訓(xùn)練，而這些數(shù)據(jù)集足以代表給定的問題集，可以提高算法的精度和魯棒性，同時限制偏差。半導(dǎo)體制造的進(jìn)步以及為機(jī)器學(xué)習(xí)優(yōu)化的芯片，通過促進(jìn)計算來幫助推動人工智能實現(xiàn)突破：從2012年到2018年，用于訓(xùn)練頂級人工智能項目的計算增加了300000倍。14

通過深度學(xué)習(xí)技術(shù)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)是人工智能領(lǐng)域最近取得諸多進(jìn)展的原因。受人類神經(jīng)元通信的啟發(fā)，神經(jīng)網(wǎng)絡(luò)是具有輸入、隱藏和輸出節(jié)點層的算法集合。分配給每一層中不同節(jié)點的權(quán)重和閾值幫助模型處理數(shù)據(jù)，進(jìn)而實現(xiàn)某個目標(biāo)，例如搜索發(fā)現(xiàn)或識別圖像。15人類可以通過提供對性能的反饋來訓(xùn)練網(wǎng)絡(luò)，并通過在特定任務(wù)中校準(zhǔn)通用模型中的權(quán)重，對模型進(jìn)行微調(diào)。16深度神經(jīng)網(wǎng)絡(luò)包含三層以上，在計算機(jī)視覺和語言處理方面取得了長足的進(jìn)步，并且在許多狹窄的應(yīng)用中大大超過人類，比如從巨大的數(shù)據(jù)集中分析、得到觀點。17然而，深度神經(jīng)網(wǎng)絡(luò)就像大腦一樣，包含數(shù)千個相互連接的節(jié)點。這些節(jié)點的相互作用非常復(fù)雜，通常無法進(jìn)行有意義的總結(jié)。這限制了產(chǎn)出的可預(yù)測性、可解釋性，從而限制了它們在應(yīng)用于敏感任務(wù)時的可信度。18

像深度神經(jīng)網(wǎng)絡(luò)這樣的高級機(jī)器學(xué)習(xí)系統(tǒng)，在2016年進(jìn)入了公眾的視野。當(dāng)時美國DeepMind公司的AlphaGo系統(tǒng)在圍棋比賽中擊敗了世界排名第一的人類棋手。19AlphaGo開發(fā)的策略和動作對人類棋手來說是不可預(yù)測和無法理解的，這暗示了機(jī)器學(xué)習(xí)在某些任務(wù)上超越人類的新興潛力。

五年多后，美國和中國將人工智能應(yīng)用的民事和軍事潛力視為革命性的，特別是在計算機(jī)視覺、自然語言處理、大數(shù)據(jù)分析和推薦系統(tǒng)方面。計算能力的提高和訓(xùn)練時間的減少引發(fā)了計算機(jī)視覺方面的重大進(jìn)展，即系統(tǒng)檢測、處理和環(huán)境識別方面的能力。20民事應(yīng)用包括醫(yī)學(xué)成像、在復(fù)雜環(huán)境中提取重要細(xì)節(jié)的實時目標(biāo)檢測以及社交媒體圖像搜索。21軍事應(yīng)用包括自主導(dǎo)航、基于圖像的情報收集和分析、通過面部或步態(tài)識別個人以及目標(biāo)識別等。

自然語言處理模型通過理解人類語言來執(zhí)行任務(wù)。由于搜索引擎以及蘋果的Siri和亞馬遜的Alexa等虛擬助手的普及，模型通過閱讀現(xiàn)有文本來學(xué)習(xí)單詞在上下文中的用法，然后“學(xué)習(xí)”回答開放式查詢，生成預(yù)測性文本，翻譯并執(zhí)行聊天機(jī)器人功能。22軍方可以使用這種技術(shù)掃描文件集以獲取特定信息，翻譯外國情報，甚至直接生成文本信息。23

人工智能在決策支持方面也很有前景。決策支持算法通常受到大數(shù)據(jù)集（來自合并的結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)）的推動，可以發(fā)現(xiàn)人類難以甚至不可能收集到的見解。24顧名思義，推薦系統(tǒng)根據(jù)匯總的數(shù)據(jù)和用戶偏好，提供決策支持。著名的Spotify使用這種算法來創(chuàng)建播放列表，并根據(jù)過去的收聽行為和社區(qū)數(shù)據(jù)為用戶推薦新的音樂。25軍方在融合、分析和消除來自戰(zhàn)場的多源傳感器數(shù)據(jù)以及優(yōu)化復(fù)雜的后勤保障或裝備維修方面看到了決策支持的潛力。26

這里只是列舉了一些有前景且可以軍事應(yīng)用的人工智能最新進(jìn)展（其他的將在后文中介紹）。然而，在了解它們目前的重大缺陷之后，對這些應(yīng)用程序的熱情將有所緩和。

二、技術(shù)的缺點

深度神經(jīng)網(wǎng)絡(luò)在訓(xùn)練環(huán)境之外可能很脆弱，這意味著對輸入的微小修改就可能導(dǎo)致不正確的輸出。這些缺陷可能會被對手利用。例如，研究人員只需在停車標(biāo)志上放置黑白貼紙，就能阻止最先進(jìn)深度神經(jīng)網(wǎng)絡(luò)系統(tǒng)中的圖像分類器讀取停車標(biāo)志。27其他研究人員發(fā)現(xiàn)，以一種人類無法察覺的方式隨機(jī)扭曲熊貓的圖像，會使準(zhǔn)確率超過99%的模型將圖像標(biāo)記為長臂猿。28由于模型不像人類那樣看世界，隱藏層也不透明，所以人類充其量只能解釋為什么模型會產(chǎn)生某種輸出。29即使過去的性能是準(zhǔn)確的，這也使得在新數(shù)據(jù)上驗證模型未來的表現(xiàn)變得困難。因此對于實現(xiàn)軍事目的的信任，以及如何測試和評估系統(tǒng)是主要的弱點，可能會限制深度神經(jīng)網(wǎng)絡(luò)在高度復(fù)雜、動態(tài)作戰(zhàn)環(huán)境中的短期有效性。30

深度神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)集和訓(xùn)練也可能是昂貴和困難的，需要高水平的計算或大量的人力來編譯和標(biāo)記數(shù)據(jù)。在過渡到現(xiàn)實應(yīng)用時，即使是具有廣泛代表性的訓(xùn)練數(shù)據(jù)也不能消除問題。31獲取可用數(shù)據(jù)也可能是個問題：美國陸軍利用大數(shù)據(jù)進(jìn)行預(yù)測性維護(hù)的一項研究發(fā)現(xiàn)，歷史數(shù)據(jù)是手寫的，不能由機(jī)器讀取。32對手可以在訓(xùn)練和現(xiàn)實環(huán)境中“毒害”數(shù)據(jù)。33此外，由人類培養(yǎng)的數(shù)據(jù)集可能會在無意中納入他們的偏見，引發(fā)對公平、算法正義和準(zhǔn)確性的深刻倫理擔(dān)憂。34

除了這些挑戰(zhàn)外，整合人類和機(jī)器團(tuán)隊是復(fù)雜的，而且存在著潛在的危險。競爭對手帶來的戰(zhàn)場問題對作戰(zhàn)人員來說已經(jīng)足夠具有挑戰(zhàn)性，受限環(huán)境中表現(xiàn)最好的算法工具也并不成熟，不應(yīng)再引入這種復(fù)雜性。35人工智能系統(tǒng)與人類相比的決策速度，再加上可解釋性挑戰(zhàn)，會造成人類默認(rèn)系統(tǒng)的判斷，被稱為“自動化偏見”。如果對手無法理解人工智能所支持的行動，就會產(chǎn)生戰(zhàn)爭升級的風(fēng)險。362020年，蘭德公司的一場兵棋推演發(fā)現(xiàn)，快速的機(jī)器決策速度使得態(tài)勢升級更快、威懾更弱，以及對降級信號的反應(yīng)減小，結(jié)論是：“廣泛的人工智能和自主系統(tǒng)可能會導(dǎo)致無意的升級和危機(jī)的不穩(wěn)定。