人工智能正在國家安全領(lǐng)域占據(jù)一席之地。雖然公眾可能仍將軍事領(lǐng)域中的人工智能與《終結(jié)者》中的人形機(jī)器人等同起來，但有關(guān)人工智能對國家安全的影響的討論有了顯著增長。這些討論涵蓋了學(xué)術(shù)界、商界和政府，從牛津大學(xué)哲學(xué)家尼克·博斯特倫有關(guān)人工智能對人類生存風(fēng)險的擔(dān)憂，到特斯拉創(chuàng)始人埃隆·馬斯克擔(dān)心人工智能可能引發(fā)第三次世界大戰(zhàn)，再到弗拉基米爾·普京聲明：在21世界，誰能領(lǐng)導(dǎo)人工智能技術(shù)，誰就能主宰世界。

在人們擯棄“革命性變革”的這種空話，去思考人工智能應(yīng)用于軍事領(lǐng)域?qū)⒔o世界帶來的切實影響，這究竟意味著什么？人工智能不是武器。相反，從軍事層面來看，人工智能和電力、內(nèi)燃機(jī)一樣，都是一種助力。因此，人工智能對軍事力量和國際沖突的影響，取決于軍隊和決策者對人工智能的具體應(yīng)用。那么，關(guān)于人工智能應(yīng)用于軍事領(lǐng)域的影響，其核心問題包括：評估什么是“人工智能”的原則；人工智能與以往技術(shù)革新的不同；軍事領(lǐng)域應(yīng)用人工智能的目的；人工智能應(yīng)用的潛在限制以及軍事領(lǐng)域人工智能應(yīng)用對國際政治的影響。

人工智能的前景——包括提高從后勤服務(wù)到戰(zhàn)場規(guī)劃等事務(wù)的速度與精準(zhǔn)度以及提高人類決策能力——正在驅(qū)使世界各國軍隊加速對人工智能應(yīng)用的研究與開發(fā)。對美國軍方而言，人工智能提供了一種新路徑來保持其軍事優(yōu)勢，同時無形中削減開支、降低士兵面臨的風(fēng)險。對其他國家，尤其是俄羅斯和中國來說，人工智能提供了更有價值的東西——即破壞美國軍事優(yōu)勢的能力。國家之間對于人工智能主導(dǎo)權(quán)的競爭，與經(jīng)濟(jì)或其他領(lǐng)域的競爭并無二致，但其潛在的軍事也是顯而易見的。人工智能研究的速度和軌跡的不確定性，意味著人工智能的前景極不明朗。此外，安全和可靠性方面的考量可能會限制軍方選擇使用人工智能的方式。

什么是人工智能？人工智能是指，賦予機(jī)器或電腦模擬人類智能行為的能力。研究者、公司和政府應(yīng)用了多種人工智能方法，包括機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)等。當(dāng)前有關(guān)人工智能技術(shù)發(fā)展軌跡的研究表明，即便是在人工智能研究者之中，也有很多人認(rèn)為人工智能未來發(fā)展速度有很大的不確定性。有部分研究者認(rèn)為通用人工智能（AGI）能在數(shù)年內(nèi)實現(xiàn)突破，但也有人認(rèn)為，突破的實現(xiàn)可能需要幾十年甚至更久。因此，本文著重探討“狹義”人工智能，或人工智能應(yīng)用于具體問題的解決，例如AlphaGo Zero——一個被設(shè)計用以贏得圍棋比賽的人工智能系統(tǒng)。

從歷史的角度看，如果對科技發(fā)展持樂觀態(tài)度的人是正確的，那么依據(jù)創(chuàng)新的速度，人工智能將擁有對經(jīng)濟(jì)和社會產(chǎn)生廣泛影響的潛力。與火箭或飛機(jī)等離散設(shè)備有所不同人工智能可以融入各種事物。因此，就軍事目的來說，人工智能是很好的助推器。

對于軍事領(lǐng)域來說人工智能的意義是什么？軍事領(lǐng)域如何應(yīng)用人工智能，而且為什么這對于國際政治來說十分重要？從另一個角度看，軍方相信人工智能可以幫助解決哪些現(xiàn)代戰(zhàn)爭面臨的挑戰(zhàn)？以下三個人工智能潛在應(yīng)用領(lǐng)域詮釋了為何軍方會對此感興趣。

首先，現(xiàn)代軍隊在數(shù)據(jù)方面面臨的挑戰(zhàn)與公司或政府類似——數(shù)據(jù)量大、難以快速處理。狹義的信息處理人工智能應(yīng)用程序能加速數(shù)據(jù)解析，方便于向更高層次任務(wù)投放人力。例如，美軍的Maven項目力求使用運算法則更快速地解析無人機(jī)監(jiān)控反饋的圖像。這類軍用狹義人工智能應(yīng)用在商業(yè)領(lǐng)域也有明確的應(yīng)用，并且不單只有圖像識別功能。從圖像識別到公開或機(jī)密的信息數(shù)據(jù)庫處理，人工智能處理應(yīng)用能幫助軍方更準(zhǔn)確快速地解析信息，從而更好地做出決策。

其次，從高超音速到網(wǎng)絡(luò)攻擊，高級軍方和領(lǐng)導(dǎo)人都認(rèn)為戰(zhàn)爭的速度正在加快。無論你采取的是OODA(觀察、適應(yīng)、決定、行動)循環(huán)方式，還是簡單地準(zhǔn)備在敵方未發(fā)現(xiàn)自己已經(jīng)到達(dá)的情況下進(jìn)行打擊，速度在現(xiàn)代戰(zhàn)爭中都是優(yōu)勢。速度不僅僅是指戰(zhàn)機(jī)或軍需品迅速到位，它還關(guān)乎決策。就像遙控系統(tǒng)一樣，飛機(jī)由人工智能控制，擺脫了要保護(hù)人類飛行員的限制，雖然抵消了駕駛艙中人類飛行員的諸多優(yōu)點，但提高了駕駛性能和可操控性。比如在防空領(lǐng)域，與人類的操作相比，以機(jī)器速度運行能夠讓系統(tǒng)在面對導(dǎo)彈飽和攻擊時，更高效地保護(hù)軍事基地或城市。人類的反應(yīng)速度此時可能不堪一擊，無論他/她多能干。這已經(jīng)是以色列Iron Dome（鐵穹）系統(tǒng)所遵守的一個原則。

第三點，人工智能可以在戰(zhàn)場上實施各種新的軍事行動理念，比如常說的“忠誠僚機(jī)”概念，人類飛機(jī)或坦克駕駛員也能夠因此具備協(xié)調(diào)無人機(jī)的能力。戰(zhàn)爭空間越復(fù)雜，“僚機(jī)”的運算法則越有用，這種算法能夠幫助它們在人類協(xié)調(diào)控制員無法直接引導(dǎo)飛機(jī)的情況下做出反應(yīng)。同樣的道理，機(jī)群也需要人工智能來協(xié)作。

顯然，軍方有動機(jī)去研究可以提升軍隊效率的潛在人工智能應(yīng)用。這些動機(jī)不僅僅來自于別國軍隊的競爭壓力，還有國內(nèi)政治和官方的原因，推動著國家朝著擁有自主武器系統(tǒng)的方向邁進(jìn)。對于美國這樣的民主政體來說，自主武器系統(tǒng)在理論上為人類能夠低成本、低風(fēng)險地完成任務(wù)提供了潛在可能性。比如，美陸軍2017年發(fā)布的“機(jī)器人與自主系統(tǒng)戰(zhàn)略”，特別提到了自主系統(tǒng)可以在低成本、低風(fēng)險的情況下提升效率。

對于俄羅斯和中國這些國家來說，人工智能意味著控制。人工智能系統(tǒng)可以讓國家減少對民眾的依賴，他們可以依靠更少、更忠誠的人來管理軍隊。

與聯(lián)合國《特定常規(guī)武器公約》多年來討論的“致命自主武器系統(tǒng)”相比，關(guān)于人工智能在軍事領(lǐng)域應(yīng)用的探討更為廣泛。創(chuàng)造可使用致命武器的自主系統(tǒng)可能就是人工智能在軍事領(lǐng)域的應(yīng)用之一，當(dāng)然還有許多其他應(yīng)用。

有效使用人工智能面臨的障礙。軍用人工智能面臨著技術(shù)和組織的雙重挑戰(zhàn)，有些主要是關(guān)于安全性和可靠性的擔(dān)憂，因為這可能會對企業(yè)造成傷害，所以自詡為以人工智能為基礎(chǔ)的現(xiàn)代軍隊轉(zhuǎn)型從未真正實現(xiàn)。這些技術(shù)挑戰(zhàn)分為兩大類：內(nèi)在可靠性和外部開發(fā)。

狹義人工智能系統(tǒng)的特點意味著它們經(jīng)過訓(xùn)練用以執(zhí)行特殊任務(wù)，不論是下國際象棋還是解析圖片。在戰(zhàn)爭中，根據(jù)Clausewitz（克勞塞維茨）著名的論斷，由于迷霧和摩擦，環(huán)境會迅速地轉(zhuǎn)換。如果既定人工智能系統(tǒng)應(yīng)用環(huán)境發(fā)生改變，系統(tǒng)可能會不適應(yīng)。這種脆弱性因此成為了系統(tǒng)可靠性的威脅。在戰(zhàn)場上對抗雙方部署的人工智能系統(tǒng)會使環(huán)境復(fù)雜化，超出一個或多個系統(tǒng)的解析力，進(jìn)一步加劇了系統(tǒng)的脆弱性，并增加了事故和失誤的可能性。

人工智能由機(jī)器決定最佳方案并執(zhí)行的特性，可能會增加預(yù)測AI系統(tǒng)行為的難度。例如，在AlphaGo對陣圍棋世界冠軍李世石的第二場比賽中，AlphaGo出其不意的一招，讓李世石離開賽場，并花了15分鐘研究這招。這證明這一步是一個人類頂級賽手不會想到的，但機(jī)器已經(jīng)算出來了。這顯示出人工智能改善決策處理上的巨大潛力。軍隊的運作建立在可靠和信任的基礎(chǔ)上——無論是在指揮中心還是戰(zhàn)場上，如果人類操作者不確定人工智能在特定環(huán)境下具體會做什么，那可能會使計劃更復(fù)雜、操作更困難并且事故更可能發(fā)生。

針對可能發(fā)生的意外進(jìn)行人工智能系統(tǒng)編程，這種挑戰(zhàn)也會逐步削弱其可靠性。比如一個經(jīng)編程可以玩俄羅斯方塊的人工智能系統(tǒng)，研發(fā)人員發(fā)現(xiàn)，人工智能已經(jīng)能夠在快要輸?shù)臅r候暫停游戲，以保證走好每一步，使成功的可能性最大化，從而完成指令。這種改編，反映出人工智能系統(tǒng)行為的不確定性，超出了多數(shù)軍隊能夠容忍的范圍。偏見和對數(shù)據(jù)的改編會讓其可靠性的實現(xiàn)更加困難。可解釋性是人工智能系統(tǒng)面臨的又一挑戰(zhàn)。對于一個系統(tǒng)而言，重要的不僅僅是可靠性，同時也必須具有能使他人信任的可解釋性。如果一個人工智能系統(tǒng)以特定的方式將圖像分類或躲避敵方雷達(dá)，但不能說明為什么會做出這樣特別的選擇，那么人類不太可能相信它。

可靠性不僅僅是人工智能系統(tǒng)設(shè)計的問題。戰(zhàn)爭是競爭性行為，當(dāng)今軍隊和情報機(jī)構(gòu)試圖在和平時期及戰(zhàn)時入侵并破壞潛在敵人的行動，不管這些系統(tǒng)是在堪薩斯州后臺運行還是應(yīng)用在戰(zhàn)場上，有一點是不變的——這是一個人工智能系統(tǒng)的世界。研究者們已經(jīng)指出，圖像識別算法在導(dǎo)致分類問題的像素級中毒數(shù)據(jù)面前很脆弱。以開源數(shù)據(jù)為基礎(chǔ)的算法此時可能不堪一擊，因為敵方試圖“毒化”此數(shù)據(jù)，以防止別國合理使用——編制運算法則用于軍事目的。這一敵方數(shù)據(jù)問題很重要。黑客攻擊也可能導(dǎo)致在更安全的網(wǎng)絡(luò)中編制并運行運算法則，這也說明了在國家安全范疇內(nèi)，網(wǎng)絡(luò)安全和人工智能有著重要的交互作用。

軍隊何時啟用人工智能？在有關(guān)人工智能和武器的公開討論中，常常忽視的一個關(guān)鍵問題是，軍方一般不會愿意使用以人工智能為基礎(chǔ)的系統(tǒng)，除非它們在完成某一特定任務(wù)方面（無論是解釋圖像、轟炸目標(biāo)還是策劃一場戰(zhàn)斗）明顯優(yōu)于現(xiàn)有的系統(tǒng)。

這些安全性和可靠性方面的問題，在敵對雙方試圖破壞對方的系統(tǒng)的競爭環(huán)境中凸顯，那么人工智能在軍事領(lǐng)域還有什么前景？盡管軍方不太可能僅僅因為這些安全因素就停止對人工智能應(yīng)用的研究，但這些安全性和可靠性問題會影響人工智能系統(tǒng)的類型，也會影響它們?nèi)谌搿俺Ｒ?guī)”軍事行動計劃。

軍事技術(shù)整合有三個層次——開發(fā)、部署及使用。每個階段中，人工智能能夠提升效率、降低人類士兵危險以及成本的前景都要與其面臨的安全性和影響軍隊行為的可靠性的挑戰(zhàn)相抗衡。

軍事層面的人工智能研究是在競爭的環(huán)境中進(jìn)行的。中國大刀闊斧地全面推進(jìn)人工智能研究引發(fā)了美國極大的擔(dān)憂，比如，中國在人工智能領(lǐng)域會超越美國。鑒于人工智能融合的優(yōu)勢，很多美國軍人擔(dān)心其他參與者能力出眾，自己因此而落后。任何國家都不希望自己的戰(zhàn)士、艦艇以及坦克受到敵軍的威脅，也沒有國家希望敵方系統(tǒng)能夠在戰(zhàn)斗環(huán)境中做出反應(yīng)并快速回?fù)簟?/p>

在軍用系統(tǒng)中融合人工智能，我們才剛剛開始。人類和自動化實驗室主任Missy Cummings認(rèn)為，盡管全球軍隊自主系統(tǒng)的研究和發(fā)展在增加，但過程是“漸進(jìn)的”，各組織機(jī)構(gòu)仍“努力實現(xiàn)從開發(fā)到應(yīng)用的跨越式進(jìn)步?！?/p>

在開發(fā)階段，測試和整合活動應(yīng)揭示潛在的安全和可靠性挑戰(zhàn)，并使其成為人工智能軍事應(yīng)用的一個關(guān)鍵投資領(lǐng)域。現(xiàn)在，軍方可能認(rèn)為，在某些情況下，這些風(fēng)險是可以接受的，因為它們有落后的風(fēng)險，并且相信它們能夠及時糾正編程上的挑戰(zhàn)。從本質(zhì)上講，軍方將權(quán)衡人工智能領(lǐng)域可靠性和能力之間的權(quán)衡，人工智能系統(tǒng)可能提供更大的能力，但也存在可靠性風(fēng)險。

在部署或使用人工智能系統(tǒng)時，軍方可能會特別考慮某一特定沖突。隨著沖突風(fēng)險升級，如果軍方判定失敗的可能性更大，那么自然會接受部署優(yōu)勢技術(shù)帶來的風(fēng)險，但也會考慮可靠性的問題。反之，沖突風(fēng)險降低，軍方認(rèn)為自己能夠在降低技術(shù)風(fēng)險情況下取勝，那么人工智能系統(tǒng)的部署就會延遲，直至軍方認(rèn)定其可靠，或是比現(xiàn)有系統(tǒng)可靠。

軍事和商業(yè)技術(shù)發(fā)展歷史說明，軍事和商業(yè)技術(shù)發(fā)展的歷史表明，既要謹(jǐn)慎，也要有理由相信，安全和可靠性問題不會也不應(yīng)該導(dǎo)致軍事融合的停滯。1886年，Karl Benz發(fā)明了第一輛汽油發(fā)動機(jī)汽車。然而在經(jīng)過了一代人的時間后，汽油內(nèi)燃發(fā)動機(jī)才申請到第一批專利，而奔馳的汽車超越馬車，在交通上占據(jù)霸主地位，又花了一代人的時間。為什么這個過程如此漫長？答案是出于對安全和可靠的考量。早期內(nèi)燃機(jī)面臨問題是可靠性、成本、機(jī)器缺乏標(biāo)準(zhǔn)、生產(chǎn)缺乏一致性以及內(nèi)燃機(jī)驅(qū)動汽車的復(fù)雜性導(dǎo)致故障頻發(fā)。

每當(dāng)新技術(shù)誕生，這個熟悉的故事就會不斷重演。它們在當(dāng)時能賦予人們更大的能力，但同時也有極大的安全和可靠方面的問題。有時候，像內(nèi)燃機(jī)或飛機(jī)一樣，這類問題可以解決。也有些時候，像軍事用途的飛船或飛艇，安全問題如此之大，技術(shù)永遠(yuǎn)不可能像替代方案一樣可靠、有效。

AI和戰(zhàn)爭的未來。AI對世界的影響將遠(yuǎn)勝于軍事力量和戰(zhàn)爭未來帶來的影響。自動化在未來工作中的作用會帶來巨大的經(jīng)濟(jì)和社會效應(yīng)，無論是否開發(fā)軍事領(lǐng)域?qū)Ｓ肁I應(yīng)用，AI都將是軍方必然的選擇。法國總統(tǒng)Emmanuel Macron最近指出，AI將會打破現(xiàn)有商業(yè)與工作模式，其規(guī)模之大，法國因此急需制定新的AI戰(zhàn)略以確保其AI研發(fā)領(lǐng)導(dǎo)地位。盡管他向一個可能的實現(xiàn)的AI軍事應(yīng)用發(fā)出警告，聲稱他“堅決反對”將AI投放戰(zhàn)場用以殺敵。然而，法國情報部門卻已經(jīng)在用AI 來提高數(shù)據(jù)處理速度、提升數(shù)據(jù)可靠性了，他們認(rèn)為這有助于法國軍隊在戰(zhàn)場上提高自身能力。

AI的優(yōu)點是，盡管存在安全性和可靠性問題，但在引領(lǐng)全球軍隊時，也能預(yù)見坐以待斃的風(fēng)險。從數(shù)據(jù)處理到蜂群概念再到戰(zhàn)場管理，AI能夠幫助軍隊快速、準(zhǔn)確行動，同時使更少數(shù)人置身于危險之中。也或者并非如此。當(dāng)前機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)方法特有的安全性和可靠性問題，也意味著對抗性數(shù)據(jù)等問題，對于許多軍用AI來說是挑戰(zhàn)。

美國國家安全機(jī)構(gòu)的最高領(lǐng)導(dǎo)者似乎非常清楚，美國在技術(shù)變革時代所面臨的風(fēng)險。國防部長James Mattis最近就指出，部署AI“為時尚早”，但他現(xiàn)在開始質(zhì)疑AI是否能改變“戰(zhàn)爭的基本性質(zhì)”。然而同中國相比，美國AI的投資相對較小，中國AI國家戰(zhàn)略正快速吸引學(xué)術(shù)界、商界和軍方的投資。美國可能比一個世紀(jì)前的英國更清醒，即廣泛科技改革會影響其軍事優(yōu)勢，但不足以保證其勝利。當(dāng)人們認(rèn)為，所有科技，其核心都是民眾和組織機(jī)構(gòu)如何加以使用時，尤為如此。從打敗了騎士的長弓到終結(jié)了戰(zhàn)艦獨大的時代的海軍航空力量，強(qiáng)權(quán)國家認(rèn)為自己仍處于領(lǐng)導(dǎo)地位，直到一次主場戰(zhàn)敗，歷史從此顛覆。

我們不知道AI用于軍事用途，其結(jié)果是否也會如此。AI研究機(jī)構(gòu)內(nèi)部對于AI發(fā)展前景及安全性和可靠性，在某種程度上，也不太確定。可能未來20年，國家安全研究者們會重啟AI“時尚”?？紤]到技術(shù)的廣度與特定技術(shù)，如定向能相比，以及AI商業(yè)能源及投資的程度，極可能發(fā)生的是，人工智能時代的出現(xiàn)，在某種程度上會重塑未來全球軍事。