2016年10月，新成立的國防創(chuàng)新委員會首次提出了一系列建議（該委員會是美國國防部高級領(lǐng)導(dǎo)的顧問機構(gòu)，成員包括來自私營部門、學(xué)術(shù)界和非營利組織的代表）。其中一項建議是，在國防部內(nèi)部建立一個“集中、專注、資源充足的組織”，以推動人工智能（AI）和機器學(xué)習(xí)的應(yīng)用研究。

距離建議的提出還不到兩年，五角大樓已經(jīng)將這一想法轉(zhuǎn)變?yōu)楝F(xiàn)實。6月27日，國防部副部長帕特里克·沙納漢發(fā)布了一份備忘錄，正式成立國防部新的聯(lián)合人工智能中心（JAIC）。根據(jù)這份備忘錄，JAIC的首要目標(biāo)是加快國防部交付人工智能的能力，擴大人工智能對整個部門的影響，并使國防部的人工智能活動與之同步。為此，JAIC將指導(dǎo)被稱為“國家使命計劃”的大規(guī)模人工智能項目的實施，這一項目“旨在解決一系列緊迫的、相關(guān)的挑戰(zhàn)?！贝送?，“國家使命計劃”——以及國防部對云技術(shù)的采用——將被用于使整個國防部具有能夠快速交付人工智能的能力。JAIC還將作為一個平臺，改善國防部與包括私營企業(yè)和學(xué)術(shù)界在內(nèi)的外部各方在與人工智能相關(guān)的項目上的合作。

值得注意的是，JAIC的工作重點還將包括倫理、人道主義方面的考慮，以及短期和長期的人工智能安全。根據(jù)五角大樓國防創(chuàng)新單元實驗的機器學(xué)習(xí)負(fù)責(zé)人布倫丹麥科德的說法，這些問題將反映在建立人工智能防御原則的過程中，這些原則將在多個利益攸關(guān)方的共同參與之下才能制定。盡管JAIC的工作范圍目前尚不清楚，但它的這個特殊維度在實現(xiàn)五角大樓的人工智能目標(biāo)方面可能扮演著重要的角色。

以透明的方式開發(fā)、制度化和交流人工智能防御原則不僅可以降低人工智能系統(tǒng)的操作風(fēng)險，還可以通過使五角大樓更好地訪問和整合美國的人工智能創(chuàng)新資源，來提高美國的國家安全。如果五角大樓此前打算建立透明的指導(dǎo)方針，并為開發(fā)和部署人工智能系統(tǒng)制定紅線，人工智能研究人員和公司可能更愿意與之合作。在全球范圍內(nèi)，如果JAIC證明自己對人工智能的安全意識和倫理方法不會危及國家安全，而是更好地維護國家安全，JAIC可以作為其他尋求類似技術(shù)的國家的重要模式。

為什么華盛頓需要JAIC？自冷戰(zhàn)結(jié)束以來，美國在國際秩序中享有幾乎無可匹敵的超級大國地位，美國國力的一個重要支柱是其遙遙領(lǐng)先的軍事技術(shù)優(yōu)勢。然而，過去支撐美國軍事優(yōu)勢的技術(shù)，如精確制導(dǎo)武器，已經(jīng)通過全球化技術(shù)轉(zhuǎn)移的力量擴散到了競爭國家手中。這些競爭國家隨后發(fā)展出了越來越多的能力，挑戰(zhàn)美國的軍事霸權(quán)。

為了保護和擴大美國在未來的軍事優(yōu)勢，美國防部已經(jīng)把賭注押在了人工智能上。該部門的第三個抵消策略中提出了一種方法，旨在“利用人工智能和自主性的所有發(fā)展，并將它們嵌入到國防部的戰(zhàn)斗網(wǎng)絡(luò)中?！保绹J(rèn)為自身軍事優(yōu)勢正在被逐步削弱。為奪取新一輪大國軍事競爭的絕對優(yōu)勢地位，從2012年逐步走出伊拉克和阿富汗反恐戰(zhàn)爭泥潭的美國，于2014年推出以“創(chuàng)新驅(qū)動”為核心、以發(fā)展“改變未來戰(zhàn)局”的顛覆性技術(shù)群為重點的第三次“抵消戰(zhàn)略”。）人工智能在軍事領(lǐng)域的潛在應(yīng)用是多種多樣的，從提高物流系統(tǒng)的效率到比如先進武器系統(tǒng)的自動化指揮和控制這樣更敏感的任務(wù)。2018年國防戰(zhàn)略預(yù)測人工智能可能會改變戰(zhàn)爭的性質(zhì)。因此，用沙納漢的話來說，美國“必須大膽果敢地追求人工智能應(yīng)用”。

美國國防部在人工智能方面的雄心壯志所面臨的一個主要挑戰(zhàn)是，目前開發(fā)和部署尖端人工智能技術(shù)的能力幾乎完全被私營科技公司所壟斷。目前，美國的商業(yè)化人工智能產(chǎn)業(yè)在全球都處于領(lǐng)先地位，這一地位的衡量標(biāo)準(zhǔn)包括硬件設(shè)計和最優(yōu)秀的人工智能研究人員的集中程度。反過來，五角大樓一直在努力發(fā)展自己的研發(fā)能力，即將趕上私營企業(yè)的發(fā)展腳步。美國國防部逐漸意識到了適應(yīng)現(xiàn)實的必要性，在歷史上，軍方一直是改變游戲規(guī)則的技術(shù)的搖籃，而現(xiàn)在，國防部不再是美國這一技術(shù)基地取得進展的焦點。相反，軍方的技術(shù)戰(zhàn)略越來越依賴于由商業(yè)參與者開創(chuàng)和控制的技術(shù)基礎(chǔ)。

對于國防部來說，由于硅谷和華盛頓之間的“文化沖突”，國防部對私營企業(yè)的人工智能資源的獲取變得復(fù)雜。這種關(guān)系的一個因素是，“硅谷價值觀”會因為與軍方的接觸而受到影響，因為他們是客戶、出資人，甚至是支持者。這種對抗的力量令人驚訝——考慮到在硅谷的早期，國防部既是高科技公司的主要投資者同時也是客戶。事實上，與國防部的關(guān)系是科技公司在競爭中獲取勝券的必要動力。雖然早期采取這樣的合作形式，今天的分歧仍然存在。

美國國防部最近努力讓谷歌參與人工智能的部署，這也突顯了硅谷與華盛頓之間的這一鴻溝。當(dāng)谷歌參與的項目Maven——一項旨在對無人機收集的視頻進行自動化分析的計劃——在今年早些時候公開時，這一消息在公司內(nèi)外引發(fā)了一場重大爭議。數(shù)千名谷歌員工在一封公開信中抗議該公司參與“戰(zhàn)爭業(yè)務(wù)”，并呼吁該公司退出該項目。幾名員工就此辭職。谷歌最終決定不再續(xù)簽合同，并迅速發(fā)布了一套人工智能原則，以平息公眾對此的強烈反對。這一失敗預(yù)示了一場可能會持續(xù)的沖突——在這種沖突中，像谷歌這樣的私營企業(yè)被夾在與人工智能的武器化不一致公共的價值觀，和他們想要從國防部身上尋求更多商業(yè)機會的動機之間。

文化沖突的第二個維度涉及到硅谷和國防部在創(chuàng)新和運營上的不同速度。顯然，私營部門研發(fā)周期的加速與傳統(tǒng)的軍事采購過程在速度上形成了鮮明的對比，傳統(tǒng)的軍事采購過程往往持續(xù)數(shù)年。更具體地說，要想跳過國防部冗長的官僚程序所需要的大量時間和資源，是許多公司不愿承擔(dān)的成本。這就是說，國防部已經(jīng)多次嘗試在收購中表現(xiàn)得更加靈活，以增加與私人企業(yè)合作的機會。迄今為止，這些努力取得的結(jié)果好壞參半。

最近的一項倡議是2015年國防創(chuàng)新單元實驗的基礎(chǔ)——這是前國防部長阿什頓·卡特的心血結(jié)晶，其辦公場所位于美國關(guān)鍵的創(chuàng)新中心。國防創(chuàng)新試驗單元的目標(biāo)是重建國防部和商業(yè)技術(shù)公司之間的關(guān)系，并迅速滿足部門的需求，并提供適當(dāng)?shù)募夹g(shù)解決方案。為此，該部門引入了所謂的“商業(yè)解決方案開放獎勵機制”，這是一個快速、靈活的合同程序，允許國防部以私營企業(yè)的速度工作。雖然有些人質(zhì)疑該部門的有效性和必要性，但也有人贊揚了該計劃，稱這正在改變部門的商業(yè)行為，并改善與私營企業(yè)的合作。

那么，JAIC能幫助克服目前美國的挑戰(zhàn)嗎？雖然五角大樓對JAIC的具體計劃和行動只公布了有限的細(xì)節(jié)，但從該計劃的高級命令來看，它可以為人工智能防御戰(zhàn)略奠定基礎(chǔ)，從而解決目前在結(jié)構(gòu)和文化上阻礙國防部的挑戰(zhàn)。JAIC的主要職責(zé)似乎集中于組織和簡化基礎(chǔ)設(shè)施，以便美國軍方能夠更有效、更有力地調(diào)動人工智能的力量。JAIC將領(lǐng)導(dǎo)執(zhí)行國家使命計劃——在各軍事部門和服務(wù)部門、參謀長聯(lián)席會議、作戰(zhàn)司令部和國防部的其他幾個部門之間進行協(xié)調(diào)。JAIC目前建立的備忘錄強調(diào)，需要開發(fā)全部門的工具、技術(shù)和流程，為實現(xiàn)國家的人工智能目標(biāo)建立一個共同的基礎(chǔ)，而該部門正在發(fā)出信號，表明JAIC將是領(lǐng)導(dǎo)這類努力的實際機構(gòu)。

在這種情況下，JAIC似乎至少在一定程度上是為了在美國眾多的聯(lián)邦機構(gòu)之間建立一種更一致、更協(xié)調(diào)的努力，這些機構(gòu)均致力于人工智能的整合。通過集中和標(biāo)準(zhǔn)化對人工智能應(yīng)用程序的核心輸入，例如共享數(shù)據(jù)和協(xié)議，JAIC可以大大降低開發(fā)和部署人工智能的成本。此外，如果這些改進延伸到進一步改革技術(shù)收購的過程中，理論上來說，JAIC可以降低與政府合作的私人人工智能公司的交易成本，從而使這些商業(yè)主張更具吸引力。

然而，效率的提高不足以完全解決美國政府在實現(xiàn)人工智能宏圖偉業(yè)的路上的障礙。為了鼓勵聯(lián)邦機構(gòu)和領(lǐng)先的人工智能公司和研究人員之間的富有成效的關(guān)系，JAIC——以及國防部更廣泛的人工智能戰(zhàn)略所涉及到的其他機構(gòu)和部門——將需要可靠地承諾以不違背倫理和安全的方式來處理人工智能的發(fā)展和部署。這對于確保私營企業(yè)和學(xué)術(shù)界的合作至關(guān)重要，也對于美國軍方在國際舞臺上保持信譽和誠信至關(guān)重要。

在與私營企業(yè)合作的過程中，最近的爭議突顯了一個事實，即人工智能研究人員和私營企業(yè)領(lǐng)導(dǎo)人將道德和安全視為不可逾越的底線。Maven項目只是表明私營企業(yè)與政府機構(gòu)的緊張關(guān)系還遠(yuǎn)未得到解決的眾多跡象之一。亞馬遜和微軟最近因向移民和執(zhí)法機構(gòu)出售支持人工智能的面部識別軟件而受到抨擊。最近，未來生命研究所（Future of Life Institute）在一封信中呼吁各國政府禁止使用致命的自動武器，它獲得了包括Element AI和谷歌旗下的DeepMind在內(nèi)的幾家領(lǐng)先的人工智能公司的支持。這封信還得到了眾多人工智能研究人員的簽署支持。

人工智能公司和研究人員正面臨著一個決定性的挑戰(zhàn)——何時與國家安全部門合作？又要如何與之合作？一些人認(rèn)為，全面抵制是唯一的出路。另一些人則認(rèn)為，人工智能與軍方的整合是不可避免的，因此，他們的任務(wù)是在道德的基礎(chǔ)上實現(xiàn)人工智能的整合。如果美國政府未能在道德和安全方面闡明原則立場，國防部和人工智能私人企業(yè)將無法實現(xiàn)合作。然而，如果JAIC成為了對道德和安全進行承諾的先驅(qū)，它可能會帶來新一波與私營企業(yè)進行的合作——這基于對人工智能應(yīng)該和不應(yīng)該被美國部署利用的一種常見理解。

在國際舞臺上，JAIC同樣提供了一個重要的機會，讓美國向其他國家發(fā)出信號，表明其在開發(fā)和部署的人工智能系統(tǒng)的可靠性和安全性方面的承諾。在美國軍事機構(gòu)中還存在著強大的安全規(guī)范的先例，尤其是在海軍潛艇、航母甲板操作員和宙斯盾武器系統(tǒng)操作人員中。因此，以安全為導(dǎo)向的人工智能整合方法是美國軍事行為的自然延伸——而且將是必要的，盡管這具有挑戰(zhàn)性。領(lǐng)先的人工智能研究人員已經(jīng)發(fā)現(xiàn)了許多現(xiàn)代機器學(xué)習(xí)系統(tǒng)仍然缺乏穩(wěn)定性——因此，它們很容易導(dǎo)致人類設(shè)計者無法預(yù)見的事故。使用者是美國軍方的情況下，這種風(fēng)險有時會產(chǎn)生嚴(yán)重的后果。而這種錯誤可能會隨著部署技術(shù)系統(tǒng)的復(fù)雜性的提高而變得更加普遍。

因此，美國軍方應(yīng)該優(yōu)先考慮減輕與人工智能支持的系統(tǒng)的意外后果相關(guān)的風(fēng)險，并為追求采用其他類似技術(shù)的軍隊設(shè)定一個標(biāo)準(zhǔn)。很有可能的是，在安全意識上的要求會普遍為其他國家所接受，并將有助于與加拿大和歐盟等國家建立富有成效的聯(lián)盟，他們在各自的人工智能戰(zhàn)略中都強調(diào)了倫理和安全的重要性。這種做法也可以降低美國和各國之間的競爭態(tài)勢將演變?yōu)椤案傁酄幭取钡娘L(fēng)險，即每個國家都在加強其人工智能系統(tǒng)的安全性和穩(wěn)定性方面走捷徑，以獲得相對于另一方的優(yōu)勢，從而引發(fā)重大的意外傷害的風(fēng)險。

就目前而言，JAIC是一個很好的平臺，它可以作為一種工具，表明美國在實現(xiàn)人工智能的過程中對道德和安全的可靠承諾。事實上，JAIC的核心任務(wù)之一就是與國防部長辦公室合作，為人工智能的開發(fā)和交付制定標(biāo)準(zhǔn)和治理框架。在建立JAIC的過程中，國防部已經(jīng)發(fā)出了確?！皥允貙娛聜惱砗腿斯ぶ悄馨踩某兄Z”的信號，因此JAIC作為美國國防部的一個重要組成部分，成為推動人工智能向前發(fā)展的一個焦點，這為美國提供了一個及時的機會，使其能夠清晰地闡述其符合道德倫理和其安全的人工智能實現(xiàn)之道。