美國國防部副部長透露，特朗普政府對利用人工智能幫助軍方更高效、成本更低地執(zhí)行一些關鍵任務非常感興趣，五角大樓已經(jīng)準備在未來6個月內建成一個整合多個AI項目的新中心。于此同時，美蘭德公司發(fā)布報告，警告說AI在軍事任務中的應用可能增加核戰(zhàn)爭的風險。據(jù)美國非盈利新聞調查組織CPI的報道，美國國防部的第二把手上周二透露，特朗普政府對利用人工智能幫助軍方更高效、成本更低地執(zhí)行一些關鍵任務非常感興趣。

美國國防部副部長、前波音公司高管Patrick Shanahan表示，人工智能（使用計算機系統(tǒng)執(zhí)行通常需要人類智能的任務）可以幫助國防部更好地利用其收集的大量情報數(shù)據(jù)。

他還表示，AI可以用于加強軍事后勤能力，在正確的時間為士兵和維修人員提供適當?shù)牧慵脱b備。AI也可以促進更明智的決策，為軍方人員提供醫(yī)療服務，從而節(jié)省成本。

Patrick Shanahan以及其他高級國防官員說，五角大樓已經(jīng)準備在未來6個月內建成一個“卓越中心”（Center for Excellence），將多個現(xiàn)有的與AI應用相關的軍事計劃整合在一起，為這項工作帶來更多連貫性和動力。

在Shanahan向防務作家團體（Defense Writers Group）發(fā)表上述講話的同一天，蘭德公司（RandCorporation）發(fā)布了一分公開報告，警告說AI在軍事任務中的應用可能導致令人擔憂的負面影響，包括：AI可能通過巧妙地破壞核威懾的一個關鍵根基，從而增加核戰(zhàn)爭的風險。蘭德公司是美國的一個智庫，主要為美國軍方提供調研和情報分析服務。

蘭德報告：人工智能可能在2040年前增加核戰(zhàn)爭的風險

這份新報告題為《人工智能可能如何影響核戰(zhàn)爭的風險》（How might Artificial Intelligence Affect the Risk of Nuclear War），報告指出，AI具有破壞核安全基礎的“巨大潛力”。這個嚴峻的結論是蘭德組織的一系列研討會得出的，參與該研討會的人員包括AI、核安全、政府和軍方的專家。這是蘭德公司Security 2040項目的一部分，旨在評估AI以及其他現(xiàn)金計算在未來20年里對核安全的影響。針對這一報告的結論，蘭德正在呼吁國際社會就此進行對話。

這一討論的核心是核威懾的概念，即保證“相互保證毀滅”（MAD）或“保證報復”（assured retaliation），防止一方對有同等武裝的對手發(fā)射其核武器。這是一種冷酷、計算式的邏輯，至少在我們經(jīng)歷過的歷史階段，它至少阻止了一場全面的核戰(zhàn)爭，讓理性的、自我保護的大國選擇了對抗冷戰(zhàn)。只要沒有一個核力量維持有重大的先發(fā)制人的能力，MAD的概念就仍占據(jù)主導地位；如果一個武器系統(tǒng)能夠在第一次攻擊中幸存下來，并以同等的力量回擊，那么“保證報復”就仍然有效。但是如果一方失去了反擊的能力，或者即使它開始認為它有失去這種能力的風險，這樣的體系就可能削弱并變得不穩(wěn)定。

這個方程式鼓勵國家行為者避免采取可能破壞當前地緣政治平衡的行為，但是，正如我們在過去幾十年里一再看到的那樣，核大國仍欲圖“先發(fā)制人”。例如，隱形轟炸機、核潛艇的發(fā)展，以及最近俄羅斯總統(tǒng)弗拉基米爾·普京(Vladimir Putin)展示的“無敵”彈道導彈。

值得慶幸的是，這些發(fā)展都沒有真正地結束超級大國在第一次打擊后的反擊能力，但正如蘭德的新報告指出的那樣，先進的人工智能技術與無人機、衛(wèi)星以及其他強大的傳感器等監(jiān)視技術相結合，可以削弱這種促使微妙的冷戰(zhàn)平衡得以保持的技術平衡。該報告稱，人工智能將通過對敵方安全基礎設施實行大規(guī)模監(jiān)控，發(fā)現(xiàn)人眼看不到的模式，揭示其破壞性的漏洞，從而實現(xiàn)這一目的。

報告作者之一，蘭德公司的一名工程師Andrew Lohn說：“這可不僅是電影里的場景，如果我們不加以小心，很簡單的事情就可能引發(fā)緊張局勢，將我們帶到危險的局面。”

一個暴露著的敵人突然意識到它很容易遭受“先發(fā)制人”，或者意識到它可能很快就會失去反擊的能力，將陷入一個非常不利的位置。這種情況可能會迫使處境不利的國家尋找能夠恢復平衡的方法，它的行動可能會變得像被逼到角落里的金剛狼一般。先進的人工智能可能導致一個充滿不信任、競爭的新時代，孤注一擲的核大國會愿意承擔災難性的、甚至毀滅性的風險。

令人不安的是，即將失去“保證毀滅”可能會導致所謂的預防性戰(zhàn)爭，即一場以阻止敵方獲取攻擊能力為目的的戰(zhàn)爭。例如，在第一次世界大戰(zhàn)前的幾年中，德國嚴重擔憂作為其競爭對手的俄羅斯開始成為重要的地區(qū)強國。德國專家預測，俄羅斯將能夠在20年內在武裝沖突中擊敗德國，這引發(fā)了一場預防性戰(zhàn)爭。而在二戰(zhàn)結束后不久，美國的一些思想家，包括哲學家伯特蘭·羅素和數(shù)學家約翰·馮諾伊曼，呼吁在蘇聯(lián)發(fā)展自己的核彈之前，對蘇聯(lián)實施先發(fā)制人的核打擊。

正如這些例子所顯示的那樣，事態(tài)的發(fā)展如果要破壞軍事優(yōu)勢或平衡狀態(tài)（即MAD），這一時期可能是非常危險的，會引發(fā)各種瘋狂的想法。正如蘭德公司的報告指出的那樣，我們可能正在進入另一個這樣的轉型期。作者在報告中寫道，人工智能“有可能在2040年前加劇核戰(zhàn)略穩(wěn)定面臨的挑戰(zhàn)，即使技術進步的速度不大”。

蘭德公司的助理政策研究員，該報告的合作作者Edward Geist說，自主系統(tǒng)不需要通過殺人來破壞穩(wěn)定性，更有可能的是造成災難性的戰(zhàn)爭。他在一份聲明中說：“新的人工智能能力可能會讓人們認為，如果他們猶豫不決的話，他們就會失敗?！边@可能會導致他們扣扳機的手指更加躍躍試試。到那時，盡管人類仍處于“控制”狀態(tài)，AI將使戰(zhàn)爭更有可能發(fā)生。

最后，作者警告說，未來可能會出現(xiàn)嚴峻的形勢，但作者也同意AI也可能迎來前所未有的穩(wěn)定時代。 他們寫道：

一些專家擔心，對AI的日益依賴可能導致新的災難性錯誤。在技術成熟之前，使用AI可能會有壓力；它可能易受對抗性的破壞；或者敵方可能認為AI比它實際上的能力更強大，導致他們犯下災難性的錯誤。另一方面，如果核大國設法建立一種與AI可能提供的新能力相適應的戰(zhàn)略穩(wěn)定形式，就可以減少不信任并緩解國際緊張局勢，從而降低核戰(zhàn)爭的風險。

作者們表示，無法預測這兩種情景哪一種會發(fā)生，但國際社會必須立即采取行動，以減輕潛在的風險。在解決方案而言，作者提出了國際討論，建立新的全球機構和協(xié)議，發(fā)展創(chuàng)新技術、外交和軍事保障等。

這是技術的雙刃劍。AI既可以導致我們的厄運，也可以像在《巨人：福賓計劃》（Colossus：The Forbin Project；1970）和《戰(zhàn)爭游戲》（War Games，1983）等電影中那樣，保護我們免于由于自己的錯誤而毀滅。那么，最好記住這句古老的格言：抱最好的希望，做最壞的打算。