2011年，風險投資家馬克?安德森（Marc Andreessen）曾說：“軟件正在吞噬世界?！痹诋敃r這還是一個新奇的想法?，F(xiàn)在，很明顯，軟件滲透了我們的生活。從醫(yī)療設備和自動駕駛車輛等復雜的電子設備到聯(lián)網(wǎng)燈泡和溫度計等簡單的物體，我們被軟件包圍著。

這意味著我們比以往任何時候都更容易受到軟件攻擊的影響。

每年，現(xiàn)有的軟件代碼數(shù)量會新增1110億行，每行都代表著一個潛在的新攻擊目標。研究公司Cybersecurity Ventures的創(chuàng)始人兼總編史蒂夫?摩根（Steve Morgan）預測，到2021年，美國將平均每天發(fā)生一次利用此前未知的漏洞入侵系統(tǒng)的事件，行業(yè)中稱之為“零日漏洞”（zero day exploits），而2015年時還只是每周發(fā)生一次。

為了解決這個問題，我和我在卡耐基梅隆大學（CMU，位于匹茲堡）的同事們花了近10年時間來開發(fā)能夠自動保護軟件安全的技術(shù)。2012年，我們成立了ForAllSecure公司，將我們的產(chǎn)品推向世界。我們要做的就是證明我們可以做到我們宣稱能做到的事情。通過一場大獎賽，我們證明了這一點。

━━━━

2016年，我的團隊擠在拉斯維加斯的一家酒店宴會廳里，咬著指甲，十分確定我們剛剛輸?shù)袅艘粓龌藬?shù)千小時準備的比賽。這場比賽是由美國國防部高級研究計劃局（DARPA）舉辦的“網(wǎng)絡超級挑戰(zhàn)賽”（CGC）。美國國防部高級研究計劃局為推動國家安全技術(shù)實現(xiàn)突破而舉辦了多項比賽，21世紀早期的自動駕駛汽車大賽也是其中一項。舉辦“網(wǎng)絡超級挑戰(zhàn)賽”是因為，美國國防部高級研究計劃局期待有一天，美國可實現(xiàn)無需人力或工具便能自動抵御網(wǎng)絡威脅。

網(wǎng)絡安全戰(zhàn)場上盡是技術(shù)嫻熟的黑客，最高水平的黑客還能創(chuàng)造性地利用軟件漏洞進入某個組織的防御系統(tǒng)。為了自己的利益而這樣做的罪犯通常被稱為“黑帽”，他們經(jīng)常創(chuàng)建大批業(yè)余的“腳本小子”，作為進行破壞的工具，比如，2016年物聯(lián)網(wǎng)僵尸網(wǎng)絡在控制了人們家中的微型攝像機和錄像機后，在互聯(lián)網(wǎng)上發(fā)動了大規(guī)模攻擊。與之相反，“白帽”則利用他們的技能來阻止這種攻擊。但是，我們沒有足夠的白帽黑客來保護商業(yè)世界數(shù)量激增的所有軟件，更不用說對國家和全球安全至關重要的公共基礎設施和軍事平臺了。

2014年，美國國防部高級研究計劃局宣布了一個為期兩年的項目——“網(wǎng)絡超級挑戰(zhàn)賽”，舉辦這次競賽的目的是，測試是否有可能開發(fā)出能夠發(fā)現(xiàn)、驗證和修補軟件漏洞的人工智能系統(tǒng)。2015年，總共有大約100個團隊進入資格預審階段。2016年，預審階段的前7名晉級總決賽，在決賽中，他們需要進入一個完整的網(wǎng)絡推理系統(tǒng)，這個系統(tǒng)不僅能夠發(fā)現(xiàn)問題，還能推斷出問題的性質(zhì)。冠軍將贏得200萬美元獎金，亞軍和季軍將分別獲得100萬和75萬美元獎金。

在美國國防部高級研究計劃局公布了比賽細則之后，我和同事們意識到這是一個絕佳機會，可以證明我們開發(fā)的自動化網(wǎng)絡安全不僅僅是理論游戲。在運營ForAllSecure公司之來，我們一直面臨著對解決方案可行性的質(zhì)疑。我們認為我們最好能在美國國防部高級研究計劃局的比賽中獲勝，因為我們已經(jīng)為此努力了10年。

我們在卡耐基梅隆大學的研究始于一個簡單的前提：人們需要一種可以檢查他們所購買軟件并確保其安全的方法。當然，編碼人員將盡力排除安全漏洞，但他們主要關注更為基本的方面：必須按時交付產(chǎn)品，并確保它能夠發(fā)揮預期功能。但問題就在于，黑客會找到方法讓軟件做它不該做的事情。

當今最先進的軟件安全技術(shù)會利用特殊工具來檢查源代碼并標記潛在的安全漏洞。由于這一過程會產(chǎn)生很多誤報——標記的實際上并不是漏洞，所以必須再安排一個人來仔細核查每個標記。為了提高故障發(fā)現(xiàn)率，一些公司依靠白帽黑客進行一次性分析，或者參與“故障獎勵”計劃，根據(jù)發(fā)現(xiàn)的故障數(shù)量和嚴重程度向他們支付獎勵。但只有盈利最多的公司才有錢對其軟件開展最大程度的測試。隨著完成的軟件產(chǎn)品中包含越來越多來自開源項目和其他第三方的組件，這個問題也變得越來越復雜。

我們的參賽系統(tǒng)Mayhem能夠自動完成白帽黑客的工作。它不僅能夠指出可能的漏洞，還能利用它們，從而最終證明它們實際上就是漏洞。這也是“網(wǎng)絡超級挑戰(zhàn)賽”的一個關鍵部分，因為利用可操縱漏洞來證明漏洞是機器得分的規(guī)則。Mayhem 是一臺可以擴展到數(shù)百或數(shù)千個節(jié)點的機器，可以實現(xiàn)人類無法匹敵的分析速度。

━━━━

為了打造Mayhem，我們從我們在卡耐基梅隆大學開發(fā)的第一個軟件分析系統(tǒng)著手，該系統(tǒng)以程序形式化分析為基礎。這種方法好比創(chuàng)建一個數(shù)學方程式，用于表示軟件程序可能采取的每一條路徑，從而生成一棵不斷分支的分析樹。很快，這棵樹就會變得太大而無法管理，但我們已經(jīng)找到了巧妙的方法來重疊一些路徑，將大樹修剪成幾根樹枝。接下來，我們便可以更深入地探索剩下的樹枝。

符號執(zhí)行是設立一個方程來表示程序中的所有邏輯，例如“x+5=7”，然后求解該方程。還有另一種與這種策略不同的軟件分析方法，被稱為“模糊測試”。模糊測試將隨機排列的數(shù)據(jù)輸入到程序中進行處理，然后就可以確定漏洞的薄弱點何在，以及如何被惡意攻擊所利用。模糊測試不斷地輸入隨機數(shù)據(jù)，直到一個特定的數(shù)據(jù)串使方程成立，最后確定x=2。

這兩種方法各有各的優(yōu)點，但多年來，模糊測試更具優(yōu)勢，因為它更容易操作，而且在嘗試新的輸入時速度更快。與此同時，符號執(zhí)行也向?qū)W會并馴服它的人展示了尚未開發(fā)的巨大潛力。我們于2010年開始開發(fā)Mayhem，并在這個系統(tǒng)中完美地結(jié)合了這兩種方法。

模糊測試就像是快速智力猜測——看哪些輸入可能會觸發(fā)程序的新行為，然后跟蹤那些實際引發(fā)行為的輸入數(shù)據(jù)。符號執(zhí)行則好比讓一位數(shù)學家努力正規(guī)地計算出哪些輸入數(shù)據(jù)會利用程序。我們發(fā)現(xiàn)，對有些故障來說，快速猜測是最好的發(fā)現(xiàn)辦法，其他的則最好通過數(shù)學方法發(fā)現(xiàn)。所以我們決定同時運行這兩種方法。符號執(zhí)行會對程序的一部分進行深入推算，算出哪一個輸入數(shù)據(jù)會觸發(fā)該區(qū)域代碼。然后，系統(tǒng)可以將該輸入數(shù)據(jù)傳遞給模糊測試程序，快速敲打同一區(qū)域代碼，找到漏洞。

Mayhem的另一個特點是它可以直接處理二進制代碼，而不是人工編碼的文本文件——源代碼。這意味著系統(tǒng)可以在沒有開發(fā)人員幫助的情況下分析程序，這對于包含第三方程序的組件來說非常重要，因為它們可能沒有源代碼。但是二進制代碼的推算比較困難，因為與源代碼不同，它沒有函數(shù)，沒有局部變量，也沒有數(shù)據(jù)抽象。二進制代碼有一個大的存儲區(qū)域和固定長度的位向量——一種高效存儲位的數(shù)據(jù)結(jié)構(gòu)。你要變成一臺機器才能處理這些代碼，而且實際上，建造一臺可以在這些約束條件下工作的機器需要的工程量很大。

Mayhem 識別出一個漏洞后，會產(chǎn)生并運行一段利用漏洞的代碼，也就是黑帽黑客可能用來入侵程序的代碼，證明可以利用漏洞獲得對操作系統(tǒng)的特權(quán)訪問或根訪問。結(jié)果是，Mayhem可以十分確定地標識出漏洞，而不是像大多數(shù)代碼分析工具那樣僅僅標記出可能會有問題。

2014年，我們對Debian發(fā)行的每一個程序都進行了一次Mayhem技術(shù)測試（Debian是世界各地臺式機和服務器上普遍使用的一個Linux版本）。Mayhem 發(fā)現(xiàn)了近1.4萬個獨特漏洞，然后將漏洞列表縮小到250個值得優(yōu)先考慮的新漏洞。通過在亞馬遜云的大量服務器上部署Mayhem，整個測試不到一周就完成了，幾乎沒有人為干預。我們向Debian網(wǎng)絡社區(qū)提交了更重要的發(fā)現(xiàn)。我們將我們的研究剝離出來成立一家公司，就是為了當我們分析成千上萬程序并發(fā)現(xiàn)存在大量漏洞時，能夠與開發(fā)人員一起有規(guī)模地開展工作。

2015年6月3日，100多位參賽者進入資格賽，接到131項有特殊設置的挑戰(zhàn)，每項挑戰(zhàn)都包含軟件安全漏洞。安全得分（以發(fā)現(xiàn)并修補漏洞為評判基礎）最高的7支隊伍進入了網(wǎng)絡超級挑戰(zhàn)賽決賽，F(xiàn)oAllSecure隊的得分是半決賽亞軍的兩倍多。短暫的喜悅很快過去，我們意識到壓力現(xiàn)在才真正來了！

采用Mayhem核心技術(shù)，建立一個完全自動化的網(wǎng)絡推理系統(tǒng)是一項艱巨的任務。我們之所以能夠完成，部分原因是美國國防部高級研究計劃局為所有7支入圍隊伍提供了充足的資金，供我們開展為期一年的開發(fā)工作。我們的核心組件包括將可執(zhí)行程序轉(zhuǎn)換為相對容易理解和分析的語言的工具集，還包括用于查找和利用漏洞的攻擊工具、自動修補有缺陷的二進制代碼的防御工具，以及有效協(xié)調(diào)各項工作的程序。

在準備最后一輪比賽時，我們面臨兩大挑戰(zhàn)。首先，雖然我們對Mayhem發(fā)現(xiàn)漏洞的能力感到滿意，但我們覺得打補丁還不夠有效。在比賽中，就像在現(xiàn)實生活中一樣，你不愿意多耗費處理能力去為一個不值得解決的問題安裝補丁。因此，我們花了大量時間開發(fā)自動漏洞補丁，一般情況下其執(zhí)行時間比例介于0到5%之間。

其次，我們需要一個戰(zhàn)略來打贏這場比賽。比如說發(fā)現(xiàn)漏洞和打補丁。如果打補丁需要增加太多的執(zhí)行時間，從而使程序速度變慢，你可能不希望立即啟用補丁。相反，有時最好等待，只在絕對必要的時候才打補丁。我們開發(fā)了一個專家系統(tǒng)來決定何時打補丁。

2016年8月5日，當我們的團隊走進拉斯維加斯的宴會廳參加最后一場比賽時，我們看到在一個大舞臺上有7個燈光閃爍的龐大機架，下面是180噸水，用于保持各隊的計算機處于冷卻狀態(tài)。在比賽開始的前一天晚上，參賽者安裝好這些機器，然后美國國防部高級研究計劃局切斷了對它們的所有訪問。這些機器是被氣隙隔離的——它們與外界沒有聯(lián)系。我們唯一能做的就是看著Mayhem不停地工作，觀察各個系統(tǒng)機架報告的電源使用情況和系統(tǒng)溫度統(tǒng)計數(shù)據(jù)。Mayhem一直是7臺參賽計算機中最努力的——這是一個好跡象，至少我們希望如此。

在近100輪的比賽中，新程序被分到各參賽系統(tǒng)，機器只有幾分鐘的時間來分析代碼尋找漏洞，并迅速發(fā)布防護補丁。每一輪都根據(jù)機器發(fā)現(xiàn)和證實漏洞的能力以及補丁的性能來打分。

為了使“網(wǎng)絡超級挑戰(zhàn)賽”最后一場比賽令觀眾覺得更加刺激，比賽組織方?jīng)Q定，只有在比賽結(jié)束時才逐場報告得分。這意味著我們不知道我們是領先還是落后，只能看著Mayhem 提交它發(fā)現(xiàn)的漏洞。然而，在比賽進行了幾個小時，在第40輪比賽之后，我們發(fā)現(xiàn)Mayhem停止了提交漏洞。程序崩潰了。

━━━━

我們的肚子好像挨了一記重拳，噩夢成真。我們請求組織方重新啟動，但他們不允許。比賽還剩一半，我們開始考慮失敗的恥辱。

最后一輪結(jié)束時，逐場解說開始了，絢麗的可視化效果展示了每個團隊的機器是如何在幾秒內(nèi)發(fā)現(xiàn)和修復安全缺陷的，相比之下，人工團隊可能需要花費數(shù)月或數(shù)年的時間。觀眾超過5000人，由一位天體物理學家和多位黑客明星擔任嘉賓評論員，攪得觀眾群情激動。我們鼓足勇氣看屏幕，準備聽人宣布并確認我們的失敗。

然而，當我們看到每一輪比賽的比分不斷出現(xiàn)時，我們突然發(fā)現(xiàn)，雖然Mayhem在第40輪之后就停止了比賽，但領先優(yōu)勢足以讓它保持在第一位。當最后一輪比賽結(jié)果宣布時，我們肩上的重擔卸下了。我們贏了。

美國國防部高級研究計劃局的項目主管邁克?沃克（Mike Walker）表示，比賽展示的網(wǎng)絡自動防御“只是軟件安全革命的開端”。他將比賽的成果比作萊特兄弟的首次飛行，他們雖然沒有飛很遠，但指明了洲際航行的路線。

目前，F(xiàn)orAllSecure正在向早期采用者（包括美國政府和高技術(shù)公司及航空航天行業(yè)的公司）銷售其新服務的首個版本。在這個階段，我們的服務主要是指出問題，然后由人工專家參與解決。在未來的一段時間里，像Mayhem 這樣的系統(tǒng)將與人工安全專家合作，讓世界上的軟件更加安全。在更遠的將來，我們相信機器智能將獨自處理這項工作。