剛剛結(jié)束的RSAC2020大會(huì)主題為“人的因素”，業(yè)界廣泛討論的是如何強(qiáng)化和緩解人這一重要環(huán)節(jié)的脆弱性，但很多人忽略了“Human Element”背后的隱藏含義：淘汰一切可以淘汰的“人的因素”，才是網(wǎng)絡(luò)安全未來(lái)比較大的商機(jī)。

根據(jù)MarketsandMarkets人工智能網(wǎng)絡(luò)安全預(yù)測(cè)報(bào)告，到2026年，人工智能網(wǎng)絡(luò)安全市場(chǎng)規(guī)模預(yù)計(jì)將從2019年的88億美元增長(zhǎng)到382億美元，年復(fù)合增長(zhǎng)率高達(dá)23.3%（下圖）。

市場(chǎng)增長(zhǎng)的主要驅(qū)動(dòng)力是新的攻擊面和攻擊矢量往往超出傳統(tǒng)安全防御體系的感知范圍、處理能力和響應(yīng)速度，例如物聯(lián)網(wǎng)的普及和聯(lián)網(wǎng)設(shè)備的數(shù)量不斷增加、網(wǎng)絡(luò)威脅實(shí)例不斷增加、對(duì)大數(shù)據(jù)隱私問(wèn)題的擔(dān)憂日益增加。

此外Wi-Fi網(wǎng)絡(luò)的脆弱性在新興威脅中暴露出的問(wèn)題也日益嚴(yán)峻，例如本期微信二條介紹的，可通過(guò)WiFi網(wǎng)絡(luò)實(shí)施的“智能手機(jī)超聲波攻擊”，以及安全牛之前報(bào)道過(guò)的《木馬病毒Emotet可“空氣傳播”：感染附近WiFi網(wǎng)絡(luò)》。

與此同時(shí)，人工智能在網(wǎng)絡(luò)安全市場(chǎng)中的潛在機(jī)遇包括中小企業(yè)對(duì)基于云的安全解決方案的需求不斷增長(zhǎng)，以及越來(lái)越多地使用社交媒體來(lái)實(shí)現(xiàn)業(yè)務(wù)功能。微盟刪庫(kù)事件給所有企業(yè)CISO當(dāng)頭一棒：

人工智能永遠(yuǎn)拍不出鬼片，但人會(huì)，越重要的人員越容易拍出票房過(guò)10億的大片。人工智能最大的優(yōu)點(diǎn)是六親不認(rèn)油鹽不進(jìn)，面對(duì)網(wǎng)絡(luò)犯罪分子屢試不爽的社工攻擊，人工智能員工（例如呼叫中心程序或者半人半AI的混合型Cyborg員工）完全不懂如何上當(dāng)。

攻擊性人工智能技術(shù)熱點(diǎn)

如果您認(rèn)為以上都是危言聳聽(tīng)，嘩眾取寵，那么我們來(lái)看看我們的對(duì)手，網(wǎng)絡(luò)犯罪分子們將如何用人工智能技術(shù)“降維打擊”現(xiàn)有的安全防御體系：

AI/ML 數(shù)據(jù)中毒與破壞

攻擊者試圖投毒（例如對(duì)抗性數(shù)據(jù)樣本）業(yè)務(wù)應(yīng)用中的AI/ML訓(xùn)練數(shù)據(jù)，以便破壞決策和運(yùn)營(yíng)。安全行業(yè)需密切關(guān)注此類(lèi)新型攻擊案例。試想，如果依賴AI自動(dòng)化供應(yīng)鏈的公司企業(yè)遭遇此類(lèi)攻擊，會(huì)發(fā)生什么情況？被污染的數(shù)據(jù)極可能導(dǎo)致產(chǎn)品供應(yīng)嚴(yán)重不足或過(guò)剩。

Splunk高級(jí)副總裁兼安全市場(chǎng)總經(jīng)理宋海燕表示：

我們預(yù)期將會(huì)看到用似是而非的數(shù)據(jù)樣本給算法投毒的攻擊，這些攻擊的目的是帶偏機(jī)器學(xué)習(xí)算法的學(xué)習(xí)過(guò)程。這不僅僅是愚弄智能技術(shù)，而是讓學(xué)習(xí)算法看起來(lái)似乎工作正常，產(chǎn)出的卻是錯(cuò)誤的結(jié)果。

虛假音頻技術(shù)將商務(wù)電郵入侵帶入新征程

商務(wù)電郵入侵（BEC）指的是攻擊者冒充CEO或其他高級(jí)經(jīng)理，以完成交易或履行業(yè)務(wù)的名義，誘騙公司銀行賬戶負(fù)責(zé)人做出錯(cuò)誤轉(zhuǎn)賬。BEC每年給公司企業(yè)造成高達(dá)數(shù)十億美元的損失。如今，在AI技術(shù)加持下，BEC攻擊借助虛假電話音頻再登新高峰。2019年我們已經(jīng)見(jiàn)識(shí)到了第一波利用虛假音頻冒充公司CEO來(lái)電的攻擊事件。其中一個(gè)案例里，一家英國(guó)能源公司的員工被騙向攻擊者的銀行賬戶里轉(zhuǎn)入了24萬(wàn)美元。專家認(rèn)為，2020年將出現(xiàn)更多利用AI技術(shù)偽造的CEO虛假音頻執(zhí)行的BEC攻擊。

Illumio創(chuàng)始人兼首席技術(shù)官PJ Kirner稱：

即便公司已經(jīng)培訓(xùn)員工如何識(shí)別潛在網(wǎng)絡(luò)釣魚(yú)電子郵件，仍有太多員工沒(méi)準(zhǔn)備好面對(duì)網(wǎng)絡(luò)釣魚(yú)音頻，因?yàn)檫@些虛假音頻聽(tīng)起來(lái)太可信了，而且真的沒(méi)什么有效的檢測(cè)方法。而且，即使此類(lèi)‘音頻釣魚(yú)’攻擊為人所知以后，我們也將在明年看到更多惡意黑客利用高管層的聲音執(zhí)行攻擊。

人工智能惡意軟件規(guī)避沙箱

深度偽造的音視頻還只是壞人利用AI實(shí)施攻擊的方式之一。安全研究人員需要繃緊神經(jīng)，對(duì)AI驅(qū)動(dòng)的惡意軟件規(guī)避技術(shù)嚴(yán)陣以待。有些安全人員認(rèn)為，2020年可能是惡意軟件使用AI模型繞過(guò)沙箱的元年。

人工智能技術(shù)加持的惡意軟件可以提高隱蔽性和針對(duì)性，繞過(guò)主流的檢測(cè)技術(shù)。例如IBM的AI惡意軟件概念驗(yàn)證工具DeepLocker能夠利用可公開(kāi)獲取的數(shù)據(jù)對(duì)網(wǎng)絡(luò)安全工具隱瞞自己，并且處于休眠狀態(tài)，直到達(dá)到預(yù)定目標(biāo)為止。一旦通過(guò)面部或語(yǔ)音識(shí)別檢測(cè)到目標(biāo)，便會(huì)執(zhí)行惡意載荷。

Blue Hexagon首席技術(shù)官Saumitra Das預(yù)測(cè)：

惡意軟件作者將拋棄用規(guī)則來(lái)確定‘特性’和‘進(jìn)程’是否表明樣本身處沙箱之中的做法，轉(zhuǎn)而采用AI加以判斷，有效創(chuàng)建能夠更準(zhǔn)確分析自身環(huán)境的惡意軟件，確定自身是否在沙箱中運(yùn)行，進(jìn)而增加沙箱規(guī)避有效性。

生物特征識(shí)別的貓鼠游戲

隨著AI和生物特征識(shí)別技術(shù)用于驗(yàn)證客戶身份，金融服務(wù)行業(yè)的反欺詐將上演貓鼠游戲。金融機(jī)構(gòu)正快速迭代身份驗(yàn)證機(jī)制，使用人臉識(shí)別和AI掃描、分析并確認(rèn)手機(jī)攝像頭和身份證件生成的在線身份。但他們需保持警惕，因?yàn)閴娜艘矔?huì)用AI創(chuàng)建深度偽造的ID，騙過(guò)這些生物特征識(shí)別驗(yàn)證系統(tǒng)。

Jumio總裁Robert Prigge表示：

2020年，我們將看到深度偽造技術(shù)武器化的上升，此類(lèi)技術(shù)將隨生物特征識(shí)別身份驗(yàn)證解決方案的廣泛采納而被惡意黑客大肆濫用。

差別隱私在分析數(shù)據(jù)保護(hù)領(lǐng)域引發(fā)關(guān)注

大數(shù)據(jù)、AI和嚴(yán)格的隱私監(jiān)管三管齊下，公司企業(yè)為此頭疼不已，迫使安全及隱私從業(yè)者開(kāi)發(fā)更好的隱私保護(hù)方法，屏蔽當(dāng)今諸多AI應(yīng)用賴以起效的客戶分析數(shù)據(jù)中的敏感信息。好消息是，我們也可以運(yùn)用其他形式的AI實(shí)現(xiàn)這一點(diǎn)。

Avast人工智能主管Rajarshi Gupta稱：

2020年我們將看到AI算法的實(shí)際應(yīng)用，包括共享數(shù)據(jù)集中模式描述的同時(shí)隱藏個(gè)人信息的差別隱私系統(tǒng)。

Gupta認(rèn)為，差別隱私將使公司企業(yè)在不暴露客戶和其他個(gè)人的隱私信息的情況下，仍能像現(xiàn)在一樣從大數(shù)據(jù)洞見(jiàn)中獲益。

AI倫理與公平的沉痛教訓(xùn)

AI倫理、公平與影響的沉痛教訓(xùn)就在前方。這些問(wèn)題值得安全主管們嚴(yán)肅對(duì)待。他們必須保護(hù)依賴AI運(yùn)行的系統(tǒng)的完整性與可用性。

博思艾倫咨詢公司網(wǎng)絡(luò)安全戰(zhàn)略負(fù)責(zé)人，RSA大會(huì)咨詢委員會(huì)成員Todd Inskeep表示：

明年網(wǎng)絡(luò)安全領(lǐng)域中AI的使用將給我們帶來(lái)很多新的經(jīng)驗(yàn)教訓(xùn)。近期Apple Card給男性和女性設(shè)置不同信用額度的案例，凸顯出我們并未真正理解AI算法機(jī)制的事實(shí)。我們將會(huì)發(fā)現(xiàn)一些AI陽(yáng)奉陰違或者磨洋工的案例。

防御性人工智能安全技術(shù)熱點(diǎn)

凱捷研究所針對(duì)850名企業(yè)高級(jí)管理人員的調(diào)查發(fā)現(xiàn)，2019年五分之一的企業(yè)使用AI網(wǎng)絡(luò)安全技術(shù)，多達(dá)三分之二的企業(yè)表示2020年計(jì)劃將人工智能技術(shù)全面應(yīng)用于威脅發(fā)現(xiàn)、預(yù)測(cè)和響應(yīng)。超過(guò)70%的組織當(dāng)前正在測(cè)試AI網(wǎng)絡(luò)安全用例，涉及從欺詐和入侵檢測(cè)到風(fēng)險(xiǎn)評(píng)分和用戶/機(jī)器行為分析（UEBA）的所有方面。不同領(lǐng)域的需求熱度分布如下：

凱捷的調(diào)研結(jié)果呼應(yīng)了本文開(kāi)頭引用的預(yù)測(cè)數(shù)據(jù)——2019年人工智能網(wǎng)絡(luò)安全市場(chǎng)的價(jià)值已達(dá)到88億美元，2026年將突破380億美元。顯然無(wú)論是企業(yè)界還是網(wǎng)絡(luò)安全行業(yè)都對(duì)人工智能的價(jià)值深信不疑。

最初，人工智能在安全防御領(lǐng)域的應(yīng)用都是一些比較簡(jiǎn)單的場(chǎng)景（例如電子郵件垃圾郵件過(guò)濾器），2020年開(kāi)始，人工智能技術(shù)將擴(kuò)展到網(wǎng)絡(luò)安全團(tuán)隊(duì)的所有職能和部門(mén)，從網(wǎng)絡(luò)釣魚(yú)、惡意軟件到郵件安全、反欺詐、行為分析和APT防御。

人工智能技術(shù)的關(guān)鍵是數(shù)據(jù)，這意味著企業(yè)越早“挖坑蓄水”，其人工智能防御系統(tǒng)積累的可用數(shù)據(jù)越多，安全防御能力越強(qiáng)。

例如，每個(gè)網(wǎng)絡(luò)釣魚(yú)電子郵件都會(huì)留下大量數(shù)據(jù)。機(jī)器學(xué)習(xí)算法可以收集和分析此數(shù)據(jù)，以通過(guò)檢查已知的惡意標(biāo)記來(lái)計(jì)算可能有害的電子郵件的風(fēng)險(xiǎn)。

分析級(jí)別還可以擴(kuò)展到掃描郵件正文中的附件和URL，甚至還可以借助計(jì)算機(jī)視覺(jué)的機(jī)器學(xué)習(xí)，檢測(cè)到冒充合法網(wǎng)站的網(wǎng)絡(luò)釣魚(yú)網(wǎng)站。

類(lèi)似的機(jī)器學(xué)習(xí)模型還可以應(yīng)用于其他常見(jiàn)威脅，例如惡意軟件。惡意軟件會(huì)隨著時(shí)間的推移而增長(zhǎng)和發(fā)展，并且經(jīng)常在組織發(fā)現(xiàn)之前造成相當(dāng)大的破壞。

采用人工智能技術(shù)的網(wǎng)絡(luò)安全防御可以依靠以前類(lèi)似攻擊的數(shù)據(jù)和經(jīng)驗(yàn)來(lái)更快地應(yīng)對(duì)此類(lèi)威脅，以預(yù)測(cè)并阻止其擴(kuò)散。隨著技術(shù)的不斷發(fā)展，其在網(wǎng)絡(luò)安全防御中的普及程度也將不斷提高。

根據(jù)報(bào)告，以下領(lǐng)域的人工智能安全技術(shù)最具潛力：

欺詐偵測(cè)、用戶/機(jī)器行為分析、風(fēng)險(xiǎn)評(píng)分、入侵檢測(cè)和惡意軟件檢測(cè)是現(xiàn)階段人工智能安全技術(shù)商業(yè)化潛力比較大的應(yīng)用（收益高、復(fù)雜性低）。

最后，我們需要記?。喝斯ぶ悄艿谋容^大優(yōu)點(diǎn)就是它的速度。機(jī)器學(xué)習(xí)算法可以快速應(yīng)用復(fù)雜的模式識(shí)別技術(shù)來(lái)發(fā)現(xiàn)和阻止攻擊，其部署和響應(yīng)速度比任何人都快。

責(zé)任編輯：ct