摘要

隨著算力提升、數(shù)據(jù)積累等因素的共同作用，人工智能技術(shù)的應(yīng)用門檻逐步降低，在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用快速拓展，加劇現(xiàn)實(shí)安全威脅的同時(shí)也催生了新型安全威脅，全球關(guān)鍵信息基礎(chǔ)設(shè)施安全受到挑戰(zhàn)。從人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用出發(fā)，以網(wǎng)絡(luò)安全威脅為視角進(jìn)行分析，得出關(guān)鍵信息基礎(chǔ)設(shè)施防護(hù)面臨著攻擊模式自動(dòng)演化、攻擊手段自動(dòng)化、攻擊者分工專業(yè)化等挑戰(zhàn)。結(jié)合當(dāng)前全球關(guān)鍵信息基礎(chǔ)設(shè)施防護(hù)的普遍實(shí)踐，提出智能化防護(hù)體系、縮短發(fā)起響應(yīng)的時(shí)間、培養(yǎng) AI+ 網(wǎng)絡(luò)安全人才等對(duì)策，為保障關(guān)鍵信息基礎(chǔ)設(shè)施安全提供科學(xué)參考。

4結(jié)語(yǔ)

自 20 世紀(jì) 50 年代首次提出人工智能這一概念后，隨著計(jì)算機(jī)技術(shù)的不斷進(jìn)步，人工智能概念的范圍也逐漸擴(kuò)大，計(jì)算機(jī)圖像識(shí)別、數(shù)據(jù)挖掘、深度學(xué)習(xí)等技術(shù)也相繼被納入人工智能的范疇。近些年，在算力提升、數(shù)據(jù)積累等因素的共同作用下，人工智能技術(shù)的應(yīng)用范圍不斷擴(kuò)大，應(yīng)用門檻也逐步降低，引起了世界主要國(guó)家和集團(tuán)的高度重視。2017 年，中國(guó)印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，提出要在 2030 年使“中國(guó)人工智能理論、技術(shù)與應(yīng)用總體達(dá)到世界領(lǐng)先水平，成為世界主要人工智能創(chuàng)新中心”。2019 年，美國(guó)發(fā)布《2018 國(guó)防部人工智能戰(zhàn)略概要》，提出要將人工智能作為未來(lái)關(guān)鍵的軍事技術(shù)進(jìn)行研究，并于同年發(fā)布了新的《國(guó)家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》。歐盟、俄羅斯、日本、印度等國(guó)也相繼發(fā)布其在人工智能領(lǐng)域的規(guī)劃和目標(biāo) 。人工智能已經(jīng)成為大國(guó)競(jìng)爭(zhēng)的新領(lǐng)域，各國(guó)政府都在積極推動(dòng)人工智能技術(shù)在各領(lǐng)域的應(yīng)用。與此同時(shí)，人工智能的各類問(wèn)題也引起了研究者們的重視，特別是人工智能倫理、人工智能軍事化、人工智能對(duì)政府治理的影響等議題尤為突出，已經(jīng)有研究者將人工智能列為未來(lái)幾十年中人類面臨的最大挑戰(zhàn)之一 。隨著人工智能在網(wǎng)絡(luò)安全領(lǐng)域應(yīng)用的逐步加深，越來(lái)越多的研究者也開(kāi)始重視人工智能對(duì)于網(wǎng)絡(luò)安全的影響。

關(guān)鍵信息基礎(chǔ)設(shè)施作為網(wǎng)絡(luò)空間的基礎(chǔ)組成部分，其安全關(guān)乎網(wǎng)絡(luò)空間的穩(wěn)定與秩序。近年來(lái)，全球范圍內(nèi)針對(duì)關(guān)鍵信息基礎(chǔ)設(shè)施的攻擊呈快速增長(zhǎng)和危害增強(qiáng)的趨勢(shì)：2019 年，委內(nèi)瑞拉國(guó)家電網(wǎng)干線遭到攻擊，造成全國(guó)大面積停電；2021 年，美國(guó)最大燃油管道公司被黑客勒索，導(dǎo)致美國(guó)東海岸能源供應(yīng)出現(xiàn)問(wèn)題；2022 年俄烏戰(zhàn)爭(zhēng)期間，烏克蘭的黑客支持者對(duì)白俄羅斯鐵路網(wǎng)絡(luò)進(jìn)行攻擊，導(dǎo)致正常的鐵路調(diào)度無(wú)法完成。隨著數(shù)字經(jīng)濟(jì)在國(guó)家發(fā)展中的重要性不斷增強(qiáng)，關(guān)鍵信息基礎(chǔ)設(shè)施在網(wǎng)絡(luò)攻擊目標(biāo)中的重要性明顯提升，攻擊關(guān)鍵信息基礎(chǔ)設(shè)施成為各類組織獲取非法經(jīng)濟(jì)利益、推進(jìn)政治主張的重要手段。人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用也強(qiáng)烈地影響著關(guān)鍵信息基礎(chǔ)設(shè)施的安全，特別是由于人工智能的“賦能”效應(yīng)對(duì)各類網(wǎng)絡(luò)安全威脅的賦能使現(xiàn)有的關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)體系面臨挑戰(zhàn)。

本文將對(duì)當(dāng)前人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用情況進(jìn)行梳理分析，在此基礎(chǔ)上根據(jù)關(guān)鍵信息基礎(chǔ)設(shè)施防護(hù)現(xiàn)狀，從網(wǎng)絡(luò)安全威脅的角度分析關(guān)鍵信息基礎(chǔ)設(shè)施面臨的挑戰(zhàn)，最后提出應(yīng)對(duì)挑戰(zhàn)的對(duì)策與建議，以期為關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)工作提供理論參考。

１人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用現(xiàn)狀和特點(diǎn)

人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域得到應(yīng)用的時(shí)間并不長(zhǎng)，但因其應(yīng)用前景使得越來(lái)越多的研究者投入其中，如今，人工智能已經(jīng)是網(wǎng)絡(luò)安全領(lǐng)域中一個(gè)無(wú)法忽視的應(yīng)用方向并形成了在其他應(yīng)用領(lǐng)域所沒(méi)有的特點(diǎn)。

1.1人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用現(xiàn)狀

人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域中的應(yīng)用最早可以追溯到 2000 年左右，當(dāng)時(shí)有國(guó)外的研究人員提出在入侵檢測(cè)中采用機(jī)器學(xué)習(xí)算法來(lái)提高檢測(cè)效率，為人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用提供了初始方向 。得益于過(guò)去 20 年來(lái)計(jì)算機(jī)算力水平的提高、網(wǎng)絡(luò)安全數(shù)據(jù)的積累以及各類算法的進(jìn)步，人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用越來(lái)越多，從現(xiàn)有的情況來(lái)看，人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用主要集中在威脅檢測(cè)、漏洞挖掘與修復(fù)、組織和發(fā)現(xiàn)僵尸網(wǎng)絡(luò)、威脅情報(bào)識(shí)別以及繞過(guò)安全防護(hù)等方向。

威脅檢測(cè)是人工智能在網(wǎng)絡(luò)安全領(lǐng)域最早應(yīng)用的方向之一，應(yīng)用也最為成熟。傳統(tǒng)的流量分析檢測(cè)技術(shù)對(duì)流經(jīng)檢測(cè)節(jié)點(diǎn)的每個(gè)數(shù)據(jù)包進(jìn)行檢測(cè)分析，存在資源開(kāi)銷大、溯源表現(xiàn)弱等客觀問(wèn)題。美國(guó)“棱鏡計(jì)劃”曝光后，國(guó)內(nèi)外網(wǎng)絡(luò)安全研究機(jī)構(gòu)和廠商加快了將人工智能技術(shù)引入威脅檢測(cè)中的步伐。美國(guó)的 FireEye 公司、以色列的 Deep Instinct 公司以及國(guó)內(nèi)的 360政企安全、啟明星辰、安天等公司均在自己的產(chǎn)品中引入了人工智能技術(shù)，融合日志、流量、資產(chǎn)等信息，提高了威脅檢出效率 。

漏洞挖掘與修復(fù)一直都是網(wǎng)絡(luò)安全領(lǐng)域最受重視的方向之一。長(zhǎng)期以來(lái)，漏洞挖掘和修復(fù)工作都要依賴人工進(jìn)行，這限制了網(wǎng)絡(luò)安全人員對(duì)漏洞的發(fā)現(xiàn)和修正速度，給黑客及黑客組織使用漏洞進(jìn)行攻擊提供了機(jī)會(huì)。2016 年，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局資助的第一屆機(jī)器自動(dòng)攻防大賽（Cyber Grand Challenge，CGC）揭示了人工智能加持下漏洞自動(dòng)化挖掘和修復(fù)的未來(lái)。近年來(lái)，已經(jīng)有大量研究者提出將深度學(xué)習(xí)應(yīng)用到漏洞挖掘中，并取得了一定的成果。

僵 尸 網(wǎng) 絡(luò) 一 直 在 隱 藏 攻 擊 者、 開(kāi) 展 大 規(guī)模 分 布 式 拒 絕 服 務(wù) 攻 擊（Distributed Denial of Service，DDoS）方面扮演著重要角色。人工智能給僵尸網(wǎng)絡(luò)帶來(lái)的最大變化就是以大量物聯(lián)網(wǎng)（Internet of Things，IoT）設(shè)備為基礎(chǔ)，通過(guò)蜂巢網(wǎng)絡(luò)（Hivenets）和機(jī)器人集群（Swarmbots）使僵尸網(wǎng)絡(luò)中的設(shè)備從“奴隸”變?yōu)榭梢栽谝欢ūO(jiān)督下進(jìn)行自主行動(dòng)的機(jī)器人，極大地提高了僵尸網(wǎng)絡(luò)擁有者能夠維護(hù)的網(wǎng)絡(luò)規(guī)模以及僵尸網(wǎng)絡(luò)的擴(kuò)張速度。網(wǎng)絡(luò)安全研究者也嘗試通過(guò)使用人工智能技術(shù)來(lái)實(shí)現(xiàn)為僵尸網(wǎng)絡(luò)發(fā)起的DDoS 攻擊提供早期檢測(cè) 。

威脅情報(bào)識(shí)別與利用對(duì)于現(xiàn)在的網(wǎng)絡(luò)安全愈發(fā)重要。攻擊者數(shù)量的快速增長(zhǎng)，迫使網(wǎng)絡(luò)安全防護(hù)體系嘗試在攻擊發(fā)起之前就形成阻斷，這就是威脅情報(bào)的核心作用。然而傳統(tǒng)的威脅情報(bào)生成方法識(shí)別精度不高，普遍需要人工分析確認(rèn)。人工智能能夠通過(guò)算法和模型提高人工分析的速度和準(zhǔn)確度，進(jìn)而提高威脅情報(bào)的產(chǎn)出。已有研究者提出使用神經(jīng)網(wǎng)絡(luò)來(lái)進(jìn)行威脅實(shí)體的識(shí)別，并在大規(guī)模網(wǎng)絡(luò)安全數(shù)據(jù)集上取得了較好的實(shí)驗(yàn)結(jié)果。

繞過(guò)攻擊對(duì)象的安全防護(hù)一直是網(wǎng)絡(luò)攻擊者的目標(biāo)，人工智能通過(guò)威脅模型算法提高安全防護(hù)的同時(shí)，也給攻擊者提供了新的安全敞口和攻擊思路。例如，人工智能模型的訓(xùn)練需要不斷的數(shù)據(jù)積累，攻擊者可以通過(guò)構(gòu)造錯(cuò)誤的數(shù)據(jù)來(lái)干擾人工智能模型的學(xué)習(xí)，從而使模型失效，也就是“中毒攻擊”。也有直接通過(guò)構(gòu)造數(shù)據(jù)對(duì)算法本身脆弱性進(jìn)行攻擊的例子。也有攻擊者嘗試通過(guò)人工智能來(lái)發(fā)現(xiàn)現(xiàn)有防御體系的弱點(diǎn)或隱藏具體攻擊行為。目前已有研究提出通過(guò)對(duì)抗神經(jīng)網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)對(duì)現(xiàn)有流量監(jiān)測(cè)技術(shù)的繞過(guò)。

除此之外，人工智能在網(wǎng)絡(luò)測(cè)繪、事件響應(yīng)、風(fēng)險(xiǎn)評(píng)估等方面的應(yīng)用也在持續(xù)深入。

1.2人工智能在網(wǎng)絡(luò)安全領(lǐng)域的特點(diǎn)

通過(guò)對(duì)人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用情況進(jìn)行梳理，本文認(rèn)為當(dāng)前人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用相比其他領(lǐng)域的應(yīng)用存在技術(shù)服務(wù)化、倫理顧慮少、對(duì)抗性強(qiáng)等特點(diǎn)。

（1）技術(shù)服務(wù)化。人工智能經(jīng)過(guò)多年的發(fā)展，即使已經(jīng)比最初誕生時(shí)大幅度降低了學(xué)習(xí)和使用的門檻，但其所要求的算力、知識(shí)和數(shù)據(jù)的絕對(duì)數(shù)量依然是大部分個(gè)人開(kāi)發(fā)者難以負(fù)擔(dān)得起的。在人工智能應(yīng)用的幾個(gè)主要領(lǐng)域中，人工智能作為產(chǎn)品進(jìn)行售賣時(shí)往往需要進(jìn)行較多的定制才能夠貼合實(shí)際業(yè)務(wù)場(chǎng)景的需要。網(wǎng)絡(luò)安全領(lǐng)域高度單一的對(duì)抗需求使得人工智能產(chǎn)品能夠形成聚焦精準(zhǔn)方向的應(yīng)用。專注于攻擊的比通用型的人工智能應(yīng)用開(kāi)發(fā)更加簡(jiǎn)單、場(chǎng)景更加單一，不再需要終端用戶的大量適配，可以輕松封裝成為產(chǎn)品，從而使開(kāi)發(fā)者和使用者分離開(kāi)來(lái)，也就是技術(shù)服務(wù)化。

（2）倫理顧慮少。人工智能的倫理問(wèn)題一直是社會(huì)關(guān)切的話題，已有學(xué)者指出人工智能本身具有的特征可能在基本人權(quán)、社會(huì)秩序和國(guó)家安全上產(chǎn)生倫理風(fēng)險(xiǎn)。在網(wǎng)絡(luò)安全領(lǐng)域中，已經(jīng)有學(xué)者考慮到人工智能在個(gè)人信息保護(hù)中的倫理問(wèn)題。但基于網(wǎng)絡(luò)安全領(lǐng)域本身的安全屬性，使得研究者們?cè)谛录夹g(shù)應(yīng)用時(shí)受到的制約相對(duì)較少且缺少監(jiān)督。在自動(dòng)化攻擊手段使用場(chǎng)景和影響、自動(dòng)化滲透測(cè)試方面對(duì)從業(yè)人員的影響等相關(guān)倫理問(wèn)題的顧慮和討論較少。

（3）對(duì)抗性強(qiáng)。網(wǎng)絡(luò)安全領(lǐng)域的誕生與發(fā)展是網(wǎng)絡(luò)中對(duì)抗行為的結(jié)果。當(dāng)越來(lái)越多的人涌入網(wǎng)絡(luò)空間時(shí)，網(wǎng)絡(luò)空間受到的攻擊也呈指數(shù)增長(zhǎng)。相較于人工智能在其他領(lǐng)域的應(yīng)用，網(wǎng)絡(luò)安全領(lǐng)域的人工智能的根本目的在于幫助使用者在對(duì)抗中取得優(yōu)勢(shì)：眾多研究者的研究目的在于提高安全性，而攻擊者們希望突破安全防護(hù)。可以說(shuō)，網(wǎng)絡(luò)安全領(lǐng)域的人工智能由于領(lǐng)域的特性，在表現(xiàn)上呈現(xiàn)出了遠(yuǎn)超其他領(lǐng)域的對(duì)抗性。

２人工智能與關(guān)鍵信息基礎(chǔ)設(shè)施安全

威脅分析關(guān)鍵信息基礎(chǔ)設(shè)施安全一直是世界各國(guó)政府網(wǎng)絡(luò)安全工作關(guān)注的焦點(diǎn)。美國(guó)作為網(wǎng)絡(luò)技術(shù)的發(fā)源地，聯(lián)邦政府高度重視信息化建設(shè)工作。早在 1996 年 7 月 15 日就發(fā)布第 13010 號(hào)行政命令《關(guān)鍵基礎(chǔ)設(shè)施保護(hù)》，并于次年對(duì)關(guān)鍵信息基礎(chǔ)設(shè)施進(jìn)行定義。1996 年，中國(guó)開(kāi)始實(shí)行的網(wǎng)絡(luò)和信息系統(tǒng)等級(jí)保護(hù)制度也可以被認(rèn)為是一種具有中國(guó)特色的關(guān)鍵信息基礎(chǔ)設(shè)施保護(hù)制度；2021 年 9 月 1 日起施行的《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》從法規(guī)上進(jìn)一步完善了中國(guó)關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)體系。關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)的具體制度和措施在不同國(guó)家存在差別，但從全球主要國(guó)家的相關(guān)舉措上也可以看到，當(dāng)前全球關(guān)鍵信息基礎(chǔ)設(shè)施安全存在著安全組織制度建設(shè)強(qiáng)于技術(shù)體系、基礎(chǔ)組件供應(yīng)鏈高度同質(zhì)化、容易成為網(wǎng)絡(luò)攻擊目標(biāo)等共同點(diǎn)。

（1）安全組織制度建設(shè)強(qiáng)于技術(shù)體系。由于關(guān)鍵信息基礎(chǔ)設(shè)施涵蓋種類多，部署地域分散等特點(diǎn)，建立統(tǒng)一的關(guān)鍵信息基礎(chǔ)設(shè)施防護(hù)體系存在技術(shù)上的難度，很少有國(guó)家形成系統(tǒng)性的關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)技術(shù)體系。更多國(guó)家是將關(guān)鍵信息基礎(chǔ)設(shè)施運(yùn)營(yíng)者組織起來(lái)形成制度化的威脅情報(bào)共享機(jī)制、事件響應(yīng)協(xié)同機(jī)制，如日本的網(wǎng)絡(luò)安全信息共享、脫歐以來(lái)的英國(guó)網(wǎng)絡(luò)安全新體制等都是在組織和制度角度提高關(guān)鍵信息基礎(chǔ)設(shè)施的安全水平 ，像是美國(guó)愛(ài)因斯坦工程那樣覆蓋全國(guó)關(guān)鍵信息基礎(chǔ)設(shè)施的安全技術(shù)體系還是少數(shù)。

（2）基礎(chǔ)組件供應(yīng)鏈高度同質(zhì)化。關(guān)鍵信息基礎(chǔ)設(shè)施大多結(jié)構(gòu)復(fù)雜，但在全球關(guān)鍵信息基礎(chǔ)設(shè)施建設(shè)過(guò)程中可供選擇的軟件卻高度同質(zhì)化。特別是自 Web2.0 時(shí)代以來(lái)，越來(lái)越多的信息系統(tǒng)采用 B/S 架構(gòu)，關(guān)鍵信息基礎(chǔ)設(shè)施采用的開(kāi)源組件高度同質(zhì)。2021 年末爆發(fā)的 Apache Log4j 遠(yuǎn)程代碼執(zhí)行漏洞以及 2014 的 Heartbleed漏洞在全網(wǎng)范圍內(nèi)造成了重大影響，大量關(guān)鍵信息基礎(chǔ)設(shè)施在漏洞爆發(fā)期安全承壓，甚至產(chǎn)生了應(yīng)急人員不足的情況。關(guān)鍵信息基礎(chǔ)設(shè)施基礎(chǔ)組件供應(yīng)鏈高度同質(zhì)化的情況可見(jiàn)一斑。

（3）容易成為網(wǎng)絡(luò)攻擊目標(biāo)。從近年來(lái)的重要網(wǎng)絡(luò)安全事件來(lái)看，針對(duì)關(guān)鍵信息基礎(chǔ)設(shè)施的攻擊數(shù)量急劇增長(zhǎng)。一方面，關(guān)鍵信息基礎(chǔ)設(shè)施承載國(guó)民經(jīng)濟(jì)正常運(yùn)行，一旦被攻擊成功往往能讓攻擊者快速達(dá)到金錢、政治等方面的攻擊目的。另一方面，隨著網(wǎng)絡(luò)在社會(huì)中的滲透，特別是物聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)的發(fā)展使得大量設(shè)備接入網(wǎng)絡(luò)空間，攻擊者能夠訪問(wèn)到關(guān)鍵信息基礎(chǔ)設(shè)施的機(jī)會(huì)也越來(lái)越多。收益預(yù)期和攻擊敞口的變化使得關(guān)鍵信息基礎(chǔ)設(shè)施越來(lái)越容易成為網(wǎng)絡(luò)攻擊的目標(biāo)。

當(dāng)前網(wǎng)絡(luò)空間人工智能化的網(wǎng)絡(luò)攻防趨勢(shì)已經(jīng)形成，關(guān)鍵信息基礎(chǔ)設(shè)施安全進(jìn)一步受到全面挑戰(zhàn) 。關(guān)鍵信息基礎(chǔ)設(shè)施長(zhǎng)期面對(duì)有國(guó)家背景的 APT 組織、隨時(shí)爆發(fā)的高等級(jí)脆弱性以及 APT 水平的勒索軟件等威脅，人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用又加速了傳統(tǒng)網(wǎng)絡(luò)安全威脅的進(jìn)化。結(jié)合全球關(guān)鍵信息基礎(chǔ)設(shè)施安全的共同點(diǎn)，可以認(rèn)為全球關(guān)鍵信息基礎(chǔ)設(shè)施面臨攻擊模式自動(dòng)演化、攻擊手段自動(dòng)化以及攻擊者分工專業(yè)化等安全挑戰(zhàn)。

2.1攻擊模式自動(dòng)演化挑戰(zhàn)

傳統(tǒng)關(guān)鍵信息基礎(chǔ)設(shè)施安全主要是從邊界防護(hù)的角度對(duì)整體防護(hù)體系進(jìn)行設(shè)計(jì)，從理念上來(lái)看缺少對(duì)抗性?，F(xiàn)有滲透測(cè)試方法中通過(guò)構(gòu)造包含大量無(wú)效數(shù)據(jù)的請(qǐng)求包來(lái)繞過(guò)防火墻正是防護(hù)體系缺乏對(duì)抗性的表現(xiàn)。在人工智能的背景下，攻擊者將通過(guò)人工智能快速提高對(duì)抗的次數(shù)并進(jìn)行分析，實(shí)現(xiàn)攻擊模式的自動(dòng)演化?，F(xiàn)在已經(jīng)有攻擊者嘗試通過(guò)生成對(duì)抗網(wǎng)絡(luò)（Generative Adversarial Networks，GAN）來(lái)模擬關(guān)鍵信息基礎(chǔ)設(shè)施防護(hù)體系的威脅檢測(cè)系統(tǒng)，從而讓自己的惡意代碼能夠繞過(guò)防護(hù)體系。類似的情況也發(fā)生在惡意文件檢測(cè)的繞過(guò)上。攻擊模式自動(dòng)演化是人工智能給關(guān)鍵信息基礎(chǔ)設(shè)施帶來(lái)的最為嚴(yán)重的挑戰(zhàn)，長(zhǎng)期來(lái)看將使關(guān)鍵信息基礎(chǔ)設(shè)施的安全防護(hù)體系的建設(shè)理念發(fā)生重大轉(zhuǎn)變。

2.2攻擊手段自動(dòng)化挑戰(zhàn)

隨著人工智能應(yīng)用門檻的進(jìn)一步降低，越來(lái)越多的攻擊者開(kāi)始通過(guò)人工智能技術(shù)開(kāi)發(fā)自動(dòng)化的攻擊手段或?yàn)樵械墓羰侄芜M(jìn)行智能化升級(jí)。這一點(diǎn)在勒索軟件即服務(wù)（Ransomware as-a-Service，RaaS）和組織僵尸網(wǎng)絡(luò)上體現(xiàn)得尤為明顯。越來(lái)越多的勒索軟件和僵尸病毒通過(guò)預(yù)先設(shè)定的機(jī)器人（bot）程序在網(wǎng)絡(luò)內(nèi)自動(dòng)搜索并感染設(shè)備，從而快速擴(kuò)大感染規(guī)模。攻擊者只需將惡意病毒載荷進(jìn)行一次有效投放，就可以自動(dòng)化實(shí)現(xiàn)階段性的攻擊目的。也有攻擊者為各個(gè)攻擊節(jié)點(diǎn)通過(guò)人工智能增強(qiáng)其自主性，實(shí)現(xiàn)去中心化的自動(dòng)攻擊。總的來(lái)看，攻擊手段自動(dòng)化一方面加快了攻擊成功后擴(kuò)大影響的速度，另一方面延后了攻擊暴露的時(shí)間節(jié)點(diǎn)，對(duì)關(guān)鍵信息基礎(chǔ)設(shè)施安全響應(yīng)的速度提出了更高要求。

2.3攻擊者分工專業(yè)化挑戰(zhàn)

早年的網(wǎng)絡(luò)攻擊者進(jìn)行網(wǎng)絡(luò)攻擊的目的較為多樣，以炫技、出名為主要目的的攻擊者并不在少數(shù)，往往一個(gè)人承擔(dān)了網(wǎng)絡(luò)攻擊的全部環(huán)節(jié)。隨著數(shù)字經(jīng)濟(jì)的發(fā)展，越來(lái)越多的攻擊者開(kāi)始專注于非法利潤(rùn)的獲取，對(duì)于攻擊工具更高的要求以及突破越來(lái)越多的安全防護(hù)策略使攻擊者逐漸產(chǎn)生分工。人工智能在網(wǎng)絡(luò)安全領(lǐng)域技術(shù)服務(wù)化的特點(diǎn)進(jìn)一步加速了這一進(jìn)程。網(wǎng)絡(luò)攻擊者中的研發(fā)人員可以更快地將更高級(jí)的工具封裝好提供給購(gòu)買供給服務(wù)的人，關(guān)鍵信息基礎(chǔ)設(shè)施安全則受限于產(chǎn)業(yè)中人才的缺乏等因素，無(wú)法實(shí)現(xiàn)同樣速度的防護(hù)技術(shù)更新。

３關(guān)鍵信息基礎(chǔ)設(shè)施應(yīng)對(duì)挑戰(zhàn)建議

有效應(yīng)對(duì)人工智能對(duì)全球關(guān)鍵信息基礎(chǔ)設(shè)施安全形成的挑戰(zhàn)，需要從系統(tǒng)角度全面考慮?，F(xiàn)有研究大多集中于技術(shù)層面，對(duì)人工智能帶來(lái)的全方位挑戰(zhàn)的重視度不夠。通過(guò)上文的分析，本研究認(rèn)為全球關(guān)鍵信息基礎(chǔ)設(shè)施應(yīng)對(duì)人工智能帶來(lái)的安全挑戰(zhàn)需要從構(gòu)建智能化防護(hù)體系、縮短發(fā)起響應(yīng)的時(shí)間以及培養(yǎng) AI+ 網(wǎng)絡(luò)安全人才等方面做起。

3.1構(gòu)建智能化防護(hù)體系

建設(shè)關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)體系一直是保障關(guān)鍵信息基礎(chǔ)設(shè)施安全的重要舉措。面對(duì)自動(dòng)演化的攻擊模式，需要對(duì)關(guān)鍵信息基礎(chǔ)設(shè)施的安全防護(hù)體系進(jìn)行全面的智能化改造。

除當(dāng)前已經(jīng)廣泛采用的基于人工智能的流量檢測(cè)外，關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)體系智能化還可以從以下幾個(gè)方面進(jìn)行。一是加強(qiáng)人工智能在輔助決策方面的應(yīng)用，將有限的安全運(yùn)營(yíng)人員從快速增長(zhǎng)的大量攻擊中解放出來(lái)，專注于處理真實(shí)、高等級(jí)的攻擊，提高防護(hù)效率。二是采用多元化的威脅分析算法及模型，形成現(xiàn)有防護(hù)體系的聯(lián)動(dòng)，如通過(guò)建設(shè)智能化的網(wǎng)絡(luò)安全運(yùn)營(yíng)中心，為低智能的安全設(shè)備賦能，整體提升防護(hù)體系的智能化水平。三是主動(dòng)采取生成對(duì)抗網(wǎng)絡(luò)、遺傳算法等人工智能技術(shù)對(duì)現(xiàn)有防護(hù)體系進(jìn)行測(cè)試，從而智能化地補(bǔ)充防護(hù)體系的安全策略。

3.2縮短發(fā)起響應(yīng)的時(shí)間

在網(wǎng)絡(luò)安全領(lǐng)域，包以德循環(huán)（OODA）是由 Observation（觀察）、Orientation（判斷）、Decision（決策）、Action（執(zhí)行）4 個(gè)單詞的首字母組合得名，常用于描述對(duì)從發(fā)現(xiàn)到響應(yīng)網(wǎng)絡(luò)攻擊的過(guò)程。應(yīng)對(duì)自動(dòng)化的網(wǎng)絡(luò)安全攻擊手段，關(guān)鍵是縮短 OODA 中各環(huán)節(jié)的時(shí)間。當(dāng)前較為有效的方法是大量部署基于云端數(shù)據(jù)的終端檢測(cè) 與 響 應(yīng)（Endpoint Detection and Response，EDR）系統(tǒng)并提高威脅情報(bào)的作用。

一方面，EDR 系統(tǒng)作用于網(wǎng)絡(luò)攻擊的控制、利用階段效果顯著，能夠幫助關(guān)鍵信息基礎(chǔ)設(shè)施的安全運(yùn)營(yíng)者及時(shí)發(fā)現(xiàn)存在異常行為的終端，加快發(fā)現(xiàn)已經(jīng)成功的網(wǎng)絡(luò)安全攻擊的速度。另一方面，準(zhǔn)確迅速的威脅情報(bào)能夠幫助關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)體系及時(shí)啟動(dòng)并完成有關(guān)研判，能夠大幅度提高安全策略的修改速度，縮短安全運(yùn)營(yíng)人員針對(duì)特定網(wǎng)絡(luò)安全攻擊發(fā)起響應(yīng)的時(shí)間。

3.3培養(yǎng) AI+ 網(wǎng)絡(luò)安全人才

關(guān)鍵信息基礎(chǔ)設(shè)施安全離不開(kāi)專業(yè)人才的支持。面對(duì)越來(lái)越多的封裝好的人工智能攻擊工具，需要有更多具有人工智能學(xué)科背景的研究人員進(jìn)行人工智能攻防技術(shù)的研究，從而研發(fā)出更有效的網(wǎng)絡(luò)安全防護(hù)產(chǎn)品。關(guān)鍵信息基礎(chǔ)設(shè)施運(yùn)營(yíng)者應(yīng)該積極參與 AI+ 網(wǎng)絡(luò)安全人才的培養(yǎng)，提高人才數(shù)量和質(zhì)量，加快網(wǎng)絡(luò)安全相關(guān)人工智能技術(shù)的研發(fā)和應(yīng)用，賦能關(guān)鍵信息基礎(chǔ)設(shè)施安全防護(hù)。特別是關(guān)鍵信息基礎(chǔ)設(shè)施每天面臨著數(shù)量眾多的網(wǎng)絡(luò)攻擊，運(yùn)營(yíng)者掌握著大量寶貴的真實(shí)攻擊數(shù)據(jù)，通過(guò)和研究院所、企業(yè)等人才培養(yǎng)實(shí)體的合作，這些攻擊數(shù)據(jù)可以在培養(yǎng) AI+ 網(wǎng)絡(luò)安全人才的過(guò)程中發(fā)真實(shí)場(chǎng)景構(gòu)建、威脅數(shù)據(jù)建模等作用，提高人才培養(yǎng)效率。

4結(jié)語(yǔ)

關(guān)鍵信息基礎(chǔ)設(shè)施對(duì)于全球各國(guó)的社會(huì)經(jīng)濟(jì)穩(wěn)定與發(fā)展都有著重要意義，關(guān)鍵信息基礎(chǔ)設(shè)施安全也因此受到越來(lái)越多的重視。人工智能對(duì)于當(dāng)前全球關(guān)鍵信息基礎(chǔ)設(shè)施形成的挑戰(zhàn)是普遍且深刻的。面對(duì)人工智能帶來(lái)的攻擊模式自動(dòng)演化、攻擊手段自動(dòng)化、攻擊者分工專業(yè)化等挑戰(zhàn)，需要加快構(gòu)建智能化防護(hù)體系、縮短發(fā)起響應(yīng)的時(shí)間并積極參與培養(yǎng) AI+ 網(wǎng)絡(luò)安全人才，持續(xù)保障關(guān)鍵信息基礎(chǔ)設(shè)施安全。

審核編輯 ：李倩