國家網(wǎng)絡(luò)安全宣傳周收營，同往年一樣，總有些話題格外引人議論和關(guān)注。今年，人們看到在人工智能技術(shù)的支持下，我們正在共同構(gòu)筑一個(gè)更為安全的世界。

針對(duì)這個(gè)網(wǎng)絡(luò)安全的新命題，騰訊信息安全執(zhí)行委員會(huì)主任、騰訊公司安全管理部副總經(jīng)理?xiàng)铢i表示，人工智能技術(shù)路線豐富將改善安全困境，但人工智能的本體安全決定安全應(yīng)用的發(fā)展進(jìn)程。

沒有一個(gè)國家可獨(dú)立應(yīng)對(duì)AI安全考驗(yàn)

隨著網(wǎng)絡(luò)空間安全呈現(xiàn)出智能化、隱匿性、規(guī)?；奶攸c(diǎn)，讓網(wǎng)絡(luò)空間安全的防御、檢測和響應(yīng)面臨更大的挑戰(zhàn)，網(wǎng)絡(luò)空間安全成為人工智能國際間合作的重要領(lǐng)域。

“就如一枚硬幣的兩面，人工智能既帶來好處，也帶來風(fēng)險(xiǎn)，它對(duì)國家安全的影響非常大，大到我們現(xiàn)在都無法確定?！甭?lián)合國人工智能和機(jī)器人中心主任伊萊克利。伯利茲在接受記者采訪時(shí)強(qiáng)調(diào)，人工智能為解決網(wǎng)絡(luò)安全事件、系統(tǒng)漏洞、信息保護(hù)等提供了更加高效、智慧的解決方案，但同時(shí)也容易被非法利用。

伊萊克利。伯利茲說：“面對(duì)技術(shù)規(guī)范、行業(yè)標(biāo)準(zhǔn)、法律法規(guī)尚未健全的人工智能新領(lǐng)域，為了消除不透明和分歧，避免惡意的競爭，應(yīng)對(duì)現(xiàn)階段人工智能的發(fā)展充分評(píng)估，并建立起各方參與的協(xié)同合作模式，制定統(tǒng)一的安全監(jiān)測標(biāo)準(zhǔn)、安全防范架構(gòu)、安全評(píng)估體系。沒有任何一個(gè)國家，可以獨(dú)立完成這件事?！?/p>

當(dāng)人工智能越來越多地被應(yīng)用到戰(zhàn)略決策輔助系統(tǒng)和智能軍事系統(tǒng)，基于人工智能的技術(shù)代差將對(duì)國家安全力量對(duì)比產(chǎn)生不可逆的影響，迫切需要審視人工智能對(duì)維護(hù)國家安全提出的新要求。

上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院和上海社科院互聯(lián)網(wǎng)研究中心的聯(lián)合課題組發(fā)布的《人工智能時(shí)代的國家安全：風(fēng)險(xiǎn)與治理》報(bào)告提出，應(yīng)從提升風(fēng)險(xiǎn)意識(shí)、完善治理體系、加強(qiáng)監(jiān)管能力和探求國際合作等來構(gòu)建風(fēng)險(xiǎn)分析和應(yīng)對(duì)框架，提升國家安全的韌性。

對(duì)抗還是對(duì)抗手段卻在升級(jí)

雖然安全對(duì)抗本質(zhì)上就是看誰鑄的門檻更高，但人工智能時(shí)代也讓黑客們迎來狂歡，為安全產(chǎn)業(yè)帶來顛覆性影響。

中國信息通信研究院副院長王志勤“2018世界人工智能大會(huì)·人工智能安全高端對(duì)話”上特別強(qiáng)調(diào)：“人工智能的發(fā)展要趨利避害?！?/p>

雖然越來越多的案例顯示，“智能網(wǎng)絡(luò)武器”日益威脅著網(wǎng)絡(luò)安全，但人工智能在各類安全場景中形成的多種多樣解決方案，也正加速用于網(wǎng)絡(luò)安全漏洞檢測、惡意軟件識(shí)別、不良信息智能審核、防范網(wǎng)絡(luò)犯罪等領(lǐng)域。

如中國科學(xué)院院士何積豐亦所說：“在功能安全方面，軟件測試驗(yàn)證正變得更加智能化，在信息安全方面，主動(dòng)防御體系同樣愈發(fā)智能化?！?/p>

騷擾詐騙電話和垃圾短信一直是困擾手機(jī)用戶的難題，其潛藏的詐騙風(fēng)險(xiǎn)讓用戶飽受財(cái)產(chǎn)損失之苦，而騰訊基于反欺詐 AI 模型建造能力研發(fā)的“賓果反詐騙防控系統(tǒng)”3月上線投入使用以來，全國重點(diǎn)詐騙區(qū)域詐騙號(hào)碼大幅下降接近70%，預(yù)警超過50000起，準(zhǔn)確率超過99%，覆蓋全國31個(gè)省區(qū)市，累計(jì)為民眾避免損失20億元。

中國科學(xué)院復(fù)雜系統(tǒng)管理與控制國家重點(diǎn)實(shí)驗(yàn)室主任王飛躍表示，網(wǎng)絡(luò)安全系統(tǒng)的實(shí)力，很大程度上可能并不取決于其物理本身，而是取決于與其伴生的軟件定義的人工系統(tǒng)映像。

人工智能安全防護(hù)能力首先沖擊汽車行業(yè)

大量人工智能新技術(shù)和網(wǎng)聯(lián)功能的引入，首先讓汽車行業(yè)面臨全新挑戰(zhàn)，信息安全將成為汽車行業(yè)的“國防”，汽車品牌的重要能力將向信息安全遷移。

科恩安全實(shí)驗(yàn)室是全球知名的安全研究團(tuán)隊(duì)，2016年曾通過移動(dòng)網(wǎng)絡(luò)識(shí)別、準(zhǔn)備和實(shí)施攻擊場景等技術(shù)成功發(fā)現(xiàn)特斯拉的重要漏洞，并遵循負(fù)責(zé)任的漏洞披露方式把漏洞威脅情況提交給特斯拉官方，供其完善智能防御系統(tǒng)，保障智能車輛安全。

據(jù)說，為了保證車輛的網(wǎng)絡(luò)安全，特斯拉從 Google、微軟和蘋果等公司挖來了工程師組建安全團(tuán)隊(duì)，專門做產(chǎn)品安全分析和漏洞修復(fù)等工作。

北京市政協(xié)委員陳小兵說：“特斯拉在所有車企中算是對(duì)網(wǎng)絡(luò)安全最為重視的一家，但依然被挖出了嚴(yán)重漏洞。目前很多傳統(tǒng)車企尚未組建專門的網(wǎng)絡(luò)安全團(tuán)隊(duì)，并且車載系統(tǒng)非常容易受到攻擊。”

不僅僅是智能車輛系統(tǒng)本身的安全，百度AI安全技術(shù)總監(jiān)聶科峰說：“汽車產(chǎn)業(yè)已全面進(jìn)入智能網(wǎng)聯(lián)時(shí)代，智能車機(jī)所面臨的安全挑戰(zhàn)不僅涉及用戶隱私安全、財(cái)產(chǎn)安全層面，同時(shí)延伸到人身和公共安全層面?！?/p>

騰訊科恩實(shí)驗(yàn)室總監(jiān)呂一平認(rèn)為，透明、分享和行業(yè)合作對(duì)于形成更加全面安全的互聯(lián)網(wǎng)世界至關(guān)重要，其研究目標(biāo)和成果將有助于改善許多國家數(shù)以億計(jì)的司機(jī)、乘客和行人的交通出行安全。

智能制造安全問題凸顯

在智能制造成為熱點(diǎn)話題的同時(shí)，全球大量的工業(yè)設(shè)備卻因?yàn)槿狈A(chǔ)的安全保障，正成為黑客甚至是全球不法分子攻擊的目標(biāo)。

中國電子學(xué)會(huì)副理事長兼秘書長徐曉蘭對(duì)科技日?qǐng)?bào)記者說：“智能制造是解決工業(yè)生產(chǎn)困境最重要的抓手，沒有工業(yè)互聯(lián)網(wǎng)智能制造很難取得突破性發(fā)展?！?/p>

現(xiàn)實(shí)情況卻是，工業(yè)互聯(lián)網(wǎng)領(lǐng)域的安全事件繼續(xù)呈高發(fā)狀態(tài)，2017年影子經(jīng)紀(jì)人泄露的NSA網(wǎng)絡(luò)武器庫，包含眾多工業(yè)互聯(lián)網(wǎng)系統(tǒng)漏洞，可以實(shí)現(xiàn)對(duì)設(shè)備的精確打擊。我國國家信息安全漏洞共享平臺(tái)（CNVD）統(tǒng)計(jì)結(jié)果亦顯示，2017年新增信息安全漏洞4798個(gè)，其中工控系統(tǒng)新增漏洞數(shù)351個(gè)，與2016年同期相比，新增數(shù)量幾乎翻番。

百度安全副總經(jīng)理沈鵬飛說：“物聯(lián)網(wǎng)、車聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)的興起，打破了虛擬世界與現(xiàn)實(shí)世界間的最后一道屏障，傳統(tǒng)的安全防御方案已經(jīng)無法應(yīng)對(duì)AI時(shí)代面臨的各種安全問題?！?/p>

在應(yīng)對(duì)惡意攻擊之外，工業(yè)互聯(lián)網(wǎng)自身的安全問題同樣不可忽視。

美的庫卡機(jī)器視覺AI研發(fā)總監(jiān)胡正表示，人機(jī)協(xié)作的機(jī)器人是未來的趨勢(shì)，但機(jī)器人導(dǎo)致工人死亡的事件每年都有，保證人在操作過程中不受機(jī)器人的侵害，不僅在技術(shù)層面還有很大的挑戰(zhàn)，業(yè)界對(duì)這一問題的重視程度普遍存有僥幸心理。

安全倫理不只是學(xué)術(shù)討論

人們希望看到機(jī)器變得很聰明，但也會(huì)擔(dān)心會(huì)相對(duì)變傻，這種小糾結(jié)如今雖然更多的體現(xiàn)在人工智能的學(xué)術(shù)領(lǐng)域，但業(yè)界越來越多的人為，人工智能的研發(fā)和應(yīng)用，需要優(yōu)先考慮倫理規(guī)范問題。

人工智能先驅(qū)、圖靈獎(jiǎng)得主Raj Reddy說：“從60年代到現(xiàn)在，許多人都對(duì)人工智能抱有誤解，認(rèn)為人工智能的發(fā)展會(huì)取代人類，并非如此，我們的愿景始終是希望AI能延伸人的知覺，強(qiáng)化人的能力，幫助人類更好更快地完成多樣的工作?！?/p>

但是，伊萊克利。伯利茲也說：“隨著人工智能的進(jìn)一步使用，人類20-30%的工作會(huì)被取代，雖然又會(huì)創(chuàng)造新的工作，但如何平衡人工智能和社會(huì)經(jīng)濟(jì)發(fā)展、社會(huì)發(fā)展和安全穩(wěn)定之間的關(guān)系，不讓失業(yè)問題導(dǎo)致社會(huì)安全形勢(shì)惡化，需要找到好的契合點(diǎn)，這是產(chǎn)業(yè)未來的重要使命之一?！?/p>

峰橋集團(tuán)總裁陳實(shí)認(rèn)為，各國都應(yīng)重視對(duì)人工智能安全倫理規(guī)范的思考，將技術(shù)發(fā)展與社會(huì)倫理置于相同的環(huán)境下充分思考，減小人工智能帶來的倫理沖擊，保證人工智能在全世界共同的倫理規(guī)范內(nèi)健康發(fā)展。