騙過(guò)人工智能的“眼睛”已經(jīng)不再是一件難事。

今年美國(guó)東北大學(xué)和麻省理工大學(xué)等大學(xué)和研究機(jī)構(gòu)做了一項(xiàng)創(chuàng)新實(shí)驗(yàn)，共同研制出了基于“對(duì)抗樣本”的T恤衫，對(duì)抗樣本是指一種由攻擊者精心設(shè)計(jì)的特殊樣本，科研人員就對(duì)T恤上的原圖案進(jìn)行了修改，通過(guò)了一定的技術(shù)手段將圖案生成了有較強(qiáng)干擾性的圖案，以此來(lái)改變T恤的視覺(jué)效果，導(dǎo)致AI人體檢測(cè)攝像頭無(wú)法準(zhǔn)確地檢測(cè)出穿著該T恤的行人。

類似的技術(shù)戲法如今已被廣泛應(yīng)用，黑客可以通過(guò)一副“對(duì)抗樣本”眼鏡輕松實(shí)現(xiàn)身份偽裝，破解手機(jī)面部解鎖，或是偽裝成他人完成銀行和政務(wù)系統(tǒng)的身份認(rèn)證，甚至打開(kāi)人臉識(shí)別門(mén)鎖，竊取財(cái)產(chǎn)。

提升AI能力需要最大限度的挖掘數(shù)據(jù)價(jià)值，但是在金融、醫(yī)療、公共安全等場(chǎng)景的AI應(yīng)用中，需要用到的數(shù)據(jù)往往涉及個(gè)人隱私信息，這些攻擊行為都給AI落地帶來(lái)了巨大的挑戰(zhàn)。

在近日舉辦的2020第三代人工智能產(chǎn)業(yè)論壇上，中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院院長(zhǎng)張鈸指出，現(xiàn)在很多人工智能公司估值很高，但是營(yíng)收很少，問(wèn)題在于沒(méi)有解決算法和數(shù)據(jù)的不安全性，造成深入到更多高價(jià)值的場(chǎng)景速度較慢?！捌髽I(yè)要做大做強(qiáng)，必須解決安全和魯棒（穩(wěn)定強(qiáng)?。┑膯?wèn)題?！?/p>

論壇上，依托于清華大學(xué)人工智能研究院孵化設(shè)立的瑞萊智慧RealAI發(fā)布了旗下兩款最新AI產(chǎn)品隱私保護(hù)機(jī)器學(xué)習(xí)平臺(tái)RealSecure和人工智能安全平臺(tái)RealSafe2.0 版本。其中RealSafe可以理解為是針對(duì)AI算法的殺毒軟件和防火墻，2.0 版本新增了對(duì)抗樣本檢測(cè)方法、對(duì)抗訓(xùn)練等解決方案。據(jù)了解，目前，RealSafe已在工信部重大建設(shè)項(xiàng)目以及某電網(wǎng)公司落地應(yīng)用。

瑞萊智慧RealAI CEO田天對(duì)AI財(cái)經(jīng)社說(shuō)，在行業(yè)里，如果無(wú)法保障AI安全，很多業(yè)務(wù)場(chǎng)景根本沒(méi)辦法開(kāi)展。比如金融行業(yè)的一些解決方案要求補(bǔ)充數(shù)據(jù)，這個(gè)時(shí)候就涉及到數(shù)據(jù)安全隱私保護(hù)，要通過(guò)隱私網(wǎng)絡(luò)機(jī)器學(xué)習(xí)平臺(tái)，在合規(guī)前提下才能把銀行內(nèi)部的數(shù)據(jù)和外部打通，只有這樣才能打破數(shù)據(jù)孤島，支持上層的AI用戶得到更多的數(shù)據(jù)，進(jìn)而更形成更好的系統(tǒng)?！氨Ｕ螦I安全不只是錦上添花，實(shí)際上是在解決一些根本性的問(wèn)題，讓更多的創(chuàng)新應(yīng)用場(chǎng)景成為可能?！?/p>

他還提到，現(xiàn)在很多刷臉支付的廠商對(duì)于人工智能的安全問(wèn)題都非常重視，因?yàn)樽约簺](méi)有辦法研發(fā)，都在尋找一些類似AI防火墻的產(chǎn)品，這塊的商業(yè)需求已經(jīng)非常強(qiáng)烈。

田天說(shuō)，雖然阿里、Facebook等公司也在關(guān)注這個(gè)領(lǐng)域，但主要是偏實(shí)驗(yàn)室檢測(cè)和技術(shù)工具。整體來(lái)看，AI安全在市場(chǎng)上還是一條比較新的賽道，公司在包括貝葉斯深度學(xué)習(xí)、可解釋機(jī)器學(xué)習(xí)、AI對(duì)抗攻防等第三代AI核心技術(shù)方面有一定的積累，產(chǎn)品相比起來(lái)是一個(gè)面向企業(yè)級(jí)更加商業(yè)化的技術(shù)平臺(tái)。
責(zé)任編輯：YYX