據(jù)外媒報(bào)道，芯片制造商英特爾被選為美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）領(lǐng)導(dǎo)的一項(xiàng)新計(jì)劃的領(lǐng)導(dǎo)者，據(jù)悉，該計(jì)劃旨在防止機(jī)器學(xué)習(xí)模型受到欺騙攻擊從而提高網(wǎng)絡(luò)防御能力。機(jī)器學(xué)習(xí)是一種人工智能，它允許系統(tǒng)隨時(shí)間的推移利用新的數(shù)據(jù)和經(jīng)驗(yàn)進(jìn)行改進(jìn)。

如今，它最常見的一個(gè)用例是對(duì)象識(shí)別。雖然欺騙攻擊現(xiàn)在還很少見，但卻可以干擾機(jī)器學(xué)習(xí)算法。在自動(dòng)駕駛汽車的情況下，對(duì)現(xiàn)實(shí)世界物體的細(xì)微改變可能會(huì)帶來災(zāi)難性的后果。

就在幾周前，McAfee的研究人員在限速標(biāo)志上加了一根兩英寸長(zhǎng)的膠帶后騙過了一輛特斯拉，最后使汽車以超出預(yù)期速度--50mph的速度加速。這項(xiàng)研究是操縱設(shè)備的機(jī)器學(xué)習(xí)算法的首批例子之一。

這也是DARPA希望發(fā)揮作用的地方。該研究機(jī)構(gòu)今年早些時(shí)候表示，他們正在開發(fā)一個(gè)名為GARD的程序，即確保人工智能對(duì)欺騙的魯棒性?，F(xiàn)有針對(duì)機(jī)器學(xué)習(xí)攻擊的緩解措施通常是基于規(guī)則和預(yù)先定義的，但DARPA希望它能將GARD開發(fā)成一個(gè)擁有更廣泛防御以應(yīng)對(duì)多種不同類型攻擊的系統(tǒng)。

英特爾實(shí)驗(yàn)室首席工程師、英特爾GARD團(tuán)隊(duì)負(fù)責(zé)人Jason Martin表示，該芯片制造商將跟佐治亞理工學(xué)院合作，從而加強(qiáng)目標(biāo)檢測(cè)、提高人工智能和機(jī)器學(xué)習(xí)應(yīng)對(duì)對(duì)抗性攻擊的能力。

英特爾表示，在該計(jì)劃的第一階段，他們的工作重點(diǎn)是加強(qiáng)其目標(biāo)檢測(cè)技術(shù)使用空間、時(shí)間和語(yǔ)義一致性的靜態(tài)圖像和視頻。

DARPA則稱，GARD將可以在許多環(huán)境中使用，比如說生物學(xué)。

DARPA信息創(chuàng)新辦公室項(xiàng)目經(jīng)理Hava Siegelmann博士指出：“我們必須確保機(jī)器學(xué)習(xí)是安全的，不會(huì)被欺騙?！?/p>