當(dāng)前,人工智能技術(shù)已經(jīng)被應(yīng)用于監(jiān)控?cái)z像頭中,出現(xiàn)在交通、安防、零售、社區(qū)等多個場景。而對抗性樣本有可能欺騙神經(jīng)網(wǎng)絡(luò),導(dǎo)致其產(chǎn)生錯誤的輸出。
近日,來自比利時魯汶大學(xué)的研究人員,在預(yù)印本平臺(arXiv.org)上分享的一篇論文中,研究人員展示了簡單的印刷圖案如何能夠欺騙一個用來識別圖像中人物的人工智能系統(tǒng)。
研究人員打印出特別設(shè)計(jì)的彩色圖片并掛在脖子上,從人工智能的角度來看,這可能相當(dāng)于“隱形斗篷”,也就是說,人工智能檢測不出右邊的人。
正如研究人員寫道:“我們相信,如果我們將這項(xiàng)技術(shù)與復(fù)雜的服裝模擬技術(shù)相結(jié)合,就可以設(shè)計(jì)出一種T恤印花,它可以讓一個人在自動監(jiān)控?cái)z像頭下幾乎隱形。”
這可能看起來很奇怪,但實(shí)際上是人工智能世界中一個眾所周知的現(xiàn)象。這些類型的模式被稱為對抗性樣本,它們利用計(jì)算機(jī)視覺系統(tǒng)的缺陷來誘騙它們看到不存在的東西。
在過去,對抗性樣本被用來欺騙面部識別系統(tǒng)。許多研究人員警告說,對抗性的例子具有潛在的危險性。例如,它們可以用來欺騙自動駕駛汽車,將停車標(biāo)志當(dāng)成路燈柱,或者它們可以欺騙旨在識別疾病的醫(yī)學(xué)人工智能視覺系統(tǒng),這可能是為了醫(yī)療欺詐,甚至是故意造成傷害。
如何對對抗性樣本進(jìn)行有效的防御是很多學(xué)者的重要研究課題。不過,到目前為止,研究人員尚未找到針對對抗樣本的最佳防御策略,希望在不久之后,該研究領(lǐng)域會出現(xiàn)突破性的進(jìn)展。
-
人工智能
+關(guān)注
關(guān)注
1811文章
49507瀏覽量
258432
發(fā)布評論請先 登錄
人工智能工程師高頻面試題匯總:循環(huán)神經(jīng)網(wǎng)絡(luò)篇(題目+答案)

液態(tài)神經(jīng)網(wǎng)絡(luò)(LNN):時間連續(xù)性與動態(tài)適應(yīng)性的神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)的并行計(jì)算與加速技術(shù)

利用超微型 Neuton ML 模型解鎖 SoC 邊緣人工智能
開售RK3576 高性能人工智能主板
BP神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)的比較
BP神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)的關(guān)系
如何訓(xùn)練BP神經(jīng)網(wǎng)絡(luò)模型
人工神經(jīng)網(wǎng)絡(luò)的原理和多種神經(jīng)網(wǎng)絡(luò)架構(gòu)方法

卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的比較
RNN模型與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的區(qū)別
嵌入式和人工智能究竟是什么關(guān)系?
LSTM神經(jīng)網(wǎng)絡(luò)在語音識別中的應(yīng)用實(shí)例
Moku人工神經(jīng)網(wǎng)絡(luò)101

評論