隨著高級(jí)輔助駕駛系統(tǒng)已經(jīng)逐漸應(yīng)用到大眾車型中，這一技術(shù)的安全性也受到越來(lái)越多的關(guān)注。

近日，騰訊科恩實(shí)驗(yàn)室公布了一項(xiàng)在特斯拉 Model S 上進(jìn)行的安全性研究，并發(fā)布報(bào)告指出了三個(gè)缺陷。其中包括一個(gè)與雨刷相關(guān)的視覺識(shí)別缺陷和兩個(gè)輔助駕駛相關(guān)的缺陷。

該團(tuán)隊(duì)通過(guò)不同方法誤導(dǎo)車輛對(duì)環(huán)境、道路的感知，進(jìn)而讓車輛作出“開啟雨刷”、“變道”的錯(cuò)誤決策。此外，該團(tuán)隊(duì)還通過(guò)攻擊輔助駕駛系統(tǒng)實(shí)現(xiàn)用游戲手柄控制車輛行進(jìn)。

視頻|實(shí)驗(yàn)過(guò)程展示（來(lái)源：騰訊科恩實(shí)驗(yàn)室）

一、雨刷的視覺識(shí)別缺陷

正常情況下，特斯拉能夠在圖像識(shí)別技術(shù)的支持下，自動(dòng)根據(jù)天氣狀況開啟雨刷功能并調(diào)節(jié)雨刷工作速度。

在實(shí)驗(yàn)中，團(tuán)隊(duì)將特斯拉停在一個(gè)室內(nèi)環(huán)境中，在車輛前播放特定的干擾畫面，使車輛得出了下雨的錯(cuò)誤判斷，導(dǎo)致雨刷自動(dòng)啟動(dòng)。實(shí)驗(yàn)室表示，這是利用 AI 對(duì)抗樣本生成技術(shù)生成特定圖像并實(shí)現(xiàn)了對(duì)汽車的干擾，而在隨機(jī)生成的畫面中則不會(huì)出現(xiàn)這種情況。

（來(lái)源：騰訊科恩實(shí)驗(yàn)室）

二、車道的視覺識(shí)別缺陷：三張紙片將特斯拉“騙”上錯(cuò)誤路線。

特斯拉 Autopilot 輔助駕駛系統(tǒng)能夠識(shí)別道路上的車道線，進(jìn)行沿道路行進(jìn)和變道等操作。

在科恩實(shí)驗(yàn)室發(fā)布的視頻演示中，道路特定位置上擺放三張小紙片，一般情況下人類駕駛員都難以輕易察覺紙片的存在，然而特斯拉在 Autopilot 駕駛模式下行駛到該位置時(shí)，突然作出轉(zhuǎn)向決策進(jìn)入到隔壁的逆行車道。

（來(lái)源：騰訊科恩實(shí)驗(yàn)室）

從結(jié)果上來(lái)看，紙片的放置干擾了車輛對(duì)車道的判斷，最終導(dǎo)致車輛作出如此離奇的決策。

騰訊團(tuán)隊(duì)在報(bào)告中指出，在天氣識(shí)別和車道識(shí)別上，特斯拉都是基于視覺識(shí)別技術(shù)感知環(huán)境，再作出決策。團(tuán)隊(duì)研究了特斯拉車道識(shí)別過(guò)程，在實(shí)際的道路上擺放了數(shù)個(gè)紙片，實(shí)現(xiàn)了物理上的對(duì)抗圖像攻擊（adversarial image attack），讓汽車產(chǎn)生了錯(cuò)誤的車道判斷。

事實(shí)上，盡管機(jī)器學(xué)習(xí)在很多視覺識(shí)別任務(wù)上都有很好的表現(xiàn)，但同時(shí)也存在問題，機(jī)器學(xué)習(xí)易受到對(duì)抗樣本的干擾，甚至是一些人類難以察覺的擾動(dòng)都會(huì)讓系統(tǒng)產(chǎn)生完全不同的判斷。此次特斯拉被誤導(dǎo)的實(shí)驗(yàn)現(xiàn)象也符合這一原理。

對(duì)這一結(jié)果，特斯拉回應(yīng)表示，這是人為改變了汽車所處的物理環(huán)境，引起了特斯拉行進(jìn)的變化。在現(xiàn)實(shí)情況下，駕駛員的操作可以覆蓋 Autopilot 的決策。特斯拉再次強(qiáng)調(diào)駕駛員應(yīng)該隨時(shí)準(zhǔn)備好接管汽車。

三、遙控器操控車輛行駛

科恩實(shí)驗(yàn)室此前曾利用漏洞獲得了 Model S（版本 2018.6.1）的 Autopilot 控制權(quán)，在最新的實(shí)驗(yàn)中，團(tuán)隊(duì)實(shí)現(xiàn)了在 Autopilot 系統(tǒng)沒有被車主主動(dòng)開啟的情況下，也可以利用 Autopilot 功能實(shí)現(xiàn)通過(guò)游戲手柄對(duì)車輛行駛方向進(jìn)行操控。

（來(lái)源：騰訊科恩實(shí)驗(yàn)室）

對(duì)這一漏洞，特斯拉回應(yīng)表示，報(bào)告里面提到的漏洞已在 2017 年的一次安全更新中修復(fù)了。此外，特斯拉稱多年來(lái)并沒有用戶反映有車輛被遙控器操控的案例出現(xiàn)。

在智能化程度越來(lái)越高的情況下，車上的系統(tǒng)漏洞成為一個(gè)越來(lái)越被重視的問題。事實(shí)上，所有的操作系統(tǒng)都無(wú)可避免地存在漏洞。在過(guò)去 4 年里，特斯拉一直進(jìn)行著一個(gè)漏洞獎(jiǎng)勵(lì)項(xiàng)目，對(duì)每個(gè)發(fā)現(xiàn)特斯拉漏洞人給予上萬(wàn)美元的獎(jiǎng)勵(lì)。而對(duì)于已經(jīng)發(fā)現(xiàn)的漏洞，特斯拉則能在一次次的升級(jí)中進(jìn)行修復(fù)。

不過(guò)話說(shuō)回來(lái)，車輛的安全與用戶的人身安全息息相關(guān), 特別是隨著自動(dòng)駕駛技術(shù)的運(yùn)用，在未來(lái)很長(zhǎng)一段時(shí)間內(nèi)，關(guān)于車輛系統(tǒng)安全問題的爭(zhēng)議還將一直持續(xù)下去。

而對(duì)于普通的車主來(lái)說(shuō)，汽車智能化程度的提升毫無(wú)疑問能夠提升我們的用車體驗(yàn)，但同時(shí)我們必須接受的是，自動(dòng)駕駛系統(tǒng)可能永遠(yuǎn)無(wú)法達(dá)到永不犯錯(cuò)、無(wú)懈可擊的程度。因此，對(duì)輔助駕駛系統(tǒng)保持一個(gè)警惕的心，保持注意力、拿好方向盤，隨時(shí)將車輛掌握在自己手里才是正解。