這其實是一個老生常談的問題，這似乎也是一個奇怪的現(xiàn)象。在近幾年中，自動駕駛的熱度一直居于高位，每每輿論提及自動駕駛便似一場狂歡，不僅能幫助減少交通事故，也能夠構(gòu)建未來高科技文明，似乎自動駕駛帶來的就是“歌舞升平，祥和盛世”。然而，一旦自動駕駛引發(fā)事故時，質(zhì)疑批評之聲猶如排山倒海而來，似乎又從一個極端走向了另一個極端。

自動駕駛汽車究竟是更安全還是更危險？有觀點認為不安全就是耍流氓，也有聲音認為新技術(shù)帶來新問題很正常，況且由人引發(fā)的交通事故更是高居不下。那么，當我們在談自動駕駛汽車安全時究竟該如何看待呢？

● “安全”是復雜的系統(tǒng)工程歷經(jīng)百年的發(fā)展，傳統(tǒng)汽車工業(yè)其實已經(jīng)非常成熟，形成了非常嚴格的開發(fā)體系。隨著汽車的不斷發(fā)展，“安全”的標準也日益嚴苛，這其中很大程度是由于汽車“智能化”所引起的。

對于傳統(tǒng)汽車來說，一輛汽車在研發(fā)、制造、使用等各個環(huán)節(jié)都會經(jīng)過了一系列的安全測試，其安全標準也是非常完善的。一輛不怎么“智能”的汽車要確保安全是相對比較容易的，只要保證機械層面的可靠性和穩(wěn)定性就基本能保證安全。

但隨著汽車電子/電氣系統(tǒng)的數(shù)量不斷增加，安全挑戰(zhàn)就變得越來越大，因為“帶電的多少都有點智能”。有的豪華轎車上一般都有幾十個甚至上百個ECU(電子控制單元)，其中制動系統(tǒng)、發(fā)動機控制系統(tǒng)、氣囊系統(tǒng)等等都是與安全相關(guān)的系統(tǒng)。

那么對于汽車開發(fā)者來說，首先這些系統(tǒng)肯定是不能出現(xiàn)故障，但一旦系統(tǒng)出現(xiàn)故障時必須要讓汽車能夠保證安全駕駛，這便是汽車的“功能安全”。

目前，行業(yè)內(nèi)普遍認可的就是道路車輛功能安全標準ISO 26262(ASIL有四個等級，分別為A、B、C、D，A是最低的等級，D是最高的等級)。這套標準體系于2011年推出，其目的就是為了滿足汽車電子/電氣系統(tǒng)的數(shù)量不斷增加的情況下的功能安全設計。

與傳統(tǒng)汽車相比，自動駕駛汽車系統(tǒng)更加復雜，無論在感知還是決策規(guī)劃等層面都發(fā)生了質(zhì)的改變，這也使自動駕駛汽車面臨著新的安全挑戰(zhàn)。因此，自動駕駛汽車已經(jīng)超越了傳統(tǒng)汽車所遵循的ISO 26262的功能安全標準的范疇，還包括了其他安全概念，比如信息安全等。

中國軟件評測中心智能網(wǎng)聯(lián)汽車測試實驗室專家認為，自動駕駛汽車安全其實至少有三個層面：駕駛行為安全、功能安全和信息安全。這三個層面都有所重疊，但也各有所側(cè)重。駕駛行為安全，主要是自動駕駛的能力能否滿足駕駛?cè)蝿盏男枨?，尤其是在危險條件下；功能安全，側(cè)重于系統(tǒng)隨機故障下能不能保障應有的駕駛能力；信息安全，則是系統(tǒng)是否能夠不受外界入侵的影響。

從企業(yè)的角度來看，也構(gòu)建起了相對完善的安全標準體系。例如，Waymo的自動駕駛安全計劃就覆蓋了5個安全領(lǐng)域。行為安全，同人類駕駛員一樣，要遵守交規(guī)；功能安全，系統(tǒng)故障時要確保安全運行；碰撞安全，發(fā)生碰撞時要保護乘客安全；運營安全，乘客與車輛交互時，要確保乘客安全舒適的體驗；非碰撞安全，物理角度的人車交互，比如電氣系統(tǒng)和傳感器不能對人造成危害。

● 自動駕駛汽車的安全威脅

就自動駕駛來說，不同的對象對于安全也有著不同的理解。比如，在電氣工程師眼里，自動駕駛汽車安全就是“功能安全”，出故障了怎么讓車還能安全駕駛；在“程序猿”眼里，安全就是怎么讓汽車跟黑客博弈；對于普通用戶來說，安全就顯得更加直白，就是什么事都不能有。

就當下而言，最受關(guān)注的其實還是自動駕駛汽車的“功能安全”。禾多科技創(chuàng)始人兼CEO倪凱認為，“對于自動駕駛而言，最重要的是‘功能安全’，信息安全雖然與自動駕駛相關(guān)，但不只針對自動駕駛?！?/p>

道路車輛功能安全標準ISO 26262主要是針對系統(tǒng)故障/失效所導致的問題，但對于自動駕駛來說即使系統(tǒng)不出現(xiàn)故障，也會因為環(huán)境因素(包括其他車輛出現(xiàn)意外)等不確定性而帶來新的安全問題。這就涉及到新的安全標準的規(guī)范——預期功能安全(Safety of the intended function)，主要針對非系統(tǒng)故障原因帶來的安全問題，補足了ISO 26262所覆蓋不到的部分。

那么從預期功能安全角度來看，自動駕駛系統(tǒng)的局限性主要來自三個方面：感知層，如對場景環(huán)境不能做出正確響應；決策層，如算法邏輯不合理，做出錯誤決策等；執(zhí)行層，不能根據(jù)決策正確執(zhí)行或有效執(zhí)行。

執(zhí)行層其實是主機廠和Tier1的專長，比如在底盤制動控制方面，博世就推出“iBooster+ESP”的冗余設計方案，以提升安全性。目前，自動駕駛系統(tǒng)的主要安全挑戰(zhàn)在感知層和決策層。

『博世iBooster』

在感知層，目前被廣泛關(guān)注的就是天氣變化、光照因素給攝像頭、雷達、激光雷達等傳感器帶來的挑戰(zhàn)。這方面也需要通過技術(shù)升級不斷彌補，例如大陸集團、博世等都在研發(fā)全新一代的激光雷達等產(chǎn)品。

中科慧眼創(chuàng)始人、副總經(jīng)理崔峰也認為環(huán)境感知是影響當前自動駕駛汽車安全的主要因素之一，“環(huán)境感知方面，傳感器性能受材質(zhì)、結(jié)構(gòu)、加工工藝等多方面影響。就國內(nèi)發(fā)展情況來說，這又與中國的材料、光學能力等基礎學科實力有關(guān)。同時也與工業(yè)水平有關(guān)，尤其是高精尖的傳感器。”

但從另一個角度來說，自動駕駛成本又是企業(yè)所考量的重要因素，并不是所有的解決方案都會采取高精尖的設備，因此這也是帶來安全隱患的因素。激光雷達公司禾賽科技CEO李一帆就曾提到，“一切試圖走捷徑的、‘人肉小白鼠眾包’式的低成本傳感器方案都是無稽之談，是犯罪！”

除了感知層以外，與安全有重大關(guān)系的就是決策層，目前的AI水平顯然是有明顯不足的，訓練算法的程度不夠，不能完全覆蓋所有場景和突發(fā)意外。自動駕駛汽車需要海量的測試，2016年美國智庫蘭德公司曾給出一個數(shù)字：路測里程需達到110億英里。大量的路測試驗以及后期分類標定、數(shù)據(jù)處理等方面尚存許多不確定因素。

當前，人與AI的區(qū)別在于人有很強的遷移學習能力，對未遇到過的交通場景也能自如應對，這也是AI需要著重研究的方向。但AI還有個問題在于神經(jīng)網(wǎng)絡的“黑盒”，給其輸入數(shù)據(jù)得出輸出結(jié)果的過程并不能被解釋，也就是說AI給出決策的過程并不透明，無法debug(排除故障)也導致了自動駕駛汽車的不可控性。不過，這一方面也有了一些突破，英偉達曾聲稱打開了“黑盒”。

當埃航的事故發(fā)生時，外界普遍關(guān)心的是自動駕駛空難是否會在自動駕駛汽車上重演。這其實涉及的是自動駕駛系統(tǒng)的仲裁邏輯問題，在傳感器失效后出現(xiàn)了人和電腦爭奪機器控制權(quán)的矛盾。

禾多科技創(chuàng)始人兼CEO倪凱認為這種安全事故并不會在自動駕駛汽車上發(fā)生，“在汽車行業(yè)，無論是輔助駕駛還是自動駕駛的普遍邏輯都是，一旦人工接管后，人類基本就擁有了對汽車的絕對控制權(quán)(車輛底盤的底層執(zhí)行器仍然有部分ECU起作用，但不涉及到駕駛行為層面)。換句話說，汽車的自動駕駛領(lǐng)域中，人類司機的控制權(quán)是優(yōu)先于系統(tǒng)的，因此不會出現(xiàn)埃航事故中人類駕駛員和電腦競爭控制權(quán)的情況。雖然說L4和L5具備不需要人干預的能力，但不是說人沒有干預權(quán)?！?/p>

● 沒有“絕對”的安全，只有“相對”的安全

“安全”始終是自動駕駛汽車走向商業(yè)化之前必須邁過的門檻，于用戶而言最關(guān)心的問題可能是，當前自動駕駛汽車事故頻頻發(fā)生，安全究竟何時才能得到解決呢？

『麥肯錫2018年自動駕駛調(diào)研報告』麥肯錫曾針對出行領(lǐng)域的專家進行過一項調(diào)研，在2018年所發(fā)布的一份自動駕駛調(diào)研報告中顯示，安全性和可靠性是推廣自動駕駛的另一大瓶頸。30%的調(diào)研對象認為2025年左右可能解決安全問題，而33%的人認為可能在2025-2029年之間，另外36%的調(diào)研對象認為可能要到2030年之后。可以看出，基于專家的觀點，從大概率上來說自動駕駛安全問題基本上在2025-2030年這個節(jié)點上能夠得到解決。

另外，自動駕駛并不會因為出現(xiàn)幾次事故就停止前進的步伐，技術(shù)成熟本身就不是一蹴而就的。倪凱認為，“并不只是機器，人類的駕駛行為也面臨著同樣的問題。例如，在極端的情況下(汽車部件完全失效)，不管是自動駕駛還是人類駕駛其實都處于不安全的境地。因此，要正視安全的相對性，在研發(fā)自動駕駛系統(tǒng)時，要確保即使面對汽車某些部分的失效，自動駕駛也能夠穩(wěn)定、可靠、安全地解決?！?/p>

但從另一個角度來說，用戶所面臨的安全威脅并不是完全指望通過技術(shù)去解決。當前主流車型搭載的依然是L2及以下的輔助駕駛系統(tǒng)，人依然具有絕對掌控權(quán)。而自奧迪A8率先搭載L3級自動駕駛技術(shù)以來，寶馬、吉利、廣汽等車企都計劃于2020年前后實現(xiàn)L3量產(chǎn)。雖然L3相對L2是質(zhì)的改變，但在L3級自動駕駛技術(shù)下，用戶依然要保持對機器的監(jiān)管，這個級別的自動駕駛安不安全的問題更大程度上是人的駕駛行為是否“安全”。與此同時，也許有用戶疑惑，自動駕駛盛行是否會給普通路人帶來安全隱患？就當前而言，高階的自動駕駛測試基本在封閉測試場地進行，自然不存在對用戶的安全威脅，而量產(chǎn)自動駕駛技術(shù)上路也依賴于道路安全規(guī)范的完善程度，基于嚴苛的制度要求而走上商業(yè)化。

其實，在許多領(lǐng)域，安全本身就是一個專門的專業(yè)，沒有絕對的安全，只有相對的安全。在不同的發(fā)展階段，對安全也有著不同的理解和要求，基于該階段下的技術(shù)，在合理的范圍內(nèi)應最大化地做到一定場景內(nèi)的安全。安全也是沒有極限的，而不僅僅是依靠技術(shù)手段，是需要持續(xù)演進的一個過程。一味的鼓吹或潑冷水是不理性的，但將安全讓位于利益的行為更不可取。全文總結(jié)：

當初，泰坦尼克的悲劇讓世人震驚，被稱為“永不沉沒”的巨輪在處女航中便“永不再來”。然而，事后有研究人員發(fā)現(xiàn)，泰坦尼克事件卻是“瑞士奶酪”情景的一個經(jīng)典案例(在幾片瑞士奶酪中，每一塊奶酪中的孔都代表著可能出錯的東西，把它們堆積在一起，通過排列的孔就形成一條危險的道路)。對于汽車來說也是如此，安全是一個寬泛的概念，而不僅僅局限在技術(shù)或者人為的單方面因素。同時，安全永遠是第一優(yōu)先級，不管你在不在乎，“安全”就在那里。