自動駕駛的不斷發(fā)展，也加大了我們對未來的擔(dān)憂和倫理探討。畢竟在高速行駛的汽車上，一旦面對最糟糕的結(jié)果選擇，人類并不信任機器能做出合適的判斷。

7月初，李彥宏在百度AI開發(fā)者大會上實現(xiàn)了“吹過的牛B”，L4級自動駕駛商用車阿波龍的商業(yè)化量產(chǎn)，成為自動駕駛領(lǐng)域最新的重磅新聞。

同時發(fā)布的還有AI芯片“昆侖”，李彥宏也對“昆侖”不惜溢美之詞，聲稱其能在100W的功耗上實現(xiàn)260Tops性能?？梢灶A(yù)見，無論被視為一套系統(tǒng)的自動駕駛技術(shù)，還是其中作為“駕駛員”這個關(guān)鍵決策角色的AI技術(shù)，將以超出公眾想象的速度快速迭代進(jìn)化。

但也引起更多對未來的擔(dān)憂和倫理探討。畢竟在高速行駛的汽車上，一旦面對最糟糕的結(jié)果選擇，人類并不信任機器能做出合適的判斷。

推理至上與快速迭代

眾所周知，L4級被視為自動駕駛的一個關(guān)鍵節(jié)點，AI全面接管駕駛工作，人類對駕駛行為的干預(yù)不再是必須而實時的。

昆侖芯片在自動駕駛場景中，最重要的工作就是根據(jù)傳感器數(shù)據(jù)，滿足訓(xùn)練和推斷的需求，根據(jù)路況不斷預(yù)測未來0.1-10秒的路面局勢變化，這是高等級自動駕駛獨特的能力。

換言之，只有經(jīng)過訓(xùn)練的強AI才能獨立處理未知局勢。

例如谷歌的AlphaGo，在CPU之外采用了用于評估局面的4TPU。實際上是卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用。它的分支有兩個：價值和策略。不必每一步都窮舉到最后，它就能推斷每一步的價值和對最終獲勝的影響。

按照谷歌首席工程師的說法，在任何一步，AlphaGo都會準(zhǔn)確預(yù)測如何能贏。

這不是在跳大神，而是自我監(jiān)督下的AI展現(xiàn)出強大的推理和預(yù)測能力。如果采用云端算法，很可能實現(xiàn)強AI。

現(xiàn)在的AlphaGo，已經(jīng)沒有任何一個活著的人類可以匹敵了。它擁有40層神經(jīng)網(wǎng)絡(luò)和“足夠視野的前瞻性”，能夠看到未來的危險和價值，并采取最優(yōu)策略。

盡管因為應(yīng)用場景只局限于園區(qū)等固定區(qū)域，阿波龍的L4級自動駕駛?cè)杂袪幾h，但在開放道路上的L4級自動駕駛，強化AI是其中最可能的途徑。它可以避免優(yōu)步在今年早些時候、在鳳凰城路測發(fā)生的悲劇。

此前，在量產(chǎn)車上搭載的行車電腦ECU可以做之前人類才能做的事。在它的指揮下，自動變速箱輕松換擋。在高速行駛中遇到變道行駛或側(cè)風(fēng)、路面傾斜等外部干擾時，駕駛?cè)丝梢宰匀绮倏v方向。低速轉(zhuǎn)彎時前后輪轉(zhuǎn)動方向相反，可以輕松通過以前需要多次轉(zhuǎn)彎才能通過的小彎。

如何滿足不知滿足的人類呢？AI需要超越現(xiàn)有人類認(rèn)知水平和能力，如同圍棋比賽中那樣，被驚倒的人們自然將王冠奉上，并日益依賴更聰明的AI。

通用AI的再進(jìn)化

如果計算機有情感，它會發(fā)現(xiàn)人類的推理能力實在是弱爆了。邏輯的層級和旁路拓展多到一定地步，人類就無法記住眾多的信息和它們彼此的關(guān)聯(lián)，更別提放在一起分析了。

但人類也有AI無法企及的地方，人類的直覺值得肅然起敬，并善于將復(fù)雜問題簡化，然后用直觀判斷的方式直趨答案。隱藏的信息是否足以支持做出精準(zhǔn)的判斷？雖然不總是正確，但這樣耗費的時間和精力都是可接受的。我們放棄了一些表象，捕捉隱含信息（學(xué)術(shù)上稱為“次表征”），從而追求更快地解決問題。

人們期待計算機的“思考”方式能夠模擬大腦結(jié)構(gòu)。但是，無論谷歌的TPU，還是百度的昆侖，都只能針對限定輸入給出結(jié)論。

如果圍棋的棋盤變成20×19，人類棋手穩(wěn)贏，而AlphaGo則可能不知所措。如果道路標(biāo)線模糊不清，AI可能選擇讓汽車停下來，而人類駕駛員則可以大致“循跡”行駛，基本不受影響。

那么如何讓計算機看起來不那么蠢呢？

這樣的AI必然立足于“機器學(xué)習(xí)”。本地算法無法涵蓋所有路況，設(shè)計者必須賦予無人駕駛系統(tǒng)一定的自主權(quán)，避免在特殊路況下該系統(tǒng)不知所措。和人類一樣，計算機仍然要先搜集大量數(shù)據(jù)樣本，也就是各種路況下的駕駛行為，就像人類也需要反復(fù)練習(xí)駕駛技能，鍛煉預(yù)見性和形成固定的肌肉記憶。

機器學(xué)習(xí)，實際上是將人類學(xué)習(xí)過程“外化”。選擇合適的模型，讓模型學(xué)習(xí)樣本，從而找出數(shù)據(jù)的內(nèi)在規(guī)律，從而形成對未知路況的“經(jīng)驗”。

面對復(fù)雜外界條件，AI仍然需要基本的預(yù)設(shè)應(yīng)對策略。在人類無法厘清復(fù)雜的因果關(guān)系時，不需要也無法為AI設(shè)立先決條件和成熟策略。事實證明，機器學(xué)習(xí)，更善于從海量數(shù)據(jù)中抽象出若干有價值的因素，同時確定因素之間的相關(guān)性。從而確立應(yīng)對策略。

比如，在城市快速路上行駛的駕駛員，主觀上對突然出現(xiàn)的行人缺乏預(yù)期，因為法律上禁止行人穿行。AI也同樣很難從樣本中學(xué)到，如何在封閉道路上應(yīng)對突然出現(xiàn)的障礙。

這也就是“逾規(guī)則”狀態(tài)下的應(yīng)對能力。理論上，自動駕駛系統(tǒng)的傳感器（比如激光雷達(dá)）可以比人類駕駛員更早地發(fā)現(xiàn)違規(guī)行人，即環(huán)境感知。

假設(shè)行人采取不明智的做法，如加速奔跑、快速從車前穿行等。人類駕駛員如果發(fā)現(xiàn)剎車距離不夠，將面臨兩難，如果直接將剎車踩到底，有很大概率發(fā)生碰撞；如果一邊變線一邊剎車，很可能與同向車輛發(fā)生碰撞，引發(fā)更嚴(yán)重的事故。而觀察相鄰車道的情況則導(dǎo)致更多的時間延遲，這種情況下，人類很難做出最佳選擇。

AI系統(tǒng)則會對行人行為模式建立模型，根據(jù)其肢體動作，預(yù)估其下一步的位置，同時收集相鄰車道和交通標(biāo)志線信息。在20ms內(nèi)計算出，多少轉(zhuǎn)向力度和剎車力，才能保證自身安全和避免碰撞，即決策協(xié)同。

最后的動作，則驅(qū)動車輛完全實現(xiàn)此前的計算，即控制執(zhí)行。

其中的核心在于預(yù)估對方的行為。只有“強AI”才有可能做到這一點。賦權(quán)不夠或者學(xué)習(xí)能力不足的本地計算機，將無法勝任。這也是未來的無人駕駛系統(tǒng)必然是“強AI”的原因，雖然這個概念備受爭議。

未知導(dǎo)致恐懼

但由此帶來的問題是，在汽車自動駕駛這個關(guān)于人類生命安全的應(yīng)用場景中，如果交通網(wǎng)絡(luò)完全由無人駕駛車輛組成，AI本身將形成另一套交通規(guī)則，無須而且排斥人類的參與。

這樣的強AI應(yīng)用場景一旦實現(xiàn)，人類將陷入更深的擔(dān)憂。因為其強大的學(xué)習(xí)能力，自我進(jìn)化速度極快，很可能產(chǎn)生自我意識，不愿意被人類束縛。而人類對其思維和執(zhí)行缺乏預(yù)見，一旦失控，相比于人類駕駛的場景，后果更加是災(zāi)難性的。

無知導(dǎo)致恐懼，即便可以執(zhí)行完全無害的任務(wù)，也會因為不可預(yù)知性而讓人類害怕。因為強AI的決策過程，基本上是個“黑盒子”。

馬斯克和今年去世的霍金都曾發(fā)出嚴(yán)厲警告，強AI實現(xiàn)之日，被稱為“奇點”，可能會導(dǎo)致凱文·凱利所稱的“失控”。這也是被視為科學(xué)前瞻的科幻小說中，幾乎永遠(yuǎn)對人工智能表達(dá)出憂患意識甚至末日情緒的根本來源。

但在現(xiàn)實中，面對AI可能的自我意識覺醒，拉里·佩奇表示并不擔(dān)心，他認(rèn)為AI的善惡取決于創(chuàng)造者，眼下的科技公司們?nèi)匀黄毡橹铝τ谠鰪娦虯I的研究。

毫無疑問，自動駕駛的終極解決方案是強AI，但有遠(yuǎn)見的學(xué)者都對此表示強烈的擔(dān)憂。這是否意味著我們應(yīng)該在此之前“踩剎車”或者另辟蹊徑？一條風(fēng)景極佳的道路盡頭是否深淵？

最糟糕的預(yù)期，很可能來自我們恐懼的源頭——人類從未面對過比自己更聰明的實體。

從上帝視角來看，我們是否正不遺余力地奔向懸崖？強AI能解決自動駕駛場景的誘惑，讓我們無暇顧忌可怕的后果。實在不行，拔掉電源插頭總可以吧？