[首發(fā)于智駕最前沿微信公眾號(hào)]近年來(lái)，隨著ChatGPT、Claude、文心一言等大語(yǔ)言模型在生成文本、對(duì)話交互等領(lǐng)域的驚艷表現(xiàn)，“Transformer架構(gòu)是否正在取代傳統(tǒng)深度學(xué)習(xí)”這一話題一直被持續(xù)討論。特別是在自動(dòng)駕駛領(lǐng)域，部分廠商開(kāi)始嘗試將多模態(tài)大模型（MLLM）引入到感知、規(guī)劃與決策系統(tǒng)，引發(fā)了“傳統(tǒng)深度學(xué)習(xí)是否已過(guò)時(shí)”的激烈爭(zhēng)論。然而，從技術(shù)原理、算力成本、安全需求與實(shí)際落地路徑等維度來(lái)看，Transformer與深度學(xué)習(xí)并非你死我活的替代關(guān)系，更像是相互協(xié)作的搭檔，各自承擔(dān)著不同但關(guān)鍵的系統(tǒng)職責(zé)。

在自動(dòng)駕駛的系統(tǒng)架構(gòu)中，感知、預(yù)測(cè)、決策和控制構(gòu)成了整套智能系統(tǒng)的核心流程。感知主要依賴傳感器獲取包括車輛、行人、車道、紅綠燈等外界信息，而后續(xù)的模塊將這些信息輸入到路徑預(yù)測(cè)、行為推理、避障規(guī)劃等過(guò)程中，最終通過(guò)控制模塊發(fā)出操作指令。傳統(tǒng)的深度學(xué)習(xí)技術(shù)，尤其是卷積神經(jīng)網(wǎng)絡(luò)（CNN）、循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）以及長(zhǎng)短期記憶網(wǎng)絡(luò)（LSTM），在這些任務(wù)中長(zhǎng)期占據(jù)主導(dǎo)地位。它們擅長(zhǎng)從大規(guī)模標(biāo)注數(shù)據(jù)中學(xué)習(xí)復(fù)雜模式，尤其在圖像識(shí)別和語(yǔ)義分割任務(wù)中表現(xiàn)極其穩(wěn)定。這些能力對(duì)于自動(dòng)駕駛感知模塊來(lái)說(shuō)至關(guān)重要，因?yàn)檐囕v必須在毫秒級(jí)時(shí)間內(nèi)精確識(shí)別交通元素，做出正確判斷。

那么，Transformer及其演化版本——大語(yǔ)言模型（LLMs）是如何進(jìn)入自動(dòng)駕駛語(yǔ)境的？最早，這類模型在自然語(yǔ)言處理（NLP）中大放異彩，其核心能力是利用“注意力機(jī)制”捕捉序列中各個(gè)元素之間的全局關(guān)系，從而建立強(qiáng)大的上下文理解能力。當(dāng)這種能力擴(kuò)展到圖像、視頻、雷達(dá)點(diǎn)云等非語(yǔ)言模態(tài)時(shí)，便演化出了多模態(tài)大模型。這些模型開(kāi)始被用于分析交通情境、預(yù)測(cè)行為意圖甚至制定高層級(jí)的駕駛策略。如當(dāng)系統(tǒng)識(shí)別到一名行人正在接近斑馬線時(shí)，LLM可以結(jié)合先前的上下文，推理出行人可能即將穿越道路，從而提示系統(tǒng)減速或者繞行。

盡管LLM擁有非常強(qiáng)的表現(xiàn)，但想讓LLM完全替代傳統(tǒng)深度學(xué)習(xí)仍存在很多障礙。其一，感知模塊需要實(shí)時(shí)響應(yīng)，對(duì)延遲極為敏感，而當(dāng)前的LLM通常體積龐大，推理延遲高，難以滿足車載算力環(huán)境下的效率需求。其二，LLM存在“幻覺(jué)”問(wèn)題，即在缺乏明確指令或訓(xùn)練邊界時(shí)可能生成虛假或無(wú)效內(nèi)容。這在文本生成中也許只是語(yǔ)義錯(cuò)誤，但在自動(dòng)駕駛中則可能導(dǎo)致不可控的安全風(fēng)險(xiǎn)。其三，Transformer架構(gòu)天生是“黑盒”模型，其推理過(guò)程難以解釋，這與自動(dòng)駕駛系統(tǒng)對(duì)安全審計(jì)、責(zé)任劃分和法規(guī)合規(guī)的高度可解釋性要求存在本質(zhì)沖突。

當(dāng)前一些技術(shù)方案正在嘗試“融合式架構(gòu)”，即不再二選一，而是將Transformer與深度學(xué)習(xí)各自用于最適合的模塊中。如感知系統(tǒng)繼續(xù)由CNN主導(dǎo)，以保證高效率和高準(zhǔn)確性，而行為預(yù)測(cè)、意圖理解等推理性任務(wù)則由LLM輔助，提供更加豐富的語(yǔ)義支撐。甚至出現(xiàn)了一些具有“世界模型”能力的Transformer，可以通過(guò)對(duì)復(fù)雜交通環(huán)境的抽象建模，實(shí)現(xiàn)自我模擬、自我優(yōu)化。如小馬智行和Waymo等企業(yè)就采用了生成式AI與強(qiáng)化學(xué)習(xí)相結(jié)合的路徑，用于訓(xùn)練自動(dòng)駕駛系統(tǒng)在“長(zhǎng)尾場(chǎng)景”中的魯棒性。

小馬智行解決方案

所謂“長(zhǎng)尾場(chǎng)景”，是指那些在現(xiàn)實(shí)中極其罕見(jiàn)但又可能導(dǎo)致嚴(yán)重事故的交通情形，比如高速公路上掉落的鐵桶，或電動(dòng)車突然逆行。這類場(chǎng)景在真實(shí)數(shù)據(jù)集中幾乎不可能窮盡采集，因此生成式AI成為補(bǔ)充訓(xùn)練數(shù)據(jù)的有效手段。Transformer在此處可以發(fā)揮作用，通過(guò)構(gòu)建基礎(chǔ)世界模型，模擬出這些罕見(jiàn)事件，從而提升系統(tǒng)的泛化能力。這種方式與AlphaGo早期學(xué)習(xí)人類棋譜的模仿學(xué)習(xí)相比，更類似于AlphaZero的自我博弈訓(xùn)練邏輯，即通過(guò)模擬世界不斷優(yōu)化自身策略。

模擬能力的提升也不意味著真實(shí)感知能力可以被忽略。真實(shí)環(huán)境下的道路情況千變?nèi)f化，光線、天氣、交通設(shè)施甚至人類行為都有不可預(yù)測(cè)的變量。只有深度學(xué)習(xí)算法對(duì)真實(shí)傳感器數(shù)據(jù)的穩(wěn)定識(shí)別能力，才能確保系統(tǒng)在最底層建立可靠輸入。Transformer只能在此基礎(chǔ)上做進(jìn)一步“思考”，卻不能完全“接管”任務(wù)流程。

還有一個(gè)不能忽視的問(wèn)題是資源成本。LLMs往往依賴如GPU、TPU或?qū)Ｓ蒙窠?jīng)網(wǎng)絡(luò)加速芯片等高性能算力平臺(tái)，其部署成本極高。尤其在邊緣計(jì)算為主的自動(dòng)駕駛車輛中，車載芯片資源有限，無(wú)法支持大規(guī)模參數(shù)模型的常態(tài)運(yùn)行。相比之下，傳統(tǒng)深度學(xué)習(xí)模型經(jīng)過(guò)多年優(yōu)化，早已形成標(biāo)準(zhǔn)化的輕量級(jí)版本，能夠在嵌入式平臺(tái)上高效運(yùn)行。因此，目前主流廠商多數(shù)仍在感知和控制層面采用深度學(xué)習(xí)方案，而將Transformer用于云端或訓(xùn)練環(huán)節(jié)，作為仿真生成、行為推理等場(chǎng)景的工具。

在路徑規(guī)劃環(huán)節(jié)，Transformer也遇到實(shí)際挑戰(zhàn)。路徑規(guī)劃是一項(xiàng)要求高度實(shí)時(shí)性和高可靠性的任務(wù)，每一次決策都必須在極短時(shí)間內(nèi)完成，并具備高度確定性。大模型雖然在策略生成和規(guī)則制定上具備潛力，但在執(zhí)行效率和可控性方面仍難與傳統(tǒng)A*、RRT、BEV-basedlearning等路徑規(guī)劃算法媲美。此外，大模型輸出的隨機(jī)性與路徑規(guī)劃任務(wù)的確定性形成天然沖突，一旦規(guī)劃路徑不確定或出現(xiàn)偏差，將嚴(yán)重影響行車安全。

從系統(tǒng)架構(gòu)的演進(jìn)趨勢(shì)來(lái)看，自動(dòng)駕駛行業(yè)正逐步走向“多模態(tài)+分工協(xié)作”模式。感知、控制、導(dǎo)航等模塊保持使用穩(wěn)定可靠的深度學(xué)習(xí)體系，而認(rèn)知層、交互層則可逐步引入LLMs，提升整車系統(tǒng)的理解力和推理能力。如自動(dòng)駕駛車輛在接近施工區(qū)域時(shí)，傳統(tǒng)模型只能識(shí)別出前方有障礙物，而LLMs能夠通過(guò)“語(yǔ)義理解”判斷出這些障礙可能是臨時(shí)的，進(jìn)而優(yōu)化繞行路徑。未來(lái)還可探索將自然語(yǔ)言與車輛交互融合，如讓乘客以語(yǔ)音方式發(fā)出“去最近的加油站”或“我想避開(kāi)高速”之類指令，由大模型解析后生成交通行為策略。

但這些探索尚處于試驗(yàn)與驗(yàn)證階段。監(jiān)管機(jī)構(gòu)對(duì)自動(dòng)駕駛系統(tǒng)的“黑盒性”極為謹(jǐn)慎。Transformer模型在文本生成中出現(xiàn)的不穩(wěn)定性一旦遷移至交通系統(tǒng)，可能導(dǎo)致災(zāi)難性后果。因此，目前的大模型更可能作為“增強(qiáng)模塊”參與系統(tǒng)設(shè)計(jì)，而非完全替代深度學(xué)習(xí)基礎(chǔ)架構(gòu)。

從整個(gè)行業(yè)來(lái)看，判斷Transformer是否取代深度學(xué)習(xí)，關(guān)鍵不在于技術(shù)路線之爭(zhēng)，而在于適用性與安全性。在大語(yǔ)言模型快速發(fā)展的背景下，我們應(yīng)當(dāng)看到其在認(rèn)知理解、行為建模與復(fù)雜推理上的巨大潛力，但也必須正視其高算力需求、不確定性輸出和缺乏可解釋性的現(xiàn)實(shí)挑戰(zhàn)。在自動(dòng)駕駛這樣的“物理AI”場(chǎng)景中，任何一個(gè)系統(tǒng)模塊的失誤都可能帶來(lái)生命安全風(fēng)險(xiǎn)，因此技術(shù)的引入必須謹(jǐn)慎。

簡(jiǎn)而言之，Transformer與深度學(xué)習(xí)之間并非此消彼長(zhǎng)的替代關(guān)系，而是互補(bǔ)與融合的發(fā)展格局。它們?cè)诓煌瑢蛹?jí)承擔(dān)各自最擅長(zhǎng)的任務(wù)，共同構(gòu)建更加智能、安全與高效的自動(dòng)駕駛系統(tǒng)。未來(lái)，隨著技術(shù)演進(jìn)與芯片平臺(tái)優(yōu)化，或許會(huì)出現(xiàn)更加輕量化、可解釋且穩(wěn)定的Transformer模型，從而進(jìn)一步拓寬其在自動(dòng)駕駛系統(tǒng)中的角色，但在此之前，深度學(xué)習(xí)仍將在底層穩(wěn)定運(yùn)行，筑牢智能出行的安全基礎(chǔ)。

審核編輯 黃宇