在汽車行業(yè)，從智能座艙到智能駕駛，AI正成為SDV的「大腦」，賦予車輛前所未有的智慧與能力。誠邁科技和智達誠遠打造的端側(cè)AI操作系統(tǒng)ArraymoAIOS，現(xiàn)已成功與DeepSeek融合，并適配NVIDIA Orin、Qualcomm SA8295P/SA8775P等主流車規(guī)級芯片平臺，將賦能車企和一級供應(yīng)商快速開發(fā)下一代SDV所需的AI應(yīng)用，實現(xiàn)智能駕乘體驗的升級。 ArraymoAIOS是一款專為端側(cè)AI應(yīng)用打造的操作系統(tǒng)，集成了AI模型、框架、SDK及開發(fā)工具，解決了大量底層硬件適配與上層開發(fā)的工程難題。該系統(tǒng)不僅全面兼容Qualcomm、MTK、NVIDIA等主流芯片平臺，還具備對大型語言模型（LLMs）和大規(guī)模多模態(tài)模型（LMMs）的高性能適配與優(yōu)化能力，可廣泛應(yīng)用于汽車、智能手機、IoT設(shè)備及具身智能等領(lǐng)域。

在汽車應(yīng)用場景中，實時性至關(guān)重要，尤其是語音交互、導(dǎo)航和輔助駕駛等功能的延遲會直接影響用戶體驗。面對傳統(tǒng)操作系統(tǒng)在處理AI大模型應(yīng)用時普遍存在的資源調(diào)度效率低、響應(yīng)延遲高等挑戰(zhàn)，誠邁科技基于ArraymoAIOS，在NVIDIA Orin、Qualcomm SA8295P/SA8775P等主流車規(guī)級平臺上成功實現(xiàn)了DeepSeek的本地化部署。無需依賴云端計算，用戶就能享受到更為流暢、高效的AI體驗。

基于Qualcomm SA8295P/SA8775P的座艙中控屏 為了進一步提升交互效率，ArraymoAIOS針對DeepSeek特性進行了專項優(yōu)化。在部署過程中，采用了AWQ、GPTQ等量化技術(shù)，顯著降低了DeepSeek的存儲需求和計算需求，同時保持高水平的推理性能。此外，ArraymoAIOS還通過引入創(chuàng)新的智能調(diào)度算法，為DeepSeek的應(yīng)用提供了高效的管理和執(zhí)行環(huán)境。該算法能夠?qū)崟r監(jiān)測并分析文本、圖像、音頻等多模態(tài)的任務(wù)負載，智能調(diào)整CPU、GPU和內(nèi)存等資源的分配策略，提升復(fù)雜場景下的實時響應(yīng)效率。

例如，在處理圖像任務(wù)時，系統(tǒng)會優(yōu)先分配擅長處理圖像的GPU資源；而在處理文本任務(wù)時，則會分配更多的CPU資源。這種靈活的資源分配策略充分發(fā)揮了汽車異構(gòu)計算架構(gòu)（CPU+GPU+TPU協(xié)同）的優(yōu)勢，進一步提升系統(tǒng)的整體性能和效率。

截至目前，ArraymoAIOS已支持Llama、Baichuan、Gemma、Yi-Chat等十余個主流模型，能夠助力車企和一級供應(yīng)商以更高效、更低成本的方式構(gòu)建自有大模型，實現(xiàn)更多車載接口的復(fù)雜控制和更智能的交互體驗。未來，誠邁科技和智達誠遠將持續(xù)迭代升級ArraymoAIOS，支持更多類型的AI大模型和多樣化應(yīng)用場景，打造更安全、高效和便捷的出行體驗。