當前，AI大模型走向端側已經是大勢所趨，端側AI的發(fā)展將推動人工智能成為影響世界的第四次工業(yè)革命。與傳統(tǒng)的云端大模型相比，端側大模型擁有更小的參數(shù)體量和更垂直的訓練數(shù)據。對于終端產品而言，端側AI將成為和系統(tǒng)同樣重要的存在，如果說電路是連接身體的“血管”，那么AI就將成為終端的智慧“大腦”。

?加速演進，大模型加速走向端側

從手機移動端開始，端側AI正逐步在車載、PC以及各類可穿戴設備等終端落地，端云協(xié)作的混合AI模式成為未來人工智能發(fā)展的主要方向。AI Agent、具身智能、人機協(xié)同、生成式智能體等LLM（大語言模型）的主要研究方向均對模型的性能和運行條件提出了新的要求。

為推動AI與各行業(yè)的深度融合，AI大模型正通過模型剪枝、知識蒸餾和量化技術進行不斷精簡和提升數(shù)據質量，端側硬件也在不斷提升端側算力和優(yōu)化結構。如面向AI設計的神經網絡處理器（NPU)、提高性能和降低功耗的異構計算技術，軟件與硬件的協(xié)同發(fā)展正在加速端側AI部署，賦能全新增強的AI體驗。

▲圖片來源：高通中國官方公眾號

從行業(yè)趨勢來看，今年10月，高通公司發(fā)布全新旗艦芯片產品驍龍8至尊版，搭載第二代定制的Oryon CPU、全新切片架構的Adreno GPU和增強的Hexagon NPU。Oryon CPU擁有2個主頻高達4.32GHz的超級內核和6個主頻3.53GHz的性能內核，支持面向端側AI計算的高達10.7Gbps速率的LPDDR5X內存；全新的Hexagon NPU，AI性能提升45%，每瓦特性能提升45%，支持70+ tokens/sec的輸入，首次支持終端側個性化多模態(tài)AI助手，能夠賦能規(guī)模更大且更加復雜的多模態(tài)生成式AI用例在終端側高效運行。驍龍8至尊系列新產品的發(fā)布，也在一定程度上表明了未來數(shù)字化發(fā)展的方向，即垂直的硬件適配、不斷提升的端側算力和更強悍的綜合性能。

AI與千行百業(yè)的融合發(fā)展，被行業(yè)稱為“AI+”時代。作為全球領先的無線通信模組及解決方案提供商，美格智能圍繞AI+時代的算力、算法、數(shù)據、用例四大重要因素，以豐厚研發(fā)經驗和創(chuàng)新實力助力端側AI落地，為全球數(shù)字化發(fā)展貢獻重要力量。

?智算領先，以澎湃算力承接大模型落地

從開創(chuàng)到引領，美格智能以端側算力為切入點，行業(yè)率先打造高算力AI模組矩陣，憑借優(yōu)質的產品品質和定制化服務能力受到行業(yè)客戶的一致好評。算力是端側AI運行的基座，針對不同客戶對算力、功耗、尺寸的要求，美格智能打造包含SNM973、SNM932、SNM950、SNM960、SNM970、SNM952、SNM962、SNM972等系列模組，AI算力覆蓋12Tops~48Tops，涵蓋入門級、中端、旗艦級多層次算力水平，能夠適應不同行業(yè)和應用場景的需求。同時在高算力AI模組的基礎上，美格智能團隊正不斷與行業(yè)領先的SoC陣列式服務器客戶密切合作，相關產品成為各類端側通用AI、邊緣計算AI服務器的優(yōu)質選擇，憑借高性能和高性價比助力邊緣側AI部署，推動邊緣側算力發(fā)展。

隨著以智能座艙和“端到端”的自動駕駛為代表的車載大模型應用需求逐步提升，美格智能也在不斷加強技術創(chuàng)新研發(fā)，正逐步打造綜合AI算力超過100Tops的尖端AI模組，為更強力的端側AI落地和更廣闊的應用場景提供澎湃算力。

?加速部署，以技術實力打通模型部署通路

AI技術的引進為產業(yè)終端提質增效起到重要作用，而如何快速地將算法與終端進行適配和部署是每一個終端廠商無法避免的課題。為此，美格智能以自身研發(fā)實力為基礎搭建試驗平臺，自主進行大語言模型運行驗證，行業(yè)內首家在端側算力模組上運行文生圖大語言模型Stable Diffusion，并先后驗證運行LLaMA-2、通義千問Qwen、百川大模型、RedPajama、ChatGLM2等眾多中英文大語言模型，以實際用例為客戶打通模型部署通路。

此外，為幫助客戶更快速地打造更加垂直的模型應用，在模型算法優(yōu)化方面，美格智能為行業(yè)客戶打造AI算法部署服務APP——MEIG AI，內置多個模型和算法，客戶在APP上即可完成AI算法在不同美格智能模組平臺的應用驗證，并為客戶和開發(fā)者提供開發(fā)文檔和算法轉換、集成的相關視頻教程，幫助理解App結構、代碼和模型，提高開發(fā)效率。在模型部署方面，美格智能攜手行業(yè)合作伙伴打造AIMO（AI模型優(yōu)化器），實現(xiàn)一站式模型轉寫，僅使用Python即可開發(fā)部署AI應用，有效降低開發(fā)門檻，大幅縮短模型落地周期，節(jié)約開發(fā)投入。

值得一提的是，為推動全行業(yè)各領域端側AI技術的應用和開發(fā)落地，美格智能基于高算力AI模組，打造SNM970、SNM932等高算力AI模組面向開發(fā)者套件。豐富的硬件接口和軟件的開發(fā)套件，能夠廣泛適配各類應用場景，為客戶產品原型開發(fā)，性能驗證提供助力，完整的操作指引能夠顯著降低開發(fā)難度，加速終端開發(fā)周期，有效節(jié)省客戶產品迭代的二次開發(fā)投入。

?應用先行，以廣泛用例助力端側AI生態(tài)發(fā)展

當前美格智能高算力AI模組、智能模組已在海量應用終端廣泛落地，成為推動端側AI高速發(fā)展和布局的重要推動。如在具身智能領域，基于美格智能高算力AI模組的解決方案為行業(yè)領先的人形機器人提供充足算力，為打造“端到端”的AI機器人提供支持；在AR/AI眼鏡領域，美格智能與國際知名AR/AI眼鏡品牌客戶合作，基于高算力AI模組開發(fā)的新一代AR眼鏡產品，在系統(tǒng)能力、AI性能方面較上一代產品顯著提升；在無人機智控領域，美格智能與國內領先的高端無人機品牌攜手，以高算力AI模組賦能無人機智控、圖像追蹤技術、實時3D渲染、高速圖傳等領域，共同打造行業(yè)領先的智能無人機產品；在AI+醫(yī)療領域，基于高算力AI模組為行業(yè)頭部客戶及海外客戶研發(fā)AI掌上超聲終端、手持式血液快速檢測終端等，以AI助力移動醫(yī)療快速發(fā)展。

端側AI能力是實現(xiàn)AI全球規(guī)?；瘮U展的關鍵，在全產業(yè)鏈的推動下，用戶對AI功能的接受程度和期待也進一步提升，端側大模型的發(fā)展不僅帶動了消費市場的升級，也讓產業(yè)鏈上下游的合作更加緊密。美格智能憑借行業(yè)領先的產品研發(fā)和創(chuàng)新實力，以及豐厚的解決方案用例，成為全球端側AI產業(yè)鏈中的重要一環(huán)。面向未來的廣闊市場，美格智能也將攜手行業(yè)合作伙伴，為客戶提供更高算力、高性能、高性價比的模組產品和解決方案，助力端側AI生態(tài)高速、健康發(fā)展。

審核編輯 黃宇