聯(lián)發(fā)科天璣9300最高可運行330億參數(shù)AI大模型

聯(lián)發(fā)科這個是要把AI大模型帶到手機端的節(jié)奏嗎？聯(lián)發(fā)科正式發(fā)布了天璣9300旗艦5G生成式AI移動芯片，天璣9300號稱最高可運行330億參數(shù)AI大模型。

MediaTe天璣9300采取了全大核的CPU架構，包含4個Cortex-X4超大核，最高頻率可達3.25GHz，以及4個主頻為2.0GHz的Cortex-A720大核，天璣9300的峰值性能相較上一代提升40%，功耗則可以節(jié)省33%。而且天璣9300集成MediaTek第七代AI處理器APU 790，APU 790內置了硬件級的生成式AI引擎，這個內置生成式AI引擎，能夠支持終端運行10億、70億、130億、最高可達330億參數(shù)的AI大語言模型。

為了運行億級參數(shù)大語言模型，MediaTek開發(fā)了混合精度 INT4量化技術，再結合MediaTek特有的內存硬件壓縮技術NeuroPilot Compression，和APU 790支持的“技能擴充”技術NeuroPilot Fusion從而使得天璣9300能力強悍。

同時，聯(lián)發(fā)科AI開發(fā)平臺NeuroPilot能夠支持Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。

天璣9300采用的是臺積電第三代4nm制程，天璣9300還采用了新一代旗艦12核GPU Immortalis-G720和ISP影像處理器Imagiq 990。

天璣9300支持LPDDR5T 9600Mbps內存，天璣9300還支持Wi-Fi 7，支持60FPS的光線追蹤，集成了OIS光學防抖專核。年底或者我們就可以看到搭載天璣9300的手機了，大家期待嗎？

此外我們也看到在第六屆中國國際進口博覽會上，高通中國區(qū)董事長孟樸在出席演講時候表示：生成式AI將使手機成為真正的數(shù)字化助手。或者未來在手機本地運行AI大模型是大勢所趨。