2023年6月17日，由紹興市人民政府主辦的 2023 中國（紹興）集成電路產(chǎn)業(yè)峰會隆重舉行，“ChatGPT風(fēng)向下的集成電路新趨勢”論壇及集成電路項目路演也同期舉行，為百余位產(chǎn)業(yè)從業(yè)者提供深入了解行業(yè)發(fā)展動態(tài)和交流合作的機會。沐曦首席解決方案架構(gòu)師付軒受邀參會并發(fā)表演講。

付軒在“ChatGPT風(fēng)向下的集成電路新趨勢”論壇中發(fā)表主題為《蹄急而步穩(wěn)：ChatGPT與高性能GPU戰(zhàn)略概覽》的主題演講，分析了ChatGPT的應(yīng)用特點及軟硬件需求，指出以ChatGPT為代表的大模型發(fā)展需要大的通用算力與矩陣算力作為支撐，并且作為基于GPU生態(tài)發(fā)展起來的模型，對GPU顯存、GPU間互聯(lián)通信、通用GPU編程框架及軟件生態(tài)等多方面均有很高的要求。因此，作為算力底座的GPU不僅需要算得快，還要算得準、算得穩(wěn)，不僅要提供高效計算，還要保證結(jié)果準確，并且靈活可靠。

對此，可以采取以下策略：首先，針對ChatGPT大模型訓(xùn)練，大集群3D并行是一種有效方式，能夠集張量并行、流水并行和數(shù)據(jù)并行為一體，與只有數(shù)據(jù)并行的小模型相比，是一種完全不同的復(fù)雜并行結(jié)構(gòu)。在大模型推理方面，推理精度要求高，延遲容忍度高，帶來越來越多的云端高算力推理需求，更適合在數(shù)據(jù)中心中運行，也符合“東數(shù)西算”的戰(zhàn)略規(guī)劃。同時，基于高性能GPU生態(tài)的算法創(chuàng)新實現(xiàn)算子提速并極大減少顯存消耗，通用算力與矩陣算力的高效協(xié)作實現(xiàn)算子融合加速，穩(wěn)定可靠的千卡大集群、GPU軟硬件結(jié)合、“訓(xùn)推一體”優(yōu)化保障訓(xùn)練和推理的精度，均是能夠使大模型計算實現(xiàn)快、準、穩(wěn)的可行性措施。

沐曦作為一家提供全棧GPU芯片及解決方案的企業(yè)，其旗艦產(chǎn)品曦云C500系列通用GPU采用沐曦自研IP，能夠提供強大的多精度混合算力，同時配以大容量存儲和新一代高速IO接口及多卡互聯(lián)技術(shù)，不論在矩陣算力、通用算力還是顯存規(guī)格方面均可全面支持大模型推理和訓(xùn)練，并廣泛應(yīng)用于人工智能、數(shù)據(jù)中心以及教育和科研等多種場景。同時，沐曦自主研發(fā)的MXMACA軟件棧能夠全面兼容主流GPU生態(tài)，為客戶提供軟硬件一體的應(yīng)用解決方案。目前，曦云MXC500芯片已于2023年6月13日成功回片點亮，預(yù)計將于今年年底實現(xiàn)量產(chǎn)。

總的來說，ChatGPT對于硬件和軟件均有需求，我們要更好地利用現(xiàn)有的GPU生態(tài)，發(fā)揮通用算力與矩陣算力的全面優(yōu)勢，做好算子的算法創(chuàng)新和加速。同時，在做千卡大集群時，單節(jié)點內(nèi)的多GPU互聯(lián)也是必須的。此外，當(dāng)前各種大模型創(chuàng)新層出不窮，我們要把各種各樣的大模型遷移到曦云C500上來，因此生態(tài)兼容也至關(guān)重要。做到以上幾點，大模型就能夠更好地在國內(nèi)實現(xiàn)高效迭代與應(yīng)用落地。

關(guān)于沐曦

沐曦致力于為異構(gòu)計算提供安全可靠的GPU芯片及解決方案，打造全棧GPU芯片產(chǎn)品，推出MXN系列GPU（曦思）用于AI推理，MXC系列GPU（曦云）用于AI訓(xùn)練及通用計算，以及MXG系列GPU（曦彩）用于圖形渲染，滿足數(shù)據(jù)中心對“高能效”及“高通用性”的算力需求。沐曦產(chǎn)品均采用完全自主研發(fā)的GPU IP，擁有完全自主的指令集和架構(gòu)，配以兼容主流GPU生態(tài)的完整軟件棧（MXMACA），具備高能效和高通用性的天然優(yōu)勢，能夠為客戶構(gòu)建軟硬件一體的全面生態(tài)解決方案，是“雙碳”背景下推動數(shù)據(jù)中心建設(shè)和產(chǎn)業(yè)數(shù)字化、智能化轉(zhuǎn)型升級的算力基石。