7月13-14日，第三屆中國(guó)集成電路設(shè)計(jì)創(chuàng)新大會(huì)暨無(wú)錫IC應(yīng)用博覽會(huì)（ICDIA 2023）在無(wú)錫舉行。天數(shù)智芯副總裁郭為受邀出席“AIoT與ChatGPT”分論壇并發(fā)表了題為《國(guó)產(chǎn)GPU的大模型實(shí)踐》的主題演講，全面介紹了天數(shù)智芯通用GPU產(chǎn)品特色以及在大模型上的應(yīng)用情況。

天數(shù)智芯副總裁郭為

郭為指出，算力關(guān)乎大模型產(chǎn)品的成敗。作為中國(guó)領(lǐng)先的通用GPU 高端芯片及超級(jí)算力系統(tǒng)提供商，天數(shù)智芯先后發(fā)布了訓(xùn)練產(chǎn)品天垓100、推理產(chǎn)品智鎧100，充分發(fā)揮產(chǎn)品自主可控、性能高、通用性強(qiáng)、靈活性高等特點(diǎn)，廣泛支持主流AI生態(tài)和國(guó)內(nèi)外開(kāi)發(fā)框架，傾力打造了高性?xún)r(jià)比、廣通用的全棧式集群解決方案，為大模型提供了強(qiáng)大算力支撐。

郭為介紹，去年以來(lái)天數(shù)智芯在大模型訓(xùn)練、推理支持上取得了顯著進(jìn)展。基于天垓100的自主算力集群已率先完成國(guó)內(nèi)70億參數(shù)大模型訓(xùn)練，200P規(guī)模算力集群正在開(kāi)展650億參數(shù)大模型預(yù)訓(xùn)練。此外，天垓100正支持各垂直行業(yè)大模型訓(xùn)練微調(diào)，可支持全量參數(shù)微調(diào)、Lora快速微調(diào)、提示詞微調(diào)等所有訓(xùn)練微調(diào)方法。智鎧100支持千億級(jí)參數(shù)大模型推理，基于智鎧100的推理一體機(jī)已應(yīng)用于法律、金融等行業(yè)客戶(hù)大模型推理業(yè)務(wù)中，提供較國(guó)際主流產(chǎn)品更優(yōu)的性能、性?xún)r(jià)比及能耗。

郭為表示，天數(shù)智芯將始終以服務(wù)國(guó)家戰(zhàn)略為主線，持續(xù)推進(jìn)通用GPU核心技術(shù)創(chuàng)新突破，打造更可信、更高效、更綠色的世界一流算力引擎，賦能大模型創(chuàng)新發(fā)展。

作為國(guó)內(nèi)集成電路領(lǐng)域推動(dòng)“創(chuàng)新”與“應(yīng)用”的重要平臺(tái)，ICDIA致力于推動(dòng)IC設(shè)計(jì)與芯片應(yīng)用、促進(jìn)芯片與系統(tǒng)整機(jī)供需對(duì)接，實(shí)現(xiàn)芯片企業(yè)和整機(jī)企業(yè)的互惠發(fā)展。科技部重大專(zhuān)項(xiàng)司副司長(zhǎng)邱鋼，江蘇省科技廳二級(jí)巡視員楊小平，無(wú)錫市副市長(zhǎng)周文棟，國(guó)家01專(zhuān)項(xiàng)技術(shù)總師、中國(guó)集成電路設(shè)計(jì)創(chuàng)新聯(lián)盟理事長(zhǎng)、清華大學(xué)教授魏少軍等出席了本屆會(huì)議。