11月26日，云天會客廳第二期生態(tài)沙龍暨深商聯(lián)高科技高成長創(chuàng)新營走進(jìn)上市公司活動圓滿舉辦。來自深圳科技領(lǐng)域的多位企業(yè)負(fù)責(zé)人齊聚云天勵飛，共同探討AI推理時代的技術(shù)變革、產(chǎn)業(yè)機(jī)遇與落地挑戰(zhàn)。

本次活動亦是高科技高成長創(chuàng)新營的正式啟動。作為由深圳市商業(yè)聯(lián)合會面向高潛力科技企業(yè)打造的系統(tǒng)化成長加速平臺，創(chuàng)新營旨在鏈接前沿技術(shù)、產(chǎn)業(yè)場景與資本資源，推動AI、算力、先進(jìn)制造等關(guān)鍵能力的協(xié)同創(chuàng)新與應(yīng)用落地。云天勵飛副總裁鄭文先擔(dān)任創(chuàng)新營營長。

在致辭中，鄭文先表示，創(chuàng)新營將以“鏈接前沿技術(shù)、賦能產(chǎn)業(yè)升級、共創(chuàng)增長生態(tài)”為使命，助力深圳高科技企業(yè)形成更緊密的創(chuàng)新網(wǎng)絡(luò)。他分享了云天勵飛在AI推理芯片與城市級場景落地的實(shí)踐經(jīng)驗(yàn)，希望借助創(chuàng)新營的平臺優(yōu)勢，與更多企業(yè)伙伴開展開放合作，在可控成本路徑下推動AI規(guī)?；涞?，形成可復(fù)制、可推廣的產(chǎn)業(yè)案例。

隨后，深圳國際研究生院副教授、博士生導(dǎo)師鄭海濤以“從傳統(tǒng)AI到大模型：推理系統(tǒng)的變革”為主題分享研究觀點(diǎn)。他指出，大模型正從“規(guī)模驅(qū)動”走向“推理驅(qū)動”“落地驅(qū)動”，核心在于強(qiáng)化歸納、演繹、溯因三大推理能力，并通過“思維鏈”(Chain-of-Thought)和“工具調(diào)用”構(gòu)建具備感知、記憶、規(guī)劃與執(zhí)行能力的智能體系統(tǒng)。他強(qiáng)調(diào)，企業(yè)要用好智能體，必須先構(gòu)建自身知識庫，通過RAG等技術(shù)減少幻覺風(fēng)險，并建立完善的數(shù)據(jù)安全與權(quán)限體系，培養(yǎng)懂業(yè)務(wù)、懂AI的復(fù)合型人才。大模型是能力放大器，既能放大優(yōu)勢，也會放大管理中的薄弱環(huán)節(jié)。

在技術(shù)落地層面，深信服云計(jì)算解決方案總經(jīng)理?xiàng)钔⒅窒砹似髽I(yè)“上AI”的現(xiàn)實(shí)痛點(diǎn)及AICP平臺實(shí)踐。他指出，企業(yè)普遍面臨復(fù)合人才缺乏、GPU投入大且需求難以預(yù)測、大模型引入后運(yùn)維復(fù)雜度顯著提升等挑戰(zhàn)。針對這些問題，深信服打造AICP平臺，通過兼容多品牌GPU實(shí)現(xiàn)異構(gòu)算力池化管理，并針對大模型與MoE場景進(jìn)行調(diào)度、并行和顯存切分優(yōu)化，從而提升資源利用率、降低單位Token成本。平臺還內(nèi)置模型倉庫和統(tǒng)一API網(wǎng)關(guān)，將深信服的安全基因下沉為大模型的“安全護(hù)欄”。目前，AICP已在公司內(nèi)部支撐上百個AI應(yīng)用，并在金融、制造等行業(yè)落地。楊廷柱建議企業(yè)在布局AI前，應(yīng)優(yōu)先打牢“算力底座—安全體系—知識資產(chǎn)”三大基礎(chǔ)，再穩(wěn)步推進(jìn)應(yīng)用規(guī)模化。

圍繞算力創(chuàng)新方向，云天勵飛AI芯片方案專家趙治平帶來了“從訓(xùn)練走向推理的算力變革”主題分享。他指出，隨著深度學(xué)習(xí)和大模型的快速演進(jìn)，行業(yè)關(guān)注點(diǎn)正從“如何把模型訓(xùn)得更大”轉(zhuǎn)向“如何以更低成本、更高能效運(yùn)行模型”。相比訓(xùn)練導(dǎo)向的通用GPU集群，推理基礎(chǔ)設(shè)施更強(qiáng)調(diào)能效比、單位Token成本、并發(fā)能力與云邊端協(xié)同?；谶@一趨勢，云天勵飛面向推理場景自研專用架構(gòu)，通過專用指令、存算一體、3D DRAM堆疊與高帶寬互聯(lián)技術(shù)，在制程受限條件下依然顯著提升單位功耗的推理吞吐，為產(chǎn)業(yè)提供高性價比的國產(chǎn)AI推理算力底座。

在隨后的主題研討環(huán)節(jié)，嘉賓們圍繞AI落地過程中面臨的實(shí)際問題展開深入討論，從算力供需、模型工程化，到推理成本控制與產(chǎn)業(yè)場景機(jī)遇，觀點(diǎn)碰撞充分，現(xiàn)場交流氛圍熱烈?；顒硬粌H展示了深圳科技企業(yè)擁抱AI時代的前瞻思考，也為產(chǎn)業(yè)協(xié)同提供了高密度、開放式的交流平臺。

面向未來，云天勵飛將繼續(xù)發(fā)揮AI推理芯片方面的技術(shù)優(yōu)勢，持續(xù)打造專業(yè)化的生態(tài)交流窗口，通過更多形式的行業(yè)沙龍、開放日與合作項(xiàng)目，連接更廣泛的產(chǎn)業(yè)伙伴，共同探索AI在城市治理、智算、機(jī)器人等關(guān)鍵領(lǐng)域的深度落地路徑。希望未來能夠與更多創(chuàng)新企業(yè)一道，把握新一輪技術(shù)變革的戰(zhàn)略機(jī)遇，在推理時代貢獻(xiàn)更多可規(guī)?；?、可持續(xù)的“中國方案”。