燧原科技于7月7日在上海發(fā)布第二代人工智能訓練產(chǎn)品——“邃思2.0”芯片、基于邃思2.0的“云燧T20”訓練加速卡和“云燧T21”訓練OAM模組，全面升級的“馭算TopsRider”軟件平臺以及全新的“云燧集群”，成為國內(nèi)首家發(fā)布第二代人工智能訓練產(chǎn)品組合的公司。

這是繼2019年12年發(fā)布第一代訓練芯片，邃思1.0及云燧T10/T11，2020年12月發(fā)布第一代推理產(chǎn)品云燧i10之后，燧原科技的又一力作。

?
燧原科技CEO趙立東（左）與 燧原科技COO張亞林（右）共同發(fā)布“云燧T20”訓練加速卡和“邃思2.0”芯片

燧原產(chǎn)品的商業(yè)落地場景包括，液冷超大規(guī)模集群，加速視頻內(nèi)容生產(chǎn)；強化學習使能游戲AI，改變數(shù)字娛樂的方式；強大的視覺能力，保駕護航金融安全；邊緣部署融合多數(shù)據(jù)，構(gòu)建新型智能化交通；高效推理算力集群，建設園區(qū)AI視頻云。

隨著第二代產(chǎn)品的發(fā)布，將加速這些場景的商業(yè)化落地。

云燧智算集群

隨著自然語言處理、強化學習、無監(jiān)督學習、多模態(tài)和認知模型等的發(fā)展，在知識圖譜、智慧大腦、游戲引擎、融合媒體和通用人工智能的應用上，綠色一體化的超級智算集群是關鍵趨勢。

燧原發(fā)布CloudBlazer Matrix云燧智算集群，它代表世界最高水平，最高8192Enflame CloudBlazer訓練卡和DTU芯片，最高1.3E（130000T）單精度智能算力集群。液冷/每一體化PUE降到1.15以下。最高160T單精度張量訓練卡以及80%的線性度。



這是為智能計算和新基建算力而推出的集群化產(chǎn)品。CloudBlazer Matrix 2.0將包括邃思DTU2.0，云燧CloudBlazer T20/T21板卡，和馭算軟件Topsrider2.0。

打造中國最大的計算芯片，邃思DTU2.0性能強悍

邃思DTU2.0是中國最大的計算芯片，突破封裝的極限。DTU2.0采用2.5D高級封裝，整合9顆芯片，其中1顆DTU芯片、4顆三星HBM2E等構(gòu)成先進封裝。封裝尺寸為57.5mm*57.5mm。

?
DTU2.0的計算能力，單精度FP32達40FLOPS，支持單精度張量TF32，達160T FLOPS。TF32格式被認為是在數(shù)據(jù)中心最先進的數(shù)據(jù)模式。

此外，DTU2.0植入完全可編程的數(shù)據(jù)流，軟件指令驅(qū)動的傳輸和數(shù)據(jù)計算，標量、向量和張量的高效數(shù)據(jù)處理，和多地址廣播等。

存儲方面，邃思2.0共搭載了4顆HBM2E片上存儲芯片，高配支持64GB內(nèi)存，帶寬達1.8TB/s，是中國第一個支持世界最先進存儲HBM2E和單芯片64 GB內(nèi)存的產(chǎn)品。



6個LARE卡間互聯(lián)端口，每一個端口雙向50GB/s，總集群互聯(lián)帶寬300GB/s。

云燧T21\T20訓練產(chǎn)品，分別為OAM標準模組和全高全長PCIE板卡。



以Benchmark數(shù)據(jù)來看，云燧T20與友商次旗艦相比，在圖像識別/分類、NLP、目標檢測、圖像分割、推薦等均有明顯優(yōu)勢。



馭算Topsrider2.0架構(gòu)

馭算TopsRider是燧原科技自主知識產(chǎn)權(quán)的計算及編程平臺，通過軟硬件協(xié)同架構(gòu)設計，充分發(fā)揮邃思2.0的性能；基于算子泛化技術(shù)及圖優(yōu)化策略，支持主流深度學習框架下的各類模型訓練；利用Horovod分布式訓練框架與GCU-LARE互聯(lián)技術(shù)相互配合，為超大規(guī)模集群的高效運行提供解決方案。開放升級的編程模型和可擴展的算子接口，為客戶模型的優(yōu)化提供了自定義的開發(fā)能力。



云端訓練計算產(chǎn)品路線圖

訓練產(chǎn)品方面，燧原計劃第三代T30/T31產(chǎn)品將于2023年發(fā)布，每瓦的能效將提升14倍。同時升級到Matrix3.0。



推理計算方面，2021年下半年將發(fā)布i20推理芯片，以及2023年將發(fā)布i30。其每瓦能效將分別提升4倍和16倍。


另外，在Topsrider2.x的基礎上，還將進一步升級至Topsrider3.x，致力于泛AI生態(tài)。

生態(tài)建設

AI生態(tài)也是跨行業(yè)的、復雜的生態(tài)競爭。燧原推出的異構(gòu)計算生態(tài)燎原計劃，將聚集生態(tài)的三大特征：原始創(chuàng)新、標準化和生態(tài)共建。

燎原計劃將建立繁榮開放的開發(fā)者生態(tài)，健康互利的產(chǎn)業(yè)生態(tài)，持續(xù)創(chuàng)新的科研生態(tài)。打造以人工智能為起點構(gòu)建通用異構(gòu)計算生態(tài)，構(gòu)建標準化的技術(shù)體系，共建完整生態(tài)服務數(shù)字中國。將涵蓋深度學習計算，通用異構(gòu)計算以及視覺計算。



趙立東表示，未來行業(yè)的發(fā)展趨勢表明，以芯片為核心的算力，是工業(yè)4.0兵家必爭之地。工業(yè)4.0時代，人工智能是關鍵動力。摩爾定律放緩，異構(gòu)計算加速，基于小芯片、封裝技術(shù)，人工智能落地將改變互聯(lián)網(wǎng)重塑傳統(tǒng)行業(yè)。算力需示爆炸，算力成為人工智能技術(shù)發(fā)展的基礎。燧原科技要建立世界水平的本土化研發(fā)和工程化團隊，開發(fā)國產(chǎn)自主創(chuàng)新的核心技術(shù)，布局云端AI+高端芯片雙賽道。我們?yōu)閿?shù)據(jù)中心打造最優(yōu)的云端AI產(chǎn)品，形成訓練推理完整的閉環(huán)解決方案。

本文由電子發(fā)燒友原創(chuàng)，作者黃晶晶，微信號kittyhjj，轉(zhuǎn)載請注明以上來源。如需入群交流，請?zhí)砑游⑿舉lecfans999，投稿發(fā)郵件到huangjingjing@elecfans.com。