近年來,類腦計算作為人工智能領(lǐng)域的重要方向,以其低功耗、高效率、高容錯性等優(yōu)勢,展現(xiàn)出巨大的發(fā)展?jié)摿ΑH欢?,類腦計算開發(fā)門檻高、與傳統(tǒng)人工神經(jīng)網(wǎng)絡(luò)(ANN)難以結(jié)合、缺乏高效易用的開源框架和豐富案例等問題,一直制約著其廣泛應(yīng)用。為了突破這一瓶頸,靈汐科技聯(lián)合腦啟社區(qū)正式宣布開源類腦深度學(xué)習(xí)應(yīng)用開發(fā)平臺BIDL(Brain-inspired Deep Learning)。
BIDL基于深度學(xué)習(xí)框架Pytorch構(gòu)建,實現(xiàn)了GPU和類腦計算芯片的雙硬件平臺支持,實現(xiàn)了一套用戶代碼可在兩類硬件平臺運(yùn)行的異構(gòu)執(zhí)行范式。支持ANN/SNN/異構(gòu)融合模型的構(gòu)建。針對靈汐類腦計算芯片進(jìn)行了深度適配,不僅提供了用戶友好的SNN構(gòu)建及訓(xùn)練環(huán)境,還顯著提升了模型在類腦計算平臺下的計算效率和能效比。
其支持高精度的BPTT訓(xùn)練方法,可用于訓(xùn)練典型的脈沖神經(jīng)網(wǎng)絡(luò)(SNN)模型,并可與傳統(tǒng)的深度學(xué)習(xí)網(wǎng)絡(luò)層混合使用,實現(xiàn)異構(gòu)融合網(wǎng)絡(luò)構(gòu)建和訓(xùn)練。該訓(xùn)練平臺充分考慮了靈汐類腦計算系統(tǒng)的計算特性,訓(xùn)練后的網(wǎng)絡(luò)可自動編譯并部署于靈汐類腦計算系統(tǒng),實現(xiàn)高效率推理。
圖1.BIDL系統(tǒng)架構(gòu)圖
核心亮點(diǎn):賦能開發(fā)者,助力應(yīng)用落地
一是跨平臺部署,靈活高效。BIDL支持將AI模型無縫部署到GPU和類腦芯片上,開發(fā)者無需針對不同硬件平臺進(jìn)行代碼修改,極大地提高了開發(fā)效率。這意味著開發(fā)者可以將更多精力投入到算法設(shè)計和模型優(yōu)化上,而無需擔(dān)心底層硬件平臺的差異。
二是優(yōu)化了類腦計算芯片的計算效率。我們將靈汐類腦計算芯片與部分GPU進(jìn)行了多個ANN/SNN融合應(yīng)用案例的性能指標(biāo)平均值對比。在滿足算法精度基本不下降時,流式場景(batch size=1)下,靈汐類腦計算芯片延遲與功耗降均下降一個數(shù)量級;批計算場景(兩者均采用可用最大batchsize)下,靈汐類腦計算芯片較GPU能效比平均增益約5倍。這些指標(biāo)展現(xiàn)了類腦計算范式對類腦網(wǎng)絡(luò)的高效率支持。借助BIDL,用戶可直接通過pytorch語言,輕松獲得上述性能。
三是豐富案例,開箱即用。BIDL提供了多種分類案例(含DVS數(shù)據(jù)處理、短視頻處理、文本、醫(yī)學(xué)影像、大規(guī)模圖像及事件信息處理)、類腦跟蹤案例、高速目標(biāo)檢測案例在內(nèi)的7大類案例與20+具體案例。這些案例包括了ResNet50-LIF,Spiking Transformer,ST-YoloV5等大規(guī)模類腦模型,BIDL提供的案例都提供了類腦計算芯片的推理計算支持,展現(xiàn)了類腦計算芯片的廣泛應(yīng)用支持能力。開發(fā)者可以快速上手并應(yīng)用到實際項目中。這些案例不僅展示了BIDL的強(qiáng)大功能,也為開發(fā)者提供了寶貴的參考和借鑒。
與BindsNet、Spikingjelly、BrainPy等SNN框架相比,BIDL面向類腦計算芯片進(jìn)行了深度適配,既提供了較高的芯片執(zhí)行效率,又提供了面向類腦計算范式的簡易編程模式。與Loihi 2的計算框架Lava、SpiNNaker編譯器SpiNNTools等工具相比,BIDL提供的模型規(guī)模更大、精度更高(提供FP16權(quán)重精度)、靈活度更高(全模型支持pytorch原生編程)。
應(yīng)用案例
BIDL源自靈汐類腦計算專用軟件LYNBIDL。LYNBIDL已服務(wù)幾十家客戶,應(yīng)用于類腦計算研究、事件相機(jī)信息處理、泛安防等領(lǐng)域。
在2024年10月-12月舉辦的首屆腦啟社區(qū)類腦智能創(chuàng)新大賽上,BIDL工具提前開放給選手試用。該大賽的技術(shù)組創(chuàng)新獎獲得者(電子科技大學(xué)團(tuán)隊)在腦啟云平臺基于BIDL框架部署了其空間-通道-時間融合注意力SNN(SCTFA-SNN)模型,于較短時間內(nèi)就完成了針對類腦芯片的適應(yīng)性優(yōu)化。
開源社區(qū),共建生態(tài)
BIDL秉承開源精神,代碼已在GitHub平臺開源,并提供了詳細(xì)的文檔,后續(xù)將在腦啟社區(qū)上同步完善更多文檔、教程與應(yīng)用案例。歡迎廣大開發(fā)者下載使用并提出寶貴意見,BIDL團(tuán)隊也將持續(xù)更新和維護(hù)項目,與開發(fā)者共同構(gòu)建繁榮的類腦計算生態(tài)。
附:開源版與專業(yè)版對比
BIDL提供開源版和專業(yè)版兩個版本,以滿足不同用戶的需求:
1.開源版:面向開發(fā)者技術(shù)驗證,提供基礎(chǔ)開發(fā)功能,支持ANN+SNN融合訓(xùn)練和基礎(chǔ)案例部署,硬件支持GPU訓(xùn)練和靈汐類腦芯片基礎(chǔ)推理。開源版采用Apache 2.0許可協(xié)議,允許商用修改,并通過社區(qū)論壇提供支持。
2.專業(yè)版:BIDL 專業(yè)版本(LYNBIDL)可提供專業(yè)團(tuán)隊的類腦模型適配支持服務(wù)、靈汐芯片與 GPU 性能對比評估數(shù)據(jù)、適配內(nèi)存受限邊緣設(shè)備的部署框架、類腦芯片片上學(xué)習(xí)案例、功能級別類腦網(wǎng)絡(luò)等額外功能和服務(wù)。此外,靈汐及相關(guān)合作伙伴還可提供超大規(guī)模腦仿真軟件棧及定制化開發(fā)等類腦商業(yè)化服務(wù)。
-
人工智能
+關(guān)注
關(guān)注
1811文章
49492瀏覽量
258124 -
開源
+關(guān)注
關(guān)注
3文章
3874瀏覽量
45191 -
深度學(xué)習(xí)
+關(guān)注
關(guān)注
73文章
5586瀏覽量
123630
原文標(biāo)題:類腦深度學(xué)習(xí)應(yīng)用開發(fā)平臺BIDL重磅開源
文章出處:【微信號:北京靈汐科技有限公司,微信公眾號:北京靈汐科技有限公司】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+神經(jīng)形態(tài)計算、類腦芯片
腦啟社區(qū)第二屆類腦智能創(chuàng)新大賽正式啟動
杭州靈汐類腦智算集群實現(xiàn)大模型快速推理
靈汐科技與廣電五舟達(dá)成戰(zhàn)略合作
靈汐科技斬獲第三屆“華彩杯”算力大賽東區(qū)決賽二等獎
開鴻開發(fā)板深度體驗:從開源鴻蒙開發(fā)到AI場景實踐

開鴻Bot系列:為開源鴻蒙開發(fā)者而生!

開源鴻蒙開發(fā)新體驗,開鴻Bot系列今日開啟預(yù)售!
行業(yè)首創(chuàng):基于深度學(xué)習(xí)視覺平臺的AI驅(qū)動輪胎檢測自動化

評論