近日，百度飛槳深度學(xué)習(xí)平臺(tái)新增適配比特大陸最新算豐系列 AI 芯片，兩者的成功融合在芯片利用率、性能功耗比等指標(biāo)上盡顯優(yōu)勢，相比傳統(tǒng) GPU 更適合深度學(xué)習(xí)推理，成為我國構(gòu)建自主 AI 生態(tài)的典范。

2020年伊始，AI 技術(shù)持續(xù)深入發(fā)展，人工智能場景規(guī)?；涞嘏c應(yīng)用不斷創(chuàng)造新的中國速度。隨著 AI 技術(shù)與傳統(tǒng)行業(yè)的不斷融合，智能經(jīng)濟(jì)時(shí)代的全新產(chǎn)業(yè)版圖初步顯現(xiàn)。進(jìn)入智能時(shí)代，AI 芯片和深度學(xué)習(xí)框架二者融合成為構(gòu)建我國自主 AI 生態(tài)的關(guān)鍵力量。作為智能時(shí)代的操作系統(tǒng)，深度學(xué)習(xí)框架起到承上啟下的作用——上承應(yīng)用、下接芯片。作為智能時(shí)代的核心大腦，AI 芯片支持框架平臺(tái)讓 AI 技術(shù)更加普及易用，為行業(yè)賦能更多應(yīng)用場景。

輕量化推理引擎 Paddle Lite 再升級(jí)

作為國內(nèi)功能最完備的端到端開源深度學(xué)習(xí)平臺(tái)，飛槳以其兼具靈活和效率的開發(fā)機(jī)制、工業(yè)級(jí)應(yīng)用效果的模型、超大規(guī)模并行深度學(xué)習(xí)能力、推理引擎一體化設(shè)計(jì)以及系統(tǒng)化的服務(wù)支持，成為加快產(chǎn)業(yè)智能化升級(jí)的主力軍。

Paddle Lite 是飛槳推出的一套功能完善、易用性強(qiáng)且性能卓越的輕量化推理引擎。輕量化體現(xiàn)在使用較少比特?cái)?shù)用于表示神經(jīng)網(wǎng)絡(luò)的權(quán)重和激活，能夠大大降低模型的體積，解決終端設(shè)備存儲(chǔ)空間有限的問題。

推理性能也整體優(yōu)于其他框架，以 ResNet50 模型作例，在高通驍龍845上，Paddle Lite 相比其他框架，比 MNN 快10.26%，比 NCNN 快17.1%。近期已正式上線的 V2.3 版本更通過支持“無校準(zhǔn)數(shù)據(jù)的訓(xùn)練后量化”及網(wǎng)絡(luò)結(jié)構(gòu)與算子優(yōu)化，在不犧牲性能的條件下，將模型壓縮率提升至75%，有效將模型體積大幅縮小，進(jìn)而滿足移動(dòng)及邊緣端設(shè)備的輕量化需求。而搭載了比特大陸 AI 芯片的 V2.4 版本即將在近期上線。

▲ 百度飛槳與比特大陸兼容性認(rèn)證書

通過對(duì)比特大陸 AI 芯片的適配，Paddle Lite 不僅可實(shí)現(xiàn)對(duì)多種硬件平臺(tái)的兼容，亦能更好地服務(wù)用戶實(shí)際業(yè)務(wù)需求、節(jié)省模型遷移時(shí)間、加快敏捷開發(fā)部署，極大豐富了飛槳的硬件生態(tài)。

▲ Paddle Lite 支持比特大陸算豐 BM 系列芯片

算豐芯片與飛槳整合效能

與百度同為國內(nèi)人工智能企業(yè)先行者的比特大陸是世界上少數(shù)幾家有能力開發(fā)云端人工智能芯片的公司之一，并已成功推出四代人工智能芯片（云端芯片算豐 BM1680、算豐 BM1682、算豐 BM1684，終端芯片 BM1880）。憑借多年技術(shù)積累與行業(yè)實(shí)踐，比特大陸 AI 芯片正在迅速成長為國產(chǎn)智能芯片陣營的中堅(jiān)力量，為中國乃至全球的 AI 平臺(tái)落地提供核心支撐。

比特大陸開發(fā)的形態(tài)豐富的各種 AI 硬件產(chǎn)品均基于自主研發(fā) AI 芯片，擁有完整的國內(nèi)自主知識(shí)產(chǎn)權(quán)和專利，同一套 SDK 和簡單易用的工具鏈支持多形態(tài)應(yīng)用，充分滿足云+邊的“新基建”算力基礎(chǔ)設(shè)施建設(shè)需求。

最新一代算 BM1684 芯片，聚焦于云端及邊緣應(yīng)用的人工智能推理，采用臺(tái)積電 12nm 工藝，在典型功耗僅16瓦的前提下，INT8 算力可高達(dá) 17.6Tops，在 Winograd 卷積加速下，INT8 算力更提升至 35.2Tops，是一顆低功耗、高性能的 SoC 芯片。其算力性能和性能功耗比指標(biāo)業(yè)界領(lǐng)先，超過主流推理 GPU，在性能滿足視頻分析業(yè)務(wù)需求的前提下，可以實(shí)現(xiàn)視頻結(jié)構(gòu)化的單路成本最優(yōu)。

▲ 算豐1684在飛槳框架上 int8 運(yùn)行 Resnet50 的性能指標(biāo)

強(qiáng)強(qiáng)聯(lián)手共建 AI 生態(tài)圈

與此同時(shí)，比特大陸積極參與百度的黃埔學(xué)院計(jì)劃，進(jìn)一步深化雙方合作關(guān)系，并成功合作開發(fā)運(yùn)行百度“行人車輛”算法的 SS-5416C3 人工智能一體機(jī)，交付于公安部安全與警用電子產(chǎn)品質(zhì)量檢測中心進(jìn)行檢測。此外，在接下來發(fā)布的飛槳開源框架版本，也會(huì)完整對(duì)比特大陸的編譯工具 BM Lang 及相關(guān) Profiler 工具的支持。

隨著飛槳在穩(wěn)定性、兼容性和成熟度等方面不斷升級(jí)，比特大陸 AI 芯片也在不斷提升性能、優(yōu)化指標(biāo)，助力飛槳加速產(chǎn)業(yè)結(jié)合，二者聯(lián)手幫助產(chǎn)業(yè)實(shí)現(xiàn)智能轉(zhuǎn)型，為我國產(chǎn)業(yè)智能化發(fā)展貢獻(xiàn)力量。

責(zé)任編輯：gt