Fitlab（紛來(lái)智能）致力于打造基于計(jì)算機(jī)視覺(jué)的智能健身解決方案，在不改變健身房運(yùn)營(yíng)模式和用戶運(yùn)動(dòng)習(xí)慣等前提下，為健身房及其用戶提供全面的運(yùn)動(dòng)健康數(shù)據(jù)服務(wù)。

用戶可以通過(guò)App，自動(dòng)獲取結(jié)構(gòu)化的健身數(shù)據(jù)與專業(yè)分析、實(shí)時(shí)的動(dòng)作校準(zhǔn)和指導(dǎo)，享受私教級(jí)別的健身服務(wù)。健身房運(yùn)營(yíng)者可以實(shí)現(xiàn)科技感、智能化形象升級(jí)，獲得精細(xì)化的管理和運(yùn)營(yíng)能力。支撐這一變革的核心技術(shù)的是Fitlab自研的“身份認(rèn)證”和“運(yùn)動(dòng)分析”兩大系統(tǒng)，具備高可用、高并發(fā)、輕量化、低算力、實(shí)時(shí)同步、深度人工智能等優(yōu)勢(shì)。

智能健身系統(tǒng)面臨挑戰(zhàn)

智能健身系統(tǒng)將成為未來(lái)運(yùn)動(dòng)健身領(lǐng)域的重要組成部分?，F(xiàn)有的數(shù)字化健身系統(tǒng)或者是集成在特定種類的運(yùn)動(dòng)場(chǎng)館（籃球足球），或者是在家庭終端中。而多用戶與多運(yùn)動(dòng)類型等復(fù)雜環(huán)境下的智能化需求并沒(méi)有被滿足。

因此，將具有低延時(shí)、高吞吐量的實(shí)時(shí)多人室內(nèi)AI運(yùn)動(dòng)分析系統(tǒng)集成到各種不同的運(yùn)動(dòng)場(chǎng)景下成為Fitlab的主要挑戰(zhàn)。與單一AI模型推斷模式不同，多人運(yùn)動(dòng)分析系統(tǒng)涉及到各種不同功能的AI模型的復(fù)雜耦合：

分析過(guò)程要基于多個(gè)位置的實(shí)時(shí)視頻流，視覺(jué)數(shù)據(jù)要經(jīng)過(guò)多種檢測(cè)、識(shí)別、定位和分析等模型。因此將不同后端、不同量化模式、不同功能的AI模型部署起來(lái)，并提供統(tǒng)一的接口，成為一個(gè)難點(diǎn)。

另外，上述的AI運(yùn)動(dòng)分析系統(tǒng)對(duì)于實(shí)時(shí)性的要求很高，而一個(gè)客戶場(chǎng)景下可能具有數(shù)十個(gè)視覺(jué)傳感器的數(shù)據(jù)吞吐。這些數(shù)據(jù)有的是一段運(yùn)動(dòng)的序列數(shù)據(jù)，有的是同時(shí)發(fā)生的多個(gè)位置的空間數(shù)據(jù)。

因此，基于云的解決方案具有相對(duì)較大的網(wǎng)絡(luò)IO延遲和帶寬問(wèn)題，在當(dāng)前并不是一個(gè)合適的選擇。本系統(tǒng)在硬件層面需要構(gòu)建一套能平衡地利用網(wǎng)絡(luò)帶寬和網(wǎng)絡(luò)IO負(fù)載，同時(shí)能有效支持AI異構(gòu)計(jì)算的硬件拓?fù)浣Y(jié)構(gòu)。

應(yīng)用方案

基于以上挑戰(zhàn)，F(xiàn)itlab選擇采用NVIDIA Jetson邊緣AI計(jì)算平臺(tái)作為底層硬件，采用NVIDIA Docker和NVIDIA Triton Inference Server作為多后端集成的模型部署工具，使用后給系統(tǒng)的運(yùn)行效率帶來(lái)巨大提升。

1. NVIDIA Jetson邊緣AI計(jì)算平臺(tái)能夠以低成本的優(yōu)勢(shì)部署經(jīng)過(guò)量化的AI模型。同時(shí)也能將AI模型分布式部署到各個(gè)硬件運(yùn)算節(jié)點(diǎn)，從而實(shí)現(xiàn)負(fù)載均衡。這套系統(tǒng)的綜合推斷運(yùn)行效率相比原來(lái)提高了30倍，能有效處理大吞吐量的視頻流數(shù)據(jù)。

同時(shí)由于Jetson邊緣AI計(jì)算平臺(tái)上具有豐富的視覺(jué)傳感器接口，因此也能充當(dāng)集成了多位置的幀同步功能的視頻推流服務(wù)器，使得部署成本降低了10倍左右。

2. NVIDIA Triton Inference Server是一種集成了多種自定義后端、支持不同量化方式的AI模型部署服務(wù)框架。相較于其他部署框架，Triton能夠更加高效地利用NVIDIA GPU的算力。

同時(shí)Triton還支持模型自動(dòng)并行、動(dòng)態(tài)batching等，在真實(shí)場(chǎng)景下大幅提升算力的利用率。在紛來(lái)智能的實(shí)時(shí)運(yùn)動(dòng)分析系統(tǒng)的開(kāi)發(fā)中，基于NVIDIA Docker的Triton Inference Server大幅縮短了AI模型從研發(fā)到生產(chǎn)部署的流程，節(jié)省了超過(guò)55%的開(kāi)發(fā)時(shí)間。

目前Fitlab已經(jīng)開(kāi)始了在B端種子用戶中的部署，全方位提高種子用戶的服務(wù)能力及經(jīng)營(yíng)能力。使健身愛(ài)好者更好地了解每次運(yùn)動(dòng)的成效，更安全更有效率地實(shí)現(xiàn)用戶的訓(xùn)練目標(biāo)。

使用效果及影響

使用NVIDIA Jetson邊緣AI平臺(tái)和NVIDIA Triton服務(wù)框架，構(gòu)建軟硬一體的智能運(yùn)動(dòng)分析系統(tǒng)，極大提高了Fitlab的運(yùn)動(dòng)AI研發(fā)和落地的進(jìn)度，同時(shí)進(jìn)一步降低硬件成本，為業(yè)務(wù)拓展打下堅(jiān)實(shí)的基礎(chǔ)。

因硬件部署成本較低，F(xiàn)itlab成功將近期廣泛運(yùn)用于職業(yè)運(yùn)動(dòng)賽場(chǎng)和專業(yè)運(yùn)動(dòng)員訓(xùn)練時(shí)使用的專業(yè)運(yùn)動(dòng)分析的系統(tǒng)，通過(guò)純視覺(jué)的方式帶給每一位運(yùn)動(dòng)愛(ài)好者。Fitlab致力于為整個(gè)運(yùn)動(dòng)行業(yè)提供全民健身智慧化服務(wù)，并為即將出現(xiàn)的“虛擬線上賽事”、“運(yùn)動(dòng)卡”等應(yīng)用提供數(shù)據(jù)支持。

編輯：jq