一個(gè)典型的設(shè)計(jì)目標(biāo)是最大限度地提高系統(tǒng)的運(yùn)行效率。然而，這可能包括圍繞最新 GPU 設(shè)計(jì)系統(tǒng)，這可能是一項(xiàng)艱巨的任務(wù)。

GPU，例如NVIDIA提供的那些，可能非常復(fù)雜。雖然供應(yīng)商可能會(huì)提供大量的文檔、示例代碼和其他詳細(xì)信息，但工程師仍然需要部署芯片/電路板/系統(tǒng)并使其以最高效率運(yùn)行。

一種好的做法是部署軟件開(kāi)發(fā)工具包 （SDK） 或 GPU 供應(yīng)商提供的其他工具。但是，如果您需要在這些工具提供的功能之外冒險(xiǎn)，它可能會(huì)變得很棘手。例如，NVIDIA 非常擅長(zhǎng)協(xié)助設(shè)計(jì)的 AI 部分。但是，當(dāng)您需要進(jìn)行正確的連接、處理安全性并確保系統(tǒng)能夠應(yīng)對(duì)惡劣環(huán)境的嚴(yán)酷環(huán)境時(shí)，您可能需要求助于其他來(lái)源。

一個(gè)很好的例子是連接到多個(gè)攝像頭并需要使用 AI 進(jìn)行某種圖像檢測(cè)的系統(tǒng)。想想機(jī)場(chǎng)、火車(chē)站，甚至是制造工廠。如您所知，圖像可能是數(shù)據(jù)密集型的，當(dāng)您連接多個(gè)攝像頭時(shí)，需要處理的數(shù)據(jù)量會(huì)增長(zhǎng)得非?？?。

在這里，可以清楚地概述業(yè)務(wù)目標(biāo)——您是否在檢查行李、產(chǎn)品下線等？為了解決這個(gè)問(wèn)題，您需要將這些需求轉(zhuǎn)化為可部署的解決方案，從而推動(dòng)一些行動(dòng)或結(jié)果。

確定期望的結(jié)果

下一步是確定所需的行動(dòng)或結(jié)果。然后，您選擇需要哪些數(shù)據(jù)，從而確定所需的處理類型。直到您回答了這些問(wèn)題，您才能開(kāi)始設(shè)計(jì)和部署過(guò)程。雖然這條路徑可能看起來(lái)很明顯，但您會(huì)驚訝于有多少人試圖從最后一步開(kāi)始，然后因?yàn)橐婚_(kāi)始沒(méi)有概述目標(biāo)而最終重新設(shè)計(jì)他們的系統(tǒng)。

以“智能空間”為例。在這里，您想檢測(cè)物體，如果有什么不合適的地方，就會(huì)響起警報(bào)。該“警報(bào)”可能是可以聽(tīng)到的，或者它可以生成發(fā)送給操作員的消息。這是一個(gè)比在房間里裝滿監(jiān)視器并讓一個(gè)或多個(gè)人不斷監(jiān)視這些監(jiān)視器以發(fā)現(xiàn)一些不合適的動(dòng)作更好的解決方案。

凌華科技通過(guò)數(shù)據(jù)采集處理這種情況，特別是使用 NVIDIA DeepStream SDK。該 SDK 用于捕獲視頻并將其寫(xiě)入磁盤(pán)，以便您進(jìn)行一些培訓(xùn)。一旦發(fā)生這種情況并且您有足夠的數(shù)據(jù)，您就可以進(jìn)入下一個(gè)階段，即訓(xùn)練階段。

NVIDIA 提供的另一項(xiàng)幫助是遷移學(xué)習(xí)工具包，它可以讓您為您的解決方案提供可部署的處理元素，這比從頭開(kāi)始時(shí)要快得多，可能（并且希望）帶來(lái)更大的投資回報(bào)率。為此，凌華科技整理了一組用例，據(jù)該公司稱，這些用例應(yīng)該為開(kāi)發(fā)人員提供一個(gè)很好的起點(diǎn)，并提供優(yōu)化的特定領(lǐng)域模型。在其他情況下，模型可能來(lái)自 NVIDIA，例如用于公共安全、智慧城市或產(chǎn)品質(zhì)量檢測(cè)。在模型不可用的情況下，開(kāi)發(fā)人員可以從現(xiàn)有模型開(kāi)始，一個(gè)類似于 hisa 用例的模型，并根據(jù)這些特定需求對(duì)其進(jìn)行調(diào)整。

為了推動(dòng)行動(dòng)或結(jié)果，非結(jié)構(gòu)化數(shù)據(jù)通過(guò) DeepStream 等處理模型運(yùn)行，從而產(chǎn)生結(jié)構(gòu)化數(shù)據(jù)。從那里，信息可以通過(guò)管道發(fā)送到其他應(yīng)用程序以采取行動(dòng)。

審核編輯：郭婷