訓練

一個網(wǎng)絡(luò)的三要素：結(jié)構(gòu)、算法、權(quán)值

網(wǎng)絡(luò)模型一旦選定，三要素中結(jié)構(gòu)和算法就確定了，接下來要對權(quán)值進行調(diào)整。

神經(jīng)網(wǎng)絡(luò)是將一組訓練集（training set）送入網(wǎng)絡(luò)，根據(jù)網(wǎng)絡(luò)的實際輸出與期望輸出間的差別來調(diào)整權(quán)值。

訓練模型的步驟：

選擇樣本集合的一個樣本（Ai Bi） （數(shù)據(jù) 標簽）

送入網(wǎng)絡(luò)，計算網(wǎng)絡(luò)的實際輸出Y（此時網(wǎng)絡(luò)中的權(quán)重都是隨機的）

計算D=Bi -Y（預測值與實際值的差）

根據(jù)誤差D調(diào)整權(quán)值矩陣W

對每個樣本重復上述過程，直到對整個樣本集來說，誤差不超過規(guī)定范圍。

使用

神經(jīng)網(wǎng)絡(luò)框架

Caffe是一種開源的軟件框架，利用這套框架，我們可以實現(xiàn)新的網(wǎng)絡(luò)、修改已有的神經(jīng)網(wǎng)絡(luò)、訓練網(wǎng)絡(luò)、編寫網(wǎng)絡(luò)使用。

實現(xiàn)新的網(wǎng)絡(luò)

1 數(shù)據(jù)打包

2 編寫網(wǎng)絡(luò)結(jié)構(gòu)文件

3 編寫網(wǎng)絡(luò)求解文件

4 開始訓練

caffe的文件結(jié)構(gòu)

data 用于存放下載的訓練數(shù)據(jù)

例如安裝后會有 mnist ilsvrc12 cifar10

docs example 使用的幫助文檔和代碼樣例

使用與部署

直接使用caffe神經(jīng)網(wǎng)絡(luò)框架比較復雜，可以使用NVIDIA推出的DIGIST可視化工具進行網(wǎng)絡(luò)的訓練。

TensorRT 網(wǎng)絡(luò)框架 采取“”精度換速度“”的策略，在精度無明顯下降的前提下，其對inference的加速明顯，往往有1倍以上的性能提升，它能根據(jù)prototxt文件和caffemodel權(quán)值，轉(zhuǎn)化為支持半精度的新的模型。其工作流程：

構(gòu)建：構(gòu)建一個網(wǎng)絡(luò)、進行優(yōu)化

執(zhí)行：引擎運行推理任務(wù)

使用TensorRT部署神經(jīng)網(wǎng)絡(luò)

訓練對于深度學習來說是為了獲得一個性能優(yōu)異的模型，其主要的關(guān)注點在于模型的準確度等指標。推理則不一樣，其沒有了訓練中的反向迭代過程，是針對新的數(shù)據(jù)進行預測，而我們?nèi)粘Ｉ钪惺褂玫腁I服務(wù)都是推理服務(wù)。相較于訓練，推理的關(guān)注點不一樣，從而也給現(xiàn)在有技術(shù)帶來了新的挑戰(zhàn)：

推理更關(guān)注的是高吞吐率、低響應時間、低資源消耗以及簡便的部署流程，而TensorRT就是用來解決推理所帶來的挑戰(zhàn)以及影響的部署級的解決方案。