前言

代碼倉(cāng)庫(kù)地址：https://github.com/Oneflow-Inc/one-yolov5歡迎star one-yolov5項(xiàng)目 獲取 最新的動(dòng)態(tài)。如果你有問(wèn)題，歡迎在倉(cāng)庫(kù)給我們提出寶貴的意見(jiàn)。 如果對(duì)你有幫助，歡迎來(lái)給我Star呀~

聲明:Model Train(以coco數(shù)據(jù)集為例) 。本文涉及到了大量的超鏈接，但是在微信文章里面外鏈接會(huì)被吃掉，所以歡迎大家到這里查看本篇文章的完整版本：https://start.oneflow.org/oneflow-yolo-doc/tutorials/03_chapter/quick_start.html

項(xiàng)目結(jié)構(gòu)預(yù)覽

安裝

gitclonehttps://github.com/Oneflow-Inc/one-yolov5#clone
cdone-yolov5
pipinstall-rrequirements.txt#install

訓(xùn)練

兩種訓(xùn)練方式

1. 帶權(quán)重訓(xùn)練

$pythonpath/to/train.py--datacoco.yaml--weightsyolov5s--img640

2. 不帶權(quán)重訓(xùn)練

$pythonpath/to/train.py--datacoco.yaml--weights''--cfgyolov5s.yaml--img640

單GPU訓(xùn)練

$pythontrain.py--datacoco.yaml--weightsyolov5s--device0

多GPU訓(xùn)練

$python-moneflow.distributed.launch--nproc_per_node2train.py--batch64--datacoco.yaml--weightsyolov5s--device0,1

注意：

• --nproc_per_node 指定要使用多少GPU。舉個(gè)例子:在上面 多GPU訓(xùn)練指令中它是2。

• --batch 是總批量大小。它將平均分配給每個(gè)GPU。在上面的示例中，每GPU是64/2＝32。

• --cfg : 指定一個(gè)包含所有評(píng)估參數(shù)的配置文件。

• 上面的代碼默認(rèn)使用GPU 0…（N-1）。使用特定的GPU？可以通過(guò)簡(jiǎn)單在 --device 后跟指定GPU來(lái)實(shí)現(xiàn)?！赴咐?，在下面的代碼中，我們將使用GPU 2,3。

$python-moneflow.distributed.launch--nproc_per_node2train.py--batch64--datacoco.yaml--cfgyolov5s.yaml--weights''--device2,3

恢復(fù)訓(xùn)練

如果你的訓(xùn)練進(jìn)程中斷了，你可以這樣恢復(fù)先前的訓(xùn)練進(jìn)程。

#多卡訓(xùn)練.
python-moneflow.distributed.launch--nproc_per_node2train.py--resume

你也可以通過(guò) --resume 參數(shù)指定要恢復(fù)的模型路徑

#記得把/path/to/your/checkpoint/path替換為你要恢復(fù)訓(xùn)練的模型權(quán)重路徑
--resume/path/to/your/checkpoint/path

使用SyncBatchNorm

SyncBatchNorm可以提高多gpu訓(xùn)練的準(zhǔn)確性，但會(huì)顯著降低訓(xùn)練速度。它僅適用于多GPU DistributedDataParallel 訓(xùn)練。

建議最好在每個(gè)GPU上的樣本數(shù)量較?。?em style="font-style:italic;color:#000000;">樣本數(shù)量<=8）時(shí)使用。

要使用SyncBatchNorm，只需將添加 --sync-bn 參數(shù)選項(xiàng)，具體「案例」如下:

$python-moneflow.distributed.launch--nproc_per_node2train.py--batch64--datacoco.yaml--cfgyolov5s.yaml--weights''--sync-bn

評(píng)估

下面的命令是在COCO val2017數(shù)據(jù)集上以640像素的圖像大小測(cè)試 yolov5x 模型。yolov5x是可用小模型中最大且最精確的，其它可用選項(xiàng)是 yolov5n ，yolov5m，yolov5s，yolov5l ，以及他們的 P6 對(duì)應(yīng)項(xiàng)比如 yolov5s6 ，或者你自定義的模型，即 runs/exp/weights/best 。有關(guān)可用模型的更多信息，請(qǐng)參閱我們的README-TABLE

$pythonval.py--weightsyolov5x--datacoco.yaml--img640

推理

首先，下載一個(gè)訓(xùn)練好的模型權(quán)重文件，或選擇你自己訓(xùn)練的模型；

然后，通過(guò) detect.py文件進(jìn)行推理。

pythonpath/to/detect.py--weightsyolov5s--source0#webcam
img.jpg#image
vid.mp4#video
path/#directory
path/*.jpg#glob
'https://youtu.be/Zgi9g1ksQHc'#YouTube
'rtsp://example.com/media.mp4'#RTSP,RTMP,HTTPstream

訓(xùn)練結(jié)果

本地日志

默認(rèn)情況下，所有結(jié)果都記錄為runs/train，并為每個(gè)新訓(xùn)練創(chuàng)建一個(gè)新的訓(xùn)練結(jié)果目錄，如runs/train/exp2、runs/train/exp3等。查看訓(xùn)練和測(cè)試JPG以查看 mosaics, labels, predictions and augmentation 效果。注意：Mosaic Dataloader 用于訓(xùn)練（如下所示），這是Ultralytics發(fā)表的新概念，首次出現(xiàn)在YOLOv4中。

train_batch0.jpg 顯示 batch 為 0 的 (mosaics and labels):

val_batch0_labels.jpg 展示測(cè)試 batch 為 0 的labels:

val_batch0_pred.jpg 展示測(cè)試 batch 為 0 predictions(預(yù)測(cè)):

訓(xùn)練訓(xùn)損失和性能的指標(biāo)有記錄到Tensorboard和自定義結(jié)果中results.csv日志文件，訓(xùn)練訓(xùn)完成后作為結(jié)果繪制 results.png如下。在這里，我們展示了在COCO128上訓(xùn)練的YOLOV5結(jié)果

• 從零開(kāi)始訓(xùn)練 (藍(lán)色)。
• 加載預(yù)訓(xùn)練權(quán)重 --weights yolov5s (橙色)。

具體的指標(biāo)分析詳見(jiàn)文章《模型精確度評(píng)估》

訓(xùn)練技巧

聲明：大多數(shù)情況下，只要數(shù)據(jù)集足夠大且標(biāo)記良好，就可以在不改變模型或訓(xùn)練設(shè)置的情況下獲得良好的結(jié)果。如果一開(kāi)始你沒(méi)有得到好的結(jié)果，你可以采取一些步驟來(lái)改進(jìn)，但我們始終建議用戶在考慮任何更改之前先使用所有默認(rèn)設(shè)置進(jìn)行一次訓(xùn)練。這有助于建立評(píng)估基準(zhǔn)和發(fā)現(xiàn)需要改進(jìn)的地方 。

模型選擇

類(lèi)似于YOLOv5x和YOLOv5x6的大型模型在幾乎所有情況下都會(huì)產(chǎn)生更好的結(jié)果，但參數(shù)更多，需要更多的CUDA內(nèi)存進(jìn)行訓(xùn)練，運(yùn)行速度較慢。

對(duì)于移動(dòng)部署，我們推薦YOLOv5s/m，對(duì)于云部署，我們建議YOLOV5l/x。

有關(guān)所有模型的完整比較，請(qǐng)參閱詳細(xì)表

[外鏈圖片轉(zhuǎn)存失敗,源站可能有防盜鏈機(jī)制,建議將圖片保存下來(lái)直接上傳(img-FotYkHQk-1668949640644)( https://user-images.githubusercontent.com/35585791/201064824-f97c82d5-6bba-4421-86d9-194e47842e35.png)]

• 從預(yù)先訓(xùn)練的權(quán)重開(kāi)始訓(xùn)練。建議用于中小型數(shù)據(jù)集（即VOC、VisDrone、GlobalWheat）。將模型的名稱(chēng)傳遞給--weights參數(shù)。模型自動(dòng)從latest YOLOv5 releasse 下載 。

pythontrain.py--datacustom.yaml--weightsyolov5s
yolov5m
yolov5l
yolov5x
custom_pretrained#自定義的網(wǎng)絡(luò)結(jié)構(gòu)文件

• 從頭開(kāi)始訓(xùn)練的話，推薦用大的數(shù)據(jù)集(即 COCO、Objects365、OIv6 )在 --cfg 選項(xiàng)后傳遞你感興趣的網(wǎng)絡(luò)結(jié)構(gòu)文件參數(shù) 以及空的 --weights '' 參數(shù)：

pythontrain.py--datacustom.yaml--weights''--cfgyolov5s.yaml
yolov5m.yaml
yolov5l.yaml
yolov5x.yaml

訓(xùn)練配置

在修改任何內(nèi)容之前，首先使用默認(rèn)設(shè)置進(jìn)行訓(xùn)練，以建立性能基線。訓(xùn)練參數(shù)的完整列表,能夠在train.py文件中發(fā)現(xiàn)。

• Epochs : 默認(rèn)訓(xùn)練300個(gè)epochs。如果早期過(guò)擬合，則可以減少訓(xùn)練。如果在300個(gè)周期后未發(fā)生過(guò)擬合，則可以訓(xùn)練更長(zhǎng)，比如600、1200個(gè)epochs。

• Image size: COCO以 --img 640,的分辨率進(jìn)行訓(xùn)練，但由于數(shù)據(jù)集中有大量的小對(duì)象，它可以從更高分辨率（如--img 1280）的訓(xùn)練中訓(xùn)練。如果有許多小對(duì)象，則自定義數(shù)據(jù)集將從更高分辨率的訓(xùn)練中獲益。最好的推斷結(jié)果是在相同的--img 處獲得的 ，即如果在-img 1280處進(jìn)行訓(xùn)練，也應(yīng)該在--img 1280處進(jìn)行測(cè)試和檢測(cè)。

• Batch Size: 使用更大的 --batch-size 。能夠有效緩解小樣本數(shù)產(chǎn)生的batchnorm統(tǒng)計(jì)的錯(cuò)誤。

• Hyperparameters：默認(rèn)超參數(shù)在hyp.scratch-low.yaml文件中。我們建議你在考慮修改任何超參數(shù)之前，先使用默認(rèn)超參數(shù)進(jìn)行訓(xùn)練。一般來(lái)說(shuō)，增加增強(qiáng)超參數(shù)將減少和延遲過(guò)度擬合，允許更長(zhǎng)的訓(xùn)練和得到更高mAP值。減少損耗分量增益超參數(shù)，如hyp['obj']，將有助于減少這些特定損耗分量中的過(guò)度擬合。有關(guān)優(yōu)化這些超參數(shù)的自動(dòng)化方法，請(qǐng)參閱我們的 《超參數(shù)演化教程》。

• ...更多訓(xùn)練的超參數(shù)配置請(qǐng)查看本文的附錄。

拓展

使用多機(jī)訓(xùn)練

這僅適用于多GPU分布式數(shù)據(jù)并行訓(xùn)練。

在訓(xùn)練之前，確保所有機(jī)器上的文件都相同，數(shù)據(jù)集、代碼庫(kù)等。之后，確保機(jī)器可以相互通信。

你必須選擇一臺(tái)主機(jī)器（其他機(jī)器將與之對(duì)話）。記下它的地址（master_addr）并選擇一個(gè)端口（master-port）。對(duì)于下面的示例，將使用master_addr=192.168.1.1和master_ port=1234。

要使用它，可以執(zhí)行以下指令：

#Onmastermachine0
$python-moneflow.distributed.launch--nproc_per_nodeG--nnodesN--node_rank0--master_addr"192.168.1.1"--master_port1234train.py--batch64--datacoco.yaml--cfgyolov5s.yaml--weights''

#OnmachineR
$python-moneflow.distributed.launch--nproc_per_nodeG--nnodesN--node_rankR--master_addr"192.168.1.1"--master_port1234train.py--batch64--datacoco.yaml--cfgyolov5s.yaml--weights''

其中G是每臺(tái)機(jī)器的GPU數(shù)量，N是機(jī)器數(shù)量，R是從0到（N-1）的機(jī)器數(shù)量。

假設(shè)我有兩臺(tái)機(jī)器，每臺(tái)機(jī)器有兩個(gè)GPU，對(duì)于上面的情況，G=2，N=2，R=1。

在連接所有N臺(tái)機(jī)器之前，訓(xùn)練不會(huì)開(kāi)始。輸出將僅顯示在主機(jī)上！

注意

• oneflow目前不支持windows平臺(tái)
• --batch 必須是GPU數(shù)量的倍數(shù)。
• GPU 0 將比其他GPU占用略多的內(nèi)存，因?yàn)樗S護(hù)EMA并負(fù)責(zé)檢查點(diǎn)等。
• 如果你得到 RuntimeError: Address already in use ，可能是因?yàn)槟阋淮握谶\(yùn)行多個(gè)訓(xùn)練程序。要解決這個(gè)問(wèn)題，只需通過(guò)添加--master_port來(lái)使用不同的端口號(hào)，如下所示

$python-moneflow.distributed.launch--master_port1234--nproc_per_node2...

配置代碼

#prepare
t=https://github.com/Oneflow-Inc/one-yolov5:latest&&sudodockerpull$t&&sudodockerrun-it--ipc=host--gpusall-v"$(pwd)"/coco:/usr/src/coco$t
pipinstall--preoneflow-fhttps://staging.oneflow.info/branch/master/cu112
cd..&&rm-rfapp&&gitclonehttps://github.com/Oneflow-Inc/one-yolov5-bmasterapp&&cdapp
cpdata/coco.yamldata/coco_profile.yaml

#profile
pythontrain.py--batch-size16--datacoco_profile.yaml--weightsyolov5l--epochs1--device0
python-moneflow.distributed.launch--nproc_per_node2train.py--batch-size32--datacoco_profile.yaml--weightsyolov5l--epochs1--device0,1
python-moneflow.distributed.launch--nproc_per_node4train.py--batch-size64--datacoco_profile.yaml--weightsyolov5l--epochs1--device0,1,2,3
python-moneflow.distributed.launch--nproc_per_node8train.py--batch-size128--datacoco_profile.yaml--weightsyolov5l--epochs1--device0,1,2,3,4,5,6,7

附件

表3.1

表3.1 : train.py參數(shù)解析表

Reference

• https://github.com/ultralytics/yolov5/wiki/Train-Custom-Data
• https://docs.ultralytics.com/quick-start/