這個樣例的預(yù)處理流水線將一個原始RDD通過一系列的轉(zhuǎn)換，轉(zhuǎn)成一個Batch的RDD。其中，ByteToMat把Byte圖片轉(zhuǎn)換成OpenCV的Mat存儲格式，Resize將圖片的調(diào)整為300x300的大小，MatToFloats將Mat里的像素存成Float數(shù)組的格式，并減去對應(yīng)通道的均值。最后，RoiImageToBatch把數(shù)據(jù)組成Batch，作為模型的輸入，用于預(yù)測或訓(xùn)練。

加載模型

用戶可以方便地使用BigDL加載預(yù)訓(xùn)練好的模型，在Spark程序中直接使用。給定BigDL模型文件，即可調(diào)用Module.load得到模型。

另外，BigDL也支持第三方深度學(xué)習(xí)框架模型的導(dǎo)入，如Caffe，Torch，TensorFlow。

用戶可以很方便地加載已經(jīng)訓(xùn)練好的模型，用于數(shù)據(jù)預(yù)測，特征提取，模型微調(diào)等。以Caffe為例，Caffe的模型由兩個文件組成，模型prototxt定義文件和模型參數(shù)文件。如下所示，用戶可以很容易地將預(yù)訓(xùn)練好的Caffe模型加載到Spark和BigDL程序中。

性能

我們對基于Caffe的GPU集群解決方案和基于BigDL的Xeon集群解決方案進行了性能基準測試，測試均運行在京東的內(nèi)部集群環(huán)境里。

測試標準

端到端的圖片處理和分析流水線，包括：

從分布式的開源數(shù)據(jù)庫中讀取圖片（從圖片源下載圖片到內(nèi)存）

輸入到目標檢測模型和特征提取模型進行特征抽取

將結(jié)果（圖片路徑和特征）保存到文件系統(tǒng)

注：下載因素成為端到端總體吞吐率的重要影響因素，在這個案例里面，這部分耗時占處理總耗時（下載+檢測+特征）約一半。GPU服務(wù)器對下載這部分的處理是無法利用GPU加速的。

測試環(huán)境

GPU: NVIDIA Tesla K40，20張卡并發(fā)執(zhí)行
CPU: Intel(R) Xeon(R) CPU E5-2650 v4 @ 2.20GHz，共1200個邏輯核 （每臺服務(wù)器有24個物理核，啟用超線程，配置成YARN的50個邏輯核）

測試結(jié)果

Figure 2顯示了Caffe在20個K40并發(fā)處理圖片的吞吐量約為540圖片/秒，而BigDL在1200個邏輯核的YARN（Xeon）集群上對應(yīng)的吞吐量約為2070圖片/秒。BigDL在Xeon集群上吞吐量上約是GPU集群的3.83倍，極大地縮短了大規(guī)模圖片的處理時間。

測試結(jié)果表明，BigDL在大規(guī)模圖片特征提取應(yīng)用中提供了更好的支持。BigDL的高擴展性，高性能和易用性，幫助京東更輕松地應(yīng)對海量，爆炸式增長的圖片規(guī)模?；谶@樣的測試結(jié)果，京東正在將基于GPU集群的Caffe圖片特征提取實現(xiàn)，升級為基于Xeon集群的BigDL方案部署到Spark集群生產(chǎn)環(huán)境中。

Figure 2比較 K40和Xeon在圖片特征提取流水線的吞吐量 結(jié)論

BigDL的高擴展性，高性能和易用性，幫助京東更容易地使用深度學(xué)習(xí)技術(shù)處理海量圖片。京東會繼續(xù)將BigDL應(yīng)用到更廣泛的深度學(xué)習(xí)應(yīng)用中，如分布式模型訓(xùn)練等。

引用

[1]. Liu, Wei, et al. “SSD: Single Shot Multibox Detector.” European conference on computer vision. Springer, Cham, 2016.
[2]. Lin, Kevin, et al. “Learning compact binary descriptors with unsupervised deep neural networks.” Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2016.
[3]. https://github.com/intel-analytics/BigDL
[4]. https://github.com/intel-analytics/analytics-zoo/tree/master/transform/vision
[5].