Eclipse Deeplearning4J (DL4J) 是包含深度學(xué)習(xí)工具和庫(kù)的框架，專為充分利用 Java? 虛擬機(jī) (JVM) 而編寫(xiě)。它具有為 Java 和 Scala 語(yǔ)言編寫(xiě)的分布式深度學(xué)習(xí)庫(kù)，并且內(nèi)置集成了 Apache Hadoop 和 Spark。Deeplearning4j有助于彌合使用 Python 語(yǔ)言的數(shù)據(jù)科學(xué)家和使用 Java 語(yǔ)言的企業(yè)開(kāi)發(fā)人員之間的鴻溝，從而簡(jiǎn)化了在企業(yè)大數(shù)據(jù)應(yīng)用程序中部署深度學(xué)習(xí)的過(guò)程。

DL4J 可在分布式 CPU 和圖形處理單元 (GPU) 上運(yùn)行。社區(qū)版本和企業(yè)版本均已面市。

Eclipse Deeplearning4J 框架

Skymind

Skymind 是總部位于舊金山的人工智能 (AI) 初創(chuàng)企業(yè)，由 DL4J 首席開(kāi)發(fā)人員 Adam Gibson 聯(lián)合他人一起創(chuàng)辦。Skymind 銷售面向 DL4J 生態(tài)系統(tǒng)的商業(yè)支持服務(wù)和培訓(xùn)服務(wù)。此外，該公司的 Skymind Intelligence Layer 平臺(tái)可填補(bǔ) Python 應(yīng)用程序與企業(yè) JVM 之間的空白。

IBM? PowerAI 團(tuán)隊(duì)已將 DL4J 移植到 PowerAI 上。隨后，該團(tuán)隊(duì)與 Skymind 協(xié)作，將 DL4J 融入 IBM POWER8? 架構(gòu)，包括使用 NVLink 提供 NVIDIA? GPU 支持。

DL4J 是由來(lái)自舊金山和東京的一群開(kāi)源貢獻(xiàn)者協(xié)作開(kāi)發(fā)的。2014 年末，他們將其發(fā)布為 Apache 2.0 許可證下的開(kāi)源框架。主要是作為一種平臺(tái)來(lái)使用，通過(guò)這種平臺(tái)來(lái)部署商用深度學(xué)習(xí)算法。創(chuàng)立于 2014 年的 Skymind 是 DL4J 的商業(yè)支持機(jī)構(gòu)。

2017 年 10 月，Skymind 加入了 Eclipse 基金會(huì)，并且將 DL4J 貢獻(xiàn)給開(kāi)源 Java Enterprise Edition 庫(kù)生態(tài)系統(tǒng)。有了 Eclipse 基金會(huì)的支持，人們能夠更加肯定 DL4J 項(xiàng)目必將得到妥善監(jiān)管，同時(shí)也確保為商業(yè)開(kāi)發(fā)提供合適的開(kāi)源許可證。Java AI 開(kāi)發(fā)人員已將 DL4J 視為成熟且安全的框架，因此，這些新建立的伙伴關(guān)系將吸引企業(yè)在商業(yè)領(lǐng)域使用 DL4J。

企業(yè)大數(shù)據(jù)應(yīng)用程序中的深度學(xué)習(xí)

數(shù)據(jù)科學(xué)家使用 Python 來(lái)開(kāi)發(fā)深度學(xué)習(xí)算法。相比之下，企業(yè)大數(shù)據(jù)應(yīng)用程序傾向于使用 Java 平臺(tái)。因此，為填補(bǔ)缺口并在大數(shù)據(jù)應(yīng)用程序中部署深度學(xué)習(xí)，DL4J 的開(kāi)發(fā)人員必須對(duì)若干解決方案進(jìn)行創(chuàng)新。

Keras應(yīng)用程序編程接口 (API) 規(guī)范的采用，有助于從其他框架（例如，TensorFlow、Caffe、Microsoft? Cognitive Toolkit (CNTK) 和 Theano）導(dǎo)入深度學(xué)習(xí)模型。Keras API 可通過(guò) JVM 語(yǔ)言（例如，Java、Scala、Clojure 乃至 Kotlin）來(lái)訪問(wèn)，從而使深度學(xué)習(xí)模型可供 Java 開(kāi)發(fā)人員使用。

不熟悉 Keras？閱讀教程：“Keras 入門”

在 JVM 上運(yùn)行深度學(xué)習(xí)高性能計(jì)算負(fù)載時(shí)，將面臨著諸多挑戰(zhàn)。內(nèi)存管理和垃圾回收等 Java 功能可能會(huì)影響性能，使用較大內(nèi)存時(shí)尤為如此。DL4J 繞過(guò)了其中部分限制。

Deeplearning4j 框架中的庫(kù)

Deeplearing4j既指的是框架軟件分發(fā)版，又指的是框架中的特定庫(kù)。DL4J 框架包含以下庫(kù)：

DL4J 庫(kù)

ND4J 庫(kù)

Datavec 庫(kù)

Libnd4j 庫(kù)

RL4J 庫(kù)

Jumpy 庫(kù)

Arbiter 庫(kù)

Deeplearning4j 庫(kù)

Deeplearning4j 庫(kù)實(shí)際上是神經(jīng)網(wǎng)絡(luò)平臺(tái)。它包含各種工具，用于配置神經(jīng)網(wǎng)絡(luò)和構(gòu)建計(jì)算圖形。開(kāi)發(fā)人員使用此庫(kù)來(lái)構(gòu)建由數(shù)據(jù)管道和 Spark 集成的神經(jīng)網(wǎng)絡(luò)模型。

除核心庫(kù)外，DL4J 庫(kù)還包含許多其他庫(kù)，用于實(shí)現(xiàn)特定功能：

deeplearning4j-core。deeplearning4j-core 庫(kù)包含了運(yùn)行 DL4J 所需的全部功能，例如，用戶界面 (UI)。它還具有構(gòu)建神經(jīng)網(wǎng)絡(luò)所需的各種工具和實(shí)用程序。

deeplearning4j-cuda。deeplearning4j-cuda 庫(kù)支持 DL4J 在使用 NVIDIA CUDA? 深度神經(jīng)網(wǎng)絡(luò)庫(kù) (CuDNN) 的 GPU 上運(yùn)行。此庫(kù)支持標(biāo)準(zhǔn)化以及卷積神經(jīng)網(wǎng)絡(luò)和遞歸神經(jīng)網(wǎng)絡(luò)。

deeplearning4j-graph。deeplearning4j-graph 庫(kù)執(zhí)行圖形處理來(lái)構(gòu)建 DeepWalk 中所使用的圖形矢量化模型，DeepWalk 是一個(gè)無(wú)監(jiān)督學(xué)習(xí)算法，用于學(xué)習(xí)圖形中每個(gè)頂點(diǎn)的矢量表示法。您可以使用這些學(xué)到的矢量表示法對(duì)圖形中的相似數(shù)據(jù)進(jìn)行分類、分群或搜索。

deeplearning4j-modelimport。deeplearning4j-modelimport 庫(kù)從 Keras 導(dǎo)入模型，Keras 又可從 Theano、TensorFlow、Caffe 和 CNTK 導(dǎo)入模型。這是關(guān)鍵的 DL4J 庫(kù)，支持將模型從其他框架導(dǎo)入 DL4J。

deeplearning4j-nlp-parent。deeplearning4j-nlp-parent 庫(kù)支持將 DL4J 與外部自然語(yǔ)言處理 (NLP) 插件和工具相集成。此接口遵循非結(jié)構(gòu)化信息管理架構(gòu) (UIMA)，后者最初是由 IBM 開(kāi)發(fā)的用于內(nèi)容分析的開(kāi)放標(biāo)準(zhǔn)。此庫(kù)還包含適用于英語(yǔ)、中文、日語(yǔ)和韓語(yǔ)的文本分析。

deeplearning4j-nlp。deeplearning4j-nlp 庫(kù)是 NLP 工具（如 Word2Vec 和 Doc2Vec）的集合。Word2Vec 是一個(gè)用于處理文本的雙層神經(jīng)網(wǎng)絡(luò)。Word2Vec 對(duì)于在“矢量空間”中對(duì)相似詞語(yǔ)矢量進(jìn)行分組十分有用。Doc2Vec 是 Word2Vec 的一個(gè)擴(kuò)展，用于學(xué)習(xí)將標(biāo)簽與詞語(yǔ)相關(guān)聯(lián)，而不是將不同詞語(yǔ)關(guān)聯(lián)起來(lái)。

deeplearning4j-nn。deeplearning4j-nn 庫(kù)是核心庫(kù)的精簡(jiǎn)版本，減少了依賴關(guān)系。它使用構(gòu)建器模式來(lái)設(shè)置超參數(shù)，同時(shí)配置多層網(wǎng)絡(luò)，支持使用設(shè)計(jì)模式在 Java 中構(gòu)造神經(jīng)網(wǎng)絡(luò)。

deeplearning4j-scaleout。deeplearning4j-scaleout 庫(kù)是各種庫(kù)的集合，適用于配備 Amazon Web Services 服務(wù)器以及封裝 Spark 并行代碼，以便在多達(dá) 96 核的常規(guī)服務(wù)器（而不是 Spark）上運(yùn)行。此庫(kù)還有助于在 Spark 以及包含 Kafka 和其他視頻分析流選項(xiàng)的 Spark 上配置 NLP。

deeplearning4j-ui-parent。deeplearning4j-ui-parent 庫(kù)實(shí)際上是 DL4J UI，包含神經(jīng)網(wǎng)絡(luò)訓(xùn)練啟發(fā)式方法和可視化工具。

ND4J 庫(kù)

N-Dimensional Arrays for Java (ND4J) 是科學(xué)計(jì)算C++庫(kù)，類似于 Python 的 NumPy。它支持 JVM 上運(yùn)行的多種語(yǔ)言，例如，Java、Scala、Clojure 和 Kotlin。您可以使用 ND4J 來(lái)執(zhí)行線性代數(shù)或操作矩陣。ND4J 可與 Hadoop 或 Spark 進(jìn)行集成并由此實(shí)現(xiàn)擴(kuò)展，同時(shí)可在分布式 CPU 和 GPU 上運(yùn)行。

Java AI 開(kāi)發(fā)人員可以使用 ND4J 在 Java 中定義N維數(shù)組，這使其能夠在 JVM 上執(zhí)行張量運(yùn)算。ND4J 使用 JVM 外部的“堆外”內(nèi)存來(lái)存儲(chǔ)張量。JVM 僅保存指向此外部?jī)?nèi)存的指針，Java 程序通過(guò) Java 本機(jī)接口 (JNI) 將這些指針傳遞至 ND4JC++后端代碼。此結(jié)構(gòu)配合來(lái)自本機(jī)代碼（例如，基本線性代數(shù)子程序 (BLAS) 和 CUDA 庫(kù)）的張量使用時(shí)，可提供更佳的性能。ND4J 與 Spark 集成，并且可使用不同后端在 CPU 或 GPU 上運(yùn)行。Scala API ND4S 有助于實(shí)現(xiàn)這種集成。在稍后部分中討論 DL4J 如何使用硬件加速時(shí)，將再次探討 ND4J 架構(gòu)。

Datavec 庫(kù)

DataVec 庫(kù)的主要功能是將數(shù)據(jù)格式化為張量。通過(guò)這種預(yù)處理，神經(jīng)網(wǎng)絡(luò)能夠訪問(wèn)和使用數(shù)據(jù)。DataVec 執(zhí)行抽取、轉(zhuǎn)換和加載 (ETL) 操作，同時(shí)還支持通過(guò)一系列數(shù)據(jù)轉(zhuǎn)換連接到各種數(shù)據(jù)源和輸出張量。DL4J 支持眾多數(shù)據(jù)類型，包括圖像、逗號(hào)分隔值 (CSV)、屬性關(guān)聯(lián)文件格式 (ARFF) 和純文本。DL4J 還支持 Apache Camel 集成。

libnd4j 庫(kù)

Libnd4j 是一個(gè)純C++庫(kù)，支持 ND4J 訪問(wèn)屬于 BLAS 和 Intel Math Kernel Library 的線性代數(shù)函數(shù)。它與 JavaCPP 開(kāi)源庫(kù)緊密結(jié)合運(yùn)行。JavaCPP 不屬于 DL4J 框架項(xiàng)目，但支持此代碼的開(kāi)發(fā)人員是相同的。

Jumpy 庫(kù)

Jumpy 是一個(gè) Python 庫(kù)，支持 NumPy 無(wú)需移動(dòng)數(shù)據(jù)即可使用 ND4J 庫(kù)。此庫(kù)實(shí)現(xiàn)了針對(duì) NumPy 和Pyjnius的包裝器。MLlib 或 PySpark 開(kāi)發(fā)人員可以使用 Jumpy，以便在 JVM 上使用 NumPy 數(shù)組。

Arbiter 庫(kù)

DL4J 使用此工具來(lái)自動(dòng)調(diào)優(yōu)神經(jīng)網(wǎng)絡(luò)?？墒褂弥T如網(wǎng)格搜索、隨機(jī)搜索和貝葉斯方法之類的各種方法來(lái)優(yōu)化具有許多超參數(shù)的復(fù)雜模型，從而提高性能。

Deeplearning4J 的優(yōu)勢(shì)

DL4J 具有眾多優(yōu)勢(shì)。讓我們來(lái)了解一下其中的三大優(yōu)勢(shì)。

Python 可與 Java、Scala、Clojure 和 Kotlin 實(shí)現(xiàn)互操作性。

Python 為數(shù)據(jù)科學(xué)家所廣泛采用，而大數(shù)據(jù)編程人員則在 Hadoop 和 Spark 上使用 Java 或 Scala 來(lái)開(kāi)展工作。DL4J 填補(bǔ)了之間的鴻溝，開(kāi)發(fā)人員因而能夠在 Python 與 JVM 語(yǔ)言（例如，Java、Scala、Clojure 和 Kotlin）之間遷移。

通過(guò)使用Keras API，DL4J 支持從其他框架（例如，TensorFlow、Caffe、Theano 和 CNTK）遷移深度學(xué)習(xí)模型。甚至有人建議將 DL4J 作為 Keras 官方貢獻(xiàn)的后端之一。

分布式處理

DL4J 可在最新分布式計(jì)算平臺(tái)（例如，Hadoop 和 Spark）上運(yùn)行，并且可使用分布式 CPU 或 GPU 實(shí)現(xiàn)加速。通過(guò)使用多個(gè) GPU，DL4J 可以實(shí)現(xiàn)與 Caffe 相媲美的性能。DL4J 也可以在許多云計(jì)算平臺(tái)（包括 IBM Cloud）上運(yùn)行。

并行處理

DL4J 包含單線程選項(xiàng)和分布式多線程選項(xiàng)。這種減少迭代次數(shù)的方法可在集群中并行訓(xùn)練多個(gè)神經(jīng)網(wǎng)絡(luò)。因此，DL4J 非常適合使用微服務(wù)架構(gòu)來(lái)設(shè)計(jì)應(yīng)用程序。

Eclipse DL4J 應(yīng)用程序

DL4J 具有各種應(yīng)用程序，從圖形處理到 NLP，皆涵蓋在內(nèi)。借助內(nèi)置數(shù)據(jù)預(yù)處理和矢量化工具，DL4J 能夠異常靈活地處理許多不同的數(shù)據(jù)格式。Keras API 還使其更便于使用來(lái)自其他框架的預(yù)先訓(xùn)練模型。

典型的 DL4J 應(yīng)用程序包括：

安全性應(yīng)用程序，例如欺詐檢測(cè)和網(wǎng)絡(luò)入侵檢測(cè)

在客戶關(guān)系管理、廣告推送和客戶忠誠(chéng)度及維系方面使用的推薦系統(tǒng)

面向物聯(lián)網(wǎng)和其他流數(shù)據(jù)的回歸和預(yù)測(cè)分析

傳統(tǒng)面部識(shí)別和圖像識(shí)別應(yīng)用程序

語(yǔ)音搜索和語(yǔ)音轉(zhuǎn)錄應(yīng)用程序

針對(duì)硬件或工業(yè)應(yīng)用程序的預(yù)防性診斷和異常檢測(cè)

支持 DL4J 的平臺(tái)

理論上，任何支持 JVM 且運(yùn)行 Java V1.7 或更高版本的 64 位平臺(tái)均可支持 DL4J。DL4J 使用 ND4J 來(lái)訪問(wèn)受支持的 GPU。ND4J 則依賴于其他軟件，例如 CUDA 和 CuDNN。

實(shí)際上，商用 DL4J 需要生產(chǎn)級(jí) Java 平臺(tái)。IBM Open Platform for Apache Hadoop and Apache Spark 已在 PowerAI 上完成了 DL4J 框架認(rèn)證。Cloudera 也已在其 Enterprise Data Hub CDH5 上完成了 DL4J 認(rèn)證，Hortonworks 同樣也在其 Data Platform\HDP2.4 上完成了認(rèn)證。

有關(guān)安裝 ND4J 和其他必備軟件的更多信息，請(qǐng)查看ND4J 入門文檔。

從源代碼構(gòu)建 DL4J

在其他框架中，使用預(yù)先構(gòu)建的二進(jìn)制文件來(lái)安裝框架有時(shí)更為方便。但對(duì)于 DL4J，最好是從源代碼構(gòu)建和安裝 DL4J，以便確保正確處理多種依賴關(guān)系。安裝為多步驟的復(fù)雜過(guò)程，適合生產(chǎn)級(jí)安裝。Apache Maven V3.3.9 或更高版本可對(duì)構(gòu)建和依賴關(guān)系進(jìn)行管理。對(duì)于集成開(kāi)發(fā)環(huán)境，可以使用 IntelliJ IDEA 或 Eclipse。

專家建議使用“uber-jar”方法來(lái)構(gòu)建 DL4J 應(yīng)用程序。此方法支持使用 .rpm 或 .deb 包在“uber-jar”內(nèi)部分發(fā)依賴關(guān)系，并將部署與開(kāi)發(fā)隔離開(kāi)來(lái)。

有關(guān)使用 DL4J 構(gòu)建應(yīng)用程序的更多信息，請(qǐng)閱讀快速入門指南。

Power 架構(gòu)上的 DL4J

DL4J 團(tuán)隊(duì)官方在 DL4J 存儲(chǔ)庫(kù)中為 IBM Power? 維護(hù) DL4J。Maven 負(fù)責(zé)管理構(gòu)建和安裝過(guò)程。ND4J 具有兩個(gè)用于 Power 架構(gòu)的本機(jī)平臺(tái)后端：第一個(gè)在 POWER8 CPU 上運(yùn)行，第二個(gè)則使用 NVLink 互連在 NVIDIA GPU 上運(yùn)行。

ND4J CPU 后端nd4j-native-platform運(yùn)行 OpenBLAS 庫(kù)的優(yōu)化版本。為實(shí)現(xiàn)加速，ND4J CPU 后端在 POWER8 處理器上使用矢量/標(biāo)量浮點(diǎn)單元。

ND4J GPU 后端nd4j-cuda-8.0-platform可在使用 NVLink 接口與 POWER8 處理器互連的 NVIDIA GPU 上運(yùn)行 CUDA 或 cuDNN。

有關(guān)在 Power 架構(gòu)上安裝 DL4J 的更多信息，請(qǐng)?jiān)L問(wèn)https://deeplearning4j.org/power。

注：在 POWER8 平臺(tái)上，首選的 Java 級(jí)別為 V8。為 POWER8 而調(diào)優(yōu)的唯一 Java 7 發(fā)行版為 Java 7.1 SR1 或更高版本。

DL4J 如何使用硬件加速？

DL4J 分別依靠 ND4J 和 ND4S 這兩種特定于平臺(tái)的后端來(lái)使用硬件加速。ND4J 和 ND4S Java 與 Scala API 用于封裝 BLAS 庫(kù)，例如，Jblas、Netlib-blas 和 Jcublas。

ND4J 具有兩種級(jí)別的運(yùn)算。高級(jí)運(yùn)算包括卷積、快速傅立葉變換、各種損失函數(shù)、變換（例如，sigmoid 變換或 tanh 變換）和約簡(jiǎn)。通過(guò) ND4J API 調(diào)用時(shí)，BLAS 會(huì)實(shí)施低級(jí)運(yùn)算。BLAS 運(yùn)算包括矢量加法、標(biāo)量乘法、點(diǎn)乘、線性組合和矩陣乘法。

ND4J 在特定于平臺(tái)架構(gòu)的后端上運(yùn)行。CPU 后端帶有nd4j-native前綴，GPU 后端帶有nd4j-cuda-前綴，其中 CUDA 版本可能是 7.5 或 8.0 等。無(wú)論使用何種后端，ND4J API 都保持不變。

最后，ND4J 實(shí)現(xiàn)特定于 BLAS 的數(shù)據(jù)緩沖區(qū)，用于存儲(chǔ) BLAS 處理的數(shù)組和原始數(shù)據(jù)字節(jié)。根據(jù)后端，此存儲(chǔ)抽象層具有不同的實(shí)現(xiàn)。JVM 與后端之間通過(guò) JNI 進(jìn)行通信。

結(jié)束語(yǔ)

Deeplearning4j 是深度學(xué)習(xí)工具和庫(kù)框架，專為充分利用 Java 虛擬機(jī)而編寫(xiě)。DL4J 框架旨在用于在生產(chǎn)級(jí)服務(wù)器上部署商用深度學(xué)習(xí)算法。它具有為 Java 和 Scala 而編寫(xiě)的分布式深度學(xué)習(xí)庫(kù)，并且內(nèi)置了與 Hadoop 和 Spark 的集成。DL4J 可在分布式 CPU 和 GPU 上運(yùn)行，提供了社區(qū)版本和企業(yè)版本。Skymind 作為其商業(yè)支持機(jī)構(gòu)，為企業(yè)版本提供專業(yè)的服務(wù)和支持。