Yann LeCun曾說，深度學(xué)習(xí)可能需要一種新的編程語言了?，F(xiàn)在Swift來了！沒錯(cuò)，這就是讓萬千飽受Python缺點(diǎn)困擾的開發(fā)者興奮不已的深度學(xué)習(xí)語言。本文便將帶領(lǐng)讀者詳細(xì)了解一下為什么Swift將成為深度學(xué)習(xí)的下一大熱門。

當(dāng)你聽到Swift的時(shí)候，第一反應(yīng)肯定會想到iOS或者M(jìn)acOS的應(yīng)用程序開發(fā)。當(dāng)你玩兒過深度學(xué)習(xí)，也肯定聽說過Swift for Tensorflow(縮寫為S4TF)。

而后你就會產(chǎn)生困惑：“為什么谷歌要為Swift創(chuàng)建TensorFlow版本呢？已經(jīng)有了Python和C++版本了，為什么還要添加另一種語言？”

在這篇文章中，作者將嘗試回答這些問題，并告訴你為什么要認(rèn)真遵循S4TF以及Swift語言本身。 本文的目的不是提供非常詳細(xì)的解釋，而是提供下文大量鏈接內(nèi)容的一般概述，方便讀者深入挖掘。

Swift for Tensorflow官方地址：

https://www.tensorflow.org/swift/

Swift“背景硬”：背后有強(qiáng)大的支持

Swift是Chris Lattner在蘋果公司工作時(shí)創(chuàng)建的。Swift語言的創(chuàng)造者現(xiàn)在在實(shí)驗(yàn)室從事深度學(xué)習(xí)的研究，這一事實(shí)應(yīng)該告訴你，這就是一個(gè)嚴(yán)肅的項(xiàng)目。

前段時(shí)間，谷歌的員工意識到一件事情：盡管Python是一種優(yōu)秀的語言，但它有許多難以克服的局限性——TensorFlow需要一種新的語言。

經(jīng)過長時(shí)間的考慮，Swift被選為候選語言。作者沒有在本文詳細(xì)介紹，但下方鏈接中的文檔描述了Python的缺點(diǎn)、在候選語言篩選過程中考慮哪些語言，以及最終為何Swift當(dāng)選。

https://github.com/tensorflow/swift/blob/master/docs/WhySwiftForTensorFlow.md

對于TensorFlow來說，Swift不僅僅是一個(gè)庫

Swift對于TensorFlow不僅僅是另一種語言的TF。

它本質(zhì)上是Swift語言本身的另一個(gè)分支(在git術(shù)語中)。這意味著S4TF不是一個(gè)庫；它本身就是一種語言，內(nèi)置了支持TensorFlow所需的所有功能的特性。

例如，S4TF中有非常強(qiáng)大的自動微分系統(tǒng)，這是計(jì)算梯度所需要的深度學(xué)習(xí)的基礎(chǔ)之一。對比一下Python，在Python中，自動微分不是語言的核心組件。最初作為S4TF的一部分開發(fā)的功能后來被集成到Swift語言本身。

Git地址：

https://git-scm.com/book/en/v1/Git-Branching-What-a-Branch-Is

有關(guān)自動微分：

https://github.com/tensorflow/swift/blob/master/docs/AutomaticDifferentiation.md

Swift速度極快

當(dāng)作者第一次知道Swift的運(yùn)行速度和C代碼一樣快時(shí)，作者表示非常驚訝。

我們知道C語言是高度優(yōu)化的，可以達(dá)到非常高的速度，但這是以微管理內(nèi)存為代價(jià)的，這導(dǎo)致C語言不是內(nèi)存安全的。此外，C語言并不是一門很容易學(xué)的語言。

現(xiàn)在，Swift在數(shù)值計(jì)算中運(yùn)行得和C一樣快，而且它沒有內(nèi)存安全問題，而且它更容易學(xué)習(xí)。Swift背后的LLVM編譯器非常強(qiáng)大，并且有非常高效的優(yōu)化，這就確保了代碼運(yùn)行的速度。

Swift為何和C一樣快：

https://www.fast.ai/2019/01/10/swift-numerics/

在Swift中可以使用Python，C和C ++代碼

由于適用于機(jī)器學(xué)習(xí)的Swift還處于早期階段，這意味著適合Swift的機(jī)器學(xué)習(xí)庫并不多。

但不必過于擔(dān)心這一點(diǎn)，因?yàn)镾wift具有驚人的Python互操作性。

只需導(dǎo)入Swift中的任何Python庫，它就能正常工作。類似地，可以將C和C++的庫導(dǎo)入Swift（對于C++，需要確保頭文件是用純C編寫的，沒有C++特性）。

有關(guān)Python互操作性：

https://github.com/tensorflow/swift/blob/master/docs/PythonInteroperability.md

導(dǎo)入C和C++庫：

https://oleb.net/blog/2017/12/importing-c-library-into-swift/

總而言之，如果需要特定功能，但尚未在Swift中實(shí)現(xiàn)，則可以導(dǎo)入相應(yīng)的Python，C或C ++包。

Swift可以在非常底層的地方運(yùn)行

如果你曾經(jīng)使用過TensorFlow，那么通常情況下可能是通過Python包完成的。

在底層，Python版本的TensorFlow庫底層有C代碼。所以當(dāng)你調(diào)用TensorFlow中的任何函數(shù)時(shí)，在某種程度上你會碰到一些C代碼。

這意味著檢查源代碼的速度是有限的。例如，如果你想了解卷積是如何實(shí)現(xiàn)的，你無法看到Python代碼，因?yàn)樗窃贑語言中實(shí)現(xiàn)的。

在Swift中，情況就不同了。Chris Lattner稱Swift是“LLVM(匯編語言)的語法糖”。

從本質(zhì)上說，Swift非常接近硬件，而且在硬件之間沒有其他用C編寫的代碼層。這也意味著Swift代碼運(yùn)行速度非?？臁＿@就使得開發(fā)人員能夠從高到低，任何層次都可以開始檢查代碼，而無需使用C。

有關(guān)“LLVM(匯編語言)的語法糖”：

https://www.fast.ai/2019/03/06/fastai-swift/

接下來的一步

Swift只是谷歌深度學(xué)習(xí)創(chuàng)新的一部分。還有一個(gè)非常相關(guān)的組件：MLIR，代表多級中間表示。

MLIR將是谷歌統(tǒng)一的編譯器基礎(chǔ)設(shè)施，允許用Swift(或任何其他受支持的語言)編寫代碼，并將其編譯到任何受支持的硬件。

目前，針對不同的目標(biāo)硬件有大量的編譯器，但是MLIR將改變這一點(diǎn)，不僅允許代碼重用，還允許編寫定制的編譯器底層組件。它還將允許研究人員應(yīng)用機(jī)器學(xué)習(xí)來優(yōu)化底層算法：

雖然MLIR充當(dāng)ML的編譯器，但我們也看到它可以在編譯器中使用機(jī)器學(xué)習(xí)技術(shù)！一點(diǎn)尤其重要，因?yàn)殚_發(fā)數(shù)值庫的工程師的擴(kuò)展速度趕不上ML模型或硬件的多樣化。

想象一下，如果我們能夠使用深度學(xué)習(xí)來幫助優(yōu)化數(shù)據(jù)的低級內(nèi)存分塊算法(類似于Halide試圖完成的任務(wù))會怎么樣。

有關(guān)MLIR：

https://medium.com/tensorflow/mlir-a-new-intermediate-representation-and-compiler-framework-beba999ed18d

有關(guān)Halide：

https://www.youtube.com/watch?v=3uiEyEKji0M

總結(jié)

如果你對深入學(xué)習(xí)感興趣，那么Swift是一門你應(yīng)該開始學(xué)習(xí)的語言。

與Python相比，它有許多優(yōu)勢。谷歌正在大力投資，使Swift成為其TensorFlow ML基礎(chǔ)設(shè)施的一個(gè)關(guān)鍵組件，而且很有可能Swift將成為深度學(xué)習(xí)的語言。

所以，早點(diǎn)學(xué)習(xí)Swift總不會有錯(cuò)的。