這篇介紹神經(jīng)網(wǎng)絡(luò)是很詳細的，有一步一步的推導公式！神經(jīng)網(wǎng)絡(luò)是DL（深度學習）的基礎(chǔ)。

　　如果對神經(jīng)網(wǎng)絡(luò)已經(jīng)有所了解，可以直接跳到“ 三、BP 算法的執(zhí)行步驟“ 部分，算法框架清晰明了。

　　另外，如果對NN 很感興趣，也可以參閱最后兩篇參考博文，也很不錯！

　　學習是神經(jīng)網(wǎng)絡(luò)一種最重要也最令人注目的特點。在神經(jīng)網(wǎng)絡(luò)的發(fā)展進程中， 學習算法的研究有著十分重要的地位。目前，人們所提出的神經(jīng)網(wǎng)絡(luò)模型都是和學習算法相應的。所以，有時人們并不去祈求對模型和算法進行嚴格的定義或區(qū)分。有的模型可以有多種算法． 而有的算法可能可用于多種模型。不過，有時人們也稱算法為模型。

　　自從40 年代Hebb 提出的學習規(guī)則以來，人們相繼提出了各種各樣的學習算法。其中以在1986年Rumelhart 等提出的誤差反向傳播法， 即BP（error BackPropagation） 法影響最為廣泛。直到今天，BP 算法仍然是自動控制上最重要、應用最多的有效算法。

　　神經(jīng)網(wǎng)絡(luò)的學習機理和機構(gòu)

　　在神經(jīng)網(wǎng)絡(luò)中，對外部環(huán)境提供的模式樣本進行學習訓練，并能存儲這種模式，則稱為感知器；對外部環(huán)境有適應能力，能自動提取外部環(huán)境變化特征，則稱為認知器。

　　神經(jīng)網(wǎng)絡(luò)在學習中， 一般分為有教師和無教師學習兩種。感知器采用有教師信號進行學習， 而認知器則采用無教師信號學習的。在主要神經(jīng)網(wǎng)絡(luò)如BP 網(wǎng)絡(luò)，Hopfield 網(wǎng)絡(luò)，ART 網(wǎng)絡(luò)和Kohonen網(wǎng)絡(luò)中； BP 網(wǎng)絡(luò)和Hopfield 網(wǎng)絡(luò)是需要教師信號才能進行學習的；而ART 網(wǎng)絡(luò)和Kohonen 網(wǎng)絡(luò)則無需教師信號就可以學習。所謂教師信號， 就是在神經(jīng)網(wǎng)絡(luò)學習中由外部提供的模式樣本信號。