激活函數(shù)中sigmoid、ReLU等函數(shù)的一些性質(zhì)

非線性：當激活函數(shù)是線性的時候，一個兩層的神經(jīng)網(wǎng)絡(luò)就可以基本逼近所有的函數(shù)，但是，如果激活函數(shù)是恒等激活函數(shù)的時候，就不滿足這個性質(zhì)了，而且如果MLP使...

2018-08-02 標簽：神經(jīng)網(wǎng)絡(luò)函數(shù) 1.2萬 0

谷歌提出能夠自動Debug神經(jīng)網(wǎng)絡(luò)的新方法

眾所周知，由于各種原因，機器學(xué)習(xí)模型難以調(diào)試（debug）或解釋。這造成了最近機器學(xué)習(xí)的“可重復(fù)性危機”（reproducibility crisis）...

2018-08-02 標簽：谷歌神經(jīng)網(wǎng)絡(luò) 2555 0

一種具有混合精度的高度可擴展的深度學(xué)習(xí)訓(xùn)練系統(tǒng)

根據(jù)論文實驗部分的內(nèi)容，研究人員選取的模型是AlexNet和ResNet-50，它們各自代表一種典型的CNN。AlexNet的參數(shù)數(shù)量是ResNet-5...

2018-08-02 標簽：神經(jīng)網(wǎng)絡(luò)GPU深度學(xué)習(xí) 4665 0

新的DNN目標識別模型: 同時關(guān)注“像什么”和“是什么”

他們解釋說：“這個模型以及其他類似模型可以非常精確地識別圖像中的對象，但模型中不包含任何關(guān)于對象語義屬性的明確知識。例如，香蕉和獼猴桃的外觀（不同的顏色...

2018-07-31 標簽：神經(jīng)網(wǎng)絡(luò)計算機視覺 2570 0

嵌入式AI應(yīng)用越來越流行 快速變成現(xiàn)實還需要一點想象力

現(xiàn)在，我們每天使用的很多設(shè)備都利用了神經(jīng)網(wǎng)絡(luò)技術(shù)：在智能手機中它們?yōu)檎掌阉鞴δ芴峁┲С?，還用于人臉識別幫助大家使用人臉解鎖手機；它們可以通過識別車牌了...

2018-07-31 標簽：嵌入式神經(jīng)網(wǎng)絡(luò)ai 8025 0

介紹了主要的生成模型和代表性的應(yīng)用

生成模型是圖模型和概率編程語言中概率推理的關(guān)鍵模型。最近，使用神經(jīng)網(wǎng)絡(luò)對這些模型進行參數(shù)化，以及使用基于梯度的技術(shù)進行隨機優(yōu)化的最新進展，使得可以跨多種...

2018-07-31 標簽：神經(jīng)網(wǎng)絡(luò)編程語言 5453 0

3D打印出來的神經(jīng)網(wǎng)絡(luò)，光速求解AI數(shù)學(xué)運算

大腦中神經(jīng)元之間的信號傳播速度大約是 100 米每秒，而光的傳播速度是 30 萬千米每秒，如果神經(jīng)元信號也是光速傳播的呢？

2018-07-30 標簽：神經(jīng)網(wǎng)絡(luò)人工智能3D打印 3317 0

一種深度學(xué)習(xí)模型，根據(jù)電影預(yù)告片來預(yù)測哪些觀眾最有可能看這部電影

我們對每部電影都從他的預(yù)告片中創(chuàng)建一個視頻向量。然后一個多層感知器（MLP）經(jīng)過訓(xùn)練后可以將視頻向量映射到新的嵌入空間。該空間中既有電影也有用戶，其中的...

2018-07-29 標簽：神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)集深度學(xué)習(xí) 4976 0

搭建一個神經(jīng)網(wǎng)絡(luò)的基本思路和步驟

在定義好網(wǎng)絡(luò)結(jié)構(gòu)并初始化參數(shù)完成之后，就要開始執(zhí)行神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程了。而訓(xùn)練的第一步則是執(zhí)行前向傳播計算。假設(shè)隱層的激活函數(shù)為 tanh 函數(shù)， 輸出...

2018-07-26 標簽：神經(jīng)網(wǎng)絡(luò)函數(shù) 1.3萬 0

深入淺出介紹深度學(xué)習(xí)的基本原理和核心優(yōu)勢

具有兩個隱層一個輸出層的神經(jīng)網(wǎng)絡(luò)中計算前向傳播的公式。每個都有一個模塊構(gòu)成，用于反向傳播梯度。在每一層上，我們首先計算每個節(jié)點的總輸入z，z是前一層輸出...

2018-07-25 標簽：神經(jīng)網(wǎng)絡(luò)人工智能深度學(xué)習(xí) 1.1萬 0

DeepFM并行結(jié)構(gòu)中的一種典型代表

FM部分是一個因子分解機。關(guān)于因子分解機可以參閱文章[Rendle, 2010] Steffen Rendle. Factorization machi...

2018-07-25 標簽：神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí) 3596 0