電子發(fā)燒友網(wǎng)>電子資料下載>電子資料>PyTorch教程16.3之情感分析:使用卷積神經(jīng)網(wǎng)絡(luò)

PyTorch教程16.3之情感分析:使用卷積神經(jīng)網(wǎng)絡(luò)

2513686 2023-06-05 | pdf | 0.44 MB | 次下載 | 免費(fèi)

資料介紹

在第 7 節(jié)中，我們研究了使用二維 CNN 處理二維圖像數(shù)據(jù)的機(jī)制，這些機(jī)制應(yīng)用于相鄰像素等局部特征。盡管最初是為計(jì)算機(jī)視覺(jué)設(shè)計(jì)的，但 CNN 也廣泛用于自然語(yǔ)言處理。簡(jiǎn)單地說(shuō)，只需將任何文本序列視為一維圖像即可。通過(guò)這種方式，一維 CNN 可以處理局部特征，例如n- 文本中的克。

在本節(jié)中，我們將使用textCNN模型來(lái)演示如何設(shè)計(jì)用于表示單個(gè)文本的 CNN 架構(gòu) ( Kim, 2014 )。與圖 16.2.1使用帶有 GloVe 預(yù)訓(xùn)練的 RNN 架構(gòu)進(jìn)行情感分析相比，圖 16.3.1的唯一區(qū)別在于架構(gòu)的選擇。

https://file.elecfans.com/web2/M00/A9/CD/poYBAGR9PKeAQJkEAAKGTT5l5tQ032.svg

圖 16.3.1本節(jié)將預(yù)訓(xùn)練的 GloVe 提供給基于 CNN 的架構(gòu)以進(jìn)行情感分析。

						import torch
from torch import nn
from d2l import torch as d2l

batch_size = 64
train_iter, test_iter, vocab = d2l.load_data_imdb(batch_size)

						 

						from mxnet import gluon, init, np, npx
from mxnet.gluon import nn
from d2l import mxnet as d2l

npx.set_np()

batch_size = 64
train_iter, test_iter, vocab = d2l.load_data_imdb(batch_size)

						 

16.3.1。一維卷積

在介紹模型之前，讓我們看看一維卷積是如何工作的。請(qǐng)記住，這只是基于互相關(guān)運(yùn)算的二維卷積的特例。

https://file.elecfans.com/web2/M00/A9/CD/poYBAGR9PKmAM7I9AACdHttTIPM876.svg

圖 16.3.2一維互相關(guān)運(yùn)算。陰影部分是第一個(gè)輸出元素以及用于輸出計(jì)算的輸入和核張量元素： 0×1+1×2=2.

如圖 16.3.2所示，在一維情況下，卷積窗口在輸入張量上從左向右滑動(dòng)。在滑動(dòng)過(guò)程中，輸入子張量（例如，0和1在圖 16.3.2中）包含在某個(gè)位置的卷積窗口和內(nèi)核張量（例如，1和2在圖 16.3.2中）按元素相乘。這些乘法的總和給出單個(gè)標(biāo)量值（例如， 0×1+1×2=2在圖 16.3.2中）在輸出張量的相應(yīng)位置。

我們?cè)谝韵潞瘮?shù)中實(shí)現(xiàn)一維互相關(guān) corr1d。給定一個(gè)輸入張量X和一個(gè)內(nèi)核張量 K，它返回輸出張量Y。

							def corr1d(X, K):
  w = K.shape[0]
  Y = torch.zeros((X.shape[0] - w + 1))
  for i in range(Y.shape[0]):
    Y[i] = (X[i: i + w] * K).sum()
  return Y

							 

							def corr1d(X, K):
  w = K.shape[0]
  Y = np.zeros((X.shape[0] - w + 1))
  for i in range(Y.shape[0]):
    Y[i] = (X[i: i + w] * K).sum()
  return Y

							 

我們可以從圖 16.3.2構(gòu)造輸入張量X和核張量來(lái)驗(yàn)證上述一維互相關(guān)實(shí)現(xiàn)的輸出。K

							X, K = torch.tensor([0, 1, 2, 3, 4, 5, 6]), torch.tensor([1, 2])
corr1d(X, K)

							tensor([ 2., 5., 8., 11., 14., 17.])

						

							X, K = np.array([0, 1, 2, 3, 4, 5, 6]), np.array([1, 2])
corr1d(X, K)

							array([ 2., 5., 8., 11., 14., 17.])

						

對(duì)于任何具有多個(gè)通道的一維輸入，卷積核需要具有相同數(shù)量的輸入通道。然后對(duì)于每個(gè)通道，對(duì)輸入的一維張量和卷積核的一維張量進(jìn)行互相關(guān)運(yùn)算，將所有通道的結(jié)果相加得到一維輸出張量。圖 16.3.3顯示了具有 3 個(gè)輸入通道的一維互相關(guān)運(yùn)算。

https://file.elecfans.com/web2/M00/AA/48/pYYBAGR9PK6ADR-WAAEf3eRCIIg775.svg

圖 16.3.3具有 3 個(gè)輸入通道的一維互相關(guān)操作。陰影部分是第一個(gè)輸出元素以及用于輸出計(jì)算的輸入和核張量元素： 0×1+1×2+1×3+2×4+2×(?1)+3×(?3)=2.

我們可以對(duì)多個(gè)輸入通道進(jìn)行一維互相關(guān)運(yùn)算，并驗(yàn)證圖 16.3.3中的結(jié)果。

							def corr1d_multi_in(X, K):
  # First, iterate through the 0th dimension (channel dimension) of `X` and
  # `K`. Then, add them together
  return sum(corr1d(x, k) for x, k in zip(X, K))

X = torch.tensor([[0, 1, 2, 3, 4, 5, 6],
       [1, 2, 3, 4, 5, 6, 7],
       [2, 3, 4, 5, 6, 7, 8]])
K = torch.tensor([[1, 2], [3, 4], [-1, -3]])
corr1d_multi_in(X, K)

							 

							tensor([ 2., 8., 14., 20., 26., 32.])

						

							def corr1d_multi_in(X, K):
  # First, iterate through the 0th dimension (channel dimension) of `X` and
  # `K`. Then, add them together
  return sum(corr1d(x, k) for x, k in zip(X, K))

X = np.array([[0, 1, 2, 3, 4, 5, 6],
       [1, 2, 3, 4, 5, 6, 7],
       [2, 3, 4, 5, 6, 7, 8]])
K = np.array([[1, 2], [3, 4], [-1, -3]])
corr1d_multi_in(X, K)

							 

							array([ 2., 8., 14., 20., 26., 32.])

						

請(qǐng)注意，多輸入通道一維互相關(guān)等同于單輸入通道二維互相關(guān)。為了說(shuō)明，圖 16.3.3中的多輸入通道一維互相關(guān)的等效形式是圖 16.3.4中的單輸入通道二維互相關(guān) ，其中卷積核必須與輸入張量相同。

https://file.elecfans.com/web2/M00/AA/48/pYYBAGR9PLKASTSGAAEeO2Qhstk969.svg

圖 16.3.4單輸入通道的二維互相關(guān)運(yùn)算。陰影部分是第一個(gè)輸出元素以及用于輸出計(jì)算的輸入和核張量元素：

cnn 卷積神經(jīng)網(wǎng)絡(luò)pytorch

下載該資料的人也在下載下載該資料的人還在閱讀

更多 >

卷積神經(jīng)網(wǎng)絡(luò)共包括哪些層級(jí) 1456次閱讀
全卷積神經(jīng)網(wǎng)絡(luò)的工作原理和應(yīng)用 1235次閱讀
卷積神經(jīng)網(wǎng)絡(luò)的壓縮方法 399次閱讀
BP神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)的關(guān)系 1677次閱讀
PyTorch神經(jīng)網(wǎng)絡(luò)模型構(gòu)建過(guò)程 533次閱讀
卷積神經(jīng)網(wǎng)絡(luò)的卷積操作 1557次閱讀
卷積神經(jīng)網(wǎng)絡(luò)與循環(huán)神經(jīng)網(wǎng)絡(luò)的區(qū)別 3581次閱讀
使用PyTorch構(gòu)建神經(jīng)網(wǎng)絡(luò) 745次閱讀
卷積神經(jīng)網(wǎng)絡(luò)在文本分類領(lǐng)域的應(yīng)用 782次閱讀
卷積神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu) 515次閱讀
詳解深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用 2239次閱讀
詳解卷積神經(jīng)網(wǎng)絡(luò)卷積過(guò)程 1.8w次閱讀
Alex-Net和VGG-Nets及Network-In-Network經(jīng)典的卷積神經(jīng)網(wǎng)絡(luò)案例分析 5187次閱讀
卷積神經(jīng)網(wǎng)絡(luò)CNN架構(gòu)分析-LeNet 2769次閱讀
【科普】卷積神經(jīng)網(wǎng)絡(luò)(CNN)基礎(chǔ)介紹 1.1w次閱讀

評(píng)論

資料 -- | 積分 --

查看他上傳的所有資料

+關(guān)注個(gè)人主頁(yè)

上傳資料賺積分

下載排行

chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛兴趣闲谈,欧美亚洲精品 8区,国产精品久久久久精品免费

搜索歷史

PyTorch教程16.3之情感分析:使用卷積神經(jīng)網(wǎng)絡(luò)

資料介紹

16.3.1。一維卷積

評(píng)論

下載排行

本周

本月

總榜

chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

搜索歷史

PyTorch教程16.3之情感分析:使用卷積神經(jīng)網(wǎng)絡(luò)

資料介紹

16.3.1。一維卷積

評(píng)論

下載排行

本周

本月

總榜

chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛兴趣闲谈,欧美亚洲精品 8区,国产精品久久久久精品免费

16.3.1。一維卷積