chinese直男口爆体育生外卖, 99久久er热在这里只有精品99, 又色又爽又黄18禁美女裸身无遮挡, gogogo高清免费观看日本电视,私密按摩师高清版在线,人妻视频毛茸茸,91论坛 兴趣闲谈,欧美 亚洲 精品 8区,国产精品久久久久精品免费

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

長期短期記憶網絡:它是什么以及它是如何工作的?

星星科技指導員 ? 來源:VOLANSYS ? 作者:Dipam Shah ? 2022-12-05 16:19 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

機器學習是一種強大的技術,它通過開發(fā)算法從其經驗中學習和改進。算法是計算、訪問和處理輸入數(shù)據(jù)并預測結果的程序。機器學習模型旨在計算復雜的計算和學習模式,并在此基礎上提供相關的輸出。該模型適用于數(shù)字、二元、多變量、分類和相關數(shù)據(jù)集等普通數(shù)據(jù)集。

然而,截至今天,由于理解輸入數(shù)據(jù)的上下文的局限性,大多數(shù)機器學習模型都面臨著預測時間序列數(shù)據(jù)的挑戰(zhàn)。這就是遞歸神經網絡,其中長短期記憶網絡(LSTM)——一種人工神經網絡。LSTM 可以識別數(shù)據(jù)序列中的模式,例如來自傳感器、文本、基因組、手寫和口語的數(shù)字時間序列數(shù)據(jù)。

什么是 LSTM 網絡?

LSTM – 長期短期記憶網絡,是一種特殊類型的RNN(遞歸神經網絡)。RNN是一個神經網絡,它將前一個狀態(tài)的輸出作為下一階段的輸入,這樣它就可以記住前一個狀態(tài)的數(shù)據(jù)。它將借助先前的數(shù)據(jù)精確預測最終輸出。

然而,RNN存在梯度消失問題,即信息在較長的序列中褪色,因此在較長時間內持久化數(shù)據(jù)時面臨困難。此問題可以通過 LSTM 解決。LSTM已經表現(xiàn)出擺脫了長期依賴問題并消除了RNN的缺點。

LSTM的重要性

在這個現(xiàn)代時代,機器正在使用機器學習智能地執(zhí)行任務?,F(xiàn)在,每個行業(yè)都有大量的設備歷史數(shù)據(jù),這些數(shù)據(jù)必須以機器學習模型能夠有效預測數(shù)據(jù)的方式使用。

作為人類,我們總是非常規(guī)地選擇一些重要的關鍵字,而忽略其他有助于我們理解任何句子或段落上下文的單詞。例如,在閱讀電影評論時,大腦只試圖記住或專注于一些關鍵詞,如“動感十足”、“令人嘆為觀止”、“無聊”和“驚人”。每次我們不必思考,記住并重新開始。LSTM的行為也類似。此外,LSTM 專為傳統(tǒng)神經網絡失敗的順序數(shù)據(jù)集而設計。LSTM 允許數(shù)據(jù)持久化。

在每個行業(yè)中,當局都會根據(jù)過去的重要數(shù)據(jù)做出任何決定,這將提供更好的結果。與機器學習模型相同,與其他模型相比,LSTM 展示了準確的結果,因為它在整個模型學習過程中只記住相關數(shù)據(jù)。它可以輕松保留重要信息以進行預測。

LSTM 如何工作?

LSTM 使用一系列不同的邏輯門。借助這一點,它可以調節(jié)信息流并解決RNN中的消失梯度問題。梯度消失問題發(fā)生在訓練機器學習模型的反向傳播期間。梯度是可用于更新神經網絡權重的值。在反向傳播時,梯度將變得如此之小,以至于在更新權重方面可以忽略不計。

這最終將停止學習該層,以便這些層不會學習。因此,RNN 會在更長的時間內忘記數(shù)據(jù),因為 RNN 只有短期記憶。

LSTM和RNN在控制流方面是相似的。兩者都在傳遞和向前傳播時處理信息。唯一的區(qū)別是每個單元格內的操作。LSTM的主要概念是在整個網絡中傳遞相關信息。根據(jù)輸入,它會將該數(shù)據(jù)添加到內存中,如果不需要數(shù)據(jù),則忘記或刪除數(shù)據(jù),如果信息不相關,則忽略信息。這就是 LSTM 不僅將信息傳遞到下一個狀態(tài),而且還為以后的狀態(tài)保留數(shù)據(jù)的方式。

LSTM的工作分為三個部分,每個部分執(zhí)行以下單獨的功能:

第一部分確定來自前一個時間戳的信息是相關的,然后記住它,如果它不相關,它可以被遺忘。這部分稱為遺忘門。

在第二部分中,單元格嘗試從單元格的當前輸入中學習新數(shù)據(jù),這稱為輸入門。

最后,在第三部分中,單元格將更新的信息從當前時間戳傳遞到下一個時間戳。這部分稱為輸出門。

這就是 LSTM 在訓練過程中有選擇地忘記和記住信息的方式。

LSTM的應用

工業(yè)物聯(lián)網:每個行業(yè)的深刻本質是始終如一地提高產品質量。在制造單位中,有許多設備、傳感器和機器,每個設備、傳感器和機器都有大量的數(shù)據(jù)。這些受到的關注非常少,這可能導致該行業(yè)陷入磨損情況。

LSTM將在上述情況下發(fā)揮至關重要的作用?;趫?zhí)行器、振動、溫度、噪聲、用電量等不同參數(shù)的歷史數(shù)據(jù),該模型可以提前預測機器的早期維護和異常檢測。這將有助于制造單元進行及時維護。最終,它將提高效率并減少機器的停機時間。提高設備的利用率很有用。因此,生產產品的時間更少,數(shù)量更多。對于大型電力行業(yè),它可以使用過去的電力供應數(shù)據(jù)預測特定州、城市或街道即將到來的電力需求。電力負荷預測將有助于減輕能源損失,并根據(jù)預測管理和傳輸電力。

家庭自動化:在家庭自動化中,有兩個最重要的事情:

準確性

處理和執(zhí)行操作的速度

在智能建筑中,HVAC供暖,通風和空調系統(tǒng)將有助于預測能源消耗以及室內空氣溫度,并根據(jù)外部天氣進行控制。基于人類行為,設備應執(zhí)行預定義的任務,其中可以通過逐個分析視頻幀來識別人類活動。在這里,LSTM將根據(jù)早期行動精確預測下一步行動。

任何與音頻分析相關的應用程序,例如預測用于竊賊檢測的玻璃破碎、語音識別和預測語音命令。這些具有基于時間序列的數(shù)據(jù),其中每個信息都帶有其頻率和時間。

在語音命令或語音識別中,了解 LSTM 的優(yōu)勢的實際上下文非常重要。

汽車:每個行業(yè)都有關于各自市場的大量數(shù)據(jù),借助這些數(shù)據(jù),LSTM將分析即將到來的市場趨勢并預測即將到來的產品需求。

這將幫助汽車制造商根據(jù)需求預測管理其供應鏈和庫存,并制定計劃以加速需求并減少不必要的成本。它可以幫助組織根據(jù)市場需求發(fā)現(xiàn)新的機會。它還向零售客戶推薦使用過去訂單的相關產品,從而提供更好的用戶體驗并促進銷售。LSTM 在預測時間序列數(shù)據(jù)方面令人滿意。

醫(yī)療保?。涸卺t(yī)療保健行業(yè)中,心跳、神經模式、血壓和氧氣水平對于嚴重入院的患者至關重要。如果這些參數(shù)中的任何一個發(fā)生變化,那么患者可能會死亡。這些參數(shù)應在早期階段準確預測,這有助于相應地治療患者。

最重要的是,所有參數(shù)都具有LSTM優(yōu)于其他模型的時間序列數(shù)據(jù)。它還可以使用健康報告提前診斷任何健康問題,例如檢測癌癥或任何重大疾病。在智能可穿戴設備的幫助下,它可以提前預測心臟病發(fā)作,并向相關人員發(fā)送其健康狀況的信息。它會建議根據(jù)他們的健康狀況咨詢醫(yī)生,并提醒他們定期檢查。

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 神經網絡
    +關注

    關注

    42

    文章

    4842

    瀏覽量

    108189
  • 機器學習
    +關注

    關注

    67

    文章

    8565

    瀏覽量

    137228
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    東芝Thermoflagger超溫檢測IC的工作原理

    上一期,我們給Thermoflagger 打了個比方,說它像一位警覺的“保安隊長”,負責監(jiān)聽分布在各個角落的“偵察兵”——PTC熱敏電阻。今天,我們就走進這位“隊長”的辦公室,看看它內部的架構和日常工作流程,徹底搞懂它是怎么工作
    的頭像 發(fā)表于 04-23 09:56 ?74次閱讀
    東芝Thermoflagger超溫檢測IC的<b class='flag-5'>工作</b>原理

    九天菜菜大模型agent智能體開發(fā)實戰(zhàn)2026一月班

    長期記憶短期記憶存儲即時信息,長期記憶沉淀持久知識,通過向量數(shù)據(jù)庫等技術實現(xiàn)高效存儲與檢索,
    發(fā)表于 04-15 16:04

    太空頻譜爭奪戰(zhàn):為什么它是衛(wèi)星互聯(lián)網的“命門“?

    —— 頻譜 。 沒錯,就是那個用來傳遞信號的"頻率資源"。在太空競爭中,頻譜就是房地產,而且是比房地產更稀缺的資源。 頻譜:太空里的"黃金地段" 要理解頻譜的重要性,先得搞清楚它是什么。 想象一下把電磁波想象成一條寬闊的
    的頭像 發(fā)表于 03-20 09:53 ?356次閱讀

    Evermem 突破大模型記憶瓶頸實現(xiàn)低耗高效

    由陳天橋和鄧亞峰帶隊的EverMind最新發(fā)布世界級長期記憶系統(tǒng)——EverMemOS,即SOTA,一舉打破多項記憶基準測試的同時,還能遠超此前所有的基線方法。 其次,它是真正能用的。
    的頭像 發(fā)表于 03-03 13:44 ?368次閱讀
    Evermem 突破大模型<b class='flag-5'>記憶</b>瓶頸實現(xiàn)低耗高效

    SPE從汽車到工廠,為什么說它是工業(yè)4.0的“神經網絡”?

    ? ??單對以太網(Single Pair Ethernet,SPE)是一種基于單對雙絞線實現(xiàn)以太網數(shù)據(jù)傳輸?shù)膭?chuàng)新型技術。除高效的數(shù)據(jù)傳輸能力外,SPE還支持通過數(shù)據(jù)線同步供電(Power over Data Line,PoDL),從而為終端設備提供簡潔的集成化連接方案。該技術正逐步成為推動工業(yè)物聯(lián)網(IIoT)部署與擴展的重要基礎設施。
    的頭像 發(fā)表于 02-04 18:05 ?322次閱讀
    SPE從汽車到工廠,為什么說<b class='flag-5'>它是</b>工業(yè)4.0的“神經<b class='flag-5'>網絡</b>”?

    NVIDIA BlueField-4為推理上下文記憶存儲平臺提供強大支持

    隨著代理式 AI 工作流將上下文窗口擴展到數(shù)百萬個 token,并將模型規(guī)模擴展到數(shù)百萬億個參數(shù),AI 原生企業(yè)正面臨著越來越多的擴展挑戰(zhàn)。這些系統(tǒng)目前依賴于智能體長期記憶來存儲跨多輪、工具和會話持續(xù)保存的上下文,以便智能體能夠
    的頭像 發(fā)表于 02-02 10:29 ?1301次閱讀
    NVIDIA BlueField-4為推理上下文<b class='flag-5'>記憶</b>存儲平臺提供強大支持

    海洋生物實驗室利用AI和虛擬現(xiàn)實探索人類記憶

    位于馬薩諸塞州的實驗室正在利用 NVIDIA RTX GPU、HP Z 工作站和虛擬現(xiàn)實技術研究人類記憶功能的分子機制。
    的頭像 發(fā)表于 01-20 09:30 ?913次閱讀

    紅外熱成像是什么?它是怎么讓我們“看見熱”的?

    在我們的日常生活中,眼睛作為我們感知世界的重要器官,幫助我們觀察世界。但是在可見光之外,還有眼睛無法觀測到的不可見光世界。紅外熱成像技術正是打破這一局限的神奇窗口—它讓我們“看見”物體發(fā)出的熱量,從而揭示一個肉眼無法察覺的“熱世界”。
    的頭像 發(fā)表于 01-05 16:32 ?1849次閱讀
    紅外熱成像是什么?<b class='flag-5'>它是</b>怎么讓我們“看見熱”的?

    位移計工作原理解析:如何測量結構物位移?

    在水利工程、邊坡治理及隧道施工中,對結構物內部的深層位移、沉降進行長期監(jiān)測,是保障工程安全的關鍵環(huán)節(jié)。振弦式位移計作為一種高精度、高穩(wěn)定性的監(jiān)測儀器,被廣泛應用于此類場景。那么,它是如何精確測量出
    的頭像 發(fā)表于 12-18 14:52 ?1012次閱讀
    位移計<b class='flag-5'>工作</b>原理解析:如何測量結構物位移?

    一文讀懂LSTM與RNN:從原理到實戰(zhàn),掌握序列建模核心技術

    在AI領域,文本翻譯、語音識別、股價預測等場景都離不開序列數(shù)據(jù)處理。循環(huán)神經網絡(RNN)作為最早的序列建模工具,開創(chuàng)了“記憶歷史信息”的先河;而長短期記憶
    的頭像 發(fā)表于 12-09 13:56 ?1881次閱讀
    一文讀懂LSTM與RNN:從原理到實戰(zhàn),掌握序列建模核心技術

    【社區(qū)之星】歐小龍——保護你的好奇心:它是所有創(chuàng)造力的源泉

    (CIS)芯片開發(fā)流程,具備完整產品落地能力:從 需求定義 → 芯片開發(fā) → 模組打樣 → 量產測試。 工作經歷 2017年開始工作,主要從事CIS芯片開發(fā)至今。 技能專長 熟悉Linux
    發(fā)表于 11-26 16:31

    別過度解讀存儲芯片荒!PCB行業(yè)有“防火墻”,短期波動無效

    錨定汽車電子、工業(yè)控制等長期需求,而非存儲芯片的短期供需變化,而存儲芯片缺貨的 “暫時性” 與 PCB 需求的 “長期性” 存在根本矛盾,這一切的核心,仍需回歸存儲芯片短缺的本質與 PCB 的產業(yè)特性。
    的頭像 發(fā)表于 11-08 16:12 ?1486次閱讀

    解析DCQCN:RDMA在數(shù)據(jù)中心網絡的關鍵擁塞控制協(xié)議

    DCQCN ( Data Center Quantized Congestion Notification),數(shù)據(jù)中心量化擁塞通知。它是一種專門為數(shù)據(jù)中心網絡設計的端到端擁塞控制協(xié)議。其核心目的是在使用RDMA(RoCEv2) 的網絡
    的頭像 發(fā)表于 09-15 11:45 ?2094次閱讀
    解析DCQCN:RDMA在數(shù)據(jù)中心<b class='flag-5'>網絡</b>的關鍵擁塞控制協(xié)議

    三防漆的耐溫范圍

    三防漆的耐溫能力由基礎樹脂類型決定,不同類型的長期使用溫度和短期耐溫存在顯著差異,在選擇三防漆時需匹配設備的實際工作環(huán)境溫度:1.丙烯酸類三防漆長期耐溫范圍:-20℃~80℃
    的頭像 發(fā)表于 07-28 09:44 ?1164次閱讀
    三防漆的耐溫范圍

    它是保障環(huán)網柜安全的“健康監(jiān)測儀”!

    如何保障環(huán)網柜的安全?
    的頭像 發(fā)表于 06-09 11:24 ?580次閱讀