【初识LSTM——长短期记忆网络】生动介绍(图文版)
生活随笔
收集整理的這篇文章主要介紹了
【初识LSTM——长短期记忆网络】生动介绍(图文版)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
這是一期 關于LSTM科普介紹的Blog。下文所有內容均來自Bilibili視頻,是博主整理的視頻文案,同時對于 便于理解的圖,也進行了截圖上傳。整理不易,請尊重原創視頻,故 出處均已在文中指明~ 另外,也求個點贊,幾分鐘的視頻,一點一點打字做記錄,截圖保存,整了有幾個小時。謝謝大家。
目錄
- 語言理解(1)
- 語言理解(2)
- 后記
語言理解(1)
我們知道 RNN 有一定的記憶能力,不幸的是,它只能保留短期記憶,在各類任務上表現并不好。那該怎么辦呢?
人們將目標投向了自己,人類的記憶是有取舍的,我們不會記住每時每刻發生的所有事,會有選擇地留下【重要的】,丟掉【不重要的】。參考這種記憶機制,人們改造了小盒子,并找到了門這種機制,門是用來決定信息如何保留的小開關,它的數值在【0,1】之間,1是完全保留,0是完全舍棄。
新的小盒子上有三個門,其中 遺忘門 決定了小盒子里要保留多少原有信息,也就是丟掉哪些不重要的信息;輸入門決定了當前網絡信息有多少要被保存到小盒子里,也就是記住哪些新東西;輸出門決定了多大程度地輸出小盒子中的信息,經過改造的小盒子,既能通過輸入門 對當前網絡 狀態有所了解,又能通過遺忘門 留下過往的
總結
以上是生活随笔為你收集整理的【初识LSTM——长短期记忆网络】生动介绍(图文版)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: android 隐藏或修改EditTex
- 下一篇: 诺基亚1600自谱铃声方法