深度學習之循環神經網絡（11）LSTM/GRU情感分類問題實戰

• 1. LSTM模型
• 2. GRU模型

?前面我們介紹了情感分類問題，并利用SimpleRNN模型完成了情感分類問題的實戰，在介紹完更為強大的LSTM和GRU網絡后，我們將網絡模型進行升級。得益于TensorFlow在循環神經網絡相關接口的格式統一，在原來的代碼基礎上面只需要修改少量幾處，便可以完美的升級到LSTM模型或GRU模型。

1. LSTM模型

?首先是Cell方式。LSTM網絡的狀態List共有兩個，需要分別初始化各層的$\mathbf{h}$和$\mathbf{c}$向量。例如：

# [b, 64]，構建Cell初始化狀態向量，重復使用 self.state0 = [tf.zeros([batchsz, units]),tf.zeros([batchsz, units])] self.state1 = [tf.zeros([batchsz, units]),tf.zeros([batchsz, units])]

并將模型修改為LSTMCell模型。代碼如下：

# 構建2個Cell self.rnn_cell0 = layers.LSTMCell(units, dropout=0.5) self.rnn_cell1 = layers.LSTMCell(units, dropout=0.5)

其它代碼不需要修改即可運行。

?對于層方式，只需要修改網絡模型一處即可，修改如下：

# 構建RNN，換成LSTM即可 self.rnn = keras.Sequential([layers.LSTM(units, dropout=0.5, return_sequences=True),layers.LSTM(units, dropout=0.5) ])

2. GRU模型

?首先是Cell方式。GRU的狀態List只有一個，和基礎RNN一樣，只需要修改創建Cell的類型，代碼如下：

# 構建2個Cell self.rnn_cell0 = layers.GRUCell(units, dropout=0.5) self.rnn_cell1 = layers.GRUCell(units, dropout=0.5)

對于層方式，修改網絡層類型即可，代碼如下：

# 構建RNN self.rnn = keras.Sequential([layers.GRU(units, dropout=0.5, return_sequences=True),layers.GRU(units, dropout=0.5) ])

總結

以上是生活随笔為你收集整理的深度学习之循环神经网络（11）LSTM/GRU情感分类问题实战的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。