今天我們來做NLP（自然語言處理）中Sequence2Sequence的任務(wù)。其中Sequence2Sequence任務(wù)在生活中最常見的應(yīng)用場景就是機(jī)器翻譯。除了機(jī)器翻譯之外，現(xiàn)在很流行的對話機(jī)器人任務(wù)，摘要生成任務(wù)都是典型的Sequence2Sequence。Sequence2Sequence的難點(diǎn)在于模型需要干兩件比較難的事情：

• 語義理解（NLU:Natural Language Understanding）：模型必須理解輸入的句子。
• 句子生成(NLG:Natural Language Generation)：模型生成的句子需符合句法，不能是人類覺得不通順的句子。

想想看，讓模型理解輸入句子的語義已經(jīng)很困難了，還得需要它返回一個(gè)符合人類造句句法的序列。不過還是那句話，沒有什么是深度學(xué)習(xí)不能解決的，如果有，當(dāng)我沒說上句話。

Sequence2Sequence任務(wù)簡介

Sequence2Sequence是一個(gè)給模型輸入一串序列，模型輸出同樣是一串序列的任務(wù)和序列標(biāo)注有些類似。但是序列標(biāo)注的的輸出是定長的，標(biāo)簽于輸入一一對應(yīng)，而且其標(biāo)簽類別也很少。Sequence2Sequence則不同，它不需要輸入與輸出等長。

Sequence2Sequence算法簡介

Sequence2Sequence是2014年由Google 和 Yoshua Bengio提出的，這里分別是Google論文和Yoshua Bengio論文的下載地址。從此之后seq2seq算法就開始不斷演化發(fā)展出不同的版本

總結(jié)

以上是生活随笔為你收集整理的Keras版Sequence2Sequence对对联实战——自然语言处理技术的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。