最近在做序列標注的相關任務，為了理解bi-lstm + crf的原理及細節，找了很多相關資料，以及代碼實現，這里分享給大家并附上一些自己的理解。

CRF

相關資料推薦

關于crf，我看了很多資料，這里推薦幾個 - 英文的crf tutorial - 李航的統計學習方法 這兩個講的很細，公式很多，很多新入坑的小白看了肯定一頭霧水,這里推薦一個知乎大神的回答，通俗易懂，有一些機器學習基礎的都可以看懂。 - 知乎Scofield的回答

簡單總結

這里我簡單總結一下，以命名實體識別任務舉例，我們有這樣一組已標注的數據，B表示一個實體的開頭，I表示當前詞為命名實體的后面部分，O表示不是命名實體。

the(B) wall(I) street(I) journal(I) reported(O) today(O) that(O) apple(B) corporation(I) made(O) money(O)

很明顯"the wall street journal"(華爾街日報)、"apple corporation"(蘋果公司)為命名實體。

如果我們有這樣一組已標注的數據

每個 x_i 是輸入序列，y_i為一個標注序列

我們的目標是學習出一組條件概率分布模型， 即找到一組參數 theta

使得

總結

以上是生活随笔為你收集整理的bert pytorch 序列标注_序列标注：Bi-LSTM + CRF的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。