在信息論中常用互信息（MI，Mutual Information）來衡量兩個詞的相關(guān)度MI(X,Y)=log₂p(x,y)/p(x)p(y)
MI越大，表示兩個詞之間的結(jié)合越緊密。
當(dāng)X,Y關(guān)聯(lián)大時，MI(X,Y)大于0；當(dāng)X與Y關(guān)系弱時，MI(X,Y)等于0；當(dāng)MI(X,Y)小于0時，X與Y稱為“互補關(guān)系”

這個算式看起來很直觀，但計算還是有些麻煩，因為計算概率值p(x)，p(y)都需要在語料中進行分詞，
這就涉及到詞典的構(gòu)成以及分詞的算法。
下面介紹一個簡便而直觀的算法：
假設(shè)一個文章集合 {C}，總文章數(shù)目為N，其中含有單詞X的文章總數(shù)為Nx，含有單詞Y的文章總數(shù)是Ny，含有｛X+Y｝的文章總數(shù)是 Nxy，那么相關(guān)性這么計算
Corr(X,Y)= Nxy/(Nx+Ny-Nxy)-(Nx*Ny)/(N*N)

Technorati 標(biāo)記: 中文分詞

轉(zhuǎn)載于:https://www.cnblogs.com/leonjoon/archive/2008/07/07/1237231.html

總結(jié)

以上是生活随笔為你收集整理的如何衡量两个词的相关度的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。