【十大经典数据挖掘算法】PageRank
Treant?人工智能愛好者社區(qū)專欄作者
博客專欄:https://www.cnblogs.com/en-heng
?
引言
PageRank是Sergey Brin與Larry Page于1998年在WWW7會(huì)議上提出來的,用來解決鏈接分析中網(wǎng)頁排名的問題。在衡量一個(gè)網(wǎng)頁的排名,直覺告訴我們:
當(dāng)一個(gè)網(wǎng)頁被更多網(wǎng)頁所鏈接時(shí),其排名會(huì)越靠前;
排名高的網(wǎng)頁應(yīng)具有更大的表決權(quán),即當(dāng)一個(gè)網(wǎng)頁被排名高的網(wǎng)頁所鏈接時(shí),其重要性也應(yīng)對(duì)應(yīng)提高。
對(duì)于這兩個(gè)直覺,PageRank算法所建立的模型非常簡(jiǎn)單:一個(gè)網(wǎng)頁的排名等于所有鏈接到該網(wǎng)頁的網(wǎng)頁的加權(quán)排名之和:
?
?
?
表示i個(gè)網(wǎng)頁的PageRank值,用以衡量每一個(gè)網(wǎng)頁的排名;若排名越高,則其PageRank值越大。網(wǎng)頁之間的鏈接關(guān)系可以表示成一個(gè)有向圖
,邊
代表了網(wǎng)頁j鏈接到了網(wǎng)頁i;
為網(wǎng)頁j的出度,也可看作網(wǎng)頁j的外鏈數(shù)( the number of out-links)。
假定
為n維PageRank值向量,A為有向圖G所對(duì)應(yīng)的轉(zhuǎn)移矩陣,
?
?
n個(gè)等式(1)改寫為矩陣相乘:
?
?
但是,為了獲得某個(gè)網(wǎng)頁的排名,而需要知道其他網(wǎng)頁的排名,這不就等同于“是先有雞還是先有蛋”的問題了么?幸運(yùn)的是,PageRank采用power iteration方法破解了這個(gè)問題怪圈。欲知詳情,請(qǐng)看下節(jié)分解。
?
求解
為了對(duì)上述及以下求解過程有個(gè)直觀的了解,我們先來看一個(gè)例子,網(wǎng)頁鏈接關(guān)系圖如下圖所示:
?
?
那么,矩陣A即為
?
?
所謂power iteration,是指先給定一個(gè)P的初始值
,然后通過多輪迭代求解:
?
?
最后收斂于
,即差別小于某個(gè)閾值。我們發(fā)現(xiàn)式子(2)為一個(gè)特征方程(characteristic equation),并且解P是當(dāng)特征值(eigenvalue)為1時(shí)的特征向量(eigenvector)。為了滿足(2)是有解的,則矩陣AA應(yīng)滿足如下三個(gè)性質(zhì):
- stochastic matrix,則行至少存在一個(gè)非零值,即必須存在一個(gè)外鏈接(沒有外鏈接的網(wǎng)頁被稱為dangling pages);
- 不可約(irreducible),即矩陣A所對(duì)應(yīng)的有向圖G必須是強(qiáng)連通的,對(duì)于任意兩個(gè)節(jié)點(diǎn)u,v∈V,存在一個(gè)從u到v的路徑;
- 非周期性(aperiodic),即每個(gè)節(jié)點(diǎn)存在自回路。
顯然,一般情況下矩陣A這三個(gè)性質(zhì)均不滿足。為了滿足性質(zhì)stochastic matrix,可以把全為0的行替換為e/ne/n,其中e為單位向量;同時(shí)為了滿足性質(zhì)不可約、非周期,需要做平滑處理:
?
?
其中,d為 damping factor,常置為0與1之間的一個(gè)常數(shù);E為單位陣。那么,式子(1)被改寫為
?
?
?
參考資料
[1] Bing Liu and Philip S. Yu, "The Top Ten Algorithms in Data Mining" Chapter 6.
?
往期回顧:
【十大經(jīng)典數(shù)據(jù)挖掘算法】C4.5
【十大經(jīng)典數(shù)據(jù)挖掘算法】k-means
【十大經(jīng)典數(shù)據(jù)挖掘算法】SVM
【十大經(jīng)典數(shù)據(jù)挖掘算法】Apriori
【十大經(jīng)典數(shù)據(jù)挖掘算法】EM
【從傳統(tǒng)方法到深度學(xué)習(xí)】圖像分類
編輯于 17:17
總結(jié)
以上是生活随笔為你收集整理的【十大经典数据挖掘算法】PageRank的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 推荐系统遇上深度学习(二十二):Deep
- 下一篇: 步步深入MySQL:架构-查询执行流程-