Kmeans算法的缺陷

? 聚類中心的個數K 需要事先給定，但在實際中這個 K 值的選定是非常難以估計的，很多時候，事先并不知道給定的數據集應該分成多少個類別才最合適
? Kmeans需要人為地確定初始聚類中心，不同的初始聚類中心可能導致完全不同的聚類結果。（可以使用Kmeans++算法來解決）

K-Means ++ 算法

k-means++算法選擇初始seeds的基本思想就是：初始的聚類中心之間的相互距離要盡可能的遠。

1. 從輸入的數據點集合中隨機選擇一個點作為第一個聚類中心
2. 對于數據集中的每一個點x，計算它與最近聚類中心(指已選擇的聚類中心)的距離D(x)
3. 選擇一個新的數據點作為新的聚類中心，選擇的原則是：D(x)較大的點，被選取作為聚類中心的概率較大
4. 重復2和3直到k個聚類中心被選出來
5. 利用這k個初始的聚類中心來運行標準的k-means算法

從上面的算法描述上可以看到，算法的關鍵是第3步，如何將D(x)反映到點被選擇的概率上，一種算法如下：

1. 先從我們的數據庫隨機挑個隨機點當“種子點”
2. 對于每個點，我們都計算其和最近的一個“種子點”的距離D(x)并保存在一個數組里，然后把這些距離加起來得到Sum(D(x))。
3. 然后，再取一個隨機值，用權重的方式來取計算下一個“種子點”。這個算法的實現是，先取一個能落在Sum(D(x))中的隨機值Random，然后用Random -= D(x)，直到其<=0，此時的點就是下一個“種子點”。
4. 重復2和3直到k個聚類中心被選出來
5. 利用這k個初始的聚類中心來運行標準的k-means算法

可以看到算法的第三步選取新中心的方法，這樣就能保證距離D(x)較大的點，會被選出來作為聚類中心了。至于為什么原因比較簡單，如下圖所示：

?

假設A、B、C、D的D(x)如上圖所示，當算法取值Sum(D(x))*random時，該值會以較大的概率落入D(x)較大的區間內，所以對應的點會以較大的概率被選中作為新的聚類中心。

轉載于:https://www.cnblogs.com/zjiaxing/p/5616679.html

總結

以上是生活随笔為你收集整理的K-Means ++ 算法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。