文章目錄

• 一、 K-Means 聚類算法流程
• 二、 二維數據的 K-Means 聚類
• • 1、 第一次迭代
  • 2、 第二次迭代

參考博客 :

• 【數據挖掘】聚類算法 簡介 ( 基于劃分的聚類方法 | 基于層次的聚類方法 | 基于密度的聚類方法 | 基于方格的聚類方法 | 基于模型的聚類方法 )
• 【數據挖掘】基于劃分的聚類方法 ( K-Means 算法簡介 | K-Means 算法步驟 | K-Means 圖示 )
• 【數據挖掘】K-Means 一維數據聚類分析示例
• 【數據挖掘】K-Means 二維數據聚類分析 ( K-Means 迭代總結 | K-Means 初始中心點選擇方案 | K-Means 算法優缺點 | K-Means 算法變種 )

一、 K-Means 聚類算法流程

---

K-Means 算法 步驟 : 給定數據集 $\mathrm{X}$ , 該數據集有 $\mathrm{n}$ 個樣本 , 將其分成 $\mathrm{K}$ 個聚類 ;

① 中心點初始化 : 為 $\mathrm{K}$ 個聚類分組選擇初始的中心點 , 這些中心點稱為 Means ; 可以依據經驗 , 也可以隨意選擇 ;

② 計算距離 : 計算 $\mathrm{n}$ 個對象與 $\mathrm{K}$ 個中心點 的距離 ; ( 共計算 $\mathrm{n}\times \mathrm{K}$ 次 )

③ 聚類分組 : 每個對象與 $\mathrm{K}$ 個中心點的值已計算出 , 將每個對象分配給距離其最近的中心點對應的聚類 ;

④ 計算中心點 : 根據聚類分組中的樣本 , 計算每個聚類的中心點 ;

⑤ 迭代直至收斂 : 迭代執行 ② ③ ④ 步驟 , 直到 聚類算法收斂 , 即 中心點 和 分組 經過多少次迭代都不再改變 , 也就是本次計算的中心點與上一次的中心點一樣 ;

給定 一組樣本 , 和 一組中心點 , 計算 所有樣本 到 所有中心點 的距離 , 給樣本 分組 , 計算分好組的樣本的中心點 , 重新計算所有樣本到所有中心點的距離 , 繼續進行分組 , 一直迭代執行上述操作 , 直到連續兩次樣本分組不再變化 ;

二、 二維數據的 K-Means 聚類

---

給定數據集 $\{{\mathrm{A}}_1(2,4),{\mathrm{A}}_2(3,7),{\mathrm{B}}_1(5,8),{\mathrm{B}}_2(9,5),{\mathrm{C}}_1(6,2),{\mathrm{C}}_2(4,9)\}$ , 初始中心點 $\{{\mathrm{A}}_1(2,4),{\mathrm{B}}_1(5,8),{\mathrm{C}}_1(6,2)\}$ , 使用 K-Means 算法對數據集進行聚類分析 ;

曼哈頓距離計算方式 : 以計算 ${\mathrm{A}}_1(2,4)$ 與 ${\mathrm{B}}_1(5,8)$ 的距離為例 ;

$\mathrm{d}({\mathrm{A}}_1,{\mathrm{B}}_1)=|2?5|+|4?8|=7$

1、 第一次迭代

第一次迭代 : 計算每個樣本值與每個中心點的距離 , 將樣本分類到最近的中心點所在的分組 , 計算每個分組新的中心值 ;

$A_1(2,4)$$A_2(3,7)$$B_1(5,8)$$B_2(9,5)$$C_1(6,2)$$C_2(4,9)$

$A_1(2,4)$	$0$	$4$	$7$	$8$	$6$	$7$
$B_1(5,8)$	$7$	$3$	$0$	$7$	$7$	$2$
$C_1(6,2)$	$6$	$8$	$7$	$6$	$0$	$9$

新的聚類分組 :

① 聚類 $1$ : $\{A_1\}$

② 聚類 $2$ : $\{A_2,B_1,C_2\}$

③ 聚類 $3$ : $\{B_2,C_1\}$

新的中心點計算 :

${\mathrm{C}}_1=(2,4)$

${\mathrm{C}}_2=(\frac{3+5+4}{3},\frac{7+8+9}{3})=(4,8)$

${\mathrm{C}}_3=(\frac{9+6}{2},\frac{5+2}{2})=(7,3)$

2、 第二次迭代

第二次迭代 : 計算每個樣本值與每個中心點的距離 , 將樣本分類到最近的中心點所在的分組 , 計算每個分組新的中心值 ;

$A_1(2,4)$$A_2(3,7)$$B_1(5,8)$$B_2(9,5)$$C_1(6,2)$$C_2(4,9)$

$(2,4)$	$0$	$4$	$7$	$8$	$6$	$7$
$(4,8)$	$6$	$2$	$1$	$8$	$8$	$1$
$(7,3)$	$6$	$8$	$7$	$4$	$2$	$9$

新的聚類分組 :

① 聚類 $1$ : $\{A_1\}$

② 聚類 $2$ : $\{A_2,B_1,C_2\}$

③ 聚類 $3$ : $\{B_2,C_1\}$

新的中心點計算 :

${\mathrm{C}}_1=(2,4)$

${\mathrm{C}}_2=(\frac{3+5+4}{3},\frac{7+8+9}{3})=(4,8)$

${\mathrm{C}}_3=(\frac{9+6}{2},\frac{5+2}{2})=(7,3)$

第二次迭代與第一次迭代值相同 , 因此第三次迭代的結果就是 K-Means 聚類算法最終結果 ;

詳細解析參考 【數據挖掘】K-Means 二維數據聚類分析 ( K-Means 迭代總結 | K-Means 初始中心點選擇方案 | K-Means 算法優缺點 | K-Means 算法變種 )

總結

以上是生活随笔為你收集整理的【数据挖掘】数据挖掘总结 ( K-Means 聚类算法 | 二维数据的 K-Means 聚类 ) ★的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。