二值編碼

獨熱編碼

• 定義 ：One-Hot Encoding即One-Hot 編碼，也稱獨熱編碼，又稱一位有效編碼，其方法是使用N位狀態寄存器來對N個狀態進行編碼，每個狀態都由他獨立的寄存器位，并且在任意時候，其中只有一位有效。

• 應用場景：由于分類器往往默認數據數據是連續的，并且是有序的，但是在很多機器學習任務中，存在很多離散（分類）特征，因而將特征值轉化成數字時，往往也是不連續的， One-Hot 編碼解決了這個問題

• 示例：

  • 實際：類別1，類別2，類別3，類別4，類別5，類別6；
  • 自然狀態碼為：000,001,010,011,100,101；

  • 獨熱編碼為：000001,000010,000100,001000,010000,100000；

    可以這樣理解，對于每一個特征，如果它有m個可能值，那么經過獨熱編碼后，就變成了m個二元特征。并且，這些特征互斥，每次只有一個激活。因此，數據會變成稀疏的。

    這樣做的好處主要有：

    • 解決了分類器不好處理屬性數據的問題
    • 在一定程度上也起到了擴充特征的作用

• 獨熱編碼優缺點

  • 優點：獨熱編碼解決了分類器不好處理屬性數據的問題，在一定程度上也起到了擴充特征的作用。它的值只有0和1，不同的類型存儲在垂直的空間。
  • 缺點：當類別的數量很多時，特征空間會變得非常大。在這種情況下，一般可以用PCA來減少維度。而且one hot encoding+PCA這種組合在實際中也非常有用。

獨熱編碼的實現

總結

以上是生活随笔為你收集整理的机器学习标签编码的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。