隨機森林簡介

隨機森林是一種通用的機器學習方法，能夠處理回歸和分類問題。它還負責數據降維、缺失值處理、離群值處理以及數據分析的其他步驟。它是一種集成學習方法，將一組一般的模型組合成一個強大的模型

工作原理

我們通過適用隨機的方式從數據中抽取樣本和特征值，訓練多個不同的決策樹，形成森林。為了根據屬性對新對象進行分類，每個數都給出自己的分類意見，稱為“投票”。在分類問題下，森林選擇票數最多的分類；在回歸問題下則適用平均值的方法。

隨機森林是基于Bagging方法的集成模型，Bagging的示例如下：

若每個分類模型都是決策樹，那就構成了隨機森林。Bagging方法通過抽樣的方式獲得多份不同的訓練樣本，在不同的訓練楊版本上訓練決策樹，從而降低了決策樹之間的相關性。同時還通過特征的隨機選取，特征閾值的隨機選取兩種方式產生隨機性，進一步降低決策樹之間的相關性。

隨機森林優缺點

優點：

• 能夠處理更高維度的大數據集，并能夠識別最重要的變量，當作一種降維方法
• 有效估計丟失值，保持較高準確性
• 處理不平衡類數據集上的平衡問題
• 袋外誤差估計可以去除備用測試集

隨機森林輸入替換后數據樣本稱為自助抽樣。其中三分之一的數據不用于訓練但是可用來預測，被稱為袋外樣本。在這些袋外樣本上估計的誤差成為袋外誤差。

缺點:

• 隨機森林已經被證明在某些噪音較大的分類或回歸問題上會過擬合。
• 對于有不同取值的屬性的數據，取值劃分較多的屬性會對隨機森林產生更大的影響，所以隨機森林在這種數據上產出的屬性權值是不可信的

隨機森林優缺點參考：

一文看懂隨機森林 - Random Forest（4個實現步驟+10個優缺點）?easyai.tech

總結

以上是生活随笔為你收集整理的各维度 特征 重要程度 随机森林_机器学习算法——随机森林的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。