上次探究了深度對決策樹的影響，發現深度越大，容易發生過擬合

沒錯今天來說所謂的剪枝和隨機森林

剪枝總體思路：

• 由完全樹T0開始，剪枝部分結點得到T1，再次剪 枝部分結點得到T2…直到僅剩樹根的樹Tk；
• 在驗證數據集上對這k個樹分別評價，選擇損失 函數最小的樹Tα

首先了解上面是剪枝系數

但是主要用隨機森林算法來防止過擬合，也是決策樹的加強版

那什么是隨機森林，就是多棵決策樹組成，對樣本和特征隨便抽取，其實也是有放回抽樣

探究深度對隨機森林的影響

import numpy as np import ma

總結

以上是生活随笔為你收集整理的决策树和随机森林（下）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。