對釣魚網頁特征進行提取 使用隨機森林進行分類 分類結果不夠準確? 前幾天看書看到了根據特征重要性進行特征篩選? 今天拿來試一下

原本選擇了11個特征進行了特征提取??

feature_names = ['img_num', 'form_num', 'input_num', 'password_input', 'a_num', 'a_emp_num', 'css_num', 'js_num', 'a_self_num', 'url_len', 'url_digit']

對隨機森林分類器進行訓練 得到模型預測的準確率如下圖所示

因為使用交叉驗證的方式 每次結果的準確率都有所差別 但相差不大

然后利用matplotlib 對特征重要性進行了可視化處理

feature_importance = clf.feature_importances_ def plot_feature_importances(feature_importances, title, feature_names): feature_importances = 100 * (feature_importances / max(feature_importances)) #按特征重要性進行排序 index_sorted = np.flipud(np.argsort(feature_importances)) pos = np.arange(index_sorted.shape[0]) + 0.8plt.figure() plt.bar(pos, feature_importances[index_sorted], align = 'center') plt.xticks(pos, np.array(feature_names)[index_sorted]) plt.ylabel('Relative Importance') plt.title(title) plt.show()plot_feature_importances(feature_importance, 'Feature importances', feature_names)

選取其中排名前9位的特征 重新組成特征向量 對模型進行訓練 得到的結果準確度提高

總結

以上是生活随笔為你收集整理的根据特征重要性进行特征选择的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。