sklearn-SVC實(shí)現(xiàn)與類(lèi)參數(shù)

它是基于libsvm實(shí)現(xiàn)的。隨著樣本數(shù)量的增加，擬合時(shí)間的復(fù)雜度要高于二次，這就使得當(dāng)樣板數(shù)量超過(guò)一萬(wàn)個(gè)時(shí)，很難擴(kuò)展到數(shù)據(jù)集中。

在多類(lèi)處理時(shí)，是按照1對(duì)1的方案進(jìn)行處理的。

函數(shù)的的定義為：

def __init__ (self, C=1.0, kernel='rbf', degree=3, gamma='auto',coef0=0.0,

verbose=False, max_iter=-1, decision_function_shape='ovr', random_state=None):

參數(shù)的含義：

- C：float參數(shù) 默認(rèn)值為1.0。錯(cuò)誤項(xiàng)的懲罰系數(shù)。C越大，即對(duì)分錯(cuò)樣本的懲罰程度越大，因此在訓(xùn)練樣本中準(zhǔn)確率越高，但是泛化能力降低，也就是對(duì)測(cè)試數(shù)據(jù)的分類(lèi)準(zhǔn)確率降低。相反，減小C的話(huà)，容許訓(xùn)練樣本中有一些誤分類(lèi)錯(cuò)誤樣本，泛化能力強(qiáng)。對(duì)于訓(xùn)練樣本帶有噪聲的情況，一般采用后者，把訓(xùn)練樣本集中錯(cuò)誤分類(lèi)的樣本作為噪聲。

- kernel: str參數(shù) 默認(rèn)為‘rbf‘，算法中采用的核函數(shù)類(lèi)型，可選參數(shù)有：

linear：線(xiàn)性核函數(shù)

poly：多項(xiàng)式核函數(shù)

rbf：徑像核函數(shù)/高斯核

sigmod：sigmod核函數(shù)

precomputed：核矩陣

- degree :int型參數(shù) (default=3)，這個(gè)參數(shù)只對(duì)多項(xiàng)式核函數(shù)(poly)有用，是指多項(xiàng)式核函數(shù)的階數(shù)n，如果給的核函數(shù)參數(shù)是其他核函數(shù)，則會(huì)自動(dòng)忽略該參數(shù)。

- gamma：float參數(shù)，默認(rèn)為auto核函數(shù)系數(shù)，只對(duì)'rbf'、 ‘poly' 、 ‘sigmoid'有效。

如果gamma為auto，代表其值為樣本特征數(shù)的倒數(shù)，即1/n_features。

- coef0：float參數(shù) 默認(rèn)為0.0

核函數(shù)中的獨(dú)立項(xiàng)，只有對(duì)‘poly'和‘sigmod'核函數(shù)有用，是指其中的參數(shù)c

- probability：bool參數(shù) 默認(rèn)為False

是否啟用概率估計(jì)。 這必須在調(diào)用fit()之前啟用，并且會(huì)fit()方法速度變慢。

- shrinking：bool參數(shù) 默認(rèn)為T(mén)rue

是否采用啟發(fā)式收縮方式。

- tol: float參數(shù) 默認(rèn)為1e^-3

svm停止訓(xùn)練的誤差精度。

- cache_size：float參數(shù) 默認(rèn)為200

指定訓(xùn)練所需要的內(nèi)存，以MB為單位，默認(rèn)為200MB。 - class_weight：字典類(lèi)型或者‘balance'字符串。默認(rèn)為None

給每個(gè)類(lèi)別分別設(shè)置不同的懲罰參數(shù)C，則該類(lèi)別的懲罰系數(shù)為class_weight[i]*C，如果沒(méi)有給，則會(huì)給所有類(lèi)別都給C=1，即前面參數(shù)指出的參數(shù)C。

如果給定參數(shù)‘balance'，則使用y的值自動(dòng)調(diào)整與輸入數(shù)據(jù)中的類(lèi)頻率成反比的權(quán)重。

- verbose ：bool參數(shù) 默認(rèn)為False

是否啟用詳細(xì)輸出。 此設(shè)置利用libsvm中的每個(gè)進(jìn)程運(yùn)行時(shí)設(shè)置，如果啟用，可能無(wú)法在多線(xiàn)程上下文中正常工作。一般情況都設(shè)為False，不用管它。

- max_iter ：int參數(shù) 默認(rèn)為-1

最大迭代次數(shù)，如果為-1，表示不限制

- random_state：int型參數(shù) 默認(rèn)為None

偽隨機(jī)數(shù)發(fā)生器的種子,在混洗數(shù)據(jù)時(shí)用于概率估計(jì)。

SVC的方法

1、fit()方法：用于訓(xùn)練SVM，具體參數(shù)已經(jīng)在定義SVC對(duì)象的時(shí)候給出了，這時(shí)候只需要給出數(shù)據(jù)集X和X對(duì)應(yīng)的標(biāo)簽y即可。

2、predict()方法：基于以上的訓(xùn)練，對(duì)預(yù)測(cè)樣本T進(jìn)行類(lèi)別預(yù)測(cè)，因此只需要接收一個(gè)測(cè)試集T，該函數(shù)返回一個(gè)數(shù)組表示個(gè)測(cè)試樣本的類(lèi)別。

3、predict_proba()：返回每個(gè)輸入類(lèi)別的概率，這與predict方法不同，predict方法返回的輸入樣本屬于那個(gè)類(lèi)別，但沒(méi)有概率。使用此方法時(shí)，需要在初始化時(shí)，將 probability參數(shù)設(shè)置為T(mén)rue。

例如：

import numpy as np

import matplotlib.pyplot as plt

from sklearn import svm

# we create 40 separable points

np.random.seed(0)

X = np.r_[np.random.randn(20, 2) - [2, 2], np.random.randn(20, 2) + [2, 2]]

Y = [0] * 20 + [1] * 20

# fit the model

clf = svm.SVC(kernel='linear',probability=True)

clf.fit(X, Y)

print(clf.predict_proba([[-0.1,0.7],[0.3,0.5]]))

#result

#[[ 0.41844015 0.58155985]

#[ 0.34810738 0.65189262]]

如果初始化時(shí)不適用probability參數(shù)：

clf = svm.SVC(kernel='linear')

clf.fit(X, Y)

print(clf.predict([[-0.1,0.7],[0.3,0.5]]))

# get the separating hyperplane

w = clf.coef_[0]

#輸出的結(jié)果為：[1,1]

屬性有哪些：

svc.n_support_：各類(lèi)各有多少個(gè)支持向量

svc.support_：各類(lèi)的支持向量在訓(xùn)練樣本中的索引

svc.support_vectors_：各類(lèi)所有的支持向量

以上這篇sklearn-SVC實(shí)現(xiàn)與類(lèi)參數(shù)詳解就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

總結(jié)

以上是生活随笔為你收集整理的pythonsvc_sklearn-SVC实现与类参数详解的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。