參考資料

【1】??? Spark MLlib 機(jī)器學(xué)習(xí)實(shí)踐

【2】??? 統(tǒng)計(jì)學(xué)習(xí)方法

?

1、Logistic分布

?設(shè)X是連續(xù)隨機(jī)變量，X服從Logistic分布是指X具有下列分布函數(shù)和密度函數(shù)

，。其中u為位置參數(shù)，γ為形狀參數(shù)。如下圖：

分布函數(shù)以(u,1/2)為中心對(duì)稱，滿足：，其中形狀參數(shù)γ越小，中心部分增加越快。

?

2、Logistic回歸模型

?

二項(xiàng)logistic回歸模型是一種分類模型，由條件概率P(Y|X)表示，這里隨機(jī)變量X取實(shí)數(shù)，而Y取0或者1。定義：

和

Logistic回歸比較兩個(gè)條件概率，將x歸為較大條件概率的那一類。本質(zhì)上它是將一個(gè)線性函數(shù)wx + b的輸出轉(zhuǎn)換為了條件概率。

多項(xiàng)logistic回歸模型是二項(xiàng)模型的擴(kuò)展，支持多分類問(wèn)題，模型如下：

?

3、邏輯回歸Spark Mlib例子

?

package com.fredric.spark.logisticimport org.apache.spark.mllib.classification.LogisticRegressionWithSGD import org.apache.spark.mllib.linalg.Vectors import org.apache.spark.mllib.regression.LabeledPoint import org.apache.spark.{SparkContext, SparkConf}/*-* 邏輯回歸* Fredric 2017*/ object logistic {def main(args:Array[String]): Unit ={val conf = new SparkConf().setMaster("local").setAppName("logistic")val sc = new SparkContext(conf)val Array = new Array[LabeledPoint](10)//構(gòu)造訓(xùn)練數(shù)據(jù)，虛擬一個(gè)以5為值的分類//針對(duì)一元二項(xiàng)邏輯斯特回歸分類for(i <- 0 to 9){if(i >= 5){Array(i) = new LabeledPoint(1,Vectors.dense(i))}else{Array(i) = new LabeledPoint(0,Vectors.dense(i))}}val data = sc.makeRDD(Array);val model = LogisticRegressionWithSGD.train(data, 50)//model.weights輸出[0.20670127500478114] println(model.weights)var test = -2//當(dāng)輸入為-1時(shí)，返回概率為0.0//當(dāng)輸入為11時(shí)，返回概率為1.0val result = model.predict(Vectors.dense(test))println(result)//驗(yàn)證該方式//計(jì)算P(Y=1|X)，測(cè)算輸入x返回1的條件概率 val res1 = Math.exp(model.weights(0)*test)/(1 + Math.exp(model.weights(0)*test))//計(jì)算P(Y=0|X)，測(cè)算輸入x返回0的條件概率val res0 = 1/(1 + Math.exp(model.weights(0) * test))//輸出：for target:-2 propalitity for 1 is : 0.3980965348017618 propalitity for 0 is : 0.6019034651982381//根據(jù)兩個(gè)條件概率的比較可知-2屬于分類0println("for target:" + test + " propalitity for 1 is : " + res1 + " propalitity for 0 is : " + res0)} }

?

轉(zhuǎn)載于:https://www.cnblogs.com/Fredric-2013/p/8496070.html

總結(jié)

以上是生活随笔為你收集整理的【机器学习笔记四】分类算法 - 逻辑回归的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。