目錄?

一、邏輯回歸算法原理

Logistic regression

1、目的

2、機器學習算法選擇

3、邏輯回歸的決策邊界

Sigmoid 函數

1、公式

2、圖像

3、解釋

二、化簡與求解

Sigmoid 函數

1、預測函數

2、分類任務

3、解釋

Logistic regression

1、似然函數

2、對數似然

3、求導過程

?4、參數更新

5、多分類的softmax:

---

邏輯回歸算法是一個分類算法，不是一個回歸算法。（回歸得到一個數、分類得到一個結果。）

一、邏輯回歸算法原理

Logistic regression

1、目的

分類還是回歸?它是經典的二分類算法!

2、機器學習算法選擇

先邏輯回歸再用復雜的，能簡單還是用簡單的。

3、邏輯回歸的決策邊界

可以是非線性的。

Sigmoid 函數

1、公式

2、圖像

?自變量取值為任意實數，值域[0,1]。

3、解釋

將任意的輸入映射到了[0,1]區間。我們在線性回歸中可以得到一個預測值，再將該值映射到Sigmoid 函數中，這樣就完成了由值到概率的轉換，也就是分類任務。

二、化簡與求解

Sigmoid 函數

1、預測函數

其中，

2、分類任務

整合：

3、解釋

對于二分類任務(0，1)，整合后y取0時只保留，y取1時只保留。

Logistic regression

1、似然函數

2、對數似然

此時應用梯度上升求最大值，引入轉換為梯度下降任務。

3、求導過程

?4、參數更新

5、多分類的softmax:

總結:邏輯回歸真的真的很好很好用!

總結

以上是生活随笔為你收集整理的唐宇迪学习笔记8：逻辑回归算法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。