第一天 基礎知識

什么是機器學習？

通過一系列的數據和標簽學習到一個模型，對未知的數據進行預測。

近年興盛的原因：GPU+海量數據

2017年7月26日，一個時代的終結，深度學習的準確率已經超越人類（5.1%）達到了3.57%（2015,ResNet 3.57%），ImageNet比賽已經沒有進行的必要了。

深度學習與神經網絡

深度學習是通過神經網絡來實現的

計算機視覺：讓計算機程序有自己的視覺系統，能看懂世界
舉例：人臉識別、行人檢測

傳統的計算機視覺：特征工程+機器學習（提取臉部特征+分類）

如何利用線性分類來區分貓和狗：

利用x和權值w及偏置b的線性函數來求解每個輸入的分類后的得分，得分越高，越認為輸入為該類。

Softmax：

如何確定w和b是否是最好的？——損失函數

如何優化？——梯度下降

第二天 窺探卷積神經網絡

一、回顧

1. 使用KNN進行圖像分類：

優點：簡單清晰，不需要訓練，復雜度很低

缺點：預測過程復雜度很高，每個測試圖片要和所有的訓練圖像進行對比，背景和顏色干擾很大。

2. 使用線性分類對圖像分類的過程：

設定w和b，得到一個線性輸出，經過一個softmax來確定輸出的類別概率，利用梯度下降來優化交叉熵損失函數，就是為了找到最優的w和b。

缺點：

訓練過程類似于特征工程+機器學習的分類

無法解決線性不可分的問題

3. 利用神經網絡搭積木

4. 利用深度學習搭更高的積木

二、深度神經網絡

激活函數：加入非線性元素

決策邊界較為平滑，解決非線性分類問題

對線性輸出做一個非線性變換之后輸出

如何預測：

像素值為輸入1、-1，隨機初始化w和b，圓的左邊為線性（wx+b），圓圈的右邊為激活函數之后的輸出a(wx+b)，

變為矩陣運算：wx+b

訓練：反向傳播（鏈式法則）

梯度下降求損失函數的偏導，進行參數的更新

前向傳播

反向傳播

卷積神經網絡

圖像的特性：

卷積+池化=特征提取

卷積的過程：

利用卷積核，在圖像上橫向移動，提取每個子塊的特征，生成特征圖。

第四天 驗證碼

驗證碼識別

一、隨機生成驗證碼

利用captcha庫生成驗證碼

TRAIN_SIZE = 50000 VALID_SIZE = 20000 CHAR_SET = '123456789ABCDEFGHIJKLMNPQRSTUVWXYZ' CHAR_NUM = 5 # 一個驗證碼有5個字符 IMG_HEIGHT = 60 # 驗證碼高 IMG_WIDTH = 160 # 驗證碼長 FONT_SIZES = [40] # 字體大小

label：因為你知道是怎么生成的，所以是知道label的

保存格式：135AC_num12356.png

隨機背景色，隨機噪點，隨機干擾線，隨機取樣5個字符，字符會有粘連，不用深度學習的話，前面要先做數據的預處理，要先把噪點等干擾進行處理。

二、將驗證碼轉化獨熱碼

驗證碼：

1APFV ，一張圖中有5個字符

獨熱碼：

label123456789ABCDEFGHIJKLMNOPQRSTUVWXYZ

1	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
A	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
P	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0
F	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
V	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	1	0	0	0	0

總結

以上是生活随笔為你收集整理的Shady 深度学习课程的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。