第一章什么是深度學習

1.1 人工智能、機器學習與深度學習

1.1.1 人工智能

1.1.2 機器學習

1.1.3 從數據中學習表示

1.1.4 深度學習之 “深度”

1.1.5 用三張圖理解深度學習的工作原理

1.1.6 深度學習已經取得的進展

1.1.7 不要相信短期炒作

1.1.8 人工智能的未來

1.2 深度學習之前：機器學習簡史

1.2.1 概率建模

1.2.2 早期神經網絡

1.2.3 核方法

1.2.4 決策樹、隨機森林與梯度提升機

1.2.5 回到神經網絡

1.2.6 機器學習現狀

1.3 為什么是深度學習，為什么是現在

1.3.1 硬件

1.3.2 數據

1.3.3 算法

1.3.4 新的投資熱潮

1.3.5 深度學習的大眾化

1.3.6 這種趨勢會持續嗎

1. 人工智能定義：努力將通常由人類完成的智力任務自動化。

符號人工智能(只能解決定義明確的邏輯問題)不能解決更復雜、模糊的問題(圖像分類等)，即出現了機器學習。

機器學習系統是訓練出來的，而不是明確的用程序編寫出來的。統計學(如貝葉斯網絡)不能處理大的數據集，另外數據屬性之間存在相互的關聯，使用統計學較好，不同于統計學，機器學習處理大型的數據集。

機器學習包含三點：

輸入數據點。圖像、語音、文字等數據。

預期輸出的示例。語音識別的文本，以及圖像分類的標簽貓、狗等。

衡量算法效果好壞的方法(損失)：計算實際輸出與預期輸出之間的差距。

衡量的結果是調節算法的信號，這種調節就是學習。機器學習和深度學習的核心就是有意義的變換數據(對數據進行處理，將原始數據轉化為另一種形式)，新的形式更容易接近我們想要得到的預期結果。另外這個變換的形式有很多，在所有預先定義的可能性變換方式空間中，利用反饋信號的調節來尋找最好的數據變換方式，這就是機器學習。

原始輸入--(變換)--> 新的數據表示 -----> 輸出 機器學習這個過程是1.自動尋找 2. 搜索所有的，通過比較找到好的。

2. 深度學習

深度學習是一種新的從數據中學習表示(變換數據)的方法，強調從層(layer)中進行學習。深度學習中的“深度”是指連續的表示層。這些分層表示(連續的層)通過一個叫神經網絡的模型來學習得到的。(深度學習和神經網絡不是一個東西)

信息通過不同的層，可以看做是多級信息的蒸餾，當信息通過多層，純度會越來越高。(對我們的預期輸出幫助越大)

神經網絡中的具體操作都保存在該層的權重(本質為一串數字)中，即每層之間的變換都是權重參數化，權重有時也被稱為該層參數。在這里情況下，學習的意思是為神經網絡中的所有層都找到一組權重值，使得該網絡能夠將每個示例輸入與其目標正確地一一對應。

得到的預測值和真實值之間的差距，通過損失函數來衡量，并得到損失值。之后優化器(實現了所謂的反向傳播算法)(optimizer)利用這個差距來對權重值進行微調，進而降低當前示例的損失值。最終要得到一個具有最小損失的網絡，其輸出值已經和目標值盡可能的接近。

3. 深度學習之前：機器學習(關于其中涉及到的具體的算法，介紹的不是特別詳細)

(1)概率建模：樸素貝葉斯算法，logistics回歸算法(是一種分類算法，不是回歸算法)

(2)早期神經網絡：反向傳播算法(利用梯度下降優化來訓練一系列參數化運算鏈的方法)

(3)核方法(一組算法)：有名的SVM算法

(4)決策樹、隨機森林與梯度提升機

(5)深度卷積神經網絡

深度學習在很多問題上表現的十分出色，具有較好的性能。深度學習讓解決問題變得更加簡單，因為它讓特征工程自動化。

之前的淺層機器學習只能將輸入數據變換到一兩個連續的空間，這樣學習到的特征效果不好，為了得到更加精確的表示，需要人們手動的為數據設計好的表示層。即特征工程。但是深度學習可能讓這個過程自動化，并且一次性學習所有特征，無須自己手動設計。

假設3個模型，一個是三層模型，一個是單層模型，另一個是雙層模型，3個模型中的層都是一樣的，但是3層模型中的最優的第一表示層和單層模型以及雙層模型中最優的第一層是不一樣的。因為模型可以共同學習所有表示層，而不是依次連續學習(貪婪學習)。

深度學習從數據中進行學習有兩個基本特征：

(1)通過漸進的、逐層的方式形成越來越復雜的表示。

(2)對中間這些漸進的表示共同進行學習，每一層的變化都需要同時考慮上兩層的需要。

遇到的問題：

(1)一個深度神經網絡可能含有數千萬個參數？如何理解？

(2)特征工程的概念？如何做？

(3)SVM、決策樹、隨機森林、梯度提升機等出現的算法不了解？

(4)XGBoost庫(梯度提升機處理結構化數據的問題)，有需要用的話需要查閱

(5)之前從事深度學習需要精通C++與CUDA，現在是否需要？或者掌握它可以做些什么？

(6)已經訓練好了一個深度學習模型，在附加數據上直接進行連續在線學習？不太懂？

總結

以上是生活随笔為你收集整理的python章节总结_《Python深度学习》第一章总结的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。