神經網絡

人工神經網絡（英語：Artificial Neural Network，ANN），簡稱神經網絡（Neural Network，NN）或類神經網絡，在機器學習和認知科學領域，是一種模仿生物神經網絡（動物的中樞神經系統，特別是大腦）的結構和功能的數學模型或計算模型，用于對函數進行估計或近似。神經網絡由大量的人工神經元聯結進行計算。大多數情況下人工神經網絡能在外界信息的基礎上改變內部結構，是一種自適應系統，通俗的講就是具備學習功能。現代神經網絡是一種非線性統計性數據建模工具。典型的神經網絡具有以下三個部分：

• 結構（Architecture）結構指定了網絡中的變量和它們的拓撲關系。例如，神經網絡中的變量可以是神經元連接的權重（weights）和神經元的激勵值（activities of the neurons）。
• 激勵函數（Activity Rule）大部分神經網絡模型具有一個短時間尺度的動力學規則，來定義神經元如何根據其他神經元的活動來改變自己的激勵值。一般激勵函數依賴于網絡中的權重（即該網絡的參數）。
• 學習規則（Learning Rule）學習規則指定了網絡中的權重如何隨著時間推進而調整。這一般被看做是一種長時間尺度的動力學規則。一般情況下，學習規則依賴于神經元的激勵值。它也可能依賴于監督者提供的目標值和當前權重的值。例如，用于手寫識別的一個神經網絡，有一組輸入神經元。輸入神經元會被輸入圖像的數據所激發。在激勵值被加權并通過一個函數（由網絡的設計者確定）后，這些神經元的激勵值被傳遞到其他神經元。這個過程不斷重復，直到輸出神經元被激發。最后，輸出神經元的激勵值決定了識別出來的是哪個字母。

　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　—————來自維基百科

非線性假設（Non-linear hypotheses)

神經網絡是一種古老的算法。早期的神經網絡之所以沒有被人關注，因為當時的計算機運行速度不行。現在神經網絡可用于處理大規模數據的機器學習。

神經元與大腦(Neurons and the brain)

神經網絡的起源與發展歷程

?

模型展示1(Model representation)

樹突(Dendrite)：input作用，接收來自其他神經元的信息。

軸突(Axon)：output作用，給其他神經元傳遞信號或者傳遞信息。

神經元(Neuron)：神經元是一個計算單元，它從輸入通道接收一定數目的信息，并做一定的計算，然后結果通過它的軸突傳送到其他節點，或者大腦中的其他神經元。

神經網絡中，第一層為輸入層，最后一層為輸出層，中間的層次都叫隱藏層，可以有不止一個隱藏層。

神經網絡其實是一組神經元鏈接在一起的集合。激活項：由一個具體神經元計算并輸出的值。

模型展示2(Model representation)

?前向傳播：輸入層——隱藏層——輸出層

?

多元分類(Multi-class classfication)

多元分類，即具有多個輸出單元

?

轉載于:https://www.cnblogs.com/haifengbolgs/p/9367381.html

總結

以上是生活随笔為你收集整理的初识机器学习——吴恩达《Machine Learning》学习笔记（八）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。