? ? ? ? ? ? ? ?神經網絡與機器學習?筆記—基本知識點（下）

0.1?網絡結構：

? ? ? ? 神經網絡中神經元的構造方式與用于訓練網絡的學習算法有著密切的聯系，有三種基本的網絡結構：

?

0.7?知識表示：

?

?

?

? ? ? ? 知識就是人或機器存儲起來以備使用的信息或模型，用來對外部世界作出解釋、預測和適當的反應。

主要特征：

? ? ? ? 什么信息是明確表述的；物理上信息是如何被編碼和使用的。

? ? ? ? 神經網絡的一個主要任務是學習他所依存的外部世界（環境）模型，并且保持該模型和真是世界足夠兼容，使之能夠實現感興趣應用的特定目標。有關世界的知識由兩類信息組成。

已知世界狀態，有“什么是”事實和“什么是已知道的”事實所表示；這種形式的知識稱為先驗知識。

對世界的觀察（測量），由神經網絡中被設計用于探測環境的傳感器獲得。一般來說，這些觀察是帶有噪聲的，這是由于傳感器的噪聲和系統的不完善而產生的誤差。不管怎樣，這樣得到的觀察會提供一個信息池，從中提取樣例來訓練神經網絡。樣例分為兩種：有標號的和無標號的。有標號的就是對應的輸入有輸出結果，無標號的則沒有輸出結果。相比來說有標號的涉及到教師標注，成本高，數量少。無標號的則成本低，獲取較方便。這種數據在機器學習里都叫做訓練數據集，或者簡稱訓練樣本。

? ? ? ? 神經網絡設計與傳統信息處理對應部分（模式分類器）的設計有根本的差別。后者是設定方法、目標，驗證目標。而且這則是通過學習數據來找到能達到目標的方法。

知識表示的規則：

相似類別中的相似輸入通常應產生網絡中相似的表示，因此，可以歸入同一類中（向量內積或者歐幾里得距離）。

網絡對可分離為不同種類的輸入向量給出差別很大的表示。

如果某個特征很重要，那么網絡表示這個向量將涉及大量神經元。

如果存在先驗信息和不變性，應該將其附加在網絡設計中，這樣就不必學習這些信息而簡化網絡設計。

?

? ? 怎么在神經網絡設計中加入先驗信息：

? ? ? ? 1.通過使用稱為接收域的局部連接，限制網絡結構。

? ? ? ? 2.通過使用權值共享。限制突觸權值的選擇。[明顯降低自由參數]

? ? ? ? CNN卷積神經網絡用的就是1和2，這個以后說。

0.8?學習過程

? ? ? ? 通過神經網絡的功能來進行如下分類：有教師學習和無教師學習。其中后者可以分為無監督學習和強化學習。后來又引申出來一個半監督學校。這些學習方式對訓練數據集的要求是不一樣的。

0.9?學習任務

?

?

? ? ? ? 模式聯想（自聯想、異聯想）、模式識別、函數逼近、控制。

0.10?整理

?

?

?

?

?

總結

以上是生活随笔為你收集整理的神经网络与机器学习 笔记—基本知识点（下）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。