對偶傳播神經網絡（Counter-Propagation Network,CPN）能存儲二進制或模擬值的模式對，因此這種網絡模型也可用于聯想存儲、模式分類、函數逼近、統計分析和數據壓縮等功能。

對偶傳播神經網絡的拓撲結構跟誤差反向傳播（BP）網絡的一樣，不同之處在于，CPN采用兩個階段來分別訓練競爭層的內星權向量和外星權向量，即第一階段完全不顧輸出層，采用SOFM的方法來訓練競爭層的內星權向量，第二階段采用有導師的Widrow-Hoff規則（最小均方規則LMS）來訓練競爭層的外星權向量。

CPN算法步驟

第一階段采用競爭學習算法對輸入層到競爭層的權向量進行訓練。

將內星權值隨機賦予0~1上的值，歸一化；對輸入向量也進行歸一化。

根據輸入向量得到獲勝神經元。

CPN不設優勝領域，只有獲勝神經元的內星權向量可以調整。獲勝神經元的輸出為1,其他為0.學習率是隨時間下降的退火函數。

如果學習率不為0則回到第1步。

第二階段采用外星學習算法（由于競爭層的輸出為1,所以Widrow-Hoff學習算法退化為外星學習算法），對競爭層到輸出層的權向量進行訓練。

隨機初始化競爭層到輸出層的權向量。

根據輸入得到輸出，又有期望輸出，可以調整外星權向量：

又因為Y_j為1,所以Widrow-Hoff學習算法退化為外星學習算法：

兩階段學習的結果，是使內星權向量向當前的輸入模式靠攏，外星權向量向期望輸出靠攏。

雙獲勝神經元CPN網

對標準CPN網中競爭層上只允許有一個神經元獲勝。作為一種改進，在完成訓練后的運行階段允許隱藏層有兩個神經元同時獲勝，這兩個神經元的輸出均為1,其他為0。這實際上相當于在標準CPN網中兩個輸入模式得到的輸出疊加后的效果。因此雙獲勝神經元CPN網能對復合輸入模式包含的所有訓練樣本對應的輸出進行線性疊加，這種能力對于圖像的疊加等應用是十分合適的。

雙向CPN網

將CPN網的輸入層和輸出層各自分為兩組（X1,X2和Y1,Y2），訓練時還按照一組來訓練。這樣可以得到兩個映射函數：Y1=f(X1)，Y2=f(X2)。當輸入(X1,0)時，得到(Y1,0)；當輸入(0,X2)時得到(0,Y2)。當兩個映射函數互逆時，雙向CPN網絡可用于壓縮和解壓縮，也可以用它實現互聯想。

總結

以上是生活随笔為你收集整理的对偶传播神经网络的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。