孿生網絡學習筆記

上一篇sentence-bert中筆者簡單的介紹了孿生網絡的概念，這篇主要嘮嘮。

既然是孿生網絡，說明肯定是存在兩個相似的網絡結構？為啥要使用孿生網絡？下面分析

和對比學習一樣，孿生網絡概念最先也是在圖像中提出

從圖1中，我們可以看到，其實每張圖片是經過了各自的卷積神經網絡，但是兩個卷積神經網絡的所有權值（所有參數）都是共享的，這就像一對雙胞胎一樣，因此我們管這種權值共享的網絡稱之為孿生網絡。而權值共享的目的有兩個：
-（1）減少參數量，減小模型的復雜度；
-（2）將兩個不同空間維度的向量映射到同一個空間維度上，使其數據分布保持一致，在同一空間維度上對不同向量進行編碼。

孿生網絡主要包括4層

主要包含四層：

詞表示層（Embedding Layer）

wordembeding層。

編碼層（Encoder Layer）

融合層（Aggregated Layer）

預測層（Predict Layer）------------恢復內容開始------------

孿生網絡學習筆記

上一篇sentence-bert中筆者簡單的介紹了孿生網絡的概念，這篇主要嘮嘮。

既然是孿生網絡，說明肯定是存在兩個相似的網絡結構？為啥要使用孿生網絡？下面分析

和對比學習一樣，孿生網絡概念最先也是在圖像中提出

從圖1中，我們可以看到，其實每張圖片是經過了各自的卷積神經網絡，但是兩個卷積神經網絡的所有權值（所有參數）都是共享的，這就像一對雙胞胎一樣，因此我們管這種權值共享的網絡稱之為孿生網絡。而權值共享的目的有兩個：
-（1）減少參數量，減小模型的復雜度；
-（2）將兩個不同空間維度的向量映射到同一個空間維度上，使其數據分布保持一致，在同一空間維度上對不同向量進行編碼。

有兩個一摸一樣的網絡，同時輸入兩個input，

Siamese網絡要給出輸入圖像X1和X2的相似度，所以它必須能接受兩個圖像作為輸入，如下圖：

圖中上下兩個模型，都由CNN構成，兩個模型的參數值完全相同。不同于傳統CNN的地方，是Siamese網絡并不直接輸出類別，而是輸出一個向量(比如上圖中是128個數值組成的一維向量)：

若輸入的圖像X1和X2為同一個人，則上下兩個模型輸出的一維向量歐氏距離較小
若輸入的圖像X1和X2不是同一個人，則上下兩個模型輸出的一維向量歐氏距離較大
所以通過對上下兩個模型輸出的向量做歐氏距離計算，就能得到輸入兩幅圖像的相似度。
「ybdesire」

大家可能會有疑問：共享權值是什么意思？左右兩個神經網絡的權重一模一樣？

答：是的，在代碼實現的時候，甚至可以是同一個網絡，不用實現另外一個，因為權值都一樣。對于siamese network，兩邊可以是lstm或者cnn，都可以。

大家可能還有疑問：如果左右兩邊不共享權值，而是兩個不同的神經網絡，叫什么呢？

答：pseudo-siamese network，偽孿生神經網絡，如下圖所示。對于pseudo-siamese network，兩邊可以是不同的神經網絡（如一個是lstm，一個是cnn），也可以是相同類型的神經網絡。

在本文匹配應該是有場景的

簡單來說，衡量兩個輸入的相似程度。孿生神經網絡有兩個輸入（Input1 and Input2）,將兩個輸入feed進入兩個神經網絡（Network1 and Network2），這兩個神經網絡分別將輸入映射到新的空間，形成輸入在新的空間中的表示。通過Loss的計算，評價兩個輸入的相似度。參考

孿生網絡主要包括4層

主要包含四層：

詞表示層（Embedding Layer）

wordembeding層。

編碼層（Encoder Layer）

融合層（Aggregated Layer）

預測層（Predict Layer）

總結

以上是生活随笔為你收集整理的Siamese学习笔记的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。