日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

两个分布的特征映射_DDC:直接对齐特征空间进行领域自适应

發布時間:2023/12/15 编程问答 25 豆豆
生活随笔 收集整理的這篇文章主要介紹了 两个分布的特征映射_DDC:直接对齐特征空间进行领域自适应 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

論文題目:Deep Domain Confusion: Maximizing for Domain Invariance

概括:在源域和目標域的網絡中加入一個共同的自適應層來對齊兩個網絡的特征,從而進行domain adaptation。采用MMD(maximum mean discrepancy)來度量分布之間的距離。

思路:源域(source domain)和目標域(target domain)的數據是相似而不相同的,由于目標域的數據量不足,因此希望網絡在源域上學到的知識能幫助網絡在目標域上進行學習。

在深度神經網絡中,神經網絡會先進行特征提取,再利用數據在這些特征下的表示進行計算。也就是說,訓練數據進入深度神經網絡后,先被映射到了由特征向量張成的特征空間中,再被映射到最終結果。

能否讓網絡在源域上學出的特征和在目標域學出的特征是接近的?源域和目標域的數據本來就是相似的,一個分類貓的圖像分類器和一個分類狗的圖像分類器,他們的網絡結構在前幾層可能是很相似的,提取出的特征也非常相似。因此DDC的思路就是,先讓源域的網絡進行訓練,同時對源域和目標域上的網絡進行特征對齊。對齊之后,目標域上的網絡就獲得了和源域網絡相似的特征。對獲得的特征進行fine tune,就可以得到目標域上訓好的網絡。當然,也可以將目標域中的標記數據加入源域中一起訓練。

如圖就是DDC的網絡結構,原網絡總共有八層,網絡的前七層作為特征提取層,DDC在第七層與第八層之間加入特征自適應層,特征自適應層用于對齊兩個網絡的特征。(之所以選擇第七層與第八層之間,是因為實驗表示這樣選結果最好)

在對齊網絡的特征時,用MMD作為度量。MMD是度量兩個分布的一種方法。

源域和目標域的數據,在對應的特征下的表示,形成了兩個分布。計算特征使得這兩個分布的距離盡量小,就可以對齊特征。

總結

以上是生活随笔為你收集整理的两个分布的特征映射_DDC:直接对齐特征空间进行领域自适应的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。