深度學習 -> 強化學習 ->遷移學習（楊強教授報告)

李宏毅機器學習課程－Transfer Learning

遷移學習－吳恩達
freeze

---

待處理的

理解深層神經網絡中的遷移學習及TensorFlow實現

---

Transfer Learning模式

Similar domain, different tasks

Different domains, same task

Transfer Learning四種情形

Transfer Learning-Model Fine-tuning

Conservative Training

Layer Transfer（需要實踐）

不同任務共享前幾層，往往會有較好的結果。

Speech: usually copy the last few layers
Image: usually copy the first few layers

Jason Yosinski,Jeff Clune,Yoshua Bengio,HodLipson, “How transferable are features in deep neural networks?”, NIPS, 2014 　這篇文章給出Transfer learning 方法有指導意義。（待總結）

Transfer Learning - Multitask learning（需要實踐）

---

Transfer Learning-Domain-adversarial training（需要實踐）

共享feature

不同Domain,　Feature的分布不一樣。

去掉Domain的Feature特性去掉。

　兩個不同任務的大型網絡。

Domain-adversarial trainingYaroslav Ganin,Victor Lempitsky, Unsupervised Domain Adaptation by Backpropagation, ICML, 2015

Hana Ajakan,Pascal Germain,Hugo Larochelle,Fran?ois Laviolette,Mario Marchand, Domain-Adversarial Training of Neural Networks, JMLR, 2016

實驗結果

---

Transfer Learning-Zero-shot learning（需要實踐）

不去直接去分類，而是將image映射到新的維度，將Feature映射到新的維度，目標是在新的維度，兩者更接近。

目標函數的設置（亮點）

參考文獻

Transfer Learning

深度學習 -> 強化學習 ->遷移學習（楊強教授報告)

總結

以上是生活随笔為你收集整理的李宏毅机器学习课程－Transfer Learning的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。