大家好，歡迎來到我們的星球知識小卡片專欄，本期給大家分享AutoML的核心技術(shù)點。

作者&編輯 | 言有三

1 AutoML與數(shù)據(jù)增強

大家都知道數(shù)據(jù)增強很重要，是深度學(xué)習(xí)必備良藥，寫論文刷比賽提指標(biāo)的大殺器。如果讓模型針對具體的任務(wù)自動學(xué)習(xí)數(shù)據(jù)增強，理論上會更加智能，這便是基于AutoML的數(shù)據(jù)增強技術(shù)，它主要是用于自動學(xué)習(xí)數(shù)據(jù)增強策略。

2?AutoML與網(wǎng)絡(luò)優(yōu)化參數(shù)

隨著深度學(xué)習(xí)技術(shù)的發(fā)展，激活函數(shù)，歸一化方法，最大池化方法等都發(fā)展出了不少的變種，而最新的研究則集中于如何使用AutoML技術(shù)去進行設(shè)計。

3?AutoML與模型結(jié)構(gòu)搜索

一直以來，網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計是一個非常需要經(jīng)驗且具有挑戰(zhàn)性的工作，研究人員從設(shè)計功能更加強大和更加高效的模型兩個方向進行研究，隨著各類經(jīng)典網(wǎng)絡(luò)設(shè)計思想的完善，如今要手工設(shè)計出更優(yōu)秀的模型已經(jīng)很難，而以AutoML為代表的自動化機器學(xué)習(xí)技術(shù)就成為了大家關(guān)注的熱點，其中用于搜索的方法包括強化學(xué)習(xí)，進化算法，貝葉斯優(yōu)化，而需要優(yōu)化的包括已有結(jié)構(gòu)的參數(shù)搜索，子單元的搜索，整個網(wǎng)絡(luò)架構(gòu)的搜索等。

4?AutoML與模型壓縮

雖然NAS本身具有模型優(yōu)化的功能，但是當(dāng)前也有許多成熟的模型優(yōu)化方法，比如模型剪枝，量化，蒸餾，AutoML技術(shù)也在其中大展宏圖。

5 AutoML與模型目標(biāo)與方法設(shè)計

一個有效的損失函數(shù)在深度學(xué)習(xí)任務(wù)中起了關(guān)鍵作用，然而損失函數(shù)都是人為設(shè)定，不僅需要有經(jīng)驗的人員進行反復(fù)嘗試，也只能獲得次優(yōu)的方案，如果可以讓模型自動對優(yōu)化目標(biāo)進行學(xué)習(xí)，將有望以更低的成本學(xué)習(xí)到更優(yōu)的模型。另一方面，要成功訓(xùn)練一個深度學(xué)習(xí)模型，正確的優(yōu)化策略是非常重要的，如果使用不當(dāng)結(jié)果會產(chǎn)生很大的差異，AutoML也可以在其中進行探索。

6 其他

總的來說，AutoML有非常多的研究方向，包括：

(1) 特征工程。

(2) 數(shù)據(jù)使用。

(3) 網(wǎng)絡(luò)參數(shù)優(yōu)化。

(4) 強化學(xué)習(xí)與網(wǎng)絡(luò)結(jié)構(gòu)搜索。

(5) 進化算法與網(wǎng)絡(luò)結(jié)構(gòu)搜索。

(6) 貝葉斯優(yōu)化等方法與網(wǎng)絡(luò)結(jié)構(gòu)搜索。

(7) 網(wǎng)絡(luò)搜索的加速方法。

(8) 其他等等。?

以上內(nèi)容，如果你不想自己學(xué)習(xí)，可以去我們知識星球的網(wǎng)絡(luò)結(jié)構(gòu)1000變板塊—AutoML板塊閱讀。

有三AI知識星球

知識星球是有三AI的付費內(nèi)容社區(qū)，里面包括各領(lǐng)域的模型學(xué)習(xí)，數(shù)據(jù)集下載，公眾號的付費圖文原稿，技術(shù)總結(jié)PPT和視頻，知識問答，書籍下載，項目推薦，線下活動等資源，了解詳細(xì)請閱讀以下文章：

【雜談】有三AI知識星球一周年了！為什么公眾號+星球才是完整的？

【雜談】萬萬沒想到，有三還有個保密的‘朋友圈’，那里面都在弄啥！

轉(zhuǎn)載文章請后臺聯(lián)系

侵權(quán)必究

往期精選

• 【雜談】2020年有三AI計算機視覺培養(yǎng)計劃詳解，該不該學(xué)&怎么學(xué)CV的簡單討論

• 【年終總結(jié)】2019年有三AI做了什么，2020年我們要做什么？
  

• 【總結(jié)】有三AI秋季劃模型優(yōu)化組3月直播講了哪些內(nèi)容，為什么每一個從事深度學(xué)習(xí)的同學(xué)都應(yīng)該掌握模型優(yōu)化的內(nèi)容

• 【總結(jié)】有三AI秋季劃人臉?biāo)惴ńM3月直播講了哪些內(nèi)容，計算機視覺你不可能繞開人臉圖像

• 【總結(jié)】有三AI秋季劃圖像質(zhì)量組3月直播講了哪些內(nèi)容，為什么解決好底層圖像處理問題那么重要

• 【星球知識卡片】殘差網(wǎng)絡(luò)家族10多個變種學(xué)習(xí)卡片，請收下！

• 【星球知識卡片】移動端高效率的分組網(wǎng)絡(luò)都發(fā)展到什么程度了？

• 【星球知識卡片】注意力機制發(fā)展如何了，如何學(xué)習(xí)它在各類任務(wù)中的應(yīng)用？

• 【星球知識卡片】模型剪枝有哪些關(guān)鍵技術(shù)，如何對其進行長期深入學(xué)習(xí)

• 【星球知識卡片】模型量化的核心技術(shù)點有哪些，如何對其進行長期深入學(xué)習(xí)

• 【星球知識卡片】模型蒸餾的核心技術(shù)點有哪些，如何對其進行長期深入學(xué)習(xí)

• 【星球知識卡片】視頻分類與行為識別有哪些核心技術(shù)，對其進行長期深入學(xué)習(xí)

• 【星球知識卡片】圖像生成都有哪些核心技術(shù)，如何對其進行長期深入學(xué)習(xí)

總結(jié)

以上是生活随笔為你收集整理的【星球知识卡片】AutoML都有哪些核心技术，如何对其进行长期深入学习的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。