AutoML是我一直很關注的領域，也實際設計過相關的很多功能，但是目前AutoML在商業化層面落地的還不多。一個關鍵因素是AutoML現在在Feature生成或者調參方面有一些應用，但是這些應用更多地是建模的輔助。目前的AutoML技術很難實現從0構建一個算法。如果AutoML希望大規模的應用，一定要在NAS，也就是網絡探索上有建樹。這也是Google最新發表的這篇文章的原因，他提出AutoML-Zero，從零起步去構建算法。接下來作者會給大家分享下一些看法。

定義算法生成的流程

這篇論文比較有意思的一點是Google很好地定義了AutoML的一個流程。它把機器學習算法生成的流程拆分成了，Setup、Predict、Learn。如下圖所示：

?

Setup：算法結構的初始化

Predict：模型的預測和驗證

Learn：算法的訓練

NAS結構搜索

?

定義好流程之后就要看如何做網絡結構的探索。這里面巧妙地運用了RandomSearch和進化式搜索。

在Setup階段首先要構建一個海量的模型庫，通過RandomSearch隨機找一個模型作為初始。接著進入Predict階段，在Predict階段內置了一個預測數據集，可能是Cifar10之類的。然后用初始模型做預測，看效果。

將其中比較好的效果的模型保留，剩下的刪除。接著在比較好的模型基礎上增添一些op，比如增加一些正弦因子，如下圖所示：

然后在Learn階段去按照這個NAS結構構建新模型。

這樣就構成了一個進化式的搜索體系，不斷地生成新的網絡結構，然后基于效果好的網絡結構向上進化，不斷遞歸這個流程，如下圖所示：

整體流程大概是上面介紹的這樣。

個人看法

這篇論文還是比較偏學術，其實是給大家構建了一套NAS的流程體系，但是這個流程其實要依賴海量計算能力才可能實現。雖然論文在后面花了十幾頁的篇幅證明可行性，但是我個人還是覺得這個方案流程是沒問題的，但是實際落地可能有很多問題要解決。比如隨機增加算子，會不會造成大量的報錯，會不會浪費大量計算資源，所以真正的效果還需要觀望。

?

總結

以上是生活随笔為你收集整理的Google AutoML最新技术解析：AutoML-Zero，从0构建模型的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。