DL之Xception：Xception算法的簡介(論文介紹)、架構(gòu)詳解、案例應用等配圖集合之詳細攻略

?

?

目錄

Xception算法的簡介(論文介紹)

1、論文使用的數(shù)據(jù)集

Xception算法的架構(gòu)詳解

Xception算法的案例應用

?

---

?

?

?

?

?

?

相關文章
DL之Xception：Xception算法的簡介(論文介紹)、架構(gòu)詳解、案例應用等配圖集合之詳細攻略
DL之Xception：Xception算法的架構(gòu)詳解

?

Xception算法的簡介(論文介紹)

? ? ? Xception即Extreme version of Inception。Xception是google繼Inception后提出的對InceptionV3的另一種改進，主要是采用深度可分離卷積（depthwiseseparable convolution）來替換原來InceptionV3中的卷積操作。在基本不增加網(wǎng)絡復雜度的前提下提高了模型的效果。但網(wǎng)絡復雜度沒有大幅降低。原因是作者加寬了網(wǎng)絡，使得參數(shù)數(shù)量和Inception v3差不多。因此Xception主要目的不在于模型壓縮，而是提高性能。

?

Abstract ?
? ? ?We present an interpretation of Inception modules in convolutional ?neural networks as being an intermediate step ?in-between regular convolution and the depthwise separable ?convolution operation (a depthwise convolution followed by ?a pointwise convolution). In this light, a depthwise separable ?convolution can be understood as an Inception module with ?a maximally large number of towers. This observation leads ?us to propose a novel deep convolutional neural network ?architecture inspired by Inception, where Inception modules ?have been replaced with depthwise separable convolutions. ?We show that this architecture, dubbed Xception, slightly ?outperforms Inception V3 on the ImageNet dataset (which ?Inception V3 was designed for), and significantly outperforms ?Inception V3 on a larger image classification dataset ?comprising 350 million images and 17,000 classes. Since ?the Xception architecture has the same number of parameters ?as Inception V3, the performance gains are not due ?to increased capacity but rather to a more efficient use of ?model parameters.
摘要
? ? ?我們將卷積神經(jīng)網(wǎng)絡中的Inception 模塊解釋為正規(guī)化卷積和深度可分離卷積操作(深度卷積之后是點卷積)之間的中間步驟。從這個意義上講，深度可分離卷積可以理解為一個具有最大數(shù)量towers的Inception 模塊。基于此，我們提出了一種新穎的深度卷積神經(jīng)網(wǎng)絡結(jié)構(gòu)，該結(jié)構(gòu)受到Inception的啟發(fā)，Inception模塊被深度可分卷積所取代。我們展示了這個被稱為Xception的架構(gòu)，它在ImageNet數(shù)據(jù)集上稍微優(yōu)于Inception V3 (Inception V3是為ImageNet數(shù)據(jù)集設計的)，并且在包含3.5億張圖像和17,000個類的更大的圖像分類數(shù)據(jù)集上顯著優(yōu)于Inception V3。由于Xception體系結(jié)構(gòu)具有與Inception V3相同的參數(shù)數(shù)量，所以性能的提高不是由于容量的增加，而是由于更有效地使用了模型參數(shù)。

Conclusions ?
? ? ?We showed how convolutions and depthwise separable ?convolutions lie at both extremes of a discrete spectrum, ?with Inception modules being an intermediate point in between. ?This observation has led to us to propose replacing ?Inception modules with depthwise separable convolutions in ?neural computer vision architectures. We presented a novel ?architecture based on this idea, named Xception, which has ?a similar parameter count as Inception V3. Compared to ?Inception V3, Xception shows small gains in classification ?performance on the ImageNet dataset and large gains on the ?JFT dataset. We expect depthwise separable convolutions ?to become a cornerstone of convolutional neural network ?architecture design in the future, since they offer similar ?properties as Inception modules, yet are as easy to use as ?regular convolution layers.
結(jié)論
? ? ?我們展示了卷積和深度可分離卷積如何位于離散譜的兩個極端，Inception 模塊是兩者之間的一個中間點。這一發(fā)現(xiàn)促使我們提出在神經(jīng)計算機視覺結(jié)構(gòu)中，用深度可分卷積代替Inception 模塊。我們提出了一個基于這種思想的新架構(gòu)，名為Xception，它的參數(shù)計數(shù)與Inception V3類似。與Inception V3相比，Xception在ImageNet數(shù)據(jù)集的分類性能上有小的提升，而在JFT數(shù)據(jù)集上則有大的提升。我們期望深度可分卷積在未來成為卷積神經(jīng)網(wǎng)絡架構(gòu)設計的基石，因為它們提供了與Inception 模塊類似的特性，但與常規(guī)卷積層一樣易于使用。

?

1、Xception架構(gòu)

• Xception架構(gòu)，是具有殘差連接的深度可分離卷積層的線性堆疊。
• SeparableConv，是修改后的深度可分離卷積。

?

?

1、論文使用的數(shù)據(jù)集

Dataset之JFT：JFT/FastEval14k數(shù)據(jù)集的簡介、下載、案例應用之詳細攻略

? ? ? ?為了評估在JFT上訓練的模型的性能，Xception算法的作者使用輔助數(shù)據(jù)集FastEval14k。FastEval14k是一個包含14,000個圖像的數(shù)據(jù)集，具有約6,000個類別的密集標注（平均每個圖像36.5個標簽）。在這個數(shù)據(jù)集上，使用平均精度對前100個預測（MAP @ 100）評估性能，并且將每個類別對MAP @ 100的貢獻加權(quán)，并評估該類別在社交媒體圖像中的常見性（因此也很重要）。
? ? ? ?此評估過程旨在捕獲社交媒體上頻繁出現(xiàn)的標簽的性能，這對Google的生產(chǎn)模型至關重要。

?

?

論文
Fran?ois Chollet.
Xception: Deep Learning with DepthwiseSeparable Convolutions, CVPR 2017.
https://arxiv.org/abs/1610.02357

?

?

Xception算法的架構(gòu)詳解

DL之Xception：Xception算法的架構(gòu)詳解

?

?

?

?

?

?

Xception算法的案例應用

后期更新……

1、DeepLabv3+采用修改的Xception架構(gòu)

DL之DeepLabv3：DeepLab v3和DeepLabv3+算法的架構(gòu)詳解

?

?

?

?

?

?

?

?

?

?

更多內(nèi)容參考博客搭積木般構(gòu)建深度學習網(wǎng)絡——Xception完整代碼解析

深度學習之基礎模型-Xception

總結(jié)

以上是生活随笔為你收集整理的DL之Xception：Xception算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。