我的前言

翻譯結(jié)合我自己想法啊，但是我賊菜的而且時(shí)間有限，所以，我都是簡(jiǎn)單的大致理解一下，然后翻譯。發(fā)出來(lái)的原因，更多是想做個(gè)筆記。
翻譯的亂七八糟的。。。這就是我現(xiàn)在的感受了

文章目錄

• 我的前言
• 論文
• • 論文作者
  • Abstract 概要
  • Introduction 介紹
  • Method
  • • 3.1 三個(gè)玩家的博弈

論文

論文作者

Chongxuan Li， Kun Xu, Jun Zhum, Bo Zhang
Tsinghua University
三位清華的大神

Abstract 概要

GANs （對(duì)抗生成神經(jīng)網(wǎng)絡(luò)）已經(jīng)在圖片生成和半監(jiān)督學(xué)習(xí)上有不錯(cuò)的保證了。但是，目前的GANs在半監(jiān)督學(xué)習(xí)上有兩個(gè)問(wèn)題。

生成器和判別器（即分類(lèi)器）可能不是同時(shí)最優(yōu)的。

生成器不能控制生成樣本的語(yǔ)義

這個(gè)樣本實(shí)質(zhì)上是由于兩個(gè)玩家的博弈制度。在這種制度下，一個(gè)判別式模型來(lái)分享一個(gè)不相容的角色，在識(shí)別一個(gè)假的樣本并且預(yù)測(cè)標(biāo)簽，而且它只評(píng)估沒(méi)有考慮標(biāo)簽的數(shù)據(jù)。

為了解決這個(gè)問(wèn)題，我們提出一個(gè)三人對(duì)抗的生成網(wǎng)絡(luò)。（Triple-GAN）。在這個(gè)模型中，包括有三個(gè)博弈參與者，分別是一個(gè)生成器，一個(gè)判別器，一個(gè)分類(lèi)器。

• 這個(gè)生成器和分類(lèi)器表現(xiàn)這個(gè)在圖片和標(biāo)簽之間的條件分布。
• 這個(gè)判別器只（solely）專(zhuān)注于分辨假圖片-標(biāo)簽對(duì)

我們?cè)O(shè)計(jì)了兼容的效用去保證這個(gè)分布被這兩個(gè)收斂到數(shù)據(jù)分布的分類(lèi)器和生成器表現(xiàn)出來(lái)。

我們?cè)诓煌瑪?shù)據(jù)上實(shí)驗(yàn)的結(jié)果表明（demonstrate）Triple-GAN 作為一個(gè)統(tǒng)一的模型可以同時(shí)保證下面兩點(diǎn)

• 達(dá)到了最先進(jìn)的，最高端的，最前沿的分類(lèi)通過(guò)深度生成模型的分類(lèi)結(jié)果
• 解決了，在數(shù)據(jù)空間，類(lèi)別和風(fēng)格的平滑地導(dǎo)入和轉(zhuǎn)化，通過(guò)在潛在的類(lèi)別條件空間上的插值（interpolation）

附上這段的論文

Introduction 介紹

深度生成模型（DGMs）可以捕捉到數(shù)據(jù)的底層分布并生成新的樣本。
最近，在生成實(shí)際圖片上有了一個(gè)有重大意義的進(jìn)展基于生成對(duì)抗網(wǎng)絡(luò)（GANs）。生成對(duì)抗網(wǎng)絡(luò)是制定了一個(gè)兩個(gè)玩家的博弈。在這個(gè)博弈當(dāng)中，生成器G把隨機(jī)噪聲Z作為輸入，然后生成了樣本G(z)在數(shù)據(jù)空間；而，判別器（Discriminator）D 識(shí)別一個(gè)給定的樣本，來(lái)自于實(shí)際的數(shù)據(jù)分布P(x)，還是來(lái)自于生成器G。

G和D都是被參數(shù)化為深度神經(jīng)網(wǎng)絡(luò)，并且訓(xùn)練過(guò)程就是解決下面的這個(gè)最小值問(wèn)題。

這里，$p_z(z)$是一個(gè)樣本分布（例如：均勻分布（uniform）或者是正態(tài)分布（norm））。然后$U(?)$表示一個(gè)結(jié)果。

給出一個(gè)生成器然后定義分布$p_g$，最優(yōu)的判別式就是
$D(x)=p(x)/(p_g(x)+p(x)$ 在一個(gè)非參數(shù)化的設(shè)置中，然后這個(gè)博弈的均衡（equilibrium of the game）當(dāng)且僅當(dāng) $p(x)=p_g(x)$的時(shí)候達(dá)到。就圖像生成來(lái)言，這是理想的。

GANs和DGMs在一般情況下，已經(jīng)被證明了在半監(jiān)督學(xué)習(xí)（SSL）上的有效性，當(dāng)保證了生成的能力。在同樣的兩個(gè)玩家的博弈模型中，Cat-GANs概括了GANs用一個(gè)分類(lèi)判別的網(wǎng)絡(luò)，并且一個(gè)目標(biāo)函數(shù)是去極小化一個(gè)預(yù)測(cè)基于真實(shí)數(shù)據(jù)的條件熵，同時(shí)也要最大化，預(yù)測(cè)基于生成的樣本的條件熵。

這有兩個(gè)問(wèn)題在GANs應(yīng)用在半監(jiān)督學(xué)習(xí)SSL上

生成器和判別器（即分類(lèi)器）可能不是同時(shí)最優(yōu)的。

生成器不能控制生成樣本的語(yǔ)義

對(duì)于第一個(gè)問(wèn)題，Salimans et al 提出兩個(gè)可選的訓(xùn)練對(duì)象，效果在分類(lèi)或者圖像生成的半監(jiān)督模型上都是還不錯(cuò)的，但不是同時(shí)都不錯(cuò)。

這個(gè)特征匹配在分類(lèi)上非常不錯(cuò)，但是在生成不同的樣本上，當(dāng)另外一個(gè)損失函數(shù) minibatch 判別函數(shù)，在實(shí)際的圖像生成上表現(xiàn)的很好。

這個(gè)現(xiàn)象沒(méi)有被深入地分析，并且，在這里，我們認(rèn)為主要源自于 兩個(gè)玩家的博弈機(jī)制，在這樣的機(jī)制下，只有一個(gè)判別器去完成兩個(gè)不兼容的內(nèi)容–識(shí)別假的樣本，并且預(yù)測(cè)真的樣本。

特別地，我們?nèi)思僭O(shè)G是最優(yōu)的，即 $p(x)=p_g(x)$ 并且考慮一個(gè)樣本x來(lái)自于$p_g(x)$。一方面，作為一個(gè)判別器，最優(yōu)的D應(yīng)該能識(shí)別x是一個(gè)假的樣本，有著非0概率。另一方面，作為一個(gè)分類(lèi)器，這個(gè)最優(yōu)的D應(yīng)該總是預(yù)測(cè)這個(gè)正確的x的類(lèi)別。

這就好像，D有兩個(gè)不同的收斂點(diǎn)一樣。表面G和D可能不是同時(shí)最優(yōu)的。而且，給一個(gè)不是最優(yōu)的G，這樣的情況占大多數(shù)。給一個(gè)樣板來(lái)自于重疊區(qū)域，那么兩個(gè)在D中的角色任然會(huì)通過(guò)不同的處理這個(gè)樣本完成，導(dǎo)致很糟糕的分類(lèi)。

對(duì)于第二個(gè)問(wèn)題，disentangling （解開(kāi)）有意義的物理因子，像有限監(jiān)督的潛在表征的對(duì)象分類(lèi)。然而根據(jù)目前的知識(shí)來(lái)看，沒(méi)有一個(gè)存在的GANs是可以學(xué)習(xí)一個(gè)解開(kāi)的表征在半監(jiān)督模型中，即使一些工作可以學(xué)習(xí)這樣的表述被給出來(lái)全部的標(biāo)簽的。又一次的，我們認(rèn)為這是來(lái)自?xún)蓚€(gè)玩家的對(duì)抗的模型。

為了解決這些問(wèn)題，提出了Triple-GAN。（后面的翻不動(dòng)了。。。）
直接跳到Methods部分好了，看看算法實(shí)現(xiàn)。

Method

我們考慮在學(xué)習(xí)一個(gè)DGMs在半監(jiān)督的設(shè)置下，這里我們又部分標(biāo)簽好的數(shù)據(jù)集。

• x表示輸入的數(shù)據(jù)
• y表示輸出的標(biāo)簽

目標(biāo)是去預(yù)測(cè)這個(gè)標(biāo)簽y給沒(méi)有標(biāo)簽好的數(shù)據(jù)，同時(shí)也給生成出來(lái)的新樣本x在基于y的條件下。
這是很不同于無(wú)監(jiān)督設(shè)置的給純粹的生成，在無(wú)監(jiān)督的條件下，唯一的目標(biāo)就是去生成一個(gè)樣本x然后去欺騙判別器x。

因此兩個(gè)人的博弈是可以滿(mǎn)足去描述這個(gè)過(guò)程在GANs中的。

在我們的設(shè)置中，作為一個(gè)標(biāo)簽信息，y是不完整的（也是不確定的）。我們的密度模型應(yīng)該是被表征在x和y的空間上。

因此，有一個(gè)聯(lián)合分布 P(x,y)在輸入的標(biāo)簽對(duì)上。

雙人博弈的一個(gè)比較直接的應(yīng)用，是不可行的，由這個(gè)缺失的y數(shù)據(jù)。

不像之前的工作，給兩人博弈有一個(gè)限制，然后可以導(dǎo)致一個(gè)不相容的目標(biāo)。我們建立了我們的博弈理論的對(duì)象，基于在這個(gè)聯(lián)合分布上的觀(guān)測(cè)。

表示出來(lái)就是，概率公式的條件公式（可以回去翻翻概率論的書(shū)）。

條件概率是針對(duì)于分類(lèi)的過(guò)程的，和有分類(lèi)的生成器。
為了去聯(lián)合得到評(píng)價(jià)這個(gè)條件分布（被表征為一個(gè)分類(lèi)器網(wǎng)絡(luò)的模型和一個(gè)有類(lèi)別條件的生成器網(wǎng)絡(luò)），我們定義了一個(gè)單獨(dú)的判別器，有一個(gè)特定的角色，就是去區(qū)分是否這個(gè)人樣本是來(lái)自于實(shí)際數(shù)據(jù)，還是來(lái)自這模型。

因此，我們很自然的擴(kuò)展GANs到Triple-GANs，這樣的一個(gè)三人對(duì)抗的模型去表征分類(lèi)的和有類(lèi)別條件的生成模型。

3.1 三個(gè)玩家的博弈

Triple-GAN 包括有三個(gè)部分

一個(gè)分類(lèi)器C，近似地表征條件分布 $P_c(y|x)=p(y|x)$

一個(gè)有類(lèi)別條件的生成器G，禁止的表征為，一個(gè)條件分布的另外一個(gè)方向。$P_G(x|y)=p(x|y)$

一個(gè)判別器D，區(qū)分一個(gè)數(shù)據(jù)對(duì)(x,y)來(lái)自于真實(shí)數(shù)據(jù)分布p(x,y)

所有的組成成員都被表示神經(jīng)網(wǎng)絡(luò)的參數(shù)成員。

總結(jié)

以上是生活随笔為你收集整理的【论文阅读】Triple GANs论文阅读的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。