作者丨蘇劍林

單位丨廣州火焰信息科技有限公司

研究方向丨NLP，神經(jīng)網(wǎng)絡

個人主頁丨kexue.fm

前言：自從在機器之心上看到了 Glow 模型之后（下一個GAN？OpenAI提出可逆生成模型Glow），我就一直對其念念不忘。現(xiàn)在機器學習模型層出不窮，我也經(jīng)常關(guān)注一些新模型動態(tài)，但很少像 Glow 模型那樣讓我怦然心動，有種“就是它了”的感覺。更意外的是，這個效果看起來如此好的模型，居然是我以前完全沒有聽說過的。于是我翻來覆去閱讀了好幾天，越讀越覺得有意思，感覺通過它能將我之前的很多想法都關(guān)聯(lián)起來。在此，先來個階段總結(jié)。

背景

本文主要是 NICE: Non-linear Independent Components Estimation 一文的介紹和實現(xiàn)。這篇文章也是 Glow 模型的基礎文章之一，可以說它就是 Glow 的奠基石。

■?論文 | NICE: Non-linear Independent Components Estimation

■ 鏈接 | https://www.paperweekly.site/papers/2206

■ 源碼 |?https://github.com/laurent-dinh/nice

艱難的分布

眾所周知，目前主流的生成模型包括 VAE 和 GAN，但事實上除了這兩個之外，還有基于 flow 的模型（flow 可以直接翻譯為“流”，它的概念我們后面再介紹）。

事實上 flow 的歷史和 VAE、GAN 它們一樣悠久，但是 flow 卻鮮為人知。在我看來，大概原因是 flow 找不到像 GAN 一樣的諸如“造假者-鑒別者”的直觀解釋吧，因為 flow 整體偏數(shù)學化，加上早期效果沒有特別好但計算量又特別大，所以很難讓人提起興趣來。不過現(xiàn)在看來，OpenAI 的這個好得讓人驚嘆的、基于 flow 的 Glow 模型，估計會讓更多的人投入到 flow 模型的改進中。

▲?Glow模型生成的高清人臉

生成模型的本質(zhì)，就是希望用一個我們知道的概率模型來擬合所給的數(shù)據(jù)樣本，也就是說，我們得寫出一個帶參數(shù) θ 的分布 qθ(x)。然而，我們的神經(jīng)網(wǎng)絡只是“萬能函數(shù)擬合器”，卻不是“萬能分布擬合器”，也就是它原則上能擬合任意函數(shù)，但不能隨意擬合一個概率分布，因為概率分布有“非負”和“歸一化”的要求。這樣一來，我們能直接寫出來的只有離散型的分布，或者是連續(xù)型的高斯分布。

當然，從最嚴格的角度來看，圖像應該是一個離散的分布，因為它是由有限個像素組成的，而每個像素的取值也是離散的、有限的，因此可以通過離散分布來描述。這個思路的成果就是 PixelRNN 一類的模型了，我們稱之為“自回歸流”，其特點就是無法并行，所以計算量特別大。所以，我們更希望用連續(xù)分布來描述圖像。當然，圖像只是一個場景，其他場景下我們也有很多連續(xù)型的數(shù)據(jù)，所以連續(xù)型的分布的研究是很有必要的。

各顯神通

所以問題就來了，對于連續(xù)型的，我們也就只能寫出高斯分布了，而且很多時候為了方便處理，我們只能寫出各分量獨立的高斯分布，這顯然只是眾多連續(xù)分布中極小的一部分，顯然是不夠用的。為了解決這個困境，我們通過積分來創(chuàng)造更多的分布：

這里 q(z) 一般是標準的高斯分布，而 qθ(x|z)=qθ(x|z) 可以選擇任意的條件高斯分布或者狄拉克分布。這樣的積分形式可以形成很多復雜的分布。理論上來講，它能擬合任意分布。?

現(xiàn)在分布形式有了，我們需要求出參數(shù) θ，那一般就是最大似然，假設真實數(shù)據(jù)分布為 p?(x)，那么我們就需要最大化目標：

然而 qθ(x) 是積分形式的，能不能算下去很難說。

于是各路大神就“八仙過海，各顯神通”了。其中，VAE 和 GAN 在不同方向上避開了這個困難。VAE 沒有直接優(yōu)化目標 (2)，而是優(yōu)化一個更強的上界，這使得它只能是一個近似模型，無法達到良好的生成效果。GAN 則是通過一個交替訓練的方法繞開了這個困難，確實保留了模型的精確性，所以它才能有如此好的生成效果。但不管怎么樣，GAN 也不能說處處讓人滿意了，所以探索別的解決方法是有意義的。?

直面概率積分

flow 模型選擇了一條“硬路”：直接把積分算出來。?

具體來說，flow 模型選擇 q(x|z) 為狄拉克分布 δ(x?g(z))，而且 g(z) 必須是可逆的，也就是說：

要從理論上（數(shù)學上）實現(xiàn)可逆，那么要求 z 和 x 的維度一樣。假設 f,g 的形式都知道了，那么通過 (1) 算 q(x) 相當于是對 q(z) 做一個積分變換 z=f(x)。即本來是：

的標準高斯分布（D 是 z 的維度），現(xiàn)在要做一個變換 z=f(x)。注意概率密度函數(shù)的變量代換并不是簡單地將 z 替換為 f(x) 就行了，還多出了一個“雅可比行列式”的絕對值，也就是：

這樣，對 f 我們就有兩個要求：

1. 可逆，并且易于求逆函數(shù)（它的逆 g 就是我們希望的生成模型）；

2. 對應的雅可比行列式容易計算。

這樣一來：

這個優(yōu)化目標是可以求解的。并且由于 f 容易求逆，因此一旦訓練完成，我們就可以隨機采樣一個 z，然后通過 f 的逆來生成一個樣本，這就得到了生成模型。

flow

前面我們已經(jīng)介紹了 flow 模型的特點和難點，下面我們來詳細展示 flow 模型是如何針對難點來解決問題的。因為本文主要是介紹第一篇文章 NICE: Non-linear Independent Components Estimation 的工作，因此本文的模型也專稱為 NICE。?

分塊耦合層

相對而言，行列式的計算要比函數(shù)求逆要困難，所以我們從“要求 2”出發(fā)思考。熟悉線性代數(shù)的朋友會知道，三角陣的行列式最容易計算：三角陣的行列式等于對角線元素之積。所以我們應該要想辦法使得變換f的雅可比矩陣為三角陣。NICE 的做法很精巧，它將 D 維的 x 分為兩部分 x1,x2，然后取下述變換：

其中 x1,x2 是 x 的某種劃分，m 是 x1 的任意函數(shù)。也就是說，將 x 分為兩部分，然后按照上述公式進行變換，得到新的變量 h，這個我們稱為“加性耦合層”（Additive Coupling）。不失一般性，可以將 x 各個維度進行重排，使得 x1=x1:d 為前 d 個元素，x2=xd+1:D 為 d+1～D 個元素。?

不難看出，這個變換的雅可比矩陣是一個三角陣，而且對角線全部為 1，用分塊矩陣表示為：

這樣一來，這個變換的雅可比行列式為 1，其對數(shù)為 0，這樣就解決了行列式的計算問題。

同時，(7) 式的變換也是可逆的，其逆變換為：

細水長flow

上面的變換讓人十分驚喜：可逆，而且逆變換也很簡單，并沒有增加額外的計算量。盡管如此，我們可以留意到，變換 (7) 的第一部分是平凡的（恒等變換），因此單個變換不能達到非常強的非線性，所以我們需要多個簡單變換的復合，以達到強非線性，增強擬合能力。

其中每個變換都是加性耦合層。這就好比流水一般，積少成多，細水長流，所以這樣的一個流程成為一個“流（flow）”。也就是說，一個 flow 是多個加性耦合層的耦合。

由鏈式法則：

因為“矩陣的乘積的行列式等于矩陣的行列式的乘積”,而每一層都是加性耦合層，因此每一層的行列式為 1，所以結(jié)果就是：

考慮到下面的錯位，行列式可能變?yōu)?-1，但絕對值依然為 1，所以我們依然不用考慮行列式。

交錯中前進

要注意，如果耦合的順序一直保持不變，即：

那么最后還是 z1=x1，第一部分依然是平凡的，如下圖：

▲?簡單的耦合使得其中一部分仍然保持恒等，信息沒有充分混合

為了得到不平凡的變換，我們可以考慮在每次進行加性耦合前，打亂或反轉(zhuǎn)輸入的各個維度的順序，或者簡單地直接交換這兩部分的位置，使得信息可以充分混合，比如：

如下圖：

▲?通過交叉耦合，充分混合信息，達到更強的非線性

尺度變換層

在文章的前半部分我們已經(jīng)指出過，flow 是基于可逆變換的，所以當模型訓練完成之后，我們同時得到了一個生成模型和一個編碼模型。但也正是因為可逆變換，隨機變量 z 和輸入樣本 x 具有同一大小。

當我們指定 z 為高斯分布時，它是遍布整個 D 維空間的，D 也就是輸入 x 的尺寸。但雖然 x 具有 D 維，但它未必就真正能遍布整個 D 維空間，比如 MNIST 圖像雖然有 784 個像素，但有些像素不管在訓練集還是測試集，都一直保持為 0，這說明它遠遠沒有 784 維那么大。?

也就是說，flow 這種基于可逆變換的模型，天生就存在比較嚴重的維度浪費問題：輸入數(shù)據(jù)明明都不是 D 維流形，但卻要編碼為一個 D 維流形，這可行嗎？

為了解決這個情況，NICE 引入了一個尺度變換層，它對最后編碼出來的每個維度的特征都做了個尺度變換，也就是這樣的形式，其中 s=(s1,s2,…,sD) 也是一個要優(yōu)化的參數(shù)向量（各個元素非負）。這個 s 向量能識別該維度的重要程度（越小越重要，越大說明這個維度越不重要，接近可以忽略），起到壓縮流形的作用。

注意這個尺度變換層的雅可比行列式就不再是 1 了，可以算得它的雅可比矩陣為對角陣：

所以它的行列式為。于是根據(jù) (6) 式，我們有對數(shù)似然：

為什么這個尺度變換能識別特征的重要程度呢？其實這個尺度變換層可以換一種更加清晰的方式描述：我們開始設 z 的先驗分布為標準正態(tài)分布，也就是各個方差都為 1。

事實上，我們可以將先驗分布的方差也作為訓練參數(shù)，這樣訓練完成后方差有大有小，方差越小，說明該特征的“彌散”越小，如果方差為 0，那么該特征就恒為均值 0，該維度的分布坍縮為一個點，于是這意味著流形減少了一維。

不同于 (4) 式，我們寫出帶方差的正態(tài)分布：

將流模型 z=f(x) 代入上式，然后取對數(shù)，類似 (6) 式，我們得到：

對比 (15) 式，其實就有 si=1/σi。所以尺度變換層等價于將先驗分布的方差（標準差）也作為訓練參數(shù)，如果方差足夠小，我們就可以認為該維度所表示的流形坍縮為一個點，從而總體流形的維度減 1，暗含了降維的可能。

特征解耦

當我們將先驗分布選為各分量獨立的高斯分布時，除了采樣上的方便，還能帶來什么好處呢？?

在 flow 模型中，是生成模型，可以用來隨機生成樣本，那么 f 就是編碼器。但是不同于普通神經(jīng)網(wǎng)絡中的自編碼器“強迫低維重建高維來提取有效信息”的做法，flow 模型是完全可逆的，那么就不存在信息損失的問題，那么這個編碼器還有什么價值呢？?

這就涉及到了“什么是好的特征”的問題了。在現(xiàn)實生活中，我們經(jīng)常抽象出一些維度來描述事物，比如“高矮”、“肥瘦”、“美丑”、“貧富”等，這些維度的特點是：“當我們說一個人高時，他不是必然會肥或會瘦，也不是必然會有錢或沒錢”，也就是說這些特征之間沒有多少必然聯(lián)系，不然這些特征就有冗余了。所以，一個好的特征，理想情況下各個維度之間應該是相互獨立的，這樣實現(xiàn)了特征的解耦，使得每個維度都有自己獨立的含義。?

這樣，我們就能理解“先驗分布為各分量獨立的高斯分布”的好處了，由于各分量的獨立性，我們有理由說當我們用f對原始特征進行編碼時，輸出的編碼特征 z=f(x) 的各個維度是解耦的。

NICE 的全稱 Non-linear Independent Components Estimation，翻譯為“非線性獨立成分估計”，就是這個含義。反過來，由于 z 的每個維度的獨立性，理論上我們控制改變單個維度時，就可以看出生成圖像是如何隨著該維度的改變而改變，從而發(fā)現(xiàn)該維度的含義。?

類似地，我們也可以對兩幅圖像的編碼進行插值（加權(quán)平均），得到過渡自然的生成樣本，這些在后面發(fā)展起來的 Glow 模型中體現(xiàn)得很充分。不過，我們后面只做了 MNIST 實驗，所以本文中就沒有特別體現(xiàn)這一點。

實驗

這里我們用 Keras 重現(xiàn) NICE 一文中的 MNIST 實驗。

模型細節(jié)

先來把 NICE 模型的各個部分匯總一下。NICE 模型是 flow 模型的一種，由多個加性耦合層組成，每個加性耦合層如 (7)，它的逆是 (9)。在耦合之前，需要反轉(zhuǎn)輸入的維度，使得信息充分混合。最后一層需要加個尺度變換層，最后的 loss 是 (15) 式的相反數(shù)。?

加性耦合層需要將輸入分為兩部分，NICE 采用交錯分區(qū)，即下標為偶數(shù)的作為第一部分，下標為奇數(shù)的作為第二部分，而每個 m(x) 則簡單地用多層全連接（5 個隱藏層，每個層 1000 節(jié)點，relu 激活）。在 NICE 中一共耦合了 4 個加性耦合層。

參考代碼?

這里是我用 Keras 實現(xiàn)的參考代碼：

https://github.com/bojone/flow/blob/master/nice.py?

在我的實驗中，20 個 epoch 內(nèi)可以跑到最優(yōu)，11s 一個 epoch（GTX1070 環(huán)境），最終的 loss 約為 -2200。?

相比于原論文的實現(xiàn)，這里做了一些改動。對于加性耦合層，我用了 (9) 式作為前向，(7) 式作為其逆向。因為 m(x) 用 relu 激活，我們知道 relu 是非負的，因此兩種選擇是有點差別的。因為正向是編碼器，而逆向是生成器，選用 (7) 式作為逆向，那么生成模型更傾向于生成正數(shù)，這跟我們要生成的圖像是吻合的，因為我們需要生成的是像素值為 0～1 的圖像。

▲?NICE模型生成的數(shù)字樣本

退火參數(shù)

雖然我們最終希望從標準正態(tài)分布中采樣隨機數(shù)來生成樣本，但實際上對于訓練好的模型，理想的采樣方差并不一定是 1，而是在 1 上下波動，一般比 1 稍小。最終采樣的正態(tài)分布的標準差，我們稱之為退火參數(shù)。比如上面的參考實現(xiàn)中，我們的退火參數(shù)選為 0.8，目測在這時候生成模型的質(zhì)量最優(yōu)。

總結(jié)

NICE 的模型還是比較龐大的，按照上述模型，模型的參數(shù)量約為，也就是兩千萬的參數(shù)只為訓練一個 MNIST 生成模型，也是夸張。

NICE 整體還是比較簡單粗暴的，首先加性耦合本身比較簡單，其次模型 m 部分只是簡單地用到了龐大的全連接層，還沒有結(jié)合卷積等玩法，因此探索空間還有很大，Real NVP 和 Glow 就是它們的兩個改進版本，它們的故事我們后面再談。

點擊以下標題查看作者其他文章：?

• 從無監(jiān)督構(gòu)建詞庫看「最小熵原理」

• 基于CNN的閱讀理解式問答模型：DGCNN

• 再談最小熵原理：飛象過河之句模版和語言結(jié)構(gòu)

• 再談變分自編碼器VAE：從貝葉斯觀點出發(fā)
  

• 變分自編碼器VAE：這樣做為什么能成？

• 全新視角：用變分推斷統(tǒng)一理解生成模型

關(guān)于PaperWeekly

PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術(shù)平臺。如果你研究或從事 AI 領(lǐng)域，歡迎在公眾號后臺點擊「交流群」，小助手將把你帶入 PaperWeekly 的交流群里。

▽ 點擊 |?閱讀原文?| 查看作者博客

與50位技術(shù)專家面對面20年技術(shù)見證，附贈技術(shù)全景圖

總結(jié)

以上是生活随笔為你收集整理的细水长flow之NICE：流模型的基本概念与实现的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。