原標題：產(chǎn)品視頻被曝合成，用 GAN 造出 4 個工程師，10 天眾籌 3 萬美元，這家初創(chuàng)公司火了　　

　　文/劉俊寰

　　來源：大數(shù)據(jù)文摘（ID:BigDataDigest）

　　創(chuàng)業(yè)公司吹噓技術騙取信任和融資的例子屢見不鮮，但近日，一家西班牙技術公司被曝驚天造假，不僅技術和產(chǎn)品 demo 視頻被懷疑是造假合成，連團隊里的工程師，都是GAN 合成的“AI 造人”。

　　六人的工程師團隊介紹中，只有 Delgado 和 Balcells 兩人確有其人。

　　有網(wǎng)友評論：這算是給 GAN 的圖像生成技術找了個絕佳的落地場景么？

　　一起看看。

　　自動棋盤眾籌項目火爆全網(wǎng)，用 AI 遠程跟網(wǎng)友“云”下棋

　　上周，眾籌網(wǎng)站 Kickstarter 上的一項自動棋盤的項目被迫暫停了，多個知名的在線國際象棋社區(qū)聯(lián)合發(fā)表聲明，稱該產(chǎn)品是個騙局。

　　被舉報的這家初創(chuàng)公司名叫 REGIUM，主要開發(fā)用于在線比賽的全自動國際象棋棋盤，該公司設計的棋盤通過將內(nèi)置的電磁鐵移入其中，從而自動操作棋盤上的棋子。

　　根據(jù) REGIUM 的介紹，這個棋盤可以和可以進行網(wǎng)絡對戰(zhàn)的國際象棋應用同步，原本在 PC 畫面上進行的國際象棋操作可以在物理上進行，自稱是“劃時代的項目”。

　　REGIUM 稱，他們的自動棋盤是高科技棋盤，用到了 AI、自動跟蹤技術等，用戶移動棋子是快速、無聲的，可以將棋盤狀態(tài)與各種在線象棋 APP 同步，與人遠程“云”下棋，還能實時載入更多棋類游戲。

　　REGIUM 于 2019 年 12 月公開了 demo 視頻，隨后在 Kickstarter 上發(fā)起眾籌，以商品化為目標募集資金。

　　這一項目迅速獲得了不少圍棋愛好者和平臺的關注，視頻迅速在 YouTube 上獲得了超過 4 萬的點擊量。在 Kickstarter 上，從上線到項目被叫停，不到 10 天時間就獲得了 33111 美元的籌款。

　　但是，隨著在 Kickstarter 上的信息公開，用戶針對 REGIUM 提出了各種各樣的問題，其中最為嚴重的是，有人發(fā)現(xiàn)，“作為開發(fā)團隊介紹的成員臉部照片是假的”。

　　知名在線國際象棋社區(qū) Chess.com、Chess24.com 和 Lichess.org 的撰稿人相繼發(fā)文表示，REGIUM 官網(wǎng)上介紹的 6 名工程師中有 4 人是不存在的，是在網(wǎng)站 thispersondoesnotexist 上利用 AI 生成不存在的人類面部照片。這也導致人們進一步懷疑，“該產(chǎn)品本身可能就不存在”。

　　REGIUM 官網(wǎng)鏈接：

　　https://www.chess.com/news/view/update-on-regium-chess

　　偽造工程師？真真假假破朔迷離

　　personpersondoesnotexist.com 的創(chuàng)建人 Phil Wang 告訴 Chess.com，這四個疑似不存在的人的臉部照片存在部分失真，和機器學習算法生成的照片具有相同的特征。這些圖像也沒有托管在互聯(lián)網(wǎng)上的其他任何地方。

　　隨后，Wang 使用 AI 技術生成了不存在的人的面孔，將有關與 REGIUM 的相關頁面鏈接的肖像的信息轉(zhuǎn)發(fā)給 Chess.com，并表示，“根據(jù)我的經(jīng)驗，它的確來自英偉達的生成模型”。

　　“可以從眼鏡周圍的變形以及背景中的偽影看出來，這確實是偽造的照片。”

　　在使用公開可用的信息與同事進行協(xié)調(diào)之后，Chess.com 還能夠在公開在線論壇中驗證了與該公司有關聯(lián)的個人虛假陳述。

　　目前，Chess.com 和 Chess24.com 都終止了對 REGIUM 的投資。

　　不過，在一封發(fā)送給科技媒體 Motherboard 的回應郵件中，REGIUM否認了這些說法，但也沒有提供進一步的證據(jù)來證明其開發(fā)團隊是真實存在的。

　　REGIUM 在郵件寫道，這個事根本不值得一提，一些人總是會亂說些事情，比如首席技術官不是工程師，他不是門薩的人，這個團隊沒有成員等等。甚至有人猜測，這些照片的標準尺寸是 1024x1024，以及關于董事會和團隊成員的說法……

　　他們知道互聯(lián)網(wǎng)上的陰謀論是如何進行發(fā)酵的，有些人就是喜歡胡言亂語。這些團隊成員有家人，有些也在正經(jīng)公司工作，但在這些瘋狂的攻擊之后，有人擔心這將影響到他們正常的職業(yè)生涯，于是他們決定從網(wǎng)上撤除他們的數(shù)據(jù)。

　　除了被舉報偽造工程師，視頻國際象棋網(wǎng)站還認為，在 Kickstarter 上的 demo 視頻中，錄像有被明顯篡改的證據(jù)。在線象棋平臺 Lichess 的開發(fā)者在博客中表示，棋子在棋盤上自動移動的畫面很可能是使用定格動畫（stop motion）做出來的。

　　博客鏈接：

　　https://lichess.org/blog/XlE48hEAACIAQv2F/regium-extraordinary-claims-require-extraordinary-evidence

　　REGIUM 對此進行了回應，稱自己根本不擅長制作宣傳視頻，在拍攝被編輯掩蓋的視頻時還有出錯。

　　一些懷疑者“要求用手機錄制一段視頻，以證明這不是定格動畫或 CGI”。REGIUM 在一封電子郵件中表示，“我們照做了，也把視頻發(fā)送過去了。任何人都可以看到，在視頻中定格動畫或 CGI 是絕對不可能存在的”。

　　用 GAN 生成人臉圖像真的這么無懈可擊嗎？

　　Wang 所提到偽造人臉的 StyleGAN 來自英偉達，可以說是近年火遍全網(wǎng)的“造假”神器了。與其他生成器不同，StyleGAN 可以根據(jù)需要更改生成圖像的結果，繪制出的圖片更加逼真，不僅可以創(chuàng)造假的人類肖像，也被瘋狂應用于其他機器學習應用項目，例如汽車、房間、甚至是動漫人頭等。

　　REGIUM 疑似使用的就是這個利用 GAN 來生成不存在的人臉圖像的網(wǎng)站，點開網(wǎng)站之后，每次刷新頁面，算法都會從頭開始生成新的人臉圖像。

　　網(wǎng)站鏈接：

　　https://thispersondoesnotexist.com/

　　該網(wǎng)站使用的是一種稱為StyleGAN的機器學習技術，StyleGAN 最初是由英偉達在一篇論文中《一種用于生成式對抗網(wǎng)絡的基于生成器體系結構的方式（A Style-Based Generator Architecture for Generative Adversarial Networks））

　　論文下載地址：

　　https://arxiv.org/pdf/1812.04948.pdf

　　據(jù)論文介紹，StyleGAN 是一步一步地生成人工圖像的，從非常低的分辨率開始，一直到高分辨率（1024×1024）。通過分別地修改網(wǎng)絡中每個級別的輸入，它可以控制在該級別中所表示的視覺特征，從粗糙的特征（姿勢、面部形狀）到精細的細節(jié)（頭發(fā)顏色），而不會影響其它的級別。

　　這種技術不僅可以更好地理解所生成的輸出，而且還可以產(chǎn)生最高水平的結果，即比以前生成的圖像看起來更加真實的高分辨率圖像。

　　英偉達的代碼鏈接：

　　https://github.com/NVlabs/stylegan

　　Philip Wang 還在一封電子郵件中表示，絕大多數(shù)人都不知道，將來 AI 在合成圖像方面會有多么出色。

　　不過，盡管非常逼真，但是 StyleGAN 生成的圖片中還是存在一些技術缺陷，文摘菌之前也曾報道過，如何區(qū)分真假圖片的幾個方法，比如，有時候在生成的照片中，乍一看似乎與真實照片沒有什么區(qū)別，但仔細一看，會發(fā)現(xiàn)圖像中有一些奇怪的光線會漂浮在人物周圍，或者是局部出現(xiàn)奇怪的變形。這也是 Wang 能夠一眼看出照片偽造的關鍵所在。

　　GAN 于 2014 年由計算機科學家 Ian Goodfellow 及其同事首次引入，從那之后，GAN 變得越來越強大，現(xiàn)在已經(jīng)可以以驚人的高分辨率生成高度逼真的圖像。

　　不僅如此，這些程序還可以用于生成人們跳舞的視頻，甚至是“將夏天的場景變成冬天的仙境”。不過也有令人苦惱的地方，就是這項技術也有隨時被用于以“deepfakes”為核心的的假色情影片制作中。

　　Wang 的網(wǎng)站在租用的服務器上運行，該服務器配有運行 Nvidia 軟件的強大 GPU，Wang 透露道，每兩秒鐘生成一張隨機的臉，隨后以可擴展的方式展示給全世界，這其中沒什么花哨。

　　REGIUM 這次事件，不管真假，都足以再次讓我們反思技術帶來的雙面性，的確，大規(guī)模的虛假復制將對于平臺、個人都將造成不同程度的傷害。

　　顯然，看似作為罪魁禍首的 GAN 技術，仍然是一種通用的東西，而真正將此濫用的，正是我們?nèi)?/strong>。或許正是出于對現(xiàn)在以及未來 GAN 的逐漸“瘋魔化”趨勢，Wang 曾表示，他想要在以后堅持真實的臉部圖像，“人的臉對我們的認知最重要，因此我決定提出該特定的預訓練模型”。