2020 年 5 月 28 日下午，十三屆全國(guó)人大三次會(huì)議表決通過(guò)了中華人民共和國(guó)民法典，民法典將在 2021 年 1 月 1 日正式施行。6 月 1 日晚，兩會(huì)已授權(quán)民法典正式文本發(fā)布。

這是中國(guó) 1949 年后首部以 “法典”命名的法律，財(cái)新評(píng)價(jià)它：“象征生命、自由、財(cái)產(chǎn)的私權(quán)立法迎來(lái)高光時(shí)刻。”值得注意的是，民法典人格權(quán)編中明確規(guī)定了不得用技術(shù)手段偽造等方式侵害他人肖像權(quán)，矛頭直接指向 AI 換臉、變聲。

“民法典正式施行后，即便用戶利用 AI 技術(shù)換臉只是單純的娛樂(lè)，沒(méi)有營(yíng)利目的，也有可能被認(rèn)定為是侵犯肖像權(quán)。”廣東合邦律師事務(wù)所律師肖錦陽(yáng)對(duì)開(kāi)源中國(guó)表示，《民法典》第 1019 條明確規(guī)定了肖像權(quán)的消極權(quán)能，這對(duì) AI 換臉等濫用信息技術(shù)手段侵犯肖像權(quán)的行為進(jìn)行禁止和預(yù)防具有積極意義。

我國(guó)新頒布的民法典中第 1019 條就規(guī)定：

任何組合或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開(kāi)肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。

未經(jīng)肖像權(quán)人同意，肖像作品權(quán)利人不得以發(fā)表、復(fù)制、發(fā)行、出租、展覽等方式使用或公開(kāi)肖像權(quán)人的肖像。

而在此之前，我國(guó)的肖像權(quán)保護(hù)主要參照《民法通則》第一百條規(guī)定：

公民享有肖像權(quán)，未經(jīng)本人同意，不得以營(yíng)利為目的使用公民的肖像。

AI 換臉在技術(shù)層面只是做深度學(xué)習(xí)訓(xùn)練的一個(gè)切入點(diǎn)，往往兼具娛樂(lè)性。但在應(yīng)用和商業(yè)方面，很多換臉軟件游走在灰色地帶，甚至引發(fā)法律風(fēng)險(xiǎn)。現(xiàn)在，人們通常用 deepfake（可直譯為深度造假）來(lái)指代那些會(huì)造成不良影響的 AI 換臉影像成品和軟件。

隨著 deepfake 的泛濫，多個(gè)國(guó)家已出臺(tái)政策法規(guī)監(jiān)管。此外，為防止技術(shù)作惡，人們正嘗試用技術(shù)制衡技術(shù)，也有人在探討如何為從事技術(shù)開(kāi)發(fā)的人員增加一門 “道德倫理課”，以追求行業(yè)自律……

deepfake “游戲”泛濫

在 5 月 28 日民法典表決剛剛通過(guò)時(shí)，“AI 換臉被納入監(jiān)管”的 “提示”就立刻在 IT 業(yè)傳播開(kāi)來(lái)。

關(guān)注度在一定程度上反映了其熱度。日前，GitHub 上一個(gè)集成各類 deepfake 功能的倉(cāng)庫(kù) DeepFaceLab 登上熱榜。DeepFaceLab 的介紹中赫然寫著：DeepFaceLab 可以用來(lái)?yè)Q臉，和改變政客們的言論。截至目前，DeepFaceLab 已有 14.7K Star。

制造 deepfake 影像的門檻正在變低。深圳大學(xué)計(jì)算機(jī)與軟件學(xué)院副教授儲(chǔ)穎告訴開(kāi)源中國(guó)，無(wú)論是將人臉互換、還是直接生成虛假圖片視頻，技術(shù)上都屬于深度學(xué)習(xí)范疇，差別無(wú)非就是數(shù)據(jù)集不同、模型不同、算法不同和參數(shù)不同。“人工智能的技術(shù)應(yīng)用門檻正在變得越來(lái)越低”。

近兩年，由于生成對(duì)抗網(wǎng)絡(luò)技術(shù) GAN 也被用在 deepfake 制作中，生成的虛假圖片視頻數(shù)量飛速上漲。

此外，人工智能在 2012 年開(kāi)始火熱也是由于圖像分類識(shí)別研究的興起，慢慢從圖像識(shí)別、再到圖像生成。而 AI 合成圖像視頻又是可以看得見(jiàn)、摸得著的應(yīng)用，因此很多開(kāi)發(fā)者都在嘗試此類應(yīng)用，這也讓 “造假”不可避免地增多。加上虛假信息常和女星、政客、高熱度人物捆綁，deepfake 應(yīng)用和成品往往能飛快走紅。

2019 年 8 月 30 日，陌陌上線一款智能換臉產(chǎn)品 ZAO。用戶只需要在軟件中上傳一張自己清晰、正面的照片，便能將一些經(jīng)典影視作品中的人物換成自己，同時(shí)保留影視人物特征和自己的部分面部特征，生成短視頻和 GIF 動(dòng)圖。視頻和動(dòng)圖處理過(guò)程僅需 1-10 秒，之后用戶可以將其分享至微信、微博、QQ 等平臺(tái)。

推出后的第三天，2019 年 9 月 1 日，ZAO 就登頂 Apple App Store 免費(fèi)娛樂(lè)應(yīng)用程序榜單。

（微博用戶使用 ZAO AI 換臉鞠婧祎影視作品人物形象視頻）

但由于 ZAO 的用戶隱私條款存在爭(zhēng)議，很快被微信封殺，陌陌也被網(wǎng)信辦約談?wù)模瑹岫润E降。不過(guò)，ZAO 是用戶將自己的臉套到其他人臉上，最終成果綜合了兩個(gè)人物的面部特征，此類換臉在肖像權(quán)和虛假信息傳播方面引發(fā)的爭(zhēng)議較小。

而通常我們?cè)谡務(wù)?deepfake 有害時(shí)，更多指將別人（尤指公眾人物）的臉換到自己、第三人、或虛擬人物的臉上，只保留該人物的面部特征，但套上了原本不屬于他的面部表情，合成以假亂真的視頻圖片，導(dǎo)致虛假信息甚至新聞擴(kuò)散。

deepfake 一詞出現(xiàn)在 2017 年 12 月。當(dāng)時(shí) Reddit 上一個(gè) ID 為 deepfake 的用戶，上傳了一個(gè)合成視頻，內(nèi)容是將好萊塢明星蓋爾 · 加朵的臉換到情色電影中的女主角身上。該軟件迅速流行起來(lái)，但由于很多人不滿，2018 年初，Reddit 開(kāi)始封禁 deepfake。2019 年 2 月，deepfake 在 GitHub 上的倉(cāng)庫(kù)遭限制訪問(wèn)。

但 deepfake 依然備受關(guān)注，更多的 deepfake 軟件和視頻在出現(xiàn)。現(xiàn)在最常見(jiàn)的是使用 AI 換臉，合成色情或政治人物言論視頻，這可以帶來(lái)黑產(chǎn)交易，甚至影響部分國(guó)家和地區(qū)的政治局勢(shì)。

去年有人調(diào)查，AI 換臉一度形成一條完整的色情黑色產(chǎn)業(yè)鏈。閑魚上曾有商家售賣女星的換臉合集視頻，并且提供從成品情色視頻，到軟件制作各環(huán)節(jié)的交易和服務(wù)。當(dāng)然，曝光之后平臺(tái)方做了整改，現(xiàn)在在閑魚上檢索 “換臉”，已經(jīng)沒(méi)有相關(guān)商品。外媒也曾報(bào)道，有技術(shù)人員利用 GAN，開(kāi)發(fā)出 deepnude 等應(yīng)用程序，可快速使圖像中的人物脫光衣服，以恐嚇和騷擾他人。

另外，一些廣為流傳的 deepfake 視頻，主角是知名政客。如下圖中的奧巴馬，均是 AI 合成。2018 年，加蓬出現(xiàn)一條涉及總統(tǒng) Ali Bongo 新年致辭的虛假合成視頻，甚至引起兵變。過(guò)去政客間慣用的以性丑聞打擊對(duì)手的招數(shù)也借 deepfake 重燃。如 2019 年，馬來(lái)西亞出現(xiàn)一條涉及內(nèi)閣大臣的性丑聞錄像帶，后被指控為政治陰謀。

“從長(zhǎng)遠(yuǎn)來(lái)看，deepfake 對(duì)民主構(gòu)成了嚴(yán)重威脅，但女性很可能首先遭受苦難”，這是 2019 年，荷蘭一家專為監(jiān)測(cè) deepfake 而生的網(wǎng)絡(luò)安全公司 deeptrace 發(fā)表的調(diào)查結(jié)果總結(jié)。根據(jù) Deeptrace 的數(shù)據(jù)，deepfake 視頻從 2018 年 12 月的 8,000 個(gè)增長(zhǎng)到 2019 年年中的 14,678 個(gè)。幾乎所有內(nèi)容都是色情內(nèi)容，并且這些假視頻截至調(diào)查時(shí)已被瀏覽 1.34 億次。

一方面，deepfake 影像制作越來(lái)越簡(jiǎn)單。另一方面，虛假影像對(duì)人身財(cái)產(chǎn)安全、人格尊嚴(yán)、社會(huì)安定的影響愈發(fā)嚴(yán)重。于是，人們也在加緊尋找減少技術(shù)傷害的方法。

用技術(shù)、道德規(guī)范和法律減少傷害

deepfake 虛假信息造成的負(fù)面影響，正被技術(shù)人員嘗試同樣用 AI 來(lái)解決。“開(kāi)發(fā)者通過(guò)技術(shù)制衡技術(shù)”，肖錦陽(yáng)認(rèn)為，對(duì)于防止 AI 換臉作惡，目前最有效的方法是開(kāi)發(fā)相應(yīng)的檢測(cè)技術(shù)。

2019 年 8 月，美國(guó)國(guó)防部高級(jí)研究計(jì)劃局 DARPA 發(fā)布一項(xiàng)旨在能夠自動(dòng)檢測(cè)、歸因和表征偽造媒體資產(chǎn)的技術(shù)——語(yǔ)義取證 SemaFor。SemaFor 的目標(biāo)是開(kāi)發(fā)一套語(yǔ)義分析算法，增加偽造媒體內(nèi)容生產(chǎn)者操控、傳播虛假信息的難度。

之后，2019 年 9 月，F(xiàn)acebook、微軟又聯(lián)合包括麻省理工、牛津大學(xué)在內(nèi)的幾所高校，發(fā)起一項(xiàng) deepfake 的檢測(cè)挑戰(zhàn)賽。谷歌、亞馬遜等企業(yè)也參與其中，提供數(shù)據(jù)和資助。

Facebook 給參賽者開(kāi)放訪問(wèn) 100000 多個(gè)視頻的獨(dú)特?cái)?shù)據(jù)集權(quán)限，并提供 1000 萬(wàn)美元的研究資助和獎(jiǎng)勵(lì)。谷歌母公司 Aiphabet 旗下的 Jigsaw 和谷歌一起，提供了 3000 個(gè)付費(fèi)演員的新視頻數(shù)據(jù)集，以幫助改善偵查技術(shù)。亞馬遜提供 100 萬(wàn)美元的云信用額度支持該挑戰(zhàn)。

（Google 和Jigsaw 提供的由 28 個(gè)演員參演的 3,000 個(gè)被操縱視頻的數(shù)據(jù)集）

此外，Jigsaw 還曾發(fā)布一種新事實(shí)檢查工具Assembler，使用 AI 來(lái)幫助記者檢查圖像是否偽造或被篡改。Jigsaw 還建立了一個(gè) StyleGAN 檢測(cè) deepfake 成品，使用機(jī)器學(xué)習(xí)發(fā)現(xiàn)真實(shí)人物和被操縱人物圖像之間的差異。

AI 檢測(cè)到虛假影像資料之后，就可以提醒用戶。Facebook、Twitter 選擇了標(biāo)記 deepfake 資料和刪除有嚴(yán)重危害的信息。

今年初，外媒報(bào)道，F(xiàn)acebook 在美國(guó) 2020 總統(tǒng)大選之前，正加緊審查包含 AI 換臉的假消息。Facebook 全球政策管理副總裁 Monika Bickert 表示，不一定要?jiǎng)h除被標(biāo)記為 “假”的視頻，但會(huì)向用戶發(fā)出警告，告知它們是假的。“如果我們僅刪除事實(shí)檢查人員標(biāo)記為虛假的所有操縱視頻，這些視頻仍將在互聯(lián)網(wǎng)或社交媒體生態(tài)系統(tǒng)的其他位置提供。通過(guò)將其保留并標(biāo)記為虛假，我們將為人們提供重要信息。”此外對(duì)于可能造成重大社會(huì)危害的虛假信息將做刪除處理。

Twitter 刪帖也是有前提的。如內(nèi)容可能對(duì)某團(tuán)體或個(gè)人人身安全構(gòu)成威脅，或可能造成暴動(dòng)和內(nèi)亂，那么 deepfakes 內(nèi)容將會(huì)被刪除。反之，可能只是打上標(biāo)記。2 月，Twitter 在術(shù)語(yǔ)表中添加了一個(gè)新條款，涵蓋了 “合成和受控媒體”，表示會(huì)標(biāo)注包含技術(shù)偽造內(nèi)容的推文，并在人們轉(zhuǎn)發(fā)推文之前向他們顯示警告，并阻止推薦。

在肖錦陽(yáng)看來(lái)，平臺(tái)經(jīng)過(guò)核驗(yàn)并帶有標(biāo)識(shí)的傳播擴(kuò)散，不失為一種好的方式。當(dāng)然，在做技術(shù)檢測(cè)的同時(shí)，通過(guò)相關(guān)法律規(guī)范各方行為也是必不可少的一步。

針對(duì)平臺(tái)方，肖錦陽(yáng)指出，平臺(tái)應(yīng)對(duì)于用戶的隱私和 AI 換臉問(wèn)題應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估，進(jìn)一步加強(qiáng)監(jiān)管審核。

根據(jù)《侵權(quán)責(zé)任法》的規(guī)定，網(wǎng)絡(luò)用戶利用網(wǎng)絡(luò)服務(wù)平臺(tái)實(shí)施侵權(quán)行為的，平臺(tái)負(fù)有采取刪除、屏蔽、斷開(kāi)鏈接等措施，未采取必要措施的，將與該網(wǎng)絡(luò)用戶承擔(dān)連帶責(zé)任。且網(wǎng)絡(luò)服務(wù)提供者知道網(wǎng)絡(luò)用戶利用其網(wǎng)絡(luò)服務(wù)侵害他人民事權(quán)益，未采取必要措施的，也將與該網(wǎng)絡(luò)用戶承擔(dān)連帶責(zé)任。因此，平臺(tái)方面對(duì)于用戶的隱私和 “AI 換臉”問(wèn)題應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估，進(jìn)一步加強(qiáng)監(jiān)管審核。

同樣對(duì)于用戶來(lái)說(shuō)，隨意使用并上傳 deepfake 視頻也有很大法律風(fēng)險(xiǎn)。肖錦陽(yáng)介紹，用戶如果要進(jìn)行 AI 換臉使用、合成、再加工，首先需要得到肖像權(quán)人的同意；并不得侵害他人人格權(quán)益、不危害社會(huì)公共利益。民法典之外，國(guó)家還相繼出臺(tái)了一些規(guī)定等，規(guī)范網(wǎng)絡(luò)視頻、圖像傳播。

去年底開(kāi)始，國(guó)家相繼發(fā)布《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法規(guī) , 明確不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動(dòng)。《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》明確，任何組織和個(gè)人不得利用網(wǎng)絡(luò)音視頻信息服務(wù)以及相關(guān)信息技術(shù)從事法律法規(guī)禁止的活動(dòng)，侵害他人合法權(quán)益。

網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者違反上述《規(guī)定》的，依照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)文化管理暫行規(guī)定》《互聯(lián)網(wǎng)視聽(tīng)節(jié)目服務(wù)管理規(guī)定》等相關(guān)法律法規(guī)規(guī)定處理；構(gòu)成違反治安管理行為的，依法給予治安管理處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。

這是法律層面的討論，但很多時(shí)候，人們都希望問(wèn)題可以在法庭之外就能被解決，比如提高道德規(guī)范。

此前，在 GitHub 限制 deepfake 倉(cāng)庫(kù)時(shí)，就有許多開(kāi)發(fā)者提及應(yīng)該在學(xué)校教育中加入 “計(jì)算機(jī)倫理課”，在學(xué)習(xí)寫代碼之外，了解相關(guān)法律、以及應(yīng)如何使用技術(shù)的哲學(xué)和道德規(guī)范。甚至有人發(fā)出疑問(wèn)：要不要制造可能被濫用的技術(shù)？這類問(wèn)題也并不只是聚焦在 deepfake 上。一位科普及解密紀(jì)錄片導(dǎo)演詹姆斯 ? 巴拉特，2016 年發(fā)表《我們最后的發(fā)明》一書，提出這樣一個(gè)問(wèn)題：“我懷疑的是先進(jìn)人工智能的安全性，以及現(xiàn)代文明開(kāi)發(fā)先進(jìn)技術(shù)的魯莽性。”

不過(guò)，儲(chǔ)穎認(rèn)為，技術(shù)本身無(wú)對(duì)錯(cuò)。從防止技術(shù)作惡的角度出發(fā)，開(kāi)設(shè)計(jì)算機(jī)倫理課固然有必要，但要想守住底線，立法才是保證。“這涉及道德和法律的關(guān)系問(wèn)題。道德是內(nèi)在的，非強(qiáng)制性的；法律是外在的，具有明確的強(qiáng)制性。我們應(yīng)在法律約束的基礎(chǔ)上，盡可能地提高自己的道德標(biāo)準(zhǔn)。”

儲(chǔ)穎現(xiàn)在正在教授《計(jì)算機(jī)倫理學(xué)》課程。這門課程 4 年前由計(jì)軟學(xué)院首次在內(nèi)部開(kāi)設(shè)，去年開(kāi)始增設(shè)了面向全校學(xué)生的 “品牌通識(shí)課程”。儲(chǔ)穎指出，目前在全國(guó)范圍內(nèi)開(kāi)設(shè)此類倫理課程已經(jīng)是一個(gè)趨勢(shì)。2018 年 5 月，國(guó)務(wù)院學(xué)位委員會(huì)頒布了《關(guān)于轉(zhuǎn)發(fā)< 關(guān)于制訂工程類碩士專業(yè)學(xué)位研究生培養(yǎng)方案的指導(dǎo)意見(jiàn)> 及說(shuō)明的通知》，將工程倫理課納入工程碩士專業(yè)學(xué)位研究生公共必修課范疇。近年來(lái)，全國(guó)工程專業(yè)學(xué)位研究生教育指導(dǎo)委員會(huì)已組織多期《工程倫理》師資培訓(xùn)課程。

而關(guān)于倫理課要講什么，儲(chǔ)穎也給出了自己的看法：

“目的不是告訴學(xué)生怎么做和做什么，而是提醒他，你需要思考這件事，并在將來(lái)做出正確的倫理抉擇。”

總結(jié)

以上是生活随笔為你收集整理的AI 换脸将受《民法典》严监管，我们该如何防范技术作恶？的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。