主題：

DeepMind的提議：把傳統(tǒng)的貝葉斯因果網(wǎng)絡(luò)和知識(shí)圖譜，與深度強(qiáng)化學(xué)習(xí)融合

一、提出“圖網(wǎng)絡(luò)”

????????圖靈獎(jiǎng)得主Judea Pearl指出的深度學(xué)習(xí)無(wú)法做因果推理的核心問(wèn)題。

????????圖靈獎(jiǎng)得主、貝葉斯網(wǎng)絡(luò)之父Judea Pearl，在ArXiv發(fā)布了他的論文《機(jī)器學(xué)習(xí)理論障礙與因果革命七大火花》，論述當(dāng)前機(jī)器學(xué)習(xí)理論局限，并給出來(lái)自因果推理的7大啟發(fā)。Pearl指出，當(dāng)前的機(jī)器學(xué)習(xí)系統(tǒng)幾乎完全以統(tǒng)計(jì)學(xué)或盲模型的方式運(yùn)行，不能作為強(qiáng)AI的基礎(chǔ)。他認(rèn)為突破口在于“因果革命”，借鑒結(jié)構(gòu)性的因果推理模型，能對(duì)自動(dòng)化推理做出獨(dú)特貢獻(xiàn)。

????????DeepMind聯(lián)合谷歌大腦、MIT等機(jī)構(gòu)27位作者發(fā)表重磅論文，提出“圖網(wǎng)絡(luò)”（Graph network），將端到端學(xué)習(xí)與歸納推理相結(jié)合，有望替換深度學(xué)習(xí)，克服深度學(xué)習(xí)無(wú)法進(jìn)行關(guān)系推理的問(wèn)題。

二、AI的學(xué)派和成果

????????機(jī)器學(xué)習(xí)界有三個(gè)主要學(xué)派，符號(hào)主義（Symbolicism）、連接主義（Connectionism）、行為主義（Actionism）。

• 符號(hào)主義的起源，注重研究知識(shí)表達(dá)和邏輯推理。

????????經(jīng)過(guò)幾十年的研究，目前這一學(xué)派的主要成果，一個(gè)是貝葉斯因果網(wǎng)絡(luò)，另一個(gè)是知識(shí)圖譜。

????????貝葉斯因果網(wǎng)絡(luò)的旗手是 Judea Pearl 教授，2011年的圖靈獎(jiǎng)獲得者。但是據(jù)說(shuō) 2017年 NIPS 學(xué)術(shù)會(huì)議上，老爺子演講時(shí)，聽眾寥寥。2018年，老爺子出版了一本新書，“The Book of Why”，為因果網(wǎng)絡(luò)辯護(hù)，同時(shí)批判深度學(xué)習(xí)缺乏嚴(yán)謹(jǐn)?shù)倪壿嬐评磉^(guò)程。而知識(shí)圖譜主要由搜索引擎公司，包括谷歌、微軟、百度推動(dòng)，目標(biāo)是把搜索引擎，由關(guān)鍵詞匹配，推進(jìn)到語(yǔ)義匹配。

• 連接主義的起源是仿生學(xué)，用數(shù)學(xué)模型來(lái)模仿神經(jīng)元。

????????Marvin Minsky 教授因?yàn)閷?duì)神經(jīng)元研究的推動(dòng)，獲得了1969年圖靈獎(jiǎng)。把大量神經(jīng)元拼裝在一起，就形成了深度學(xué)習(xí)模型，深度學(xué)習(xí)的旗手是 Geoffrey Hinton 教授。深度學(xué)習(xí)模型最遭人詬病的缺陷，是不可解釋。

• 行為主義把控制論引入機(jī)器學(xué)習(xí)，最著名的成果是強(qiáng)化學(xué)習(xí)。

????????強(qiáng)化學(xué)習(xí)的旗手是 Richard Sutton 教授。近年來(lái)Google DeepMind 研究員，把傳統(tǒng)強(qiáng)化學(xué)習(xí)，與深度學(xué)習(xí)融合，實(shí)現(xiàn)了 AlphaGo，戰(zhàn)勝當(dāng)今世界所有人類圍棋高手。

DeepMind 前天發(fā)表的這篇論文，提議把傳統(tǒng)的貝葉斯因果網(wǎng)絡(luò)和知識(shí)圖譜，與深度強(qiáng)化學(xué)習(xí)融合，并梳理了與這個(gè)主題相關(guān)的研究進(jìn)展。

三、DeepMind的技術(shù)指向“關(guān)系”

????????作為行業(yè)的標(biāo)桿，DeepMind的動(dòng)向一直是AI業(yè)界關(guān)注的熱點(diǎn)。最近，這家世界最頂級(jí)的AI實(shí)驗(yàn)室似乎是把他們的重點(diǎn)放在了探索“關(guān)系”上面，6月份以來(lái)，接連發(fā)布了好幾篇“帶關(guān)系”的論文，比如：

• 關(guān)系歸納偏置（Relational inductive bias for physical construction in humans and machines）
• 關(guān)系深度強(qiáng)化學(xué)習(xí)（Relational Deep Reinforcement Learning）
• 關(guān)系RNN（Relational Recurrent Neural Networks）
• 論文比較多，但如果說(shuō)有哪篇論文最值得看，那么一定選這篇——《關(guān)系歸納偏置、深度學(xué)習(xí)和圖網(wǎng)絡(luò)》。

---

而圖網(wǎng)絡(luò)是操作關(guān)系的最佳推手。

四、圖網(wǎng)絡(luò)構(gòu)成概要

????????在論文里，作者探討了如何在深度學(xué)習(xí)結(jié)構(gòu)（比如全連接層、卷積層和遞歸層）中，使用關(guān)系歸納偏置（relational inductive biases），促進(jìn)對(duì)實(shí)體、對(duì)關(guān)系，以及對(duì)組成它們的規(guī)則進(jìn)行學(xué)習(xí)。

????????他們提出了一個(gè)新的AI模塊——圖網(wǎng)絡(luò)（graph network），是對(duì)以前各種對(duì)圖進(jìn)行操作的神經(jīng)網(wǎng)絡(luò)方法的推廣和擴(kuò)展。圖網(wǎng)絡(luò)具有強(qiáng)大的關(guān)系歸納偏置，為操縱結(jié)構(gòu)化知識(shí)和生成結(jié)構(gòu)化行為提供了一個(gè)直接的界面。

????????作者還討論了圖網(wǎng)絡(luò)如何支持關(guān)系推理和組合泛化，為更復(fù)雜、可解釋和靈活的推理模式打下基礎(chǔ)。

總結(jié)

以上是生活随笔為你收集整理的人工智能：CNN过时了，有人提出GNN的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。