邊策賴可發(fā)自凹非寺
　　量子位報(bào)道公眾號(hào) QbitAI

　　在機(jī)器學(xué)習(xí)中，異或（XOR）這樣的非線性問題一直需要多層神經(jīng)網(wǎng)絡(luò)來解決。科學(xué)家一直以為，即使在人類大腦中，XOR 運(yùn)算也需要多層神經(jīng)元網(wǎng)絡(luò)才能計(jì)算。

　　但是大腦遠(yuǎn)比人類想象得“高能”。

　　最新研究發(fā)現(xiàn)：人類大腦只需要單個(gè)神經(jīng)元就可以進(jìn)行 XOR 運(yùn)算。這項(xiàng)研究登上了最新一期的 Science 雜志。

　　來自德國洪堡大學(xué)的學(xué)者們?cè)谡撐闹斜硎荆何覀兊陌l(fā)現(xiàn)，對(duì)構(gòu)成細(xì)胞功能算法的生理基礎(chǔ)提供了洞見，這些基礎(chǔ)模塊最終引發(fā)了大腦皮層網(wǎng)絡(luò)的行為。

　　一直熱愛給 AI 潑冷水的馬庫斯也非常關(guān)注，甚至覺得這個(gè)研究可能重塑對(duì)神經(jīng)網(wǎng)絡(luò)的看法。

　　在推特上，這一研究已經(jīng)收獲 700 多次轉(zhuǎn)發(fā)，近 2000 贊。在 reddit 談?wù)撋希惨呀?jīng)引發(fā)了 100 多條討論。

　　XOR 運(yùn)算與 AI 的第一次寒冬

　　XOR 運(yùn)算是計(jì)算機(jī)中最常見的一種邏輯運(yùn)算。異或的意思即：輸入相同，結(jié)果為0；輸入不同，結(jié)果為1。

　　這個(gè)看似簡單的運(yùn)算，其實(shí)需要的步驟卻不簡單。就是這個(gè)小小的運(yùn)算問題，卻導(dǎo)致了上世紀(jì) 70 年代的第二次“AI 寒冬”。

　　在計(jì)算機(jī)領(lǐng)域，異或從來就不是一個(gè)晶體管或線性模型就能解決的。

　　從硬件角度來看，一個(gè) XOR 需要 6 個(gè) MOSFET 晶體管才能實(shí)現(xiàn)。

　　從軟件上來看，一個(gè) XOT 需要至少兩層的神經(jīng)網(wǎng)絡(luò)才能輸出正確的結(jié)果。

　　最初的人工神經(jīng)網(wǎng)絡(luò)僅有一層，而一層網(wǎng)絡(luò)是無法解決異或運(yùn)算的。你無法只畫一條直線就把正方形的兩組對(duì)角頂點(diǎn)分開。

　　說白了，屬于單層的神經(jīng)模型“感知器”只能解決線性問題，而 XOR 則是非線性問題，需要多層神經(jīng)網(wǎng)絡(luò)來解決。

　　1969 年，“符號(hào)主義”的代表人物明斯基在自己的新書《感知器》中 diss“連接主義”：感知器連基本的異或都做不到。他的發(fā)難成為了那次 AI 寒冬的導(dǎo)火索。

　　直到后來多層神經(jīng)網(wǎng)絡(luò)的出現(xiàn)，才解決了這一問題，AI 界才迎來了連接主義的第二次興盛，直至今日。

　　顛覆認(rèn)知：單個(gè)神經(jīng)元如何實(shí)現(xiàn) XOR 運(yùn)算

　　不僅單層人工神經(jīng)網(wǎng)絡(luò)做不到，過去科學(xué)家們認(rèn)為，連人類的單個(gè)神經(jīng)元也做不到。常常被人類拿來做實(shí)驗(yàn)的小白鼠就不行。

　　而最新的研究發(fā)現(xiàn)，人類的神經(jīng)元比其他生物更高級(jí)些，只要單個(gè)神經(jīng)元就能做異或運(yùn)算。這或許也是人類能擁有高級(jí)智慧的原因。

　　人類的大腦就是一個(gè)碳基計(jì)算機(jī)，處理各種信息和計(jì)算，最外面的皮層是其中的 CPU。最高級(jí)，也是大腦演化中出現(xiàn)最晚的部分。在皮層中，分布著一個(gè)個(gè)神經(jīng)元。

　　樹突作為單個(gè)神經(jīng)元的一部分，樹突的電學(xué)特性決定了神經(jīng)元的輸入輸出，是大腦各種復(fù)雜功能的基礎(chǔ)。然而，過去對(duì)樹突的了解幾乎都是從小白鼠身上得來的。

　　同為哺乳動(dòng)物，小鼠的皮層結(jié)構(gòu)和人類差不多。小鼠大腦中，2 層和 3 層不可分割，人類大腦中，可以進(jìn)行分割，一般研究中，2 層和 3 層就算在一起，作為2/3 層。

　　其中2/3 層在人類的進(jìn)化過程中，會(huì)不均勻地增厚。這讓科學(xué)家對(duì)這一層產(chǎn)生了獨(dú)特興趣，把癲癇和腫瘤病人手術(shù)切除的腦組織中的這一部分做成切片，拿來研究。

　　2/3 層有大量結(jié)構(gòu)精密的樹突森林，樹突上發(fā)生著大量的電輸入。這一層也有大量的錐體神經(jīng)元。

　　科學(xué)家發(fā)現(xiàn)，在錐體神經(jīng)元上，有一種鈣介導(dǎo)的樹突狀動(dòng)作電位 dCaAPs。這種電位以樹突為單位，鈣為介質(zhì)。和常見的只有“全“或”無“兩種狀態(tài)的動(dòng)作電位 bPAs 相比，呈現(xiàn)的狀態(tài)更復(fù)雜。

　　對(duì)于普通水平的刺激，振幅最大

　　波形更寬：4.4±1.4 ms，范圍是 2.6～8.0 ms；

　　上升緩慢且在開始時(shí)沒有扭結(jié)；

　　dCaAPs 的振幅及其上沖程與細(xì)胞體的距離無關(guān)。

　　對(duì)于較強(qiáng)的刺激，dCaAPs 的振幅會(huì)衰減。

　　當(dāng)用超過閾值的電流刺激細(xì)胞體時(shí)，普通 APs 的輸出值會(huì)隨之增強(qiáng)，而 dCaAPs 的強(qiáng)度反而會(huì)減弱。

　　這樣，當(dāng)輸入強(qiáng)度高于最優(yōu)強(qiáng)度時(shí)，dCaAP 雖然被激活，但是振幅會(huì)被抑制，運(yùn)用這一性質(zhì)，它們可以進(jìn)行 XOR 運(yùn)算。

　　運(yùn)算發(fā)生的位置也有特殊性，XOR 運(yùn)算發(fā)生在 dCaAPs 的樹突頂端；而線性的 AND/OR 運(yùn)算發(fā)生在細(xì)胞體中，在基底樹突上。

　　討論：生物神經(jīng)元與人工神經(jīng)網(wǎng)絡(luò)

　　這一研究結(jié)果，首先打破了大家對(duì)人類大腦的既有認(rèn)知。

　　Robust.AI 創(chuàng)始人馬庫斯認(rèn)為，這個(gè)發(fā)現(xiàn)的意義重大，我們現(xiàn)在對(duì)大腦的認(rèn)知只是冰山一角，單個(gè)神經(jīng)元或許能做很多的事情。而我們此前沒有發(fā)現(xiàn)。

　　他認(rèn)為這個(gè)研究可能重塑我們對(duì)神經(jīng)網(wǎng)絡(luò)的看法。

　　在推特上，研究團(tuán)隊(duì)同實(shí)驗(yàn)室的科學(xué)家 Jaan Aru 發(fā)出的推文，獲得了 700 多轉(zhuǎn)發(fā)、近 2000 的喜歡。而在 Reddit 論壇上，這個(gè)主題也被頂了近 700 次。

　　在 Reddit 上，網(wǎng)友們也進(jìn)行了大量的討論，我們從中摘錄了一些。

　　網(wǎng)友 HackZisBotez：

這篇論文很棒。這是科學(xué)研究第一次展示出，人類神經(jīng)元與嚙齒類動(dòng)物神經(jīng)元，有本質(zhì)的不同，不僅是算力更強(qiáng)大，而且完全不同的計(jì)算方式。

人類神經(jīng)元執(zhí)行 XOR 的方式，是一種此前未知的、針對(duì)輸入的局部響應(yīng)來實(shí)現(xiàn)。這種響應(yīng)的閾值以下范圍很窄，閾值區(qū)間范圍非常大，而閾值以上的范圍同樣很窄。我們?cè)谄渌麆?dòng)物身上，從來沒有看到過類似的情況。

　　網(wǎng)友 Nivter：

“我們的發(fā)現(xiàn)，對(duì)構(gòu)成細(xì)胞功能算法的生理基礎(chǔ)提供了洞見，這些算法模塊最終引發(fā)了大腦皮層網(wǎng)絡(luò)的行為。”

作者論文中的這些話，我認(rèn)為暗示了人工神經(jīng)元，只是實(shí)現(xiàn)了真實(shí)神經(jīng)元功能中的一小部分功能。我們可以從真實(shí)神經(jīng)元中獲得啟發(fā)，兩者完全不能相提并論。

　　網(wǎng)友 ka9dgx：

我認(rèn)為這暗示著，復(fù)制人類大腦所需要的神經(jīng)元數(shù)量，可能需要重新估算。

我們對(duì)大腦還沒有足夠的了解。人腦最小的功能單元可能是微柱體。微柱體中有大約 100 個(gè)神經(jīng)元，分布在一個(gè) 6 層結(jié)構(gòu)中。不過，哺乳動(dòng)物的新皮質(zhì)結(jié)構(gòu)，并不是智力的必要條件。烏鴉是最聰明的動(dòng)物之一，但并沒有新皮質(zhì)結(jié)構(gòu)。

　　網(wǎng)友 Optrode：

神經(jīng)學(xué)家在此。對(duì)于想要了解生物神經(jīng)元和人工神經(jīng)網(wǎng)絡(luò)之間差異的人，我提供三個(gè)現(xiàn)成的信息。

1. 生物神經(jīng)元不能簡化為“激活或抑制”。激活或抑制的突觸有非常多的類型，它們的行為并不完全相同。比方，允許鈉進(jìn)入細(xì)胞（直接激活），允許鉀離開細(xì)胞（直接抑制），打開氯離子通道（通常反直接激活或抑制），允許鈣進(jìn)入細(xì)胞（可以觸發(fā)基因表達(dá)的改變）……
2. 一個(gè)神經(jīng)元的輸入，永遠(yuǎn)不會(huì)線性求和。樹突的物理性質(zhì)，控制了突觸信號(hào)可以傳播多遠(yuǎn)、向哪個(gè)方向傳播。一個(gè)樹狀分支可以執(zhí)行完全獨(dú)立于另一個(gè)樹狀分支中事件的局部計(jì)算。
3. 神經(jīng)元的計(jì)算功能高度依賴于其時(shí)間動(dòng)態(tài)。神經(jīng)元的興奮性與其近期的活動(dòng)有關(guān)，沒有時(shí)間動(dòng)態(tài)，幾乎無法完成建模。許多神經(jīng)網(wǎng)絡(luò)回路收到循環(huán)輸入的強(qiáng)烈調(diào)制，這意味著給定一組神經(jīng)元的輸出，實(shí)際上無法以前饋方式進(jìn)行計(jì)算，即便對(duì)于靜態(tài)輸入也是如此。

　　當(dāng)然，除了討論和贊許，也會(huì)有不同的聲音。

　　神經(jīng)網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)研究者 Subutai Ahmad 就在推特上提問：

非常棒的研究。但我有一點(diǎn)困惑之處：2003 年 Yiota 給出的模型，已經(jīng)解決了 XOR 問題。

　　對(duì)此 Jaan Aru 回答說：

不過這次是真東西，真的神經(jīng)元，真的電流和真的尖峰。無意冒犯所有出色的計(jì)算機(jī)研究者。但我想大多數(shù)人都同意，真實(shí)的結(jié)果比僅有一個(gè)模型更出色。

　　上面提及的計(jì)算神經(jīng)科學(xué)家 Yiota Poirazi，也在推特上作出回應(yīng)。

　　她說這次的新結(jié)果，是在自己團(tuán)隊(duì)以前的結(jié)果上得出的，但研究方向仍然非常新穎。不過，她也指出這一方向的研究，還有進(jìn)一步深入的空間。

總結(jié)

以上是生活随笔為你收集整理的大脑只需单个神经元就可进行XOR异或运算的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。