日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 综合教程 >内容正文

综合教程

AI 要更聪明了?Deepmind 提出新架构:可实现更高级别推理

發布時間:2023/11/21 综合教程 43 生活家
生活随笔 收集整理的這篇文章主要介紹了 AI 要更聪明了?Deepmind 提出新架构:可实现更高级别推理 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

  作者:I/O

  AI 究竟能否抓住推理的本質,也就是,對分布在多個事實或記憶中的元素之間的遠距離關系實現認知?

  為此,Alphabet 子公司 DeepMind 試圖從即將在 Arxiv.org 上發布的一項研究中找到答案,該研究提出了一種具有遠距離推理能力的架構 MEMO。按照研究人員說法,MEMO 有兩個新的組成部分:第一個介紹事實和存儲在外部存儲中的記憶之間的不同點,第二個則采用檢索系統,該系統允許在決定答案之前使用可變數量的“內存躍點”。

  通過這兩個部分,可以使之能夠解決新型推理任務。

  雷鋒網注意到,這個架構的靈感來源是海馬。論文的合著者寫道:

海馬以全新的方式支持單個經驗的靈活重組,以推斷出未觀察到的關系……這稱為推理。有趣的是,已經有證據證明,海馬是通過一個被稱之為模式分離(pattern separation)的過程彼此獨立地存儲記憶,以最大程度地減少記憶之間的干擾。最近的一項研究揭示了這一點:這些被獨立存儲記憶的整合出現在通過循環機制(該機制允許多個模式分離的代碼進行交互并因此支持推理)進行檢索的時候。

  由此,DeepMind 的工作從這項研究中獲得啟發,以研究和增強機器學習模型中的推理。 研究人員利用神經科學文獻,設計了一個過程生成的任務,稱為配對聯想推理(paired associative inference,簡稱 PAI),該任務旨在通過迫使 AI 系統學習抽象知識以解決先前未見的問題來獲取推理能力。

  隨之,研究者們構建了 MEMO,它能夠在提供輸入查詢時會輸出一系列可能的答案;而且為了盡量減少必要的計算,答案還多采用表征的形式。

  研究人員說,MEMO 在內存中保留了一組事實,并學習了一種與某種機制配合使用的映射方式,該機制在使用內存時具有更大的靈活性,并且它與典型的 AI 模型不同,因為它使計算時間適應了任務的復雜性。在工作過程中,MEMO 從稱為 REMERGE 的人類聯想記憶模型中獲取線索,該記憶將從記憶中檢索到的內容作為新查詢進行再循環,并使用再循環過程中不同時間步長檢索到的內容之間的差異來計算模型是否已適應在固定點上,隨后,MEMO 會輸出一個動作,該動作指示它是否希望繼續計算并查詢其內存,或者是否是能夠響應給定的任務。

  在測試中,DeepMind 的研究人員在 Facebook AI Research 的 bAbi 套件(雷鋒網(公眾號:雷鋒網)按:一組 20 個評估文本理解和推理的任務)中將 MEMO 與兩個基準模型以及當前的最新模型進行了比較,結果顯示,MEMO 能夠在 PAI 任務上實現最高的準確性,并且它是唯一能夠在較長的序列上成功回答最復雜的推理查詢的體系結構。

  此外,與性能最佳的基準模型的 10 個步驟相比,MEMO 僅需要三個“躍點(hops)” 即可完成一項任務。在另一個需要模型在給定節點圖的情況下找到兩個節點之間最短路徑的任務中,面對更為復雜的節點圖,MEMO 比基準模型的表現好出了 20%。

  viaVenturebeat,雷鋒網編譯。

總結

以上是生活随笔為你收集整理的AI 要更聪明了?Deepmind 提出新架构:可实现更高级别推理的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。