GETTY IMAGES/IEEE SPECTRUM

來源：IEEE電氣電子工程師

深度神經網絡越來越有助于設計微芯片，預測蛋白質如何折疊，并在復雜游戲中勝過人們。然而，研究人員現在發現，這些人工智能系統的穩定性和準確度在理論上存在根本的限制。科學家們補充說，這些發現可能有助于闡明人工智能究竟有哪些可能性，以及哪些不可能。

在人工神經網絡中，被稱為“神經元”的部件被輸入數據并協同解決問題，例如識別圖像。神經網絡反復調整神經元之間的聯系，并觀察由此產生的行為模式是否更善于找到解決方案。隨著時間的推移，網絡會發現哪些模式最適合計算結果。然后，它將這些作為默認設置，模仿人腦中的學習過程。如果一個神經網絡擁有多層神經元，它就被稱為“深層”。

盡管深度神經網絡正被用于越來越多的實際應用，如分析醫療掃描和增強自動駕駛車輛的能力，但現在有壓倒性的證據表明，它們往往是不穩定的——也就是說，它們接收到的數據稍有改變，就會導致結果的劇烈變化。例如，之前的研究發現，改變圖像上的一個像素可以讓人工智能認為馬是青蛙，而醫學圖像可以以肉眼無法察覺的方式進行修改，并導致人工智能100%地誤診為癌癥。

之前的研究表明，有數學證據表明，穩定、準確的神經網絡適用于各種各樣的問題。然而，在一項新的研究中，研究人員現在發現，雖然對于許多問題，理論上可能存在穩定、準確的神經網絡，但矛盾的是，可能沒有算法能夠真正成功地計算它們。

“理論上，神經網絡的限制很少，”英國劍橋大學的數學家Matthew Colbrook說。當試圖計算這些神經網絡時，問題就出現了。“數字計算機只能計算某些特定的神經網絡，”挪威奧斯陸大學的數學家Vegard Antun說，“有時計算一個理想的神經網絡是不可能的。”

這些新發現聽起來可能令人困惑，好像有人說可能存在某種蛋糕，但不存在制作蛋糕的配方。劍橋大學的數學家Anders Hansen說：“我們會說這不是問題所在，而是你必須做的工具才是問題所在。”“我們的意思是，蛋糕可能有一個配方，但不管你有什么攪拌器，你都可能無法做出想要的蛋糕。此外，當你試圖在廚房用攪拌器制作蛋糕時，你最終會得到一個完全不同的蛋糕。”

這些關于神經網絡局限性的新發現呼應了數學家Kurt G?del和計算機科學家Alan Turing之前關于數學局限性的研究。Antun說，他們粗略地揭示了“有些數學陳述永遠無法被證明或反駁，有些基本的計算問題是計算機無法解決的”。

這項新的研究發現，一個算法可能無法為給定的問題計算出穩定、準確的神經網絡，無論它能訪問多少數據，或者該數據的準確性如何。Hansen說，這類似于Turin的觀點，即無論計算能力和運行時間如何，計算機都可能無法解決一些問題。

Colbrook說：“計算機所能達到的目標存在固有的局限性，這些局限性也將在人工智能中體現出來。這意味著，關于具有強大特性的神經網絡存在性的理論結果可能無法準確描述現實中的可能性。”

這些新發現并不表明所有的神經網絡都是完全有缺陷的，但它們可能只在有限的情況下被證明是穩定和準確的。“在某些情況下，可以計算出穩定而準確的神經網絡，”Antun說，“關鍵問題是‘在某些情況下’的部分。最大的問題是找到這些情況。目前，人們對如何做到這一點知之甚少。”

研究人員發現，神經網絡的穩定性和準確性之間往往存在權衡。Hansen說：“問題是，我們既要穩定，又要準確。在實踐中，對于安全關鍵的應用，可能需要犧牲一些精度來確保穩定性。”

作為這項新研究的一部分，研究人員開發了他們稱之為快速迭代重啟網絡（FIRENETs）。在分析醫學圖像等任務時，這些神經網絡可以同時提供穩定性和準確性。

這些關于神經網絡局限性的新發現并不是為了阻礙人工智能研究，而是可能會刺激探索如何改變這些規則的新工作。

Colbrook說：“從長遠來看，弄清楚什么可以做，什么不能做，對人工智能來說是健康的。請注意，Turing和G?del的負面結果在數學基礎和計算機科學方面引發了巨大的努力。這分別影響了現代計算機科學和現代邏輯的發展。” 例如，這些新發現意味著存在一種分類理論，用于描述哪些具有給定精度的穩定神經網絡可以通過算法計算。

科學家們在3月16日的《美國國家科學院院刊》上在線詳細介紹了他們的發現。

未來智能實驗室的主要工作包括：建立AI智能系統智商評測體系，開展世界人工智能智商評測；開展互聯網（城市）大腦研究計劃，構建互聯網（城市）大腦技術和企業圖譜，為提升企業，行業與城市的智能水平服務。每日推薦范圍未來科技發展趨勢的學習型文章。目前線上平臺已收藏上千篇精華前沿科技文章和報告。

??如果您對實驗室的研究感興趣，歡迎加入未來智能實驗室線上平臺。掃描以下二維碼或點擊本文左下角“閱讀原文”

總結

以上是生活随笔為你收集整理的新研究表明 深层神经网络的功能存在局限性的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。