機器學習系統(tǒng)在面部識別系統(tǒng)到自主車輛等所有領域的普及，伴隨著攻擊者想方設法欺騙算法的風險。簡單的技術已經(jīng)在測試條件下起了作用，研究人員有興趣找到減輕這些和其他攻擊的方法。國防部高級研究項目局（DARPA）已經(jīng)找來了英特爾和佐治亞理工學院（Georgia Tech），負責領導旨在防御機器學習算法對抗欺騙攻擊的研究。

　　欺騙攻擊在實驗室測試之外很少見，但在實操環(huán)境下可能會造成重大問題。例如，McAfee 早在 2 月份就曾報道，研究人員通過在限速標志上貼上兩英寸的黑色電子膠帶，欺騙了特斯拉 Model S 中的速度輔助系統(tǒng)，使其超速行駛 50 英里/小時。還有其他的例子也不勝枚舉，這證明欺騙人工智能并不算困難，幾乎誰都能做到。

　　DARPA 認識到欺騙攻擊可能會對任何使用機器學習的系統(tǒng)構成威脅，并希望主動出擊，減輕這種企圖。因此，大約一年前，該機構制定了一個名為 GARD 的計劃，即 Garanging AI Robustness against Deception 的縮寫。英特爾已經(jīng)同意成為與喬治亞理工學院合作的四年期 GARD 計劃的主要承包商。

　　"英特爾和佐治亞理工學院合作，共同推進生態(tài)系統(tǒng)對人工智能和 ML 漏洞的集體理解和能力，"DARPA GARD 計劃的首席工程師和研究人員 Jason Martin 說。"通過對相干技術的創(chuàng)新研究，我們正在合作研究一種方法，以增強對象檢測，提高 AI 和 ML 應對對抗性攻擊的能力。"

　　目前的欺騙緩解的主要問題是基于規(guī)則的、靜態(tài)的設定。如果規(guī)則不被打破，欺騙就能成功。由于欺騙人工智能的方式幾乎有無數(shù)種，僅僅受限于攻擊者的想象力，因此需要開發(fā)出更好的系統(tǒng)。英特爾公司表示，該計劃的初始階段將著重于利用圖像和視頻中的空間、時間和語義的一致性來改進物體檢測。

　　DARPA 信息創(chuàng)新辦公室的項目經(jīng)理 Hava Siegelmann 博士設想的系統(tǒng)與人類的免疫系統(tǒng)并無不同，你可以把它稱為另一個機器學習系統(tǒng)中的機器學習系統(tǒng)。

　　"我們希望產(chǎn)生的那種基于廣泛場景的防御，可以在免疫系統(tǒng)中看到，比如說，免疫系統(tǒng)可以識別攻擊，成功攔截后記住本次攻擊的方式，以便在未來的交戰(zhàn)中創(chuàng)造出更有效的反應。"Siegelmann 博士說。"我們必須確保機器學習是安全的，不能被欺騙。"

總結

以上是生活随笔為你收集整理的DARPA与英特尔、乔治亚理工学院合作 开创机器学习“免疫系统”的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。