文章來源：ATYUN AI平臺?

人工智能圖像識別技術(shù)已經(jīng)取得了一些令人驚嘆的進(jìn)步，但正如一項新的研究表明的那樣，這些系統(tǒng)仍然可以被那些愚弄的例子所絆倒。

一群麻省理工學(xué)院的學(xué)生最近愚弄了谷歌開發(fā)的一種圖像分類器，這群學(xué)生周三發(fā)布的一篇論文詳細(xì)描述了一種可以更快地欺騙系統(tǒng)的技術(shù)。這種欺騙谷歌系統(tǒng)的方法提供了一個真實的例子，說明基于人工智能的圖像識別系統(tǒng)是如何被黑客入侵的。

論文地址：https://arxiv.org/pdf/1712.07113.pdf

該團(tuán)隊的新算法從一個它想用來欺騙另一個系統(tǒng)的圖像開始，從他們的論文中的一個例子看出，有一只小狗的圖片，然后開始改變像素以使圖像看起來更像源圖像;在這種情況下,系統(tǒng)識別出來的對象是兩名滑雪愛好者。當(dāng)系統(tǒng)起作用的時候，“對抗”算法就會對圖像識別系統(tǒng)提出挑戰(zhàn)，這個系統(tǒng)的版本會迅速移動到任何一個人都能識別的范圍(查看上面的視頻)。但是，在所有的時間里，這個算法只保留了破壞像素的正確組合，讓系統(tǒng)認(rèn)為它是在看著一只狗。這聽起來可能微不足道，但該團(tuán)隊強調(diào)，真正的機(jī)器學(xué)習(xí)算法——無論是在自動駕駛汽車還是在社交媒體上——都可能被欺騙，甚至可能被濫用。“系統(tǒng)安全是非常重要的，并且不能被利用。”該研究中的一名成員Anish Athalye說道。

研究人員在谷歌的云視覺API上測試了他們的方法——這是一個很好的測試案例，部分原因是谷歌沒有發(fā)布任何關(guān)于計算機(jī)視覺軟件的工作原理，甚至是系統(tǒng)用來對圖像進(jìn)行分類的所有標(biāo)簽。這項技術(shù)能夠掃描數(shù)碼照片，識別所描繪的對象。但API并不完美。當(dāng)像素被改變或形狀和顏色被改變時，圖像識別可以被欺騙來對圖像進(jìn)行錯誤分類。該團(tuán)隊表示，到目前為止，他們只嘗試了谷歌的系統(tǒng)，但他們的技術(shù)在其他圖像識別系統(tǒng)上應(yīng)該也可以運行。

Athalye和他的同事們通過對圖片進(jìn)行細(xì)微的調(diào)整而設(shè)計了一個計算機(jī)程序。在另一項測試中，他們成功地欺騙了谷歌的API，該系統(tǒng)誤將一架直升飛機(jī)認(rèn)作一組步槍。

這是一個引人注目的黑客攻擊，因為它在一個“黑箱”條件下的一個實際的谷歌產(chǎn)品上運行，在這種情況下，研究人員無法訪問目標(biāo)技術(shù)的內(nèi)部工作，他們只得到了關(guān)于系統(tǒng)如何決策的部分信息。其他試圖愚弄圖像識別技術(shù)的嘗試主要集中在“白箱”系統(tǒng)上，這些系統(tǒng)的底層計算機(jī)制是已知的。

為了利用谷歌圖像識別系統(tǒng)，麻省理工學(xué)院的研究人員使用了一種被稱為自然進(jìn)化策略（NES）的計算機(jī)算法。這基本上幫助他們猜測圖像識別是如何對圖像進(jìn)行分類的。

他們的程序?qū)楣雀杼峁┮唤M經(jīng)過修改的圖片，觀察他們?nèi)绾畏诸?#xff0c;并在提交另一批文件之前做出相應(yīng)的修改。在他們自己的演示中，他們使用了大約100萬張圖片，直到他們的程序最終設(shè)計出一個愚弄了谷歌系統(tǒng)的程序。

這肯定存在很多問題。但是，麻省理工學(xué)院的研究人員發(fā)現(xiàn)，他們的方法比之前的在黑箱條件下的方法速度快了1000倍。麻省理工學(xué)院的學(xué)生Andrew Ilyas說，它可以做到這一點，因為他們的程序會在圖像上調(diào)整大量的像素，而不是每次都是幾個像素。

谷歌拒絕就這項研究發(fā)表評論，但該公司的人工智能程序員也一直在研究保護(hù)基于機(jī)器學(xué)習(xí)系統(tǒng)的方法。這家搜索巨頭還與包括微軟和Facebook在內(nèi)的其他公司一起推廣人工智能技術(shù)的最佳實踐。

有很多研究人員正在研究類似這樣的對抗的例子，但是對于像自動駕駛汽車這樣的安全關(guān)鍵的應(yīng)用，人工智能在對抗攻擊是不可能的，或者至少是更困難的情況下，才會被信任。

本文轉(zhuǎn)自ATYUN人工智能媒體平臺，原文鏈接：麻省理工學(xué)院的學(xué)生們愚弄了谷歌圖像識別技術(shù)，計算機(jī)視覺算法仍然很容易被騙

更多推薦

亞馬遜推出自主學(xué)習(xí)系統(tǒng)，使Alexa自動檢測錯誤的理解并及時糾正

適合創(chuàng)業(yè)公司的幾種云服務(wù)器品牌對比評估

蝙蝠會是下一代無人機(jī)技術(shù)的關(guān)鍵嗎？

Facebook利用AI和衛(wèi)星圖像評估自然災(zāi)害造成的影響

歡迎關(guān)注ATYUN官方公眾號,商務(wù)合作及內(nèi)容投稿請聯(lián)系郵箱:bd@atyun.com

?

總結(jié)

以上是生活随笔為你收集整理的麻省理工学院的学生们愚弄了谷歌图像识别技术，计算机视觉算法仍然很容易被骗的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。