騰訊《一線》作者王潘

　　5 月 16 日，在第三屆世界智能大會上，360 董事長兼 CEO 周鴻祎發(fā)表演講。周鴻祎表示，最近發(fā)生的三件與人工智能有關(guān)的事情，揭示了人工智能的安全隱憂。

　　周鴻祎說，講這三件事并非貶低人工智能，恰恰相反，關(guān)注安全有利于人工智能更好地發(fā)展。因?yàn)橹挥邪踩男畔⒒艜o人民帶來安心和幸福的信息化。

　　無人值守系統(tǒng)里的“最后控制權(quán)之爭”

　　周鴻祎提到的第一件事是波音 737MAX 墜機(jī)事件。近期，737MAX 型飛機(jī)在過去六個月內(nèi)發(fā)生兩次墜毀事故，原因?yàn)槠滹w行控制系統(tǒng)的嚴(yán)重安全風(fēng)險。

　　周鴻祎自稱非航空專家但也看到兩個問題，一是系統(tǒng)設(shè)計得再完美，一旦傳感器出錯，就會影響飛行控制系統(tǒng)的判斷，繼而“犯錯”。二是當(dāng)計算機(jī)出錯后，究竟是聽計算機(jī)的還是駕駛員的？

　　“大家都應(yīng)該思考這個問題”，周鴻說，在將來無人車、無人工廠、無人碼頭等眾多無人值守系統(tǒng)里，當(dāng)我們沒有很大把握的情況下，在傳感器誤報、數(shù)據(jù)被污染的情況下，最后的控制權(quán)和決定權(quán)應(yīng)該留給機(jī)器還是人？

　　人工智能時代的“暢銷服裝”

　　周鴻祎講的第二件事從“逃犯克星張學(xué)友”說起，據(jù)悉，因?yàn)閺垖W(xué)友演唱會現(xiàn)場的“人臉識別”技術(shù)，警察輕松抓獲多名在場逃犯。

　　不過，周鴻祎提醒大家不要只覺得人臉識別厲害，這一技術(shù)本身也存在先天缺陷：黑客們通過研究發(fā)現(xiàn)，只要把一種奇怪的條紋打印下來，別在衣服上，就能“屏蔽”掉人臉識別系統(tǒng)，出入自由。

　　“這種衣服可能會很暢銷”，周鴻祎不忘在演講中調(diào)侃。他認(rèn)為，這還只是不太嚴(yán)重的情況。以小見大，一些無人駕駛的汽車，可能會被馬路上‘奇怪’的符號誤導(dǎo)，導(dǎo)致嚴(yán)重的交通事故。

　　為了杜絕這種情況，周鴻祎建議企業(yè)在上線系統(tǒng)前，應(yīng)做好安全檢測，做好“實(shí)網(wǎng)攻防”。“要用實(shí)際的攻擊發(fā)現(xiàn)問題，而非靠靜態(tài)的研究證明系統(tǒng)的安全”，周鴻祎還為公司“打廣告”：“一定要找我們這些天天吃飽沒事干的‘黑客公司’來幫大家做實(shí)際的攻防，在我們手里發(fā)現(xiàn)問題，比在實(shí)踐中發(fā)現(xiàn)問題可能要好一些。”

　　周鴻祎為何調(diào)侃劉慶峰？

　　“我要攻擊劉慶峰”，談到第三件事時，周鴻開門見山，調(diào)侃科大訊飛劉慶峰。據(jù)悉，去年人工智能大會期間，兩人埋下了“吃包子”的恩怨，劉慶峰爆料周鴻祎在最近的活動中連續(xù)吃了 11 個天津狗不理包子。

　　不過，“吃包子”恩怨是假，擔(dān)憂人工智能是真。周鴻祎指出，去年劉慶峰在演講中播放了用人工智能“偽造” 的視頻，引發(fā)了他的思考。他在演講中提醒大家：最近，國外已經(jīng)有人利用人工智能將不雅視頻里的女主角換成女明星。這一技術(shù)正引發(fā)恐慌，遭到該國政府查封。

　　“我今天已經(jīng)不相信朋友圈里的美女了”，周鴻祎說，如果這種工具降低了每個人的做假成本，就可能會出現(xiàn)假新聞、假名人視頻。這顛覆了我們過去“百聞不如一見”的固有觀念，甚至?xí)陉P(guān)鍵時刻帶來混亂。

　　“新加坡正在制定相應(yīng)的法律”，周鴻祎呼吁我國也應(yīng)加強(qiáng)對該類問題的重視，防止這樣的“工具”流傳，引發(fā)一系列道德倫理問題。

總結(jié)

以上是生活随笔為你收集整理的一线丨周鸿祎：AI也存在先天缺陷 应避免利用AI作假的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。