學習筆記，僅供參考，有錯必糾

關鍵詞：監督學習 , 對抗機器學習 , 對抗魯棒性 , 魯棒性驗證 , K- 近鄰分類器

---

K- 近鄰分類器魯棒性驗證:從約束放松法到隨機平滑法

摘要

本文研究 K- 近鄰分類器的魯棒性驗證問題 . 形式化魯棒性驗證的目標是計算分類器在給定樣本點上的最小對抗擾動的精確值或者最小對抗擾動的非平凡下界 . 我們將計算 K- 近鄰分類器的最小對抗擾動形式化為一組二次規劃問題 . 二次規劃問題的數目隨近鄰參數 K 的增大呈指數級增長 , 精確求解該組二次規劃問題往往不可行 . 約束放松法通過放松優化的約束項 , 可以在多項式時間內求解最小對抗擾動的下界 . 然而 , 本文通過理論分析和實驗發現 , 當近鄰參數 K 取值較大時 , 約束放松法求得的下界往往過于寬松 , 甚至會出現 K 越大下界越小的反直覺結果 . 為解決這一問題 , 本文提出使用隨機平滑法對 K- 近鄰分類器進行魯棒性驗證 . 隨機平滑法利用了 K- 近鄰分類器對高斯 (Gauss) 白噪聲魯棒的特點 , 獲得了較為理想的魯棒性驗證效果 . 基準數據集上的實驗結果表明 , 相比于最新的魯棒神經網絡 , “ 隨機平滑的 ” K- 近鄰分類器展現出了更好的驗證魯棒性。

引言

近年來的研究發現 , 神經網絡模型的預測結果非常容易受到對抗擾動的影響 —— 在人類看來難以察覺的微小擾動可以很容易地改變神經網絡模型的預測標記[1～3] .對抗擾動為機器學習模型在真實場景的應用帶來了安全性挑戰 , 同時也促使越來越多的研究者開始關注機器學習模型的形式化魯棒性驗證問題 . 魯棒性驗證的目標是計算分類器在給定樣本點上的可以使得預測結果發生變化的最小擾動 , 即最小對抗擾動 . 針對神經網絡模型 , 許多魯棒性驗證方法被相繼提出 [4～10] , 其核心思

創作挑戰賽新人創作獎勵來咯，堅持創作打卡瓜分現金大獎

總結

以上是生活随笔為你收集整理的文献记录(part68)--K- 近邻分类器鲁棒性验证:从约束放松法到随机平滑法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。