給定一個state-of-the-art的深度神經網絡分類器，作者的工作展示了通用對抗擾動(UAP)的存在性，并且提出了計算UAP的方法。經驗型的解釋了這種擾動，展示了UAP在不同神經網絡之間的泛華性。UAP的存在揭示了高維決策邊界之間存在重要的幾何相關性。進一步概述了現有自然圖像分類器存在安全漏洞。

UAP

假設圖片$x\in {\mathbb{R}}^d$來自分布$\mu$，注意，這里的$\mu$分布，代表了大部分的自然圖片，包含較強的多樣性。在這樣的情況下，我們要找到通用對抗擾動 $v$，需要$v$滿足一下兩個條件。

其中，$\xi$表示擾動的幅度，$\delta$表示對分類模型$\hat{k}$的愚弄率。

對于來自$\mu$分布的圖像數據點$X$，作者提出了在數據集上迭代，逐步創建通用對抗擾動$v$的方法，在每次迭代計算中，計算將$x+v$推動到分類邊界上的最小的$\Delta v_i$。如上圖2，數據點$x_1$，$x_2$，$x_3$疊加，3個不同的顏色分別表示不同的分類區域${\mathcal{R}}_1,{\mathcal{R}}_2,{\mathcal{R}}_3$。算法不斷計算把當前擾動點$x_i+v$推送到分類邊界${\mathcal{R}}_i$的最小擾動，其實也就是到決策邊界最小距離(DeepFool)，并把這個最小擾動聚合到當前擾動點上。

詳細的講，假如uap $v$沒有在數據點$x_i$愚弄到分類器，計算講擾動點$x_i+v$推送到分類決策邊界的最小擾動$\Delta v_i$（這里是不是很像deepfool），并將KaTeX parse error: Undefined control sequence: \Delata at position 1: \?D?e?l?a?t?a? ?v_i更新到uap $v$上，注意這里的更新并不是簡單的加和，為了保持$||v|{|}_p<=\xi$始終成立，將更新后的普遍擾動進一步投影到半徑為$\xi$并以 0 為中心的 p 球上。以此來提升uap $v$的愚弄效果。

在添加uap得到數據集$\{x_1+v,x_2+v,...,x_n+v\}$，當新生成的數據在分類模型上的”愚弄率“大于閾值$1?\delta$時，算法終止。事實上，并不需要很大的數據$X$來計算在整個$\mu$分布上的圖像的uap

值得注意的是，數據集$X$的不同隨機組合，會得到不同滿足所需約束的uap $v$。所以這個方法可以用來生成多組不同的uap。

實驗

作者設計了不同的實驗，Table 1反映了uap在驗證集上的fool rate；Figure 4展示了在不同模型結構上計算的uap；Figure 5訓練數據集X的shuffle生成的不同uap；Table 2 給出了uap的跨模型泛華性。

總結

以上是生活随笔為你收集整理的论文学习笔记：通用对抗扰动UAP的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。