推薦系統–矩陣分解(1)
推薦系統–矩陣分解(2)
推薦系統–矩陣分解(3)
推薦系統–矩陣分解(4)
推薦系統–矩陣分解(5)
推薦系統–矩陣分解(6)

9 應用于聯邦學習的矩陣分解

這個部分主要參考以下兩篇論文：
2008-Collaborative Filtering for Implicit Feedback Datasets
Federated collaborative filtering for privacy-preserving presonalized recommendation system

9.1 Collaborative Filtering for Implicit Feedback Datasets

在該模型中對$r_{ui}$引入喜好變量和置信度變量。

• 喜好變量$f_{ui}$是一個二元變量，表示用戶是否具有該無偏偏好，定義如下：
  $$f_{ui}=\{\begin{array}{cc}1& r_{ui}>0\\ 0& r_{ui}=0\end{array}\text{\hspace{1em}(1)}$$
• 置信度變量 $c_{ui}$表示用戶對物品喜好的置信程度，定義如下：
  $$c_{ui}=1+\alpha r_{ui}\text{\hspace{1em}(2)}$$
  $\alpha$是超參數。
• 整體的損失函數如下：
  最終得到如下優化目標函數：
  $$J=\underset{p_{?},q_{?}}{\min }\sum _{u,i}{c}_{ui}{\left(f_{ui}?p_u^T{q}_i\right)}^2+\lambda \left(\sum _u{\Vert p_u\Vert }^2+\sum _i{\Vert q_i\Vert }^2\right)\text{\hspace{1em}(3)}$$
  $\lambda$是懲罰項，用于懲罰兩個參數，防止過擬合
  這個問題是非凸函數， 作者使用的是ALS（交替最小二乘法）優化方法。如果固定其中一個參數將其看做是常數的話，那么整個問題就變成了一元二次函數，可以很容易的得到極小值點。根據這種思想就有了交替最小二乘法：
• 初始化$p_u^1$，$q_i^1$
• 循環$k$，$k=1,2,\dots$
  – [ ] $p_u^{k+1}=\arg {\min }_{p_u}J(p_u^k,q_i^k)$
  – [ ] $q_i^{k+1}=\arg {\min }_{q_i}J(p_u^{k+1},q_i^k)$

固定$q_i$的值，對$p_u$進行搜索：
$$\begin{array}{rl}\frac{1}{2}\frac{?J}{?p_u}& =\sum _i{c}_{ui}\left(p_u^T{q}_i?f_{ui}\right)q_i+\lambda p_u\\ & =\sum _i{c}_{ui}\left(q_i^T{p}_u?f_{ui}\right)q_i+\lambda p_u\\ & =Q^T{C}^{u}Q{p}_u?Q^T{C}^{u}f(u)+\lambda p_u\end{array}$$
得到：
$$p_u={\left(Q^T{C}^{u}Q+\lambda I\right)}^{?1}{Q}^T{C}^{u}f(u)$$
同理可得：
$$\begin{array}{rl}\frac{1}{2}\frac{?J}{?q_i}& =\sum _u\left[c_{ui}\left(p_u^T{q}_i?f_{ui}\right)\right]p_u+\lambda q_i\end{array}$$
$$q_i={\left(P^T{C}^{i}P+\lambda I\right)}^{?1}{P}^T{C}^{i}f(i)$$

9.2 Federated collaborative filtering for privacy-preserving presonalized recommendation system

9.2.1 分析

聯邦學習的思想是“數據不出本地”，現在對之前的計算進行分析：

• 用戶$u$利用自己的數據，就可以實現$p_u$的更新；
• 對$q_i$的更新需要用到所有用戶的個人數據，需要將數據整合到一起，但是這與聯邦學習的定義不符。

文章采用梯度下降的方法對$q_i$進行更新：
$$\begin{array}{rl}{q}_i& =q_i?\gamma \frac{?J}{?q_i}\end{array}$$
用戶只用自己的個人數據就可以求出部分梯度，最終將所有人求出的梯度進行整合即可。

與ALS相比：

• ALS可以一步到位直接到達參數$q_i$的較小值點
• 梯度下降需要迭代多次才能到達一個較小值點
• 梯度下降可以在用戶本地進行，最終只需要將所有用戶的梯度整合一下取平均即可

9.2.2 步驟

聯邦學習范式中的協同過濾。 主模型 $Y$（項目-因素矩陣，有時候也用$Q$，或者$V$，不同文獻使用的符號系統不同，為了和圖片一致，我這里依然采用$Y$）在服務器上更新，然后分發到客戶端。 每個特定于用戶的模型 $X$（用戶-因素矩陣，有時候也用$P$，或者$U$，不同文獻使用的符號系統不同，為了和圖片一致，我這里依然采用$X$）保留在本地客戶端上，并使用本地用戶數據和來自服務器的 $Y$ 在客戶端上進行更新。 通過 $Y$ 的梯度的更新在每個客戶端上計算并傳輸到服務器，在那里它們被聚合以更新主模型 $Y$。

• 所有項目因子向量 $y_i$ , $i=1,\dots ,M$ 在服務器上更新，然后分發給每個客戶端 $u$。
• 用戶因子向量 $x_u$, $u\in 1,...,N$ 在客戶端 $u$ 上本地更新，使用用戶 $u$ 自己的數據和 $y_i$, $i=1,\dots ,M$來自服務器。
• 通過梯度 $\delta y_{ui}$ 的更新是針對每個客戶端 $u$ 上的項目 $t_i$ 計算的，并傳輸到服務器，在那里梯度被聚合以更新 $y_i$。 這與現有的聯邦學習架構形成對比，其中客戶端直接計算參數 $y_{ui}$ 的更新，然后在服務器上聚合以更新主模型。
  
  以下公式是從論文中摘錄下來的：
  
  符號說明：
  $p(u)$就是前文的$f(u)$：表示用戶的購買記錄；
  
  
  符號說明：
  $p_{ui}$就是前文的$f_{ui}$：表示用戶是否具有該無偏偏好；

總結

以上是生活随笔為你收集整理的推荐系统--联邦学习下的矩阵分解(6)的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。