直播 | WWW 2021论文解读:基于隐私保护的模型联邦个性化
「AI Drive」是由 PaperWeekly 和 biendata 共同發起的學術直播間,旨在幫助更多的青年學者宣傳其最新科研成果。我們一直認為,單向地輸出知識并不是一個最好的方式,而有效地反饋和交流可能會讓知識的傳播更加有意義,從而產生更大的價值。
本期 AI Drive,我們邀請到北京大學計算機系博士生王博劉炳言,為大家在線解讀其發表于 WWW 2021 的最新工作:PFA: Privacy-preserving Federated Adaptation for Effective Model Personalization。對本期主題感興趣的小伙伴,6 月 1 日(周二)晚 7 點,我們準時相約 PaperWeekly B 站直播間。
直播信息
近年來,聯邦學習成為了學術界和工業界的一個熱門領域。基于“數據不出域而模型出域”的基本思想,聯邦學習可以在保護隱私的前提下實現分布式合作學習,從而極大地改善模型性能。然而,考慮到用戶所處的環境以及喜好不同,聯邦后的全局模型并不適合直接部署到設備上去,需要基于用戶屬性對模型進行個性化調整。
先前的工作主要利用一些模型微調技術對全局模型進一步訓練,他們只專注于設備內的個性化調整,忽略了設備的數據資源有限所造成的過擬合和知識不足等問題。本研究基于聯邦學習的思想,提出了聯邦個性化的概念,通過將合適的設備篩選出來進行設備間的聯合調整,從而解決了設備內調整的各種問題,改善了模型的個性化效果。在此過程中,設備內的數據仍保持在本地,我們只傳輸一些稀疏度表征來實現聯邦個性化。
實驗結果顯示,聯邦個性化能夠在多個數據場景和多個模型架構上實現比當前方法更優越的性能。同時,傳輸的稀疏度表征更夠抵御現有的模型提取攻擊,保證了整個流程的安全性。
論文標題:
PFA: Privacy-preserving Federated Adaptation for Effective Model Personalization
論文鏈接:
https://arxiv.org/abs/2103.01548
代碼鏈接:
https://github.com/lebyni/PFA
本次分享的具體內容有:?
聯邦學習的背景介紹
聯邦個性化的概念和動機
聯邦個性化的相關工作
聯邦個性化的挑戰
聯邦個性化的實現思路
實驗與結果分析
總結與未來展望
嘉賓介紹
?劉炳言?/ 北京大學博士生?
劉炳言,北京大學計算機系 17 級直博生,研究方向為智能移動邊緣計算,包括聯邦學習、模型壓縮、遷移學習等。目前已在 WWW/Ubicomp/AAAI/ACM MM 等頂會發表多篇一作論文,曾獲 MSRA“明日之星”實習生、華為獎學金、北京大學優秀科研獎等榮譽。
直播地址?& 交流群
本次直播將在 PaperWeekly B 站直播間進行,掃描下方海報二維碼或點擊閱讀原文即可免費觀看。線上分享結束后,嘉賓還將在直播交流群內實時 QA,在 PaperWeekly 微信公眾號后臺回復「AI Drive」,即可獲取入群通道。
B 站直播間:
https://live.bilibili.com/14884511
合作伙伴
????
現在,在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關注」訂閱我們的專欄吧
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
總結
以上是生活随笔為你收集整理的直播 | WWW 2021论文解读:基于隐私保护的模型联邦个性化的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 内存病毒怎么删除文件 删除内存病毒感染的
- 下一篇: 购物篮推荐场景太复杂?没有商品相关性标签