2022.11.6 第二十九次周报
目錄
前言
文獻閱讀
題目
作者
背景
主要問題
擬定方案
開創性貢獻
工業5.0中IIoT的擬議聯合網絡自動化方案概述以及詳細的結構設計流程和數學初步
面向工業5.0的擬議方案概述
區塊鏈賦能的聯邦學習
分布式哈希表
方案的結構設計流程
時空復雜度
pytorch中的卷積操作
AlexNet
總結
前言
Convolution operations in Pytorch were parsed this week.An article on blockchain and Industry 5.0 was learned about and a new type of proposed federated network automation scheme was discussed in this article.In addition to this, there is a study about the AlexNet Architectural Framework for 2012 this week.
Pytorch中的卷積操作在本周被解析。一篇關于區塊鏈和工業5.0的文章被了解,一種新型的擬議聯合網絡自動化方案在本文中被討論。除此之外,有關于2012的AlexNet結構框架在本周被學習。
文獻閱讀
--Sushil Kumar Singh, Laurence T. Yang, Jong Hyuk Park,
FusionFedBlock: Fusion of blockchain and federated learning to preserve privacy in industry 5.0,
Information Fusion,
Volume 90,
2023,
Pages 233-240,
ISSN 1566-2535,
https://doi.org/10.1016/j.inffus.2022.09.027.
(https://www.sciencedirect.com/science/article/pii/S1566253522001658)
Keywords: Blockchain; Federated learning; Information fusion; Privacy-preservation; Industrial IoT; Industry 5.0; Security
題目
FusionFedBlock:區塊鏈和聯邦學習的融合,以保護工業中的隱私 5.0
作者
Sushil Kumar Singh, Laurence T. Yang, Jong Hyuk Park
背景
工業5.0”一詞起源于高要求的工業項目,從集中式生產轉向分散式生產,與制造計算機化和智能網絡自動化行業的創建有關。它是互聯環境中工業工廠的以信息為中心的范例,具有實時優化、傳感器數據和服務。自學習設備、復制人類動作以及工業基礎設施中生產算法的不斷優化是工業 5.0 網絡自動化的一部分。利用和利用支持物聯網?(IoT) 的工業資產,如傳感器、執行器和空氣控制器,在智能工業工廠中提供可操作的信息數據,這些工廠是工業物聯網?(IIoT) 的一部分,并提供工業創新和協作。對于當今工業基礎設施的高度自動化,設備必須更加堅固、高效、智能,并具有高頻段連接。因此,IIoT和工業5.0正在通過促進信息和通信技術(ICT)和網絡自動化的融合來重新起草行業。5G無線通信和先進網絡自動化技術的出現,通過以物聯網信息為中心的設備,為智能工業提供了可靠的高頻段解決方案。物理不可克隆功能對于通過宏基站進行基站驗證和確認至關重要。本地基站具有低計算能力和內存存儲。物理不可克隆函數 (PUF) 函數類似于將字符串組合為輸入和輸出的數學函數。
主要問題
現有的研究使用區塊鏈和聯邦學習技術來解決工業環境中的隱私保護問題。盡管如此,它仍然具有高級連接、網絡自動化、分散數據存儲和通信帶寬的主要缺點。
擬定方案
為了克服集中化、可擴展性、高清連接和延遲等問題,我們提出了一種方案,即區塊鏈和聯邦學習的融合,以保護工業5.0中的隱私。5G無線通信通過先進的可穿戴傳感器提供高清通信連接和網絡自動化,聯邦學習在工業環境中提供隱私保護。此外,區塊鏈技術在邊緣層提供數據認證和驗證;此外,通過所提出的方案,分散式和分布式數據存儲環境在云層適應。
開創性貢獻
本文的主要貢獻總結如下:
提出一個方案,如FusionFedBlock:區塊鏈和聯邦學習的融合,以保護工業5.0中的隱私。
設計聯邦學習網絡,在工業環境中保護隱私數據流,并通過基于 5G 的宏基站提供高清通信連接。
數據認證和驗證由聯邦層的區塊鏈網絡提供,并通過云層的分布式哈希表進行去中心化存儲。
與現有框架相比,在工業5.0的50%活動節點中,所提方案的驗證性能高達93.5%。
工業5.0中IIoT的擬議聯合網絡自動化方案概述以及詳細的結構設計流程和數學初步
面向工業5.0的擬議方案概述
區塊鏈賦能的聯邦學習
本地網絡(GRU 神經網絡)訓練任務,在初始化的全局模型中使用本地輸入數據。隱私保護網絡自動化在算法 1?中表述。
分布式哈希表
所有部門數據,如產品監控、質量控制、電源等,都使用5G與基于分布式哈希表的云數據中心進行通信。該表利用 SHA-256?加密算法使用哈希函數加密數據,并對哈希文本中的數據進行加密,稱為分布式哈希表的索引值。此表具有鍵,稱為H?a s?h(K?e?ys)→Ind?e?xValue,保護行業內的部門數據。從不同部門獲得的每個數據在DHT中都有一個特定的索引值,這是安全和分散的。在應用層,工業5.0通過DHT中存儲的數據為用戶提供多種服務,并為客戶提供最好的產品。安全工業部門的數據存儲在算法2中制定。
方案的結構設計流程
時空復雜度
pytorch中的卷積操作
首先說下???????pytorch中的Tensor通道排列順序是:[batch, channel, height, width]
我們常用的卷積(Conv2d)在pytorch中對應的函數是:
其中,in_channels參數代表輸入特征矩陣的深度即channel,比如輸入一張RGB彩色圖像,那in_channels=3
out_channels參數代表卷積核的個數,使用n個卷積核輸出的特征矩陣深度即channel就是n
?kernel_size參數代表卷積核的尺寸,輸入可以是int類型如3 代表卷積核的height=width=3,也可以是tuple類型如(3, 5)代表卷積核的height=3,width=5
?stride參數代表卷積核的步距默認為1,和kernel_size一樣輸入可以是int類型,也可以是tuple類型
?padding參數代表在輸入特征矩陣四周補零的情況默認為0,同樣輸入可以為int型如1 代表上下方向各補一行0元素,左右方向各補一列0像素(即補一圈0),如果輸入為tuple型如(2, 1) 代表在上方補兩行下方補兩行,左邊補一列,右邊補一列。可見下圖,padding[0]是在H高度方向兩側填充的,padding[1]是在W寬度方向兩側填充的:
?如果要實現更靈活的padding方式,可使用nn.ZeroPad2d方法。
?
?在卷積操作過程中,我們知道矩陣經卷積操作后的尺寸由以下幾個因數決定:
?經卷積后的矩陣尺寸大小計算公式為:
?但在實際應用中,有時會出現N為非整數的情況(例如在alexnet,googlenet網絡的第一層輸出),再例如輸入的矩陣 H=W=5,卷積核的F=2,S=2,Padding=1。經計算我們得到的N =(5 - 2 + 2*1)/ 2 +1 = 3.5 此時在Pytorch中是如何處理呢,先直接告訴你結論:在卷積過程中會直接將最后一行以及最后一列給忽略掉,以保證N為整數,此時N = (5 - 2 + 2*1 - 1)/ 2 + 1 = 3。
接下來我們來看個簡單的實例:
首先進行padding的填充,size:7 x 7
?(2)通過計算發現輸出為非整數,為了得到整數,將最后一行以及最后一列刪除掉,size:6 x 6
?(3)接著使用卷積核進行卷積操作,就能得到我們的輸出矩陣,需要注意的是pytorch中的卷積默認是帶有bias的,所以計算卷積后需要加上bias偏量。例如輸出的第一個值的計算過程如下:
?我們的計算結果與pytorch的輸出相同,我們只計算了其中一個值,其他的值也一樣:
?通過我們的實驗可以發現,在pytorch的卷積過程中,當通過N = (W ? F + 2P ) / S + 1計算式得到的輸出尺寸非整數時,會通過刪除多余的行和列來保證卷積的輸出尺寸為整數。
AlexNet
卷積池化層
?全連接層?
總結
下周對于VGGNet和ResNets這些經典模型進行學習。
總結
以上是生活随笔為你收集整理的2022.11.6 第二十九次周报的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 44 R关联分析——Apriori算法
- 下一篇: java编程规约