1?FLOPS與FLOPs

FLOPS：floating point operations per second的縮寫，意指每秒浮點運算次數，理解為計算速度。是一個衡量硬件性能的指標。

FLOPs：注意s小寫，是floating point operations的縮寫（s表復數），意指浮點運算數，理解為計算量。可以用來衡量算法/模型的復雜度。

2 卷積的FLOPs

?結論：卷積層的計算能力（FLOPs）等于上圖中兩個立方體（綠色和橙色）體積的乘積（V1*V2）

卷積層 wx + b 需要計算兩部分

1）首先考慮前半部分 wx 的計算量:

令 :

• k 表示卷積核大小;
• c 表示輸入 的channel的數量

那么對于輸出的一個單元格來說，他需要進行k*k*c次乘法。每個懲罰結果相加，得到一個數值，這個就是加法的數量，k*k*c-1次

那么一共有H*W（輸出每一個channel的長度和寬度），輸出有o個channel，那么輸出的單元格總數為H*W*o

所以，計算wx的時候，需要

k*k*c*H*W*o次乘法和(k*k*c-1)*H*W*o次加法

2）在考慮偏差項b包含的計算量

輸出的每一個單元格上做一個加法操作，所以，計算偏差項的時候需要

H*W*o次加法

所以綜合考慮，我們需要

k*k*c*H*W*o次加法和k*k*c*H*W*o次乘法

令一次加法和一次乘法表示一個FLOP，那么這個卷積層的FLOPs為k*k*c*H*W*o

?

總結

以上是生活随笔為你收集整理的机器学习笔记：FLOPs的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。