FLOPS

MFLOPS
GFLOPS
TFLOPS
PFLOPS

GFLOPS是Paper里比較流行的單位。

MFLOPS
Mega(106)/Giga(109)/Tera(1012)/Peta(1015)
Floating-point Operations per Second.

whetstone

whestone測試浮點運算性能

FLOPS vs FLOPs

FLOPS: floating point operations per second的縮寫，意指每秒浮點運算次數, 衡量硬件性能的指標。

FLOPs：注意s小寫，是floating point operations的縮寫（s表復數），意指浮點運算數，用來衡量算法/模型的復雜度。

DMIPS

DMIPS中D的含義，干石（Dhrystone）測試的是整數運算性能，而與之相對的還有濕石（Whetstone），用來測試浮點運算性能。這個單位就是FLOPS。

TOPS

TOPS中O是什么含義？operation指MAC操作。MAC 數字相乘再相加。a=a+b*c。

TOPS: Tera Operations per Second

Most operations are MACs (multiply/accumulates), so TOPS = (number of MAC units) x (frequency of MAC operations) x 2.

TOPS/W

在某些情況下，還使用 TOPS/W 來作為評價處理器運算能力的一個性能指標，TOPS/W 用于度量在1W功耗的情況下，處理器能進行多少萬億次操作。

https://semiengineering.com/tops-memory-throughput-and-inference-efficiency/

GMACs

1MAC = 2 OP
即一個MAC (乘，加，各被認為是一個operation)

http://www.360doc.com/content/21/0211/11/30375878_961672385.shtml

FMA

FMA指令集（Fused-Multiply-Add，積和熔加運算）是x86微處理器上的指令集。FMA允許創建新的指令并有效率地執行各種復雜的運算，可結合乘法與加法運算（即積和熔加運算）。

FMA將a*x+b記為一項運算，GMAC=0.5GFLOPs
https://blog.csdn.net/touchwolf/article/details/106997506

FLOPS 度量的局限性

FLOPS并不是一個有意義的量度（measurement），因為FLOPS并不能反應出許多對執行效能有影響的因素。例如：I/O的效能、內存的架構、快取內存一致性（cache coherence）、…等。
這意味著電腦的實際計算容量，與FLOPS的理論峰值間會有一段不小的差距。

FLOPs沒有考慮幾個對速度有相當大影響的重要因素——MAC(Memory Access Cost)\并行度\平臺

卷積層 包含哪些運算

卷積運算Conv

BatchNorm

ReLu

Linear

Upsample

Poolings

FLOPS指 (single precision FP32)

雙精度 FP64

總結

以上是生活随笔為你收集整理的DMIPS, TOPS, FLOPS, FLOPs, GMACs, FMA的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。