性能暴涨4.5倍!NVIDIA H100计算卡强势垄断AI:对手?不存在
AI世界如今最大的贏家是誰?
毫無疑問是黃仁勛的NVIDIA,布局早,技術強,根本找不到對手,“躺著”就可以掙大錢了。
現在,NVIDIA又公布了最新一代Hopper H100計算卡在MLPerf AI測試中創造的新紀錄。
Hopper H100早在2022年3月就發布了,GH100 GPU核心,臺積電4nm工藝,800億晶體管,814平方毫米面積。
它集成18432個CUDA核心、576個Tensor核心、60MB二級緩存,搭配6144-bit位寬的六顆HBM3/HBM2e高帶寬內存,支持第四代NVLink、PCIe 5.0總線。
不過直到最近,H100才開始大規模量產,微軟、谷歌、甲骨文等云計算服務已開始批量部署。
MLPerf Inference是測試AI推理性能的行業通行標準,最新版本v3.0,也是這個工具誕生以來的第七個大版本更新。
其中,DLRM、BERT訓練模型的提升最為顯著。
NVIDIA還頗為羞辱性地列上了Intel最新數據中心處理器旗艦至強鉑金8480+的成績,雖然有56個核心,但畢竟術業有專攻,讓通用處理器跑AI訓練實在有點為難,可憐的分數不值一提,BERT 99.9%甚至都無法運行,而這正是NVIDIA H100的最強項。
此外,NVIDIA還第一次公布了L4 GPU的性能。
它基于最新的Ada架構,只有Tensor張量核心,支持FP8浮點計算,主要用于AI推理,也支持AI視頻編碼加速。
幾乎所有的大型云服務供應商都部署了T4,升級到L4只是時間問題,Google就已經開始內測。
總結
以上是生活随笔為你收集整理的性能暴涨4.5倍!NVIDIA H100计算卡强势垄断AI:对手?不存在的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: SAP CRM, C4C和Hybris的
- 下一篇: 男子银行取0.94元被抹零 银行回应:几