日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 综合教程 >内容正文

综合教程

英伟达发文介绍“黄氏定律”:GPU 推理性能十年提升 1000 倍,无惧摩尔定律影响

發布時間:2023/12/3 综合教程 38 生活家
生活随笔 收集整理的這篇文章主要介紹了 英伟达发文介绍“黄氏定律”:GPU 推理性能十年提升 1000 倍,无惧摩尔定律影响 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

10 月 1 日消息,正當人們爭論摩爾定律在 2020 年代是否會放緩、是否仍然適用、甚至已死的時候,英偉達發文宣布了“黃氏定律(Huang's Law)”。

據英偉達一篇最新博客稱,在過去十年中,英偉達 GPU 人工智能處理能力增長了 1000 倍。“黃氏定律”意味著在“單芯片推理性能”中看到的加速不會逐漸消失,而是會繼續出現。

文中表示,英偉達首席科學家 Bill Dally 所描述的“后摩爾定律時代計算機性能如何實現的結構性轉變”主要基于人類的聰明才智。這一特征似乎難以建立一條定律,但 Dally認為,下面的圖表標志著“黃氏定律”的開始。

查詢發現,“黃氏定律”并非英偉達自己的首創說法。IEEE Spectrum 第一個提出以黃仁勛命名定律,“黃氏定律”后來因《華爾街日報》的一篇專欄而廣為人知。

根據 Dally 最近在 Hot Chips 2023 會議上的演講,上圖顯示過去十年 GPU AI 推理性能增長了 1000 倍。Dally表示,有趣的是,與摩爾定律不同,工藝縮小對黃氏定律的進展幾乎沒有影響。

Dally 回憶起如何通過改變英偉達 GPU 底層數字處理來實現 16 倍的增長。使用 Transformer 引擎的 Nvidia Hopper 架構的到來帶來了另一個巨大的推動。據稱,Hopper 使用 8 位和 16 位浮點與整數數學的動態組合,實現了 12.5 倍的性能飛躍,并且節省了能源。

Dally 還稱,盡管摩爾定律的收益不斷減少,但他相信“黃氏定律”仍將繼續存在。

廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節省甄選時間,結果僅供參考,所有文章均包含本聲明。

總結

以上是生活随笔為你收集整理的英伟达发文介绍“黄氏定律”:GPU 推理性能十年提升 1000 倍,无惧摩尔定律影响的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。