10 分钟 Whisper 模型处理测试:英伟达 RTX 4090 比苹果 M3 Max 慢 86%
12 月 14 日消息,開發人員 Oliver Wehrens 近日測試了蘋果 M1 Pro、M2 Ultra 和 M3 Max 三款 Apple Silicon 芯片升級 MLX 框架后訓練 AI 能力,并對比了英偉達的 RTX 4090 顯卡。
Wehrens 使用 OpenAI 的語音識別模型 Whisper 進行測試,主要測量轉錄 10 分鐘音頻文件所需時間。
測試結果顯示 M1 Pro 處理音頻時間需要 216 秒,英偉達 RTX 4090 顯卡處理時間需要 186 秒。
而具有 76 個 GPU 的 M2 Ultra 和具有 40 個 GPU 的 M3 Max 處理性能更為優秀,分別為 95 秒和 100 秒。
此外蘋果 Apple Silicon 芯片功耗也更為優秀。英偉達 RTX 4090 在運行狀態下,比閑置狀態下高出 242W。
而配備 M1 Pro 芯片在運行狀態下,僅比閑置狀態下高出 38W。
此前報道,MLX 框架特點如下:
熟悉的 API:Python 和 C++ API 具有熟悉的框架,如 NumPy 和 PyTorch,使經驗豐富的研究人員易于學習。
輕松高效:MLX 使用可組合的功能轉換來優化 Apple Silicon 的性能。
延遲計算:能夠防止不必要的計算并提高資源效率。
動態設計:能夠適應輸入形狀變化,簡化了調試和測試過程。
軟硬結合:MLX 無縫利用蘋果設備的 CPU 和 GPU,確保用戶能夠充分利用硬件。
統一內存優勢: MLX 利用蘋果統一內存,能夠進一步加強數據移動速度
研究人員友好:MLX 專為研究人員設計。
相關閱讀:
《蘋果推出 MLX 深度學習框架:專為 Apple Silicon 優化,可實現“軟硬結合”》
廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節省甄選時間,結果僅供參考,所有文章均包含本聲明。
總結
以上是生活随笔為你收集整理的10 分钟 Whisper 模型处理测试:英伟达 RTX 4090 比苹果 M3 Max 慢 86%的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: HyperX 推出硬件个性化定制项目 H
- 下一篇: 《小小梦魇》手游版今日发售,登陆 iOS