谷歌开源更快、更高效的 TensorFlow 运行时 TFRT
TensorFlow 官方博客宣布開源新的運行時TFRT,該運行時提供了統一的、可擴展的基礎結構層,并在各類硬件上均具有高性能。
TFRT 產品經理 Eric Johnson 表示,TFRT將取代現有的 TensorFlow 運行時。原有的 TensorFlow 運行時最初是為圖形執行和訓練模型的工作負載而構建的。與之相比,新的運行時將急切的執行需求放在第一位,同時特別強調架構的可擴展性和模塊化。
它能夠很好地滿足開發復雜模型時尋求更快的迭代時間的開發者需求、在訓練和服務生產模型時改進性能的需求,以及希望以模塊化方式將邊緣和數據中心設備集成到 TensorFlow 中的硬件制造商需求。
簡單來講,TFRT 可以減少開發、驗證和部署企業級模型所需的時間。
TFRT 利用了 eager 和圖形執行的通用抽象,為了獲得更好的性能,其圖執行器支持并發執行操作和異步 API 調用。在性能測試中,與 TensorFlow 當前的運行時相比,TFRT 將經過訓練的 ResNet-50 模型(一種流行的圖像識別算法)在圖形卡上的推理時間縮短了 28%。
TFRT 仍處在早期開發階段,它已經與TensorFlow 集成,最終將成為其默認運行時。
關于 TFRT 的更多信息,可查看 TensorFlow 官方博客:https://blog.tensorflow.org/2020/04/tfrt-new-tensorflow-runtime.html
總結
以上是生活随笔為你收集整理的谷歌开源更快、更高效的 TensorFlow 运行时 TFRT的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 瑞德西韦争议:中美临床试验结果并不能直接
- 下一篇: 曹彬谈瑞德西韦:本想它能考清华,实际上不