簡介：近日，阿里云推出了彈性加速計算實例（EAIS）家族及產品彈性加速推理實例（簡稱EAIS.EI），首次實現了GPU與CPU/內存的解耦，可在提升AI推理效率的同時大幅降低成本。

人工智能推理場景下，EAIS.EI讓用戶可以自定義GPU算力規模。據介紹，該產品可節省最高達50%的推理業務成本，目前EAIS.EI實例支持Tensorflow、Pytorch等主流深度學習框架，最高支持FP32 19.5 TFlops、FP16 混合精度312 TFlops的運算。

發布會傳送門

產品詳情

無論你是在逛淘寶還是刷抖音，人工智能都在背后瘋狂計算，短視頻推薦、拍照AI美顏，就連點外賣，人工智能都在幫外賣小哥優化路線。

人工智能崛起的燃料之一，就是跟通用處理器CPU有著不同專長的GPU異構加速器。在計算能力方面，如果說CPU是通才，GPU就是專才，非常擅長深度學習和圖像處理，因此在人工智能、直播和短視頻火熱的今天大放異彩。

然而，不同的深度學習應用所需要的CPU、GPU和內存等計算資源的比例并非完全一樣，云服務器受限于規格，往往只有特定數個比例。在某些情況下，就會造成資源閑置，尤其在推理場景中尤為明顯。深度學習應用分為訓練和推理兩個過程，推理計算需求由于跟業務量緊密相關，往往是總運營成本的大頭，最高占到90%成本。

EAIS為客戶提供了一個異構算力池，用戶可以將需要的GPU資源附加到任何一款阿里云ECS服務器中，根據不同應用需求靈活優化CPU/內存與GPU之間的比例，匹配適合的資源組合，有效提升資源利用率。

另外，AI推理計算業務通常伴隨著業務的周期性的峰谷變化，EAIS.EI實例配合彈性伸縮ESS快速感知業務變化，實現高效的業務運維，提升業務彈性。資源的精準組合加上云服務的彈性，將大大降低成本。

阿里云異構計算產品負責人透露，除了推理場景之外，未來，彈性加速計算實例還將覆蓋圖形圖像與多媒體計算編碼場景，甚至實現含光800與CPU/內存的解耦。

彈性加速計算實例，將與神龍AI加速器和cGPU容器技術，一起組成阿里云異構計算的三大特色優勢，為用戶提供靈活高效、性能超群的異構計算基礎設施。

原文鏈接：https://developer.aliyun.com/article/775645?

版權聲明：本文內容由阿里云實名注冊用戶自發貢獻，版權歸原作者所有，阿里云開發者社區不擁有其著作權，亦不承擔相應法律責任。具體規則請查看《阿里云開發者社區用戶服務協議》和《阿里云開發者社區知識產權保護指引》。如果您發現本社區中有涉嫌抄襲的內容，填寫侵權投訴表單進行舉報，一經查實，本社區將立刻刪除涉嫌侵權內容。

總結

以上是生活随笔為你收集整理的AI降成本利器！阿里云弹性加速计算实例来了，最高节省50%推理成本的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。