戳藍(lán)字“CSDN云計(jì)算”關(guān)注我們哦！

作者：劉晶晶

針對(duì)用戶需要優(yōu)化傳統(tǒng)云主機(jī)框架卻無從下手的現(xiàn)實(shí)情況，金山云攜手英特爾打造出了AI as a Service這種全新解決方案，據(jù)說能將軟硬件優(yōu)勢(shì)很大程度發(fā)揮出來，如此“神仙級(jí)解決方案”究竟內(nèi)藏什么玄機(jī)？快來了解一下！

當(dāng)看到英特爾和金山云聯(lián)合打造了一種“AI as a Service”新解決方案的時(shí)候，阿晶不免吃驚又有點(diǎn)兒小迷糊。

如今我們發(fā)現(xiàn)，云計(jì)算和AI在越來越多的領(lǐng)域相遇之后，各種“即服務(wù)”絕對(duì)是雨后春筍、層出不窮。為了保障自身在激烈的企業(yè)級(jí)競爭中處于優(yōu)勢(shì)地位，大家似乎紛紛尋求可以將AI集成在自身應(yīng)用的產(chǎn)品，簡單又流行且基于云的AI產(chǎn)品與服務(wù)(AIaaS)新解決方案就這么猝不及防地誕生啦！

“平臺(tái)”與“優(yōu)化”被圈定為關(guān)鍵詞

有一點(diǎn)可以肯定的是，金山云在業(yè)務(wù)體系中早已“配置”了AI方面的技術(shù)團(tuán)隊(duì)，關(guān)于這點(diǎn)，在與金山云計(jì)算研發(fā)總監(jiān)楊峰的交談中也得到了證實(shí)。如果要進(jìn)一步比較“AI as a Service”與其AI 技術(shù)的差異，恐怕就是應(yīng)用層（可以給用戶提供圖像識(shí)別、人臉識(shí)別為代表的應(yīng)用等優(yōu)化服務(wù)）與平臺(tái)層的區(qū)別了，同時(shí)這也成為“AI as a Service”的“特立獨(dú)行”之處。

圖片來源網(wǎng)絡(luò)

正如楊峰對(duì)阿晶等在場記者所言，對(duì)于“AI as a Service”來說，金山云計(jì)算業(yè)務(wù)方面主要提供底層平臺(tái)的支持，例如云主機(jī)、云服務(wù)器等，這種支持以及優(yōu)化主要集中在平臺(tái)本身，不是用戶操作系統(tǒng)或者應(yīng)用層面的優(yōu)化，例如硬件的更新等?！按送?#xff0c;還會(huì)在此基礎(chǔ)上完成一些解決方案的提供，例如針對(duì)某個(gè)操作系統(tǒng)預(yù)裝一個(gè)應(yīng)用軟件進(jìn)行優(yōu)化等，但這種范圍內(nèi)的支持與優(yōu)化工作并不局限于AI?！?/span>

更重要的一點(diǎn)，我覺得，大部分對(duì)AI 有訴求的企業(yè)不是希望平臺(tái)層有超乎想象的業(yè)務(wù)處理能力，就是寄托在應(yīng)用解決方案的角度被提供更好的選擇，金山云與英特爾這波“AI as a Service”新解決方案正好屬于前者。如今，通過此類優(yōu)化方案來突出自身的優(yōu)勢(shì)，并在風(fēng)起云涌的AI浪潮中增加一項(xiàng)“技能”，可謂明智之舉。

聊畢“AI as a Service”的平臺(tái)屬性，據(jù)阿晶進(jìn)一步了解，“AI as a Service”新解決方案的點(diǎn)子其實(shí)主要來源于一種優(yōu)化思想。

作為密切的合作伙伴，英特爾技術(shù)對(duì)此表示：“從我們的角度出發(fā)，不同的應(yīng)用場景肯定會(huì)出現(xiàn)差異性的需求，但在具體的操作過程中針對(duì)框架優(yōu)化的問題是個(gè)困難之處。簡單來說‘機(jī)器通常都很強(qiáng)悍，但沒有經(jīng)過優(yōu)化的話這些機(jī)器工作起來的效果可能還是不盡如人意，所以嘗試開發(fā)一套固定的實(shí)例，將可以前期完成的優(yōu)化都預(yù)制到云主機(jī)上，用戶使用無需重新安裝以及配制，其中的性能就可以達(dá)到幾倍甚至幾十倍的提升。”同時(shí)，在英特爾看來，單純硬件層面的提升能給性能帶來一個(gè)數(shù)量級(jí)的提升，但如果能夠結(jié)合硬件和軟件組合進(jìn)行提升，將會(huì)直接帶來兩個(gè)以上數(shù)量級(jí)的提升。因此，在追求優(yōu)化目標(biāo)的基礎(chǔ)上，基于金山云主機(jī)，增強(qiáng)軟件優(yōu)化，尋求通用性能解決，是英特爾此次嘗試的重要出發(fā)點(diǎn)。

關(guān)于“AI as a Service”新解決方案的源起，其實(shí)早在今年4月，金山云在同英特爾方面交流的過程中就提到，基礎(chǔ)平臺(tái)具備的前提下，用戶針對(duì)平臺(tái)基礎(chǔ)上的優(yōu)化其實(shí)是比較欠缺的。“如果將英特爾相關(guān)技術(shù)加入平臺(tái)其中，即針對(duì)TensorFlow、Caffe這兩個(gè)軟件框架，使用最新至強(qiáng)平臺(tái)上的AVX-512指令去做軟件優(yōu)化，相比之前有很大的系統(tǒng)集成性，用戶就可以更關(guān)注業(yè)務(wù)層面的邏輯，未來以這種方式推出的新服務(wù)類型，可以被稱為是AI增強(qiáng)，最終可以給客戶帶來成本的降低以及效率的提升。”楊峰說。

聽過楊峰的總結(jié)，我認(rèn)為該服務(wù)或者說解決方案，可以在本質(zhì)上被認(rèn)同是一種優(yōu)化的、增強(qiáng)型服務(wù)，使用該服務(wù)之后無需關(guān)注協(xié)議、框架之類的基礎(chǔ)優(yōu)化工作，而是可以做到將企業(yè)精力聚焦到業(yè)務(wù)本身的功能和穩(wěn)定性上，提高效率并有效降低成本。

為何選擇TensorFlow以及Caffe？

群聊中，通過翻看關(guān)于“AI as a Service”的背景資料，即“基于最新發(fā)布的英特爾第二代至強(qiáng)可擴(kuò)展處理器，金山云在其三代云主機(jī)中安裝了針對(duì)至強(qiáng)可擴(kuò)展處理器優(yōu)化過的TensorFlow和Caffe，打造了基于英特爾架構(gòu)的AI解決方案，顯著加速AI運(yùn)算過程，尤其是加速深度學(xué)習(xí)的推理過程，獲得了在英特爾?至強(qiáng)?可擴(kuò)展處理器上最佳的運(yùn)行性能”的表述，我果斷注意到“TensorFlow和Caffe”等熱詞，或許你和阿晶一樣存在疑問：這種神一般的優(yōu)化只限于TensorFlow以及Caffe嗎？

關(guān)于此類問題，好伙伴英特爾表示有話要說。“我們針對(duì)AI 方面的優(yōu)化，原則上是所有CPU都適用的。具體操作會(huì)在硬件層面加入一個(gè)加速庫，名為MKL-DNN，這是專門為深度學(xué)習(xí)加速的，而且是開源的。有了底層的硬件，再配齊數(shù)學(xué)加速庫之后，上面一層就是各種各樣的開源框架，包括TensorFlow和Caffe，當(dāng)然也同時(shí)包括其他的一些目前來看可能使用率比較低的框架?！?/span>

之所以在金山云的云主機(jī)上選擇TensorFlow和Caffe，英特爾表示主要是根據(jù)用戶需求來選定的，畢竟這兩個(gè)框架在使用率上比較高?！拔磥砦覀兊暮献鞣?wù)中，針對(duì)豐富的客戶反饋和多元化的應(yīng)用場景，當(dāng)然還會(huì)加入更多的開源框架，這是一個(gè)長期持續(xù)性的過程，但不變的是我們的最終目標(biāo)就是將平臺(tái)能力更好地釋放出來，最終實(shí)現(xiàn)強(qiáng)強(qiáng)組合。”

此外，英特爾與金山云合作由來已久，且英特爾跟金山云的合作是全方面的，還涵蓋金山云的基礎(chǔ)的云平臺(tái)、大數(shù)據(jù)、PaaS平臺(tái)，包括在上面的CDN、視頻云等等。但其實(shí)除了金山云之外，有很多互聯(lián)網(wǎng)公司甚至是其他性質(zhì)的企業(yè)都積極倡導(dǎo)自身具有AI能力。但依照過往的經(jīng)驗(yàn)來看，就算是體量很大的企業(yè)也不一定知道框架如何被優(yōu)化來更好地發(fā)揮功能，所以對(duì)兩家企業(yè)來講真正滿足用戶需要是關(guān)鍵，對(duì)此金山云方面也表示高度認(rèn)同。如此看來這套服務(wù)是不針對(duì)具體的企業(yè)性質(zhì)以及體量有明確的指向性了。

關(guān)于未來，哪些升級(jí)迭代還值得期待？

關(guān)于該服務(wù)的技術(shù)升級(jí)，想必是很多開發(fā)者與企業(yè)著重關(guān)注的，對(duì)此阿晶特別整理了群聊中雙方的表達(dá)，供大家參考，是否有驚喜？

英特爾技術(shù)方面：簡單來說，英特爾會(huì)繼續(xù)深化與金山云的合作，基于最新發(fā)布的第二代至強(qiáng)可擴(kuò)展處理器，我們會(huì)引入一個(gè)新的指令叫VNNI，來源于英特爾為深度學(xué)習(xí)專門做的一系列加速指令集-英特爾Deep Learning Boost (DL Boost)。

所謂的VNNI，就是在AI上，除了現(xiàn)在使用的單精度浮點(diǎn)數(shù)這種支持運(yùn)算之外，還會(huì)做8位INT數(shù)據(jù)的運(yùn)算，這一點(diǎn)會(huì)在非常多的深度學(xué)習(xí)的模型上對(duì)模型做一個(gè)轉(zhuǎn)化優(yōu)化。

轉(zhuǎn)化優(yōu)化之后，它的吞吐量會(huì)有直觀效果的提升，例如圖片處理，每秒處理多少張圖片會(huì)有非常大的性能提升；再比如說用單精度浮點(diǎn)數(shù)，原本每秒只能處理100張，當(dāng)通過VNNI指令加速之后有可能做到處理200多張甚至是300張，當(dāng)然依照不同的模型會(huì)有不同程度的增強(qiáng)。

同時(shí)，無論是往后的CPU，抑或明年的Cooper Lake、Ice Lake，VNNI都會(huì)進(jìn)行兼容支持。這也是英特爾堅(jiān)持建立一個(gè)非常龐大的軟件生態(tài)的原因，我們一直向下兼容，保證用戶開發(fā)的程序在新的硬件平臺(tái)上同樣可以運(yùn)行，同時(shí)我們也會(huì)在軟件生態(tài)方面同步優(yōu)化、迭代，為客戶提供更好的計(jì)算能力。

接下來在Cascade Lake上，通過金山云這樣一個(gè)緊密的合作伙伴，通過云主機(jī)的方式，會(huì)參照其他提供應(yīng)用層需求方面，積極配合做很多優(yōu)化，例如Cascade Lake上支持VNNI，客戶使用起來會(huì)有更高的性價(jià)比表現(xiàn)。

此外，整體的成熟上線也是一個(gè)過程：第一批先匹配的是Skylake，就是第一代至強(qiáng)可擴(kuò)展處理器；第二代至強(qiáng)可擴(kuò)展處理器也會(huì)隨著整個(gè)金山云的規(guī)模的上線去做相應(yīng)的優(yōu)化匹配等，更重要的一點(diǎn)是客戶需求可以加速升級(jí)過程。從云平臺(tái)角度來講，能夠把這個(gè)能力整體釋放出來，包括穩(wěn)定性、性能等，可以看到還有很多工作要做。

金山云計(jì)算研發(fā)總監(jiān)楊峰：從硬件角度來說，我們持續(xù)跟進(jìn)并引入新硬件；從軟件角度來說，我們要適配這個(gè)硬件，例如Skylake，增加了AVX-512這個(gè)指令集，我們自己的服務(wù)也要進(jìn)行適配，能夠讓客戶看到并使用這個(gè)AVX-512指令集，要把這個(gè)能力釋放給用戶，并有顯著效果。

引用一段IDC的研究資料作為結(jié)尾：據(jù)了解截止到2021年，全球企業(yè)們對(duì)AI系統(tǒng)的支出將保持50.1%的年復(fù)合增長率，這說明企業(yè)對(duì)此類技術(shù)的總支出將會(huì)從2017年的120億美元增加到2021年的576億美元。此外值得注意的一點(diǎn)，這些支出中有很大一部分將用于基于云的AI服務(wù)。結(jié)論很顯然，企業(yè)對(duì)AIaaS產(chǎn)生了需求，而云服務(wù)商也對(duì)此做出了積極回應(yīng)，這也充分說明，類似于金山云與英特爾的“強(qiáng)強(qiáng)聯(lián)手”將會(huì)進(jìn)入一個(gè)前所未有的豐富期。

福利

掃描添加小編微信，備注“姓名+公司職位”，加入【云計(jì)算學(xué)習(xí)交流群】，和志同道合的朋友們共同打卡學(xué)習(xí)！

推薦閱讀：

• 一場全能的開發(fā)者大會(huì)，來自助力開發(fā)者成功進(jìn)階的華為云

• 抖音微博等短視頻千萬級(jí)高可用、高并發(fā)架構(gòu)如何設(shè)計(jì)？

• 20大5G關(guān)鍵技術(shù)

• Fast.ai：從零開始學(xué)深度學(xué)習(xí) | 資源帖

• 10個(gè)簡單小竅門帶你提高Python數(shù)據(jù)分析速度（附代碼）

• 程序員爬取 3 萬條評(píng)論，《長安十二時(shí)辰》槽點(diǎn)大揭秘！

• 暗網(wǎng)竟成比特幣最大用戶? 上半年5.15億美元被用于非法活動(dòng)
  

  
  真香，朕在看了！

總結(jié)

以上是生活随笔為你收集整理的群聊金山云与英特尔的“AI as a Service”，你都get到了什么？的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。