市場被催熟，巨頭進(jìn)場收割。

邊緣智能，人工智能的最后一公里，很長一段時間里被創(chuàng)業(yè)者視為得以繞開巨頭打壓的藍(lán)海市場，在今年開始有了微妙的變化。

11 月 13 日機(jī)器之心消息，北京時間今日凌晨 2 點，英特爾在舊金山舉行 2019 人工智能峰會，推出從邊緣到云端到全新 AI 芯片，包括下一代英特爾 Movidius Myriad 視覺處理單元 (VPU)，用于邊緣媒體、計算機(jī)視覺和推理應(yīng)用，以及難產(chǎn)三年終于落地的 Nervana 系列，面向訓(xùn)練 (NNP-T1000) 和面向推理 (NNP-I1000) 的 Nervana 神經(jīng)網(wǎng)絡(luò)處理器 (NNP)。

三條 AI 芯片產(chǎn)品線的發(fā)布，標(biāo)志著英特爾人工智能業(yè)務(wù)獲得實質(zhì)進(jìn)展。

在最近的財報電話會議上，英特爾樂觀地預(yù)測，2019 年人工智能的年收入達(dá)到 35 億美元，高于 2017 年的 10 億美元，完成 2022 年 100 億美元目標(biāo)的三分之一以上。

英特爾透露，在無人機(jī)、相機(jī)、機(jī)器人和自動駕駛汽車等設(shè)備的邊緣計算收入同比增長了 20%。

「這一數(shù)字將逐年增長，基于我們的廣度與深度，已經(jīng)從數(shù)據(jù)中心走到邊緣。」英特爾公司副總裁兼 AI 產(chǎn)品事業(yè)部總經(jīng)理 Naveen Rao 表示。

邊緣端性能十倍提升

英特爾詳細(xì)介紹了代號為 Keem Bay 的下一代 Movidius Myriad 視覺處理單元（VPU），該單元針對邊緣推理任務(wù)進(jìn)行了優(yōu)化。

英特爾物聯(lián)網(wǎng)副總裁喬納森·巴倫（Jonathan Ballon）表示，該芯片擁有一種新的片上存儲器架構(gòu)，具有 64 位存儲器帶寬，性能是上一代產(chǎn)品的約 10 倍。

機(jī)器之心現(xiàn)場實拍。

巴倫稱：「它將以比同類產(chǎn)品低一倍的性能，幾分之一的尺寸和成本來提供優(yōu)于 GPU 的性能。」

Keem Bay 中封裝了用于計算機(jī)視覺的專用芯片和 12 個可加快運行速度的專用（SHAVE）處理器內(nèi)核，可使用 Myriad Development Kit（MDK）進(jìn)行編程，從而兼容更多 AI 算法。

英特爾表示，Keem Bay 的功耗是 Nvidia 的 Jetson TX2 的四分之一，比華為昇騰（Ascend）310 計算速度快 1.25 倍。在特定情況下，能效比競爭對手的處理器高六倍，每秒提供的 TOPS 推理量是 Nvidia 的 Xavier 的四倍。

該款芯片將在 2020 年上半年推出，包括 PCI Express 和 M.2 等形式。

早在 2016 年 9 月，英特爾就收購總部位于圣馬特奧的 AI 初創(chuàng)團(tuán)隊 Movidius，設(shè)計用于計算機(jī)視覺的專用低功耗處理器芯片，為其終端算力市場步下重要一子。

2017 年，英特爾推出 Myriad 2，被 Google 的 Clips 相機(jī)，大疆的 Phantom 4 無人機(jī)，和國內(nèi)安防市場的高端攝像頭所采用。

隨后推出的 Myriad X 具有改進(jìn)的成像和視覺引擎，包括附加的可編程 SHAVE 內(nèi)核和升級的視覺加速器，以及支持多達(dá) 8 個高清傳感器的本地 4K 圖像處理器管線。

參考英偉達(dá)在軟件生態(tài)的深厚基礎(chǔ)而能厚積薄發(fā)，這次巴倫也著重強(qiáng)調(diào)了，英特爾在軟件與開發(fā)工具方面的努力，使用英特爾 OpenVINO 工具包的客戶可以獲得大約 50％的額外性能。

基于 OpenVINO 工具包，Edge AI DevCloud 能夠?qū)o人機(jī)和攝像頭等邊緣設(shè)備進(jìn)行 AI 原型和測試，開發(fā)人員可以使用現(xiàn)有工具和框架免費測試和優(yōu)化 OpenVINO 中用于 Intel 硬件（例如 CPU 或 FPGA）的模型。

隨著 Edge AI DevCloud 的發(fā)布，客戶現(xiàn)在能夠使用在夏季推出的 Deep Learning Workbench 工具進(jìn)行建模和仿真，然后將其免費部署在開發(fā)云中的各種不同硬件配置上。

Ballon 在與 VentureBeat 的一次對話中稱，OpenVINO 是英特爾歷史上增長最快的工具。

2018 年 5 月，英特爾首次向開發(fā)人員和制造商提供 OpenVINO 或開放式視覺推理和神經(jīng)網(wǎng)絡(luò)優(yōu)化，以使用英特爾硬件進(jìn)行深度學(xué)習(xí)推理。

OpenVINO 支持從 CPU，GPU 和 FPGA 到 Intel Movidius 神經(jīng)計算棒的一系列機(jī)器學(xué)習(xí)加速器。該工具包于今年早些時候進(jìn)行了更新，以擴(kuò)展到計算機(jī)視覺應(yīng)用之外，并支持語音和 NLP 模型。

英特爾今天還與 Udacity 一起推出用于物聯(lián)網(wǎng)納米級程序的 Edge AI。據(jù)悉，正在創(chuàng)建的數(shù)據(jù)中有 70％位于邊緣，只有一半將進(jìn)入公共云，其余的將在邊緣存儲和處理。

云端 AI 芯片終商用

在終端之外，英特爾當(dāng)然沒忘最核心的數(shù)據(jù)中心市場，Nervana 產(chǎn)品線難產(chǎn)三年終于落地。

英特爾推出面向 AI 推理和 AI 訓(xùn)練領(lǐng)域的兩個系列產(chǎn)品，分別是神經(jīng)網(wǎng)絡(luò)訓(xùn)練處理器（Intel Nervana NNP-T）和神經(jīng)網(wǎng)絡(luò)推理處理器（Intel Nervana NNP-I），作為英特爾為云端和數(shù)據(jù)中心客戶提供的首個針對復(fù)雜深度學(xué)習(xí)的專用 ASIC 芯片。

訓(xùn)練芯片 NNP-T 采用臺積電 16nm 制程工藝，擁有 270 億個晶體管，硅片總面積達(dá) 680 平方毫米，支持所有主流深度學(xué)習(xí)框架。

機(jī)器之心現(xiàn)場實拍。

推理芯片 NNP-I 基于英特爾 10nm Ice Lake 處理器架構(gòu)，在 ResNet50 上的效率可達(dá) 4.8 TOPs/W，功率范圍為 10W 到 50W 之間，同樣支持所有的主流深度學(xué)習(xí)框架。

早在 2016 年，英特爾就提出啟動 Nervana 神經(jīng)網(wǎng)絡(luò)處理器的項目研發(fā)，直到今年才正式揭曉，并宣告正式投入生產(chǎn)，并實現(xiàn)商用。

值得注意的是，這兩款產(chǎn)品面向百度、 Facebook 等前沿人工智能客戶，并針對這些企業(yè)的 AI 處理需求進(jìn)行定制開發(fā)。

談到英特爾 Nervana 的獨特性和優(yōu)勢時，英特爾公司人工智能產(chǎn)品事業(yè)部副總裁、推理產(chǎn)品事業(yè)部總經(jīng)理 Gadi Singer 向機(jī)器之心表示，主要集中在功效、功能、規(guī)模化三個方面。

1）在功效方面，Nervana 提供了非常節(jié)能的構(gòu)建模塊 (building blocks)，大概能提供 10 到 15 瓦的解決方案，可以單獨使用，也可以基于需求將多個模塊集成。因此無論大小，都能滿足用戶在任何級別上構(gòu)建解決方案。

2）多功能性。不同于市面上的圖像或語音單功能處理器，Nervana 的立項之初就是必須支持多種用途。通過構(gòu)建一組深度學(xué)習(xí)的功能，可以被應(yīng)用多個不同類型的機(jī)器學(xué)習(xí)任務(wù)中。

因為在大型云服務(wù)應(yīng)用某些內(nèi)容時，需要以多種形式使用它，因此需要在廣泛的范圍內(nèi)提供良好的解決方案。

深度學(xué)習(xí)變化得如此之快，AI 從某個研究實驗室到或公司開始主意到開發(fā)再到部署可能只需要不到一年的時間，就好比去年 BERT 出來時，三個月內(nèi)大家對它進(jìn)行了廣泛的試驗，一年之內(nèi)對其進(jìn)行了非常大規(guī)模的部署。

在瞬息萬變的環(huán)境下，研發(fā)出一個能隨時『準(zhǔn)備就緒』的通用解決方案，我們才可以解決甚至還沒有被廣泛關(guān)注的新問題。因此，我們的架構(gòu)是使用構(gòu)建模塊不斷進(jìn)行重組。

3）最后是規(guī)模化，比起硬件方面，更多組員主攻的是軟件這個部分。軟件對整個解決方案的優(yōu)化非常關(guān)鍵，比如軟件能了解在不同的內(nèi)存位置以及使用這些功能分別需要的時長，軟件能每個數(shù)據(jù)模塊的使用頻率并把它們放置在正確的位置上，讓你可以最高效地使用推理計算引擎。

Nervana 架構(gòu)與某些單一用途的同類產(chǎn)品不同，使用帶有接口通道的 API 分層構(gòu)建它。最底層的 API 直接與硬件打交道，然后中間會有一些類似于圖譜節(jié)點的 API，像是深度學(xué)習(xí)圖譜中的高級計算單元，然后最高層的軟件層將它們映射到用戶所需要的任何應(yīng)用程序接口中。

巨頭掘力終端

不止于英特爾，細(xì)心觀察就會發(fā)現(xiàn)，今年巨頭發(fā)力終端和邊緣端的算力市場比以往聲量更大。這在某種意義上也標(biāo)志著終端 AI 芯片市場的成熟，巨頭開始收割。

1、英偉達(dá)

Jetson 是英偉達(dá)在面向嵌入式市場的產(chǎn)品線，正是對標(biāo)英特爾 Movidius。區(qū)別于其他邊緣 SoC 的特點，Jetson 家族強(qiáng)調(diào)并行運行多個神經(jīng)網(wǎng)絡(luò)。

截至目前，Jetson 已發(fā)布四個系列，包括 Jetson TX1、Jetson TX2、Jetson Nano、Jetson Xavier NX，主要部署在邊緣與終端應(yīng)用上，適用于機(jī)器人、無人機(jī)和智能攝像頭等應(yīng)用。

2017 年，英偉達(dá)推出首款采用 Pascal GPU 架構(gòu)（16 nm 工藝）的芯片 Jetson TX2，大小相當(dāng)于一張信用卡。官方給出的數(shù)據(jù)顯示，TX2 可在 MAX Q、MAX P 兩種狀態(tài)下運行，功耗在 7.5W-5W。

2018 年，英偉達(dá)發(fā)布 Jetson 系統(tǒng)級模塊——AGX Xavier，可提供工作站級別的任務(wù)執(zhí)行性能。AGX Xavier 有 10W/15W/30W 三種選擇，神經(jīng)網(wǎng)絡(luò)運算輸出為 32TOPS，可應(yīng)付多達(dá)四路的 HEFC 4K 、60fps 視頻流。

而就在上周，英偉達(dá)進(jìn)一步推出 Jetson 的最新成員 Jetson Xavier NX，號稱「全球最小邊緣超算」。

可提供高達(dá) 14 TOPS（功耗為 10W 時）或 21 TOPS（功耗為 15W 時）的性能，能夠并行運行多個神經(jīng)網(wǎng)絡(luò)，并在與 Nano 同樣尺寸（70x45mm）的小巧外形中同時處理來自多個高分辨率傳感器的數(shù)據(jù)。

Xavier NX 將于明年 3 月開始發(fā)售，價格 399 美元。

與此同時，英偉達(dá)為 Jetson 配置了一套開放式平臺和完整的 AI 軟件堆棧 JetPack SDK，可以運行復(fù)雜的 AI 網(wǎng)絡(luò)，并用于深度學(xué)習(xí)的加速庫以及計算機(jī)視覺、計算機(jī)圖形、多媒體等。

2、谷歌

今年年早些時候，谷歌推出名為 Coral 的本地終端 AI 平臺，是 TPU 的邊緣芯片版本，強(qiáng)調(diào)以低功耗水平提高出色的 ML 推理性能。能夠以良好的功率表現(xiàn)執(zhí)行 MobileNet v2 等最先進(jìn)的移動視覺模型，且 fps 可達(dá) 100 以上。

Coral USB 加速棒（圖左）與第一代英特爾神經(jīng)計算棒（圖右）。

基于 Corel 平臺，谷歌發(fā)布了五款設(shè)備，分別是單板計算機(jī)「Coral Dev Board」、支持 Raspberry Pi 或 Debian Linux 計算機(jī)的 USB 加速器、對應(yīng) Dev Board 的 500 萬像素鏡頭模塊、 Dev Board 的系統(tǒng)模塊（SoM），和輕易將機(jī)器學(xué)習(xí)加速器 Edge TPU 與現(xiàn)有計算機(jī)系統(tǒng)整合的 PCI-E 加速器。

3、華為

看國內(nèi)市場，當(dāng)屬華為作為風(fēng)向標(biāo)。

去年，華為發(fā)布全面自研芯片信號，昇騰則是其推出的首款面向邊緣計算品牌，采用華為自有的達(dá)芬奇架構(gòu)（12nm 工藝），使用華為自有的高效靈活 CISC 指令集。

昇騰系列除了瞄準(zhǔn)機(jī)器人、智能制造等終端智能產(chǎn)品，同時也是華為在安防智能攝像頭和邊緣計算的重要布局。

昇騰 310 最大功耗為 8W，半精度（FP16）運算能力 8TFLOPS，整數(shù)精度（INT8）16TOPS，支持 16 通道全高清視頻解碼（H.264/265）。在今年上半年正式推出。

AI 芯片創(chuàng)業(yè)壓力加劇

很長一段時間里，由于云端 AI 芯片市場被集中壟斷，同時更加依賴生態(tài)，導(dǎo)致大部分 AI 芯片的初創(chuàng)公司都將目標(biāo)瞄準(zhǔn)在邊緣和終端市場，以各種 AI 加速器或 SoC 芯片的形式走向市場。

通過獨特的架構(gòu)設(shè)計以及領(lǐng)先的性能指標(biāo)的芯片，以求在分散而潛力巨大的物聯(lián)網(wǎng)市場分得一杯羹。

如今，英特爾 Myriad Keem Bay、英偉達(dá) Jetson Xavier NX 的推出不僅標(biāo)志著巨頭邊緣端 AI 芯片布局的完善和實力的進(jìn)一步增強(qiáng)，同時也是邊緣端芯片市場競爭更加激烈的強(qiáng)烈信號。

巨頭的 AI 芯片觸角蔓延至邊緣端，將讓 AI 芯片初創(chuàng)公司面臨著更加嚴(yán)峻的生存挑戰(zhàn)。

第三屆機(jī)器之心「Synced Machine Intelligence Awards」年度獎項評選正在進(jìn)行中。本次評選設(shè)置六大獎項，重點關(guān)注人工智能公司的產(chǎn)品、應(yīng)用案例和產(chǎn)業(yè)落地情況，基于真實客觀的產(chǎn)業(yè)表現(xiàn)篩選出最值得關(guān)注的企業(yè)，為行業(yè)帶來實際的參考價值。

總結(jié)

以上是生活随笔為你收集整理的继英伟达最小边缘超算，英特尔再推10倍VPU，终端AI芯片竞争加剧的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。