人工智能芯片支持超低功耗器件的推理

AI chip supports inference in ultra-low-power devices

倫敦——下一代GreenWaves的超低功耗人工智能加速器GAP9，在處理比其前身GAP8大10倍的算法時(shí)，其功耗將減少5倍。新設(shè)備將提供高達(dá)50mW，總功耗為50兆瓦。這要?dú)w功于結(jié)構(gòu)改進(jìn)和最新的FD-SOI（完全耗盡絕緣體上的硅）工藝技術(shù)的結(jié)合。

與上一代設(shè)備一樣，GAP9的目標(biāo)是在網(wǎng)絡(luò)最邊緣的系統(tǒng)中進(jìn)行人工智能推斷，例如小型、電池供電的物聯(lián)網(wǎng)傳感器節(jié)點(diǎn)。例如，GreenWaves的數(shù)據(jù)顯示GAP9在160 x 160圖像上運(yùn)行MobileNet V1，通道縮放僅需12毫秒，功耗為806μW/幀/秒。

總部位于法國格勒諾布爾的GreenWaves選擇了GlobalFoundries的22nm FDX FD-SOI工藝，以最大限度地降低本已是超低功耗架構(gòu)的功耗。

“對于GAP9，利用客戶對GAP8的反饋調(diào)整了GAP8的架構(gòu)，但同時(shí)也轉(zhuǎn)向了市場領(lǐng)先的半導(dǎo)體工藝，”GreenWaves營銷副總裁Martin Croome說。“正在利用FD-SOI中的體偏壓能力來實(shí)現(xiàn)更低的功耗。”

架構(gòu)改進(jìn)

GreenWaves為GAP9做了一些架構(gòu)上的改進(jìn)。

又增加了一個(gè)RISC-V內(nèi)核，使總數(shù)達(dá)到10個(gè)。在某些模式下，一個(gè)核心用作織物控制器以及低強(qiáng)度計(jì)算。其九個(gè)組成一個(gè)計(jì)算集群，共享一級(jí)數(shù)據(jù)區(qū)。這個(gè)集群中的一個(gè)核心（新內(nèi)核）被用作任務(wù)組主機(jī)，計(jì)算內(nèi)存移動(dòng)并管理其8個(gè)核心上的任務(wù)。

內(nèi)部RAM增加了三倍，達(dá)到1.6MB，內(nèi)存帶寬增加到了41.6GB/s，L2達(dá)到了7.2GB/s。

“這（內(nèi)存帶寬）現(xiàn)在對MCU類設(shè)備非常重要，”克羅姆說。

GreenWaves的GAP9超低功耗AI芯片的架構(gòu)現(xiàn)在使用10個(gè)RISC-V內(nèi)核（圖片：GreenWaves）
GAP9架構(gòu)的變化還包括更高的最高頻率；GAP8的時(shí)鐘頻率為175MHz，GAP9將運(yùn)行在或接近400MHz。新的電力狀態(tài)也被加入，包括“昏睡”狀態(tài)，當(dāng)數(shù)據(jù)可以獲得，但功率消耗仍然低于1兆瓦。在這種狀態(tài)下，處理器可以運(yùn)行在一個(gè)低壓差調(diào)節(jié)器（LDO）上，可以快速啟動(dòng)。這使得GAP9第一次指令的時(shí)間縮短到了幾微秒（Croome說，GAP8在等待DC-DC轉(zhuǎn)換器穩(wěn)定下來的過程中花費(fèi)了大約700微秒）。這種快速啟動(dòng)功能在捕獲基于時(shí)間的信號(hào)（如語音）時(shí)非常有用。

所有10個(gè)核心現(xiàn)在都能夠處理“transprecision”浮點(diǎn)數(shù)：IEEE格式16和32位浮點(diǎn)加上支持矢量化的附加8位和16位格式。此功能可用于降低需要浮點(diǎn)運(yùn)算法則的能量需求。GAP9還支持矢量化的4位和2位運(yùn)算，用于開發(fā)深度量化的應(yīng)用程序。

其新功能包括雙向多通道音頻接口。

GAP9預(yù)計(jì)將于2021年實(shí)現(xiàn)量產(chǎn)，并于2020年上半年提供樣品。克羅姆說，預(yù)計(jì)定價(jià)將比GAP8溢價(jià)50%。考慮到不同的時(shí)間、功率數(shù)據(jù)和價(jià)位，該公司預(yù)計(jì)這兩款產(chǎn)品都會(huì)找到未來的市場。

總結(jié)

以上是生活随笔為你收集整理的人工智能芯片支持超低功耗器件的推理的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。