特斯拉超级计算机Dojo
特斯拉超級計算機(jī)Dojo!
2021年8月15日,特斯拉官方發(fā)布海報,預(yù)熱“特斯拉 AI 日”活動。官方表示,本次活動預(yù)計在北京時間8月20日上午9點(diǎn)舉行,屆時將“邀你見證人工智能的又一次革新”。在這張底色為黑色的海報上,一顆大規(guī)模芯片模組的結(jié)構(gòu)圖格外吸睛。此前,Dojo公開在推特上為“特斯拉AI日”打call,所以不少人猜測,該結(jié)構(gòu)圖展示的可能是特斯拉為超級計算機(jī)Dojo設(shè)計的專用芯片。早在2019年的Autonomous Day上,馬斯克就提到過Dojo,稱Dojo是能夠利用海量視頻數(shù)據(jù),做無人監(jiān)管標(biāo)注和訓(xùn)練的超級計算機(jī)。具備如此優(yōu)異性能的AI芯片很可能在這幾天里揭開神秘的面紗,這讓全球從事AI行業(yè)的人們一下子就坐不住了。
Dojo的發(fā)音源自日語,意指柔道中的練功房。Dojo芯片不僅名字帶著“武俠氣息”,功能也十分強(qiáng)大,這一點(diǎn)從海報上“層層疊起”的芯片模組結(jié)構(gòu)圖中或許可以窺得一二。
有業(yè)內(nèi)人士對海報上的這張芯片圖進(jìn)行了解讀。該業(yè)內(nèi)人士認(rèn)為,圖中的芯片采用了非常規(guī)封裝形式,第一層和第五層銅質(zhì)結(jié)構(gòu)是水冷散熱模塊;紅色圈出的第二層結(jié)構(gòu)由“5*5陣列”共25顆芯片組成;第三層為25個陣列核心的BGA封裝基板;第四層和第七層可能是物理承載結(jié)構(gòu)附帶一些導(dǎo)熱屬性;第六層或許是功率模塊,上面豎著的黑色長條很可能是穿過散熱與芯片進(jìn)行高速通信的互聯(lián)模塊。
雖然在該芯片正式推出之前一切都是猜測,但特斯拉在AI芯片領(lǐng)域的野心早已路人皆知。早在2019年的Autonomous Day上,馬斯克就提到過Dojo,稱Dojo是“能夠利用海量視頻數(shù)據(jù),做無人監(jiān)管標(biāo)注和訓(xùn)練的超級計算機(jī)”。
馬斯克的這番話有兩個重點(diǎn)。第一個重點(diǎn)是海量數(shù)據(jù)的收集。自動駕駛需要搜集大量數(shù)據(jù),進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練,讓車輛變得更聰明?,F(xiàn)階段,特斯拉車輛在特定觸發(fā)條件下會對自動駕駛中的有效數(shù)據(jù)進(jìn)行收集,但獲取到的數(shù)據(jù)量非常龐大。在這種情況下,作為特斯拉自身軟件優(yōu)化過的定制超算,Dojo芯片能夠大大提升數(shù)據(jù)運(yùn)算效率。
馬斯克口中的“做無人監(jiān)管標(biāo)注和訓(xùn)練”是第二個重點(diǎn)。Alpha Go擊敗世界圍棋大師的案例大家都耳熟能詳,無監(jiān)督訓(xùn)練的范例—Alpha Zero。通過對弈,Alpha Zero僅僅用了三天時間就擊敗了Alpha Go Lee,用21天打到了“Alpha Master”水平,一時間難覓對手。特斯拉的“無人監(jiān)管標(biāo)注和訓(xùn)練”與Alpha Zero的無監(jiān)督訓(xùn)練一樣,指的是系統(tǒng)自身通過海量數(shù)據(jù)和以前學(xué)習(xí)的結(jié)果進(jìn)行自動標(biāo)注和調(diào)整,在無需海量研究人員的情況下對神經(jīng)網(wǎng)絡(luò)訓(xùn)練進(jìn)行監(jiān)督,大幅提升訓(xùn)練效率。
通過高效收集海量數(shù)據(jù),對數(shù)據(jù)進(jìn)行超高效率計算,能夠做無監(jiān)督訓(xùn)練的Dojo芯片給AI建了一間“練功房”。走出這間“練功房”后,Dojo芯片很可能與Alpha Zero一樣,短期內(nèi)在各自的領(lǐng)域難覓對手。
自動駕駛的必然選擇
特斯拉成功自研的FSD芯片是一款高性能、為自動駕駛安全保駕護(hù)航的專屬芯片,發(fā)布時在設(shè)計定制上做到了極致,更適應(yīng)基于神經(jīng)網(wǎng)絡(luò)的計算。FSD芯片的高智能化并不足以讓馬斯克感到滿足。通過研發(fā)Dojo芯片,馬斯克想在自動駕駛領(lǐng)域下更大的一盤棋。
研發(fā)Dojo芯片其實(shí)是走穩(wěn)、走好自動駕駛之路。盡管業(yè)內(nèi)風(fēng)頭無兩的FSD芯片功能強(qiáng)大,但正如特斯拉在車主手冊和網(wǎng)站中警告的那樣,特斯拉的自動駕駛和FSD需要人類主動監(jiān)督。一位忽視這個警告的特斯拉車主很快就為大意付出了代價。這位特斯拉車主曾在社交媒體上發(fā)布了使用自動駕駛功能的視頻。在視頻中,沒有把手放在方向盤上。2021年5月份他在南加州的一次車禍中死亡。在各種事故頻發(fā)的背景下,FSD芯片或許需要更強(qiáng)大的AI芯片來“接棒”。目前來看,Dojo芯片極有可能就是下一位關(guān)鍵的“接棒者”。
馬斯克曾在推特上說,只有解決了真實(shí)世界的AI問題,才能解決自動駕駛問題。特斯拉在軟硬件方面均專注于此。無數(shù)的邊緣場景只能通過真實(shí)世界的視覺AI來解決,因?yàn)檎麄€世界的道路就是按照人類的認(rèn)知來建立的。確實(shí),目前自動駕駛領(lǐng)域最需要解決的難題就是感知。
特斯拉搞超算做什么?
CVPR自動駕駛工作坊的演講中,特斯拉的AI帶頭人,高級工程師Karpathy介紹了特斯拉超級計算機(jī)的基本情況。
這臺計算機(jī)群采用了5760個算力為321TFLOPS的英偉達(dá)A100顯卡,組成了720個節(jié)點(diǎn),總算力突破了1.8EFLOPS,10PB的存儲空間(讀寫速度為1.6TBps)。
根據(jù)計算能力來看,這臺超級計算機(jī)排名世界第五。
不僅如此,特斯拉表示,不排除給其他公司提供超級計算機(jī)集群的可能性。
目前排名第一的超算是日本的「富岳」,在機(jī)器學(xué)習(xí)應(yīng)用上的算力超頻之后是2.15EFLOPS,默頻是1.95EFLOPS。
與使用顯卡的超算不同,「富岳」使用的是基于ARM架構(gòu)的A64FX處理器。
「肉」腦駕駛員不行,還是得上「硅」腦
Karpathy在演示中強(qiáng)調(diào),特斯拉將堅定不移地將計算機(jī)視覺技術(shù)作為自動駕駛的核心,并且將自研的超級計算機(jī)用于神經(jīng)網(wǎng)絡(luò)的研究中去。
Karpathy列舉了「肉腦」的幾大罪證:反應(yīng)慢(250ms);需要轉(zhuǎn)頭和看后視鏡來判斷環(huán)境;不好好開車,喜歡玩兒手機(jī)。
緊接著就表示,「硅」腦不僅反應(yīng)快,而且開車全神貫注,不會時不時地就去刷Ins。
以特斯拉的風(fēng)格,但凡講到自動駕駛,就一定要懟一下那個又貴又不好用的Lidar。
Karpathy 分享了特斯拉超級計算機(jī)如何利用計算機(jī)視覺來糾正駕駛員不良行為的一些場景,包括緊急制動、交通參與者監(jiān)測以及紅綠燈識別等等。
另外在演示中,Karpathy還展示了被稱為踏板誤用糾正的功能:當(dāng)車輛檢測到前方有行人或者道路變窄的情況時,當(dāng)駕駛員把油門當(dāng)做剎車踩下,車輛則不會加速。
這項(xiàng)功能推出后不知道那些關(guān)于特斯拉失控的報道會不會有所減少。
經(jīng)過多年研究,特斯拉團(tuán)隊(duì)相信通過監(jiān)督學(xué)習(xí),實(shí)現(xiàn)車輛視覺系統(tǒng)對于外界的感知是一個正確的路線。
目前特斯拉已經(jīng)有超過100萬個大約為10秒鐘的視頻,標(biāo)注出了視頻中60億個物體的距離、加速度以及速度信息,這些數(shù)據(jù)量高達(dá)1.5PB。
要讓特斯拉自己的這套自動駕駛AI達(dá)到足夠的可靠性,還需要更多的時間,這也是為什么特斯拉要制造超級計算機(jī)的原因。
這臺超級計算機(jī)還不是特斯拉的終極目標(biāo),根據(jù)馬斯克的計劃,特斯拉未來的Dojo超級計算機(jī)算力將要達(dá)到每秒鐘exaFLOP的級別,也就是百萬億億次浮點(diǎn)運(yùn)算。
運(yùn)算速度還要超過「富岳」,成為世界第一。
Dojo:給AI打造的「練功房」
特斯拉在去年的自動駕駛大會上公布了Dojo計劃:Dojo將會成為特斯拉用于研發(fā)自動駕駛技術(shù)的平臺。
在2020年的自動駕駛技術(shù)日上,馬斯克不僅向公眾展示了由Jim Keller帶隊(duì)研發(fā)出來的FSD芯片(目前算力最高的駕駛輔助芯片之一),宣布了特斯拉未來將會成為一家Robotaxti公司的野心。
Dojo是特斯拉在自動駕駛之路上一個不可或缺的技術(shù)平臺。
Dojo發(fā)音源自日語,意為在冥想術(shù)或者武術(shù)中的「練功房」。
未來1.5PB的數(shù)據(jù)將在這里「刻苦修煉」。
在超高算力的支持下,特斯拉將會在視覺感知的自動駕駛技術(shù)路線上一路狂奔。
馬斯克說過,特斯拉就是一系列初創(chuàng)公司的集合,超級計算機(jī)可以看做其中一個初創(chuàng)公司的項(xiàng)目。
英特爾、AMD這些芯片大佬們沒想到,居然從汽車圈里突然跑出來一個如此強(qiáng)大的對手。
參考鏈接:
https://www.sohu.com/a/484014485_121134737
https://baijiahao.baidu.com/s?id=1703249429563610941&wfr=spider&for=pc
總結(jié)
以上是生活随笔為你收集整理的特斯拉超级计算机Dojo的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: NCHW与NHWC格式
- 下一篇: 芯片初创公司一亿融资可以烧多久