日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > windows >内容正文

windows

小扎 All in 开源 AGI:正训练 Llama 3,年底将有 35 万块 H100

發布時間:2024/1/21 windows 44 传统文化
生活随笔 收集整理的這篇文章主要介紹了 小扎 All in 开源 AGI:正训练 Llama 3,年底将有 35 万块 H100 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

小扎宣布新目標:All in 開源 AGI。

不錯,小扎又 All in 了,正是 OpenAI 谷歌必爭之地。

不過在 AGI 之前,著重強調了是 Open Sourse(開源)的。

此舉受到不少好評,一如此前 LIama 系列大模型開源之時。

不過此次又一波 All in,不禁讓網友想起上一波 All in 了:元宇宙去哪里了???

但必須要說的是,此次列的 Flag 確實更具體一些,甚至也透露了一些關鍵數據。

比如,

年底將有 35 萬塊 H100,而包括其他 GPU 在內,總算力將相當于 60 萬塊 H100。

FAIR 團隊的工作將與 GenAI 團隊更為緊密。

LIama 3 即將到來。

最后他還打了個小廣告。他們正在打造以 AI 為中心的新型計算設備,比如 Ray Ban Meta 智能眼鏡。

看來元宇宙還在繼續。

小扎又 All in 了

現在,小扎正式宣布加入 AGI 之爭。

雖然沒有明確的時間表,但作為長期愿景,明確表示兩個關鍵點:

負責任地開源,并廣泛提供,讓每個人都能從中獲益。

而為了實現這一目標,主要有兩件事:

第一,將現有兩大 AI 研究工作團隊(FAIR 和 GenAI)緊密結合在一起。

按照 LeCun 的話說,就是兩個成為兄弟部門。

并表示,Llama-3 is coming!

第二,建設大規模的計算基礎設施:今年年底將擁有 35 萬塊 H100,總算力相當于 60 萬個 H100。

按照 2.5 萬美元至 3 萬美元出售價來測算,總算力價值將達到 150 億美元至 180 億美元。

此前曾有機構預計,2023 年英偉達朝 Meta 的 H100 出貨量能達到 15 萬塊,同微軟持平,并且至少是其他公司的三倍。

為此小扎表示,我們已經建立了這樣的能力,其規??赡鼙热魏纹渌麊为毜墓径即?。

有網友算了算計算能力直呼:大腦大小的模型即將到來。

不過也有人質疑,英偉達應該生產不了那么多。

但有 Meta 領導現身說法:H100 是包含現有在內,一共 35 萬塊。

除此之外,還強調了硬件設備上的進展。

大佬們對于 AGI 的評價

在小扎宣布這一消息之前,不少大佬在達沃斯世界經濟論壇上發表了不少關于 AGI 的評論。

像 LeCun 則在 The Expanding Universe of Generative Models 這一論壇上強調了 AGI 實現路徑中開源的重要性。

我們之所以能在人工智能領域看到如此快速的進步,是因為人們進行了開放研究。

即便他經常對 AGI 很快到來(當然不是在未來五年內)表示懷疑,但 AGI 還是到來了。

而 Transformer 主創 Aidan Gomez 則表示:

目前我們還沒有完成擴展,我們還需要繼續努力。

至于像 OpenAI CEO 阿爾特曼表示,人類水平的人工智能很快到來,但對世界的改變遠比我們想象的要小。

通用人工智能(AGI)可能會在“相當接近的未來”得到開發。

對于 AGI 的發展,你們怎么看?

本文來自微信公眾號:量子位 (ID:QbitAI),作者:白交

廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節省甄選時間,結果僅供參考,所有文章均包含本聲明。

總結

以上是生活随笔為你收集整理的小扎 All in 开源 AGI:正训练 Llama 3,年底将有 35 万块 H100的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。