日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問(wèn) 生活随笔!

生活随笔

當(dāng)前位置: 首頁(yè) > 编程资源 > 编程问答 >内容正文

编程问答

鹏城实验室开源技术总师余跃:新一代人工智能开源生态的探索与实践

發(fā)布時(shí)間:2023/12/8 编程问答 34 豆豆
生活随笔 收集整理的這篇文章主要介紹了 鹏城实验室开源技术总师余跃:新一代人工智能开源生态的探索与实践 小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

人工智能自誕生以來(lái),理論和技術(shù)日益成熟,應(yīng)用領(lǐng)域也不斷擴(kuò)大,可以設(shè)想,未來(lái)人工智能帶來(lái)的科技產(chǎn)品,將會(huì)是人類(lèi)智慧的“容器”。現(xiàn)如今,人工智能技術(shù)已經(jīng)深入到我們生活的方方面面,為我們生活帶來(lái)了諸多便捷,它有很多優(yōu)點(diǎn):提高效率、提高預(yù)測(cè)能力、加強(qiáng)質(zhì)量控制、提高創(chuàng)新能力、提供便利

2022年7月21日,由中國(guó)開(kāi)源軟件推進(jìn)聯(lián)盟主辦,賽迪傳媒、《軟件和集成電路》雜志社聯(lián)合承辦,CSDN 獨(dú)家直播的“第十七屆開(kāi)源中國(guó)開(kāi)源世界高峰論壇”上,國(guó)防科技大學(xué)副研究員、鵬城實(shí)驗(yàn)室開(kāi)源技術(shù)總師余躍帶來(lái)了《新一代人工智能開(kāi)源生態(tài)的探索與實(shí)踐》演講。

余躍表示,“開(kāi)源與技術(shù)發(fā)展的脈絡(luò)緊密相關(guān),人工智能是比較經(jīng)典的Gartner曲線,現(xiàn)在處于Gartner曲線前期,也就是在蓄勢(shì)期階段。在黃金時(shí)期開(kāi)源能快速形成生態(tài),形成核心競(jìng)爭(zhēng)力。但我們認(rèn)為現(xiàn)在人工智能多項(xiàng)技術(shù)其實(shí)還處于蓄勢(shì)期,所以應(yīng)該把握好在開(kāi)源黃金期快速建立生態(tài)能力。”

以下為余躍演講實(shí)錄:

各位開(kāi)源高峰論壇的朋友大家好,很高興代表Openl啟智社區(qū)跟大家分享我們?cè)谛乱淮斯ぶ悄荛_(kāi)源生態(tài)的探索和實(shí)踐,我是此次報(bào)告的匯報(bào)人余躍。

開(kāi)源已成為科技創(chuàng)新的主要發(fā)展模式,從計(jì)算機(jī)時(shí)代到互聯(lián)網(wǎng)時(shí)代,特別是現(xiàn)在人工智能時(shí)代,幾乎所有的基礎(chǔ)軟件,例如框架、算法、核心的模型都以開(kāi)源開(kāi)放的方式對(duì)世界產(chǎn)生各種各樣的服務(wù)。

開(kāi)源與技術(shù)發(fā)展的脈絡(luò)緊密相關(guān),例如人工智能是比較經(jīng)典的Gartner曲線,現(xiàn)在處于Gartner曲線前期,也就是在蓄勢(shì)期階段。在黃金時(shí)期,開(kāi)源能快速形成生態(tài)、核心競(jìng)爭(zhēng)力,但我們認(rèn)為現(xiàn)在人工智能時(shí)代多項(xiàng)技術(shù)其實(shí)還處于蓄勢(shì)期,所以應(yīng)該把握好在開(kāi)源黃金期快速建立生態(tài)能力。

人工智能開(kāi)源面臨的挑戰(zhàn)

人工智能開(kāi)源生態(tài)建立,有以下幾個(gè)挑戰(zhàn)。

一是人工智能軟硬件可行性操作復(fù)雜。比如現(xiàn)在做AI模型需要專(zhuān)業(yè)的加速卡,以及還可能需要英偉達(dá)的GPU、華為昇騰的NPU、寒武紀(jì)的MLU等等,不同的芯片之間有各種各樣的整形機(jī),不同的整形機(jī)需要不同的驅(qū)動(dòng),異構(gòu)芯片也會(huì)導(dǎo)致做AI創(chuàng)新的時(shí)候門(mén)檻增多。算力和數(shù)據(jù)的融合同時(shí)也面臨著巨大的困難,在AI場(chǎng)景下,除了訓(xùn)練之外還有推理的場(chǎng)景,甚至在不同應(yīng)用上對(duì)于推理的效率以及對(duì)于模型部署的效率也有不同的需求。所以整個(gè)AI軟硬件的可行性操作是一個(gè)關(guān)鍵問(wèn)題。

二是對(duì)AI開(kāi)源需要有效的組織。因?yàn)锳I發(fā)展需要各種各樣的數(shù)據(jù)和算法,甚至需要大量的創(chuàng)新人群參與。而我們目前看到的一種是像現(xiàn)在開(kāi)放平臺(tái)一樣的對(duì)外開(kāi)放服務(wù),特別是大模型基礎(chǔ)上來(lái)之后,把大模型變成一個(gè)在線開(kāi)放服務(wù),以微服務(wù)的形式結(jié)合應(yīng)用場(chǎng)景。還有一種是開(kāi)放源碼和開(kāi)放數(shù)據(jù),這是比較傳統(tǒng)的開(kāi)源資源的形式,以及參與到各地的開(kāi)放治理,因?yàn)锳I從業(yè)人群現(xiàn)在逐漸發(fā)展起來(lái),各種各樣的創(chuàng)新智力資源如何有效組織,也是一個(gè)比較關(guān)鍵的挑戰(zhàn)。

三是生態(tài)發(fā)展主導(dǎo)能力挑戰(zhàn)。我國(guó)在開(kāi)源的大形勢(shì)下,在國(guó)際上,雖然現(xiàn)在參與非常多,但想主導(dǎo)一些開(kāi)源的具體項(xiàng)目,能以我為主或者開(kāi)展具有掌控力的生態(tài)級(jí)項(xiàng)目還是比較缺少的,所以我們整體對(duì)于開(kāi)源的主導(dǎo)力需要加強(qiáng)。

帶著這樣的一些挑戰(zhàn)和思考,我們希望通過(guò)啟智社區(qū)構(gòu)建新一代人工智能的開(kāi)源生態(tài)。其中最核心的就是面對(duì)三個(gè)關(guān)鍵問(wèn)題——AI軟硬件的可行性操作、開(kāi)放資源有效組織以及生態(tài)長(zhǎng)期發(fā)展閉環(huán),我們準(zhǔn)備搭建新一代人工智能的服務(wù)環(huán)境,里面包括先進(jìn)的基礎(chǔ)設(shè)施,形成統(tǒng)一的服務(wù)模式。希望用這樣的服務(wù)平臺(tái),不斷匯聚各種各樣的開(kāi)放資源,提供安全可靠的保障機(jī)制,通過(guò)有效的運(yùn)營(yíng)和社區(qū)組織來(lái)培育長(zhǎng)效活躍的開(kāi)發(fā)者生態(tài)。

總的來(lái)講,需要通過(guò)五個(gè)方面解決這三個(gè)關(guān)鍵問(wèn)題,下面我簡(jiǎn)單介紹一下啟智社區(qū)依托的骨干力量,也是現(xiàn)在國(guó)家的科技戰(zhàn)略力量——鵬城實(shí)驗(yàn)室。

鵬城實(shí)驗(yàn)室

在實(shí)驗(yàn)室的三橫三縱布局模式下,以網(wǎng)絡(luò)、通信以及智能為縱軸,以軟件與系統(tǒng)、電路與系統(tǒng)、數(shù)學(xué)與算法為三橫布局整個(gè)研究。我們整體的任務(wù)落在網(wǎng)絡(luò)智能的方向上,與軟件與系統(tǒng)以及平臺(tái)型的能力緊密相關(guān)。

當(dāng)前最核心的就是打造了鵬城云腦的大科學(xué)裝置,并且希望通過(guò)云態(tài)的智能平臺(tái)支持大規(guī)模的開(kāi)源開(kāi)放共享的網(wǎng)絡(luò)智能的有效激發(fā)和匯聚。

首先整個(gè)云腦是一個(gè)持續(xù)演進(jìn)的技術(shù)路線,為上層應(yīng)用提供強(qiáng)有力算力的支撐,現(xiàn)在云腦主要的算力來(lái)源就是鵬城云腦2號(hào),以華為的NPU算力昇騰910為主要算力模式提供,未來(lái)可能還會(huì)演進(jìn)到云腦2號(hào)、云腦3號(hào)。底層目前正在打造一個(gè)希望能連通各種智算中心,包括超算中心當(dāng)中的智能算力,以及東數(shù)西算的核心樞紐節(jié)點(diǎn)。形成一個(gè)智能算力的網(wǎng)絡(luò)結(jié)合云腦的計(jì)算裝置,為開(kāi)源創(chuàng)新提供強(qiáng)有力的基礎(chǔ)設(shè)施。

我們打造了一個(gè)屏蔽底層各種異構(gòu)芯片以及驅(qū)動(dòng)層,包括計(jì)算框架層的開(kāi)發(fā)平臺(tái),部署了一站式的流水線,包括協(xié)同開(kāi)發(fā)、數(shù)據(jù)管理、模型調(diào)試、模型訓(xùn)練、在線推理以及模型部署的在線服務(wù)。對(duì)外可以看到項(xiàng)目、數(shù)據(jù)、模型庫(kù)、鏡像庫(kù),包括各種各樣異構(gòu)算力的運(yùn)行環(huán)境;有組織和開(kāi)發(fā)者個(gè)人模式,能為做開(kāi)源創(chuàng)新的人群提供重要的服務(wù)。

在組織模式之上,打造了一個(gè)一體兩翼的開(kāi)源創(chuàng)新模式,在探索以聯(lián)盟為主體的模式下構(gòu)建開(kāi)源社區(qū)。希望以云腦基礎(chǔ)加上開(kāi)放平臺(tái)為主體,兩翼打造以技術(shù)專(zhuān)家為主體的技術(shù)工作組和以企業(yè)為主體的應(yīng)用推進(jìn)組,中間形成標(biāo)準(zhǔn)和開(kāi)源雙驅(qū)動(dòng)的模式,在各行各業(yè)的應(yīng)用當(dāng)中提煉標(biāo)準(zhǔn),并通過(guò)開(kāi)源形成對(duì)于標(biāo)準(zhǔn)的參考以及未來(lái)生態(tài)建設(shè)的入口,所以我們?cè)诩夹g(shù)工作組中專(zhuān)門(mén)成立了開(kāi)源工作組,希望以產(chǎn)業(yè)聯(lián)盟的形式,打造一個(gè)開(kāi)源社區(qū)的組織模式。

我們建立了啟智社區(qū)的完整治理模式,從社區(qū)的綱領(lǐng)、組織架構(gòu)、章程、會(huì)員辦法到知識(shí)產(chǎn)權(quán)的管理,形成一個(gè)完整的體系。

這是社區(qū)在2019年7月基于這些項(xiàng)目打造的上層的軟件體系。從2019年開(kāi)始,我們只有少數(shù)的幾個(gè)項(xiàng)目,除了底層的硬件基礎(chǔ)設(shè)施之外,還包括智能集群的運(yùn)行環(huán)境,主要是做集群管理和任務(wù)調(diào)度以及相應(yīng)的軟件開(kāi)發(fā)云。

2020年3月,在形成了十幾個(gè)項(xiàng)目為主體的過(guò)程中,包含了更多的計(jì)算框架,比如Brain++天元曠視的計(jì)算框架,以及針對(duì)于AVS的編解碼的計(jì)算框架,底層也出現(xiàn)了像開(kāi)源芯片指令集架構(gòu)的Openl海藻項(xiàng)目。

2021年11月,已經(jīng)形成了近三十個(gè)項(xiàng)目的體系,垂直方向有更多項(xiàng)目,上層也出現(xiàn)了類(lèi)似脈沖神經(jīng)網(wǎng)絡(luò)、下一代神經(jīng)網(wǎng)絡(luò)的計(jì)算模式開(kāi)源項(xiàng)目,以及開(kāi)源模型庫(kù),像京東貢獻(xiàn)的開(kāi)源供應(yīng)鏈相關(guān)的項(xiàng)目。

2022年7月,我們又多了跨平臺(tái)的開(kāi)發(fā)框架,比如底層出現(xiàn)了安全的環(huán)境,對(duì)抗機(jī)器學(xué)習(xí)的類(lèi)似ARES的項(xiàng)目,以及像TCL貢獻(xiàn)的工業(yè)視覺(jué)的計(jì)算框架。在上層又出現(xiàn)了盤(pán)古、悟道這樣的開(kāi)源大模型,對(duì)于開(kāi)源模型支持的并行訓(xùn)練的類(lèi)似OpenBMB的具體支撐工具和模型轉(zhuǎn)換的相關(guān)工具,以及端邊云布局的工具,總共加起來(lái)有34個(gè)開(kāi)源項(xiàng)目進(jìn)入到孵化軌道,基本完成了國(guó)家對(duì)于新一代人工智能的技術(shù)體系擴(kuò)展。

人工智能開(kāi)源貢獻(xiàn)

在運(yùn)營(yíng)方面,社區(qū)希望能打造以會(huì)員單位為基礎(chǔ)來(lái)發(fā)展生態(tài)的能力,現(xiàn)在有一個(gè)整體運(yùn)營(yíng)中心,希望以后在全國(guó)各地構(gòu)建各種各樣的區(qū)域中心,形成對(duì)全國(guó)的生態(tài)支持能力。

在激勵(lì)方面,我們也發(fā)起了一個(gè)啟夢(mèng)行動(dòng)開(kāi)源激勵(lì)計(jì)劃,三年能提供不少于一千萬(wàn)的獎(jiǎng)勵(lì)資金。通過(guò)定性、定量、中獎(jiǎng)和普惠相結(jié)合的方式激勵(lì)在人工智能方面培育生態(tài)。最終目的是希望能在社區(qū)形成長(zhǎng)效穩(wěn)定的運(yùn)轉(zhuǎn)機(jī)制

從2018年籌劃到2019年開(kāi)張,我們舉辦了很多活動(dòng)。比如啟智集結(jié)號(hào)從2020年底開(kāi)始策劃,到今年3月正式運(yùn)行,總共五期相關(guān)活動(dòng)。從22個(gè)高校近千名開(kāi)發(fā)者當(dāng)中發(fā)現(xiàn)了150余名優(yōu)秀的開(kāi)發(fā)者,這些開(kāi)發(fā)者通過(guò)線上線下相結(jié)合的模式參與。例如首期活動(dòng)是在鵬城實(shí)驗(yàn)室線下舉行的,我們精選了30位優(yōu)秀開(kāi)發(fā)者到實(shí)驗(yàn)室進(jìn)行集中,為期28天的攻關(guān)完成了28個(gè)模型交付,能入庫(kù)華為昇思官方模型庫(kù)。在五期活動(dòng)中,總共產(chǎn)生了160個(gè)優(yōu)秀的AI模型遷移和開(kāi)發(fā),完全移植在鵬城云腦平臺(tái)之上,以計(jì)算框架為主體進(jìn)入到官方驗(yàn)收庫(kù)中,去年年底占了昇思官方模型庫(kù)的60%以上,其中有130多個(gè)都是中高難度的模型。

還有是現(xiàn)在正在開(kāi)展的,今年5-6月正式上線的日常激勵(lì)計(jì)劃,在開(kāi)源社區(qū)舉辦了一系列活動(dòng),比如為開(kāi)源打榜,發(fā)現(xiàn)開(kāi)源Bug,提出好的功能建議,甚至對(duì)別人的評(píng)論給出有價(jià)值的回復(fù)等等,我們都會(huì)記錄下來(lái),并且計(jì)入日常活躍程度。

在為期一個(gè)月的活動(dòng)中,整個(gè)社區(qū)平均每周活躍人數(shù)達(dá)到了上萬(wàn)人,連續(xù)四周入選上榜人數(shù)達(dá)到了692人,其中有70%是來(lái)自高校的學(xué)生,所以我們認(rèn)為在教育行業(yè)也形成了非常好的影響力。

和企業(yè)的聯(lián)合中,比如TCL的工業(yè)視覺(jué)質(zhì)檢模型、依瞳的集群管理等。啟智社區(qū)為依瞳提供了非常好的實(shí)驗(yàn)環(huán)境,在合作過(guò)程中我們也積累了各種各樣的應(yīng)用場(chǎng)景和服務(wù)模式。希望為我國(guó)的AI生態(tài)繁榮貢獻(xiàn)自己的力量。

從整個(gè)社區(qū)的影響力來(lái)看,如果2019年去搜Openl啟智,可能只有17個(gè)結(jié)果,2020年已經(jīng)達(dá)到10萬(wàn)個(gè)結(jié)果。2021年底時(shí),已經(jīng)有320萬(wàn)的相關(guān)搜索結(jié)果。定期的活動(dòng)視頻也得到了很好的宣傳,部分視頻已經(jīng)達(dá)到了上萬(wàn)人的觀看。

有幸的是,去年我們?cè)诳苿?chuàng)中國(guó)榜單上,入選了優(yōu)秀開(kāi)源機(jī)構(gòu)、優(yōu)秀開(kāi)源社區(qū),在行業(yè)乃至整個(gè)中國(guó)開(kāi)源行業(yè)當(dāng)中,形成了一定的影響力。

最后,我希望跟大家分享一句話:“小德川流,大德敦化,此天地之所以為大也。”開(kāi)源一定是這樣的大德力量,通過(guò)不斷地去傳播開(kāi)源力量,從一開(kāi)始參與國(guó)際項(xiàng)目,到慢慢主導(dǎo)國(guó)際項(xiàng)目,再創(chuàng)立開(kāi)源創(chuàng)新項(xiàng)目,吸引更多的人參與以及構(gòu)筑開(kāi)源平臺(tái),開(kāi)啟探索各種各樣的開(kāi)源治理模式,形成未來(lái)生態(tài)的長(zhǎng)效運(yùn)營(yíng),我們相信這一天一定會(huì)到來(lái),并且也愿意為此貢獻(xiàn)我們自己的力量。

謝謝大家。

點(diǎn)擊2022(第十七屆)開(kāi)源中國(guó)開(kāi)源世界高峰論壇-CSDN直播,查看更多精彩演講內(nèi)容!

總結(jié)

以上是生活随笔為你收集整理的鹏城实验室开源技术总师余跃:新一代人工智能开源生态的探索与实践的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。