浪潮信息发布大模型智算软件栈 OGAI:为大模型算力提供解决方案
【網(wǎng)易科技8月25日?qǐng)?bào)道】近日,浪潮信息正式發(fā)布大模型智算軟件棧 OGAI。OGAI (Open GenAI Infra)“元腦生智”,是為大模型業(yè)務(wù)提供AI算力系統(tǒng)環(huán)境部署、算力調(diào)度保障及模型開發(fā)管理能力的全棧全流程的智算軟件棧。
據(jù)介紹,OGAI由5層架構(gòu)組成,從L0到L4分別對(duì)應(yīng)基礎(chǔ)設(shè)施層的智算中心OS、系統(tǒng)環(huán)境層的PODsys、調(diào)度平臺(tái)層的AIStation、模型工具層的YLink和多模納管層的MModel。
記者獲悉,L0層智算中心OS為面向大模型算力服務(wù)的智能算力運(yùn)管平臺(tái),滿足多租戶以裸金屬為主的彈性AI算力運(yùn)管需求;L1層PODsys則為開源、兼容、易用的智算集群系統(tǒng)環(huán)境部署方案;L2層AIStation是面向大模型開發(fā)的商業(yè)化人工智能算力調(diào)度平臺(tái);L3層YLink是面向大模型數(shù)據(jù)治理、預(yù)訓(xùn)練、微調(diào)的工具鏈;L4層MModel是提供多模型接入、服務(wù)、評(píng)測(cè)等功能的納管平臺(tái)。(江淼)
總結(jié)
以上是生活随笔為你收集整理的浪潮信息发布大模型智算软件栈 OGAI:为大模型算力提供解决方案的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 储能人才被疯抢:人均五六个offer,总
- 下一篇: 怎么创建具有真实纹理的CG场景岩石?