联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型
11 月 6 日消息,聯(lián)發(fā)科天璣 9300 旗艦芯片于今晚發(fā)布,根據(jù)官方的介紹,天璣 9300 升級(jí)到 APU 790,支持 8 倍速生成式 AI Transformer 算子加速、特有內(nèi)存硬件壓縮技術(shù)、NeuroPilot Compression 混合精度 INT4 量化技術(shù)、2 倍整數(shù)運(yùn)算 2 倍浮點(diǎn)運(yùn)算 45% 功耗降低。
聯(lián)發(fā)科官方表示,天璣 9300 已在端側(cè)落地 70 億參數(shù) AI 大語言模型,且成功在端側(cè)運(yùn)行 130 億參數(shù) AI 大語言模型,還成功運(yùn)行 330 億參數(shù)的 AI 大語言模型。
此外,天璣 9300 將支持生成式 AI 文生圖功能,可以生成表情包。
聯(lián)發(fā)科還介紹了與 vivo 合作打造的“藍(lán)心小 V”,這個(gè)工具已經(jīng)在 2023 vivo 開發(fā)者大會(huì)上公布了,是 OriginOS 4 的“專屬私人助理”,具體介紹可以看此前報(bào)道。
聯(lián)發(fā)科還和安卓、百度、Meta、百川智能達(dá)成合作,在天璣 9300 上優(yōu)化適配這些平臺(tái)的大語言模型。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,所有文章均包含本聲明。
總結(jié)
以上是生活随笔為你收集整理的联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 揭秘因果报应的原理
- 下一篇: 144Hz 高刷新率:优派 HD 27