当轻薄本遇上 AIGC,英特尔:是时候展现真正的生产力了
ChatGPT 的火熱出圈,讓 AIGC 成為目前人工智能領(lǐng)域最重要的發(fā)展方向,同時(shí)也在深刻影響我們使用智能終端的體驗(yàn)。
比如在智能手機(jī)上,AI 技術(shù)很早就被應(yīng)用在影像、語(yǔ)音助手、游戲等方面,而隨著生成式 AI 火熱,手機(jī)芯片廠商們也在積極將 AIGC 解決方案嵌入到移動(dòng)芯片平臺(tái)中,并且在手機(jī)上玩 AIGC,也正成為很多手機(jī)品牌在新產(chǎn)品上主打的賣(mài)點(diǎn)。
不過(guò),當(dāng)我們談到 AIGC 的變革意義,其實(shí)主要還是集中在以大模型為核心的“變革內(nèi)容生產(chǎn)方式”與“變革人機(jī)交互方式”兩個(gè)方面,一言以蔽之,就是 AIGC 對(duì)于我們生產(chǎn)力的解放。
而說(shuō)到生產(chǎn)力,其實(shí)至少現(xiàn)階段,對(duì)于大部分用戶(hù)來(lái)說(shuō)核心的生產(chǎn)力工具還是 PC,而手機(jī)、平板等移動(dòng)終端的生產(chǎn)力還相當(dāng)有限。因此,在 PC 上部署 AIGC,其實(shí)才是更有優(yōu)勢(shì)、也更有意義的事。
至于 AIGC 在 PC 上的落地和應(yīng)用,這里就不得不提到一個(gè)重要的推動(dòng)者:英特爾。
早在 2018 年,英特爾就曾判斷 PC 會(huì)是未來(lái) AI 的主戰(zhàn)場(chǎng),并推出了“AI on PC Developer Program”的 AI PC 開(kāi)發(fā)者計(jì)劃。在此之后,英特爾持續(xù)將 AI 能力融入到旗下酷睿處理器產(chǎn)品中,包括在架構(gòu)層面提升 AI 的性能,SoC 中內(nèi)置 Intel GNA 以加速低功耗 AI 在 PC 上的應(yīng)用等等。
而面向 AIGC 的浪潮,英特爾也在軟硬件層面都做好了準(zhǔn)備。硬件層面,以第 12 代、第 13 代英特爾酷睿處理器和英特爾銳炫 A 系列顯卡為代表的英特爾多款客戶(hù)端芯片均能提供強(qiáng)勁性能,以滿(mǎn)足生成式 AI 對(duì)于高算力的需求。
在軟件層面,英特爾則通過(guò)軟件生態(tài)的構(gòu)建和模型優(yōu)化,進(jìn)一步推動(dòng)新興的生成式 AI 場(chǎng)景在個(gè)人電腦的落地,廣泛覆蓋輕薄本、全能本、游戲本等。目前,英特爾正與 PC 產(chǎn)業(yè)眾多合作伙伴通力合作,致力于讓廣大用戶(hù)在日常生活和工作中,通過(guò) AI 的輔助來(lái)提高效率,進(jìn)而帶來(lái)給革新性的 PC 體驗(yàn)。
英特爾通過(guò)模型優(yōu)化,降低了模型對(duì)硬件資源的需求,進(jìn)而提升了模型的推理速度,讓社區(qū)開(kāi)源模型能夠很好地運(yùn)行在個(gè)人電腦上。
以大語(yǔ)言模型為例,英特爾通過(guò)第 13 代英特爾酷睿處理器 XPU 的加速、low-bit 量化以及其它軟件層面的優(yōu)化,讓最高達(dá) 160 億參數(shù)的大語(yǔ)言模型,通過(guò) BigDL-LLM 框架運(yùn)行在 16GB 及以上內(nèi)存容量的個(gè)人電腦上。
目前,包括 LLAMA / LLAMA2、ChatGLM / ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen 等在內(nèi)的模型都可以運(yùn)行,同時(shí)英特爾還提供了易用的 API 接口(Transformers、LangChain),并支持 Windows、Linux 的操作系統(tǒng)。
說(shuō)到這,不妨做一下實(shí)測(cè)。小編選擇了一臺(tái)通過(guò)英特爾 Evo 平臺(tái)認(rèn)證的輕薄本:華碩破曉 Air,這款輕薄本搭載英特爾 13 代酷睿 i7-1355U 處理器,16GB LPDDR5 內(nèi)存。
接著,小編在華碩破曉 Air 上裝好英特爾推出的大語(yǔ)言模型 Demo。這個(gè) Demo 集成了三個(gè)大語(yǔ)言模型,包括 ChatGLM2、LLaMA2 和 StarCoder。
這三個(gè)模型均通過(guò)英特爾的語(yǔ)料庫(kù)進(jìn)行了優(yōu)化,主要的優(yōu)化方式是對(duì)這些大語(yǔ)言模型進(jìn)行量化操作,以減輕他們對(duì)本地硬件資源的需求。
測(cè)試時(shí),小編首先在聊天助手功能下問(wèn)它“朋友向我借了 1000 元,一直沒(méi)有歸還,我該如何索要的同時(shí)不傷感情?”這款大模型的回答有條有理,列出了四種方法,而且回答這么長(zhǎng)的一段話(huà)響應(yīng)速度也很快,first latency 只用了 1208.51ms。
接著小編切換到情感分析功能,讓大模型 Demo 分析一段散文文案所表達(dá)的思想感情,在華碩破曉 Air 上離線(xiàn)運(yùn)行的大模型很快就給出了答案,而且對(duì)文案內(nèi)容的分析還是比較到位的,并沒(méi)有停留在文字的表面意思,而是理解到文字背后隱喻的情感。學(xué)生朋友們可以用這個(gè)能力來(lái)輔助語(yǔ)文閱讀理解的學(xué)習(xí)。
接著小編使用翻譯功能做了測(cè)試,英特爾大語(yǔ)言模型的表現(xiàn)同樣能夠讓人滿(mǎn)意,整個(gè)語(yǔ)段翻譯得很通順,而且響應(yīng)速度也很快。大家平時(shí)查閱一些外文資料、文獻(xiàn),就可以直接在電腦上用 AI 大模型進(jìn)行翻譯,省去了在網(wǎng)上找各種翻譯應(yīng)用的過(guò)程。
接下來(lái)再測(cè)試一下英特爾大語(yǔ)言模型的文案創(chuàng)作能力。小編切換到“故事創(chuàng)作”功能,但不是讓他創(chuàng)作故事,而是讓它寫(xiě)一則招聘文案。從結(jié)果上看,大模型 Demo 把小編提出的要求都考慮到了,而且文案整體也比較流暢,屬于拿過(guò)來(lái)稍微改改就能用的水平。這樣,如果你是文案工作者,這個(gè)能力相信會(huì)對(duì)你非常實(shí)用,大大加快你的文案創(chuàng)作效率。
在英特爾大語(yǔ)言模型寫(xiě)文案的時(shí)候,小編看了一下華碩破曉 Air 性能資源的調(diào)度情況,英特爾 13 代酷睿 i7-1355U 處理器占用率達(dá)到了 100%,內(nèi)存占用達(dá)到了 9.0GB(58%),Xe 核顯占用也達(dá)到了 33%。看來(lái)這個(gè)運(yùn)算過(guò)程確實(shí)是在本地進(jìn)行的。在英特爾不斷的優(yōu)化和 13 代酷睿處理器算力的提升下,確實(shí)能夠在輕薄本上實(shí)現(xiàn) AIGC 的落地。
接著再考驗(yàn)一下它的信息提取能力,小編在復(fù)制了一篇新聞,讓它提取其中的核心信息。由于問(wèn)題信息量比較大,這次英特爾大語(yǔ)言模型 Demo 生成的時(shí)間比其他問(wèn)題稍長(zhǎng)了一些,但也可以接受,關(guān)鍵是它提煉的摘要確實(shí)是符合新聞本來(lái)要傳達(dá)的信息。
最后,小編在“美食指南”功能里讓大模型 Demo 推薦一下去西安游玩值得嘗試的美食,對(duì)于這個(gè)問(wèn)題,大模型 Demo 很迅速地給出了一份攻略,除了中間地“羊肉泡饃”推薦了兩遍,其他的結(jié)果都沒(méi)什么問(wèn)題,確實(shí)是西安的特色美食。
總體來(lái)說(shuō),使用華碩破曉 Air 這款英特爾 Evo 輕薄本在本地運(yùn)行、使用大語(yǔ)言模型 Demo,實(shí)際給到的體驗(yàn)的確讓人驚艷。在此之前,小編確實(shí)沒(méi)有想到一款輕薄本也能如此流暢、順利地運(yùn)行有超高算力需求的 AI 大模型,這進(jìn)一步打開(kāi)了小編對(duì)輕薄本性能以及 AIGC 應(yīng)用場(chǎng)景的認(rèn)知。
當(dāng) AIGC 能夠在輕薄本這樣的移動(dòng)計(jì)算終端側(cè)順利運(yùn)行,意味著我們就可以擺脫網(wǎng)絡(luò)、時(shí)間和空間的限制,隨時(shí)隨地通過(guò) AIGC 來(lái)加速我們的內(nèi)容創(chuàng)作力和生產(chǎn)力。文字工作者可以用它來(lái)輔助編寫(xiě)文案、文筆潤(rùn)色,上班族們可以用它輔助解決工作中遇到的實(shí)際問(wèn)題,學(xué)生、研究人員可以用它輕松查閱資料、整理信息、翻譯文獻(xiàn)等等,它讓 PC 的生產(chǎn)力屬性得以重新定義,這也是在手機(jī)、平板等終端設(shè)備上運(yùn)行 AIGC 所無(wú)法獲得的高效體驗(yàn)。
最后值得一提的是,在英特爾下一代酷睿處理器 Meteor Lake 中,CPU 和 GPU 的性能都會(huì)得到大幅度的提升,更關(guān)鍵在于英特爾還在 Meteor Lake 中加入了集成式 NPU 單元,實(shí)現(xiàn)更高效能的 AI 計(jì)算,它包含了 2 個(gè)神經(jīng)計(jì)算引擎,能夠更好地支持包括生成式 AI、計(jì)算機(jī)視覺(jué)、圖像增強(qiáng)和協(xié)作 AI 方面的內(nèi)容。而且,Meteor Lake 中的 NPU 不是單一孤島式的架構(gòu),除了 NPU,CPU 和 GPU 也都可以進(jìn)行 AI 運(yùn)算,不同場(chǎng)景下會(huì)用不同的 AI 單元去應(yīng)對(duì),彼此協(xié)調(diào),如此一來(lái),其整體能耗比相比前代最多可以提升 8 倍之多。
總之,未來(lái)搭載 Meteor Lake 處理器的輕薄本在本地 AIGC 創(chuàng)作方面的表現(xiàn)會(huì)更加令人期待。相信隨著英特爾后續(xù)產(chǎn)品的進(jìn)一步擴(kuò)展,規(guī)模和數(shù)量的大幅增長(zhǎng)將讓數(shù)億人輕松享受 AI 加速體驗(yàn),并實(shí)現(xiàn)更優(yōu)的智能協(xié)作、更快的處理速度和更強(qiáng)的功能特性,一場(chǎng)前所未有的生產(chǎn)力變革正在加快到來(lái)。
廣告聲明:文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,所有文章均包含本聲明。
總結(jié)
以上是生活随笔為你收集整理的当轻薄本遇上 AIGC,英特尔:是时候展现真正的生产力了的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 国内有做蛋白质二级结构预测的吗?
- 下一篇: 华为新款 MateBook D 16 笔