《科創(chuàng)板日報》7月19日訊(記者 黃心怡)據(jù)RISC-V國際基金會數(shù)據(jù),2024年全球基于RISC-V指令集的芯片出貨量超百億顆,其中30%應(yīng)用于AI加速場景。
在剛剛結(jié)束的第五屆RISC-V中國峰會上,RISC-V芯片在人工智能和大模型推理方面的應(yīng)用也備受關(guān)注。
多名業(yè)內(nèi)專家表示,AI推理的算力需求呈現(xiàn)新特征,這讓RISC-V芯片在大模型推理領(lǐng)域有非常大的應(yīng)用潛力。
▍RISC-V為大模型推理降本增效
中國科學院計算技術(shù)研究所副所長、中國開放指令生態(tài)(RISC-V)聯(lián)盟秘書長包云崗表示,AI推理的算力需求呈現(xiàn)新特征,RISC-V+AI將成為未來新組合。AI與CPU的緊密協(xié)同設(shè)計,將對RISC-V提出多樣化需求。
知合計算CEO孟建熠則認為,RISC-V在通用計算方面一定可以落地,在AI推理上面也可以做得很好。
“通用計算需做到足夠的高性能、高能效,AI推理則需要在性能和成本上做的比較好。通過RISC-V的可擴展性、可定制性,能夠把這兩方面做好。并且,RISC-V還能更好地實現(xiàn)統(tǒng)一地址尋址、存儲訪問優(yōu)化、高計算效率,可以實現(xiàn)傳統(tǒng)AI計算做不了的事情。”
中興微電子副總經(jīng)理石義軍表示,RISC-V在大模型推理領(lǐng)域有非常多的應(yīng)用機會。他分享了大模型領(lǐng)域的發(fā)展趨勢,:“隨著DeepSeek等MOE模型的出現(xiàn),讓計算重心從算力轉(zhuǎn)向效率,RISC-V在新型MOE架構(gòu)下幫助大模型推理降本增效,有非常多的機會。未來整個模型呈現(xiàn)稀疏性,總參數(shù)量大幅上市,而每個token對應(yīng)的活躍參數(shù)量大幅下降,因此每一次推理所調(diào)用的算力在下降。不過,每個token推理的存儲容量和帶寬需求大幅上升。”
石義軍提到,模型架構(gòu)還會繼續(xù)優(yōu)化,算力架構(gòu)需要新型AI算力支持,超長的上下文需求對存儲管理提出新的要求。在大模型推理浪潮下,掀起下一代AI算力的需求和更新。而CPU如何更好地支持新型AI算力,成為發(fā)展重點。RISC-V指令集和架構(gòu)的開放性和靈活性,能更快更好賦能CPU下一代新型算力。
目前,RISC-V架構(gòu)在大模型推理上機會與挑戰(zhàn)并存。在挑戰(zhàn)方面,RISC-V架構(gòu)的多核同步性能待完善,與ARM LSE等擴展存在差距。“大模型芯片采用多核擴展來適應(yīng)不同的模型尺寸,如何有效降低同步代價,是RISC-V在大模型推理架構(gòu)創(chuàng)新的關(guān)鍵。此外,超大規(guī)模參數(shù)下,多芯片互聯(lián)通訊的效率也將成為瓶頸,RISC-V如何融入現(xiàn)代AI通訊生態(tài),也很重要。”石義軍稱。
此外,RISC-V架構(gòu)的AI擴展標準化尚待完善,架構(gòu)和技術(shù)成熟度也還不夠,矩陣指令方案尚未收斂,AI軟件棧標準亦有待完善。
石義軍表示,正積極推進RISC-V在AI場景中的應(yīng)用機會,尋找本地化部署一體機和小規(guī)模推理集群成本的最優(yōu)解,以及云端大規(guī)模部署中,尋找RISC-V CPU和GPU高效協(xié)同的最優(yōu)解。
“我們正與新思科技合作,通過Chiplet技術(shù)實現(xiàn)RISC-V CPU與GPU的高效互聯(lián)。”石義軍透露,這一方案已在中興微電子的AiCube訓推一體機中應(yīng)用,兼容DeepSeek等大模型,降低企業(yè)AI部署成本。
石義軍稱,RISC-V在大模型推理中的成功取決于技術(shù)突破與生態(tài)共建的雙重推進。他呼吁,行業(yè)應(yīng)構(gòu)建開放共享的RISC-V產(chǎn)業(yè)鏈,完善行業(yè)標準,培育RISC-V人才,構(gòu)建可持續(xù)的RISC-V生態(tài)體系,落地通算和大模型推理場景,打造有競爭力的解決方案,打通產(chǎn)業(yè)上下游RISC-V應(yīng)用。
▍消費電子、汽車等領(lǐng)域加速落地
《科創(chuàng)板日報》記者從峰會現(xiàn)場獲悉,RISC-V芯片在智能手表、手環(huán)、智能攝像頭等領(lǐng)域正在落地,市場培育已經(jīng)成熟。
根據(jù)SHD Group報告的統(tǒng)計預測,基于RISC-V的SoC芯片從2024到2031年期間的市場滲透率將從5.9%增長到25.7%,到2031年RISC-V出貨量將超過200億顆。預計將在以下六大市場占據(jù)顯著份額:消費電子(39%)、計算機(33%)、汽車(31%)、數(shù)據(jù)中心(28%)、工業(yè)(27%)和網(wǎng)絡(luò)通信(26%)。
在阿里達摩院的玄鐵展臺上,《科創(chuàng)板日報》記者看到了RISC-V處理器在邊緣和AI智算、服務(wù)器及周邊、數(shù)據(jù)存儲、消費電子、汽車電子、網(wǎng)絡(luò)通訊、智能工控等領(lǐng)域的應(yīng)用。
在消費電子領(lǐng)域,玄鐵團隊與凌思微、博流智能,以及上市公司全志科技、東軟載波等合作。
比如,石頭掃地機器人內(nèi)置搭載玄鐵E906處理器的全志 MR527芯片,湯姆貓AI語音情感陪伴機器人內(nèi)置搭載玄鐵C906處理器的全志R128芯片,卡片相機內(nèi)置搭載玄鐵E907處理器的全志V851s芯片,臺電P50AI平板電腦內(nèi)置搭載玄鐵E902處理器的全志A733芯片,Insta360 Go3s運動相機內(nèi)置搭載玄鐵C906處理器的全志F133芯片等。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.