在2025年世界電信和信息社會(huì)日智算產(chǎn)業(yè)創(chuàng)新發(fā)展專題研討會(huì)上,華為昇騰計(jì)算業(yè)務(wù)副總裁王慶文發(fā)表《共筑堅(jiān)實(shí)智算底座,加速行業(yè)智能化》主題演講,深度解讀 AI 產(chǎn)業(yè)趨勢(shì)、運(yùn)營(yíng)商算力基礎(chǔ)設(shè)施建設(shè)與行業(yè)智能化發(fā)展路徑。
當(dāng)前,AI推理市場(chǎng)需求呈現(xiàn)爆發(fā)式增長(zhǎng)。Gartner 預(yù)測(cè),未來兩年 80% 中國(guó)企業(yè)將部署生成式 AI,60% 會(huì)將 AI 融入產(chǎn)品服務(wù),標(biāo)志著企業(yè)AI應(yīng)用從通用場(chǎng)景向核心生產(chǎn)場(chǎng)景滲透的 “奇點(diǎn)時(shí)刻” 到來,企業(yè) AI 部署已進(jìn)入全面深化階段。運(yùn)營(yíng)商憑借領(lǐng)先的泛在多級(jí)訓(xùn)推資源,既能滿足中小企業(yè)的靈活需求,也能支撐大型企業(yè)核心業(yè)務(wù)及海量用戶場(chǎng)景,并通過多租戶部署技術(shù),保障大租戶資源獨(dú)立、中小租戶性能提升的同時(shí)全方位確保數(shù)據(jù)安全。
昇騰從基礎(chǔ)硬件、算子到推理系統(tǒng)全面創(chuàng)新,面向不同的推理場(chǎng)景需求,為包含運(yùn)營(yíng)商在內(nèi)的客戶及伙伴提供集高性能、高可靠、易部署、開源開放于一體的推理解決方案。
面向大型企業(yè)、C端超級(jí)應(yīng)用等需要大規(guī)模推理算力資源的場(chǎng)景,高并發(fā)、低時(shí)延下的吞吐性能是關(guān)鍵。昇騰國(guó)內(nèi)首創(chuàng)大規(guī)模專家并行集群推理方案:通過將MoE模型的多專家權(quán)重?cái)?shù)據(jù)分散部署到更多的卡上,降低單卡權(quán)重加載時(shí)延,讓模型解碼輸出更快;單卡內(nèi)存容量占用的降低,也能夠支持更大用戶并發(fā)所需的KV緩存,實(shí)現(xiàn)系統(tǒng)的更大吞吐性能,平均單卡吞吐性能提升3倍以上,大幅降低每Token推理成本,幫助運(yùn)營(yíng)商構(gòu)筑高性能的AI算力基礎(chǔ)設(shè)施,為行業(yè)客戶帶來更優(yōu)的業(yè)務(wù)體驗(yàn)。
面向中小企業(yè)、學(xué)校和醫(yī)院等機(jī)構(gòu)需要快速部署、快速落地AI應(yīng)用的需求,昇騰使能運(yùn)營(yíng)商打造大模型應(yīng)用一體機(jī)。打包量化、調(diào)優(yōu)等工具鏈顯著提升50%部署效率,通過MLA(Multi-Head Latent Attention)親和等特性,提升吞吐性能90%,從模型部署到應(yīng)用上線實(shí)現(xiàn)“即開即用”,降低AI部署門檻,幫助運(yùn)營(yíng)商賦能千行萬(wàn)業(yè)智能化轉(zhuǎn)型。目前已有超140家合作伙伴基于昇騰發(fā)布大模型應(yīng)用一體機(jī)產(chǎn)品,為各行業(yè)場(chǎng)景提供廣泛的智能應(yīng)用。
算力正從技術(shù)要素轉(zhuǎn)化為產(chǎn)業(yè)升級(jí)的核心驅(qū)動(dòng)力?!皢文静怀闪郑娔咀猿纱骸保瑫N騰將致力于打造堅(jiān)實(shí)的算力底座,攜手運(yùn)營(yíng)商及ISV等產(chǎn)業(yè)伙伴破解算力供給與場(chǎng)景落地的關(guān)鍵挑戰(zhàn),加速 AI 在千行萬(wàn)業(yè)的落地應(yīng)用,為產(chǎn)業(yè)融合升級(jí)注入強(qiáng)勁動(dòng)能。
數(shù)智江西 | 江西鐵塔高修林:筑牢數(shù)智基座,賦能新質(zhì)未來
數(shù)智江西 | 筑基數(shù)字江西,融創(chuàng)贛網(wǎng)未來:江西廣電以數(shù)智化賦能贛鄱新跨越
數(shù)智江西 | 江西聯(lián)通張偉:打造數(shù)智江西新樣板,奮力譜寫中國(guó)式現(xiàn)代化江西新篇章
責(zé)編/版式:王禹蓉
審校:王 濤 梅雅鑫
監(jiān)制:劉啟誠(chéng)
【通信世界新媒體矩陣】
央視頻 | 微軟MSN | 視頻號(hào) | 微博 | 今日頭條 | 百家號(hào) | 網(wǎng)易號(hào) | 搜狐 | 騰訊新聞
新浪看點(diǎn) | 雪球號(hào) | 抖音 | 快手 | 愛奇藝 | 知乎 | 嗶哩嗶哩 | 咪咕視頻 | CSDN | 36氪
【新媒體團(tuán)隊(duì)】
監(jiān)制|劉啟誠(chéng)
審校|王濤 梅雅鑫
編輯|王禹蓉
視頻制作|蓋貝貝 黃楊洋 盧瑞旭 蔣雅麗
運(yùn)營(yíng)|林嵩
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.