“過去一年暴雨迅速成長?!北┯曛袊A設施業務群戰略總監梁勇表示,暴雨搭建的異構智算平臺,為綠色智算中心輸出融合、穩定和高效的算力,從而加速各行業的智能化轉型。
大模型激發智算發展熱潮
開年以來隨著DeepSeek等大模型助推AI應用大規模落地,行業開始重新審視算力布局。梁勇解釋稱,行業的算力需求從預訓練主導轉向了后訓練和推理主導,但算力的總需求其實并未減少。
誠然,當推理算力需求進入關鍵窗口期,國產算力生態的體系化升級與技術創新正成為核心引擎。作為異構智算產業生態聯盟核心成員,暴雨對行業趨勢進行前瞻性預判,并第一時間幫助客戶進行DeepSeek部署。
梁勇透露,“工程第一天,我們用兩臺機器先部署了一個滿血的DeepSeek 671B。在春節結束之后,我們可以在1臺機器上支撐千人企業對DeepSeek滿血版的應用。”
而就在近日,暴雨異構智算平臺突破算力瓶頸,通過訪存優化、顯存優化、PCIe 5.0全互聯架構創新以及精選SGLang框架中性能最優算子等一系列創新方式,將單機服務器運行大模型的性能再創新高,3000并發下總吞吐量超8000 tokens/s,進一步提升了DeepSeek滿血版用戶體驗。
暴雨中國基礎設施業務群高級產品經理向記者演示了DeepSeek 671B FP8單機8卡性能,顯示極限總吞吐達8000+ tokens/s。對此,業內人士談到,暴雨異構智算平臺驗證了其在推理加速、訓練優化、斷點續訓、內核級虛擬化等大模型推理優化場景具有明顯優勢。
從“東數西算”到“算力普惠”
作為數字經濟發展的重要底座,我國智能算力增速高于預期。2024年,我國智能算力規模達725.3百億億次/秒(EFLOPS),同比增長74.1%;市場規模達到190億美元,同比增長86.9%。但不可否認的是,行業仍面臨算力瓶頸。
如何破解?梁勇表示,從暴雨來看,其依托異構智算平臺,勇于應對智算時代的諸多挑戰。憑借領先的液冷技術,暴雨持續攻克能效與能耗難題,為各行各業提供從“可用”到“好用”的算力支持。目前,暴雨正加速推進“一橫五縱”戰略布局,全面推出涵蓋服務器、存儲、數據網絡、軟件及超融合、運維服務等在內的全方位暴雨異構智算平臺解決方案,助力智能化轉型和產業升級。
據悉,暴雨異構智算平臺,作為暴雨“一橫五縱”戰略的核心支柱,能夠實現對異構算力的統一納管和高效調度,確保計算集群的穩定運行與可用性,為客戶輕松提供融合、可靠的通用、智能及科學算力服務。隨著此次發布,暴雨AI服務器更是得以全速運行DeepSeek R1大模型,極限吞吐量突破8000 tokens/s,展現卓越性能。
值得一提的是,暴雨還持續開拓生態圈,與生態伙伴共同應對算力行業變革的機遇與挑戰。梁勇告訴記者,“異構智算平臺的‘異構’代表了暴雨跟業界異構生態的緊密合作,暴雨是異構智算產品生態聯盟的核心單位,一直與眾多主流GPU、軟件等層面的伙伴緊密合作。我們聚集在一起形成產業生態聯盟,提供各種層次完整的方案給客戶?!?/p>
展望未來,梁勇強調,暴雨將堅定“一橫五縱”戰略布局,不斷深化與產業伙伴的技術合作,圍繞AI基礎設施構建暴雨生態。暴雨也將積極助力“東數西算”工程的落地,推動全國一體化算力網的建設。
在業內人士看來,隨著DeepSeek V3等國產大模型的迭代,以及“東數西算”工程的動能澎湃,中國算力生態正蓄勢破局。對于暴雨而言,則希望讓每一瓦特電力,都能在西部機房與東部產業的共振中,裂變出數字經濟的黃金效能。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.