99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

硅基昇騰,中國突圍

0
分享至

用空間換算力;用帶寬換算力;用能源換算力……用一切換算力。


作 者丨熊劍輝

與時間賽跑

2025年1月15日,中國AI大模型DeepSeek R1剛一問世,便震動全球。

針對DeepSeek,全世界展開了一場龍爭虎斗。


可僅僅2周之后,2月1日(大年初四),華為云就聯(lián)合硅基流動基于昇騰云推出DeepSeek R1/V3,引爆全網(wǎng)。

從模型到算力,從引擎到框架,全面實現(xiàn)國產(chǎn)化。

這其中,DeepSeek和華為自不用說。硅基流動作為一家AI Infra(AI基礎設施)企業(yè),則是清華博士袁進輝2023年剛創(chuàng)立的創(chuàng)業(yè)公司。

創(chuàng)業(yè)公司往往嗅覺極度靈敏。

其實,早在DeepSeek V3發(fā)布前一個月,DeepSeek創(chuàng)始人梁文鋒就找到袁進輝,問他要不要部署?

袁進輝算了一筆賬:動用80臺英偉達H800服務器,單月花費五六百萬,風險很大。

但眼見著DeepSeek越來越火爆,全世界的AI團隊都爭分奪秒,連英偉達也親自下場。

時間不等人,硅基流動火速找到華為云。雙方一拍即合,決心大干一場,希望能用國產(chǎn)算力率先搞定部署難題。

華為云的方案,正是昇騰云。


于是,雙方經(jīng)過徹夜不息的努力,終于在2月推出基于昇騰云與硅基流動推理加速引擎的DeepSeek,成為國內(nèi)第一個成功部署DeepSeek服務的企業(yè)。

僅2月,硅基流動網(wǎng)站訪問量暴增40倍,沖上中國AI網(wǎng)站排行榜第6、全球AI網(wǎng)站增長榜第2。

狂暴的流量,讓人又驚又喜。

據(jù)華為云技術負責人王磊回憶,硅基流動DeepSeek剛上線,第一波流量超乎想象。他不得不四處騰挪,緊急調撥2000多張昇騰910B卡馳援,才勉強扛住。

但第一波“洪峰”之后,更大的流量爆發(fā)了。

這一次,不得不每次1000卡地往上加,不計上限地調配算力,才勉強扛住。

但這一波之后呢?未來的流量,還會爆發(fā)到怎樣的程度?

沒有人知道。

于是,華為云找到袁進輝,亮出當時還秘不示人的“大殺器”——CloudMatrix 384超節(jié)點

對于超節(jié)點,袁進輝早有耳聞。

2024年3月,英偉達首發(fā)NVL72超節(jié)點,一度震驚世界。

傳統(tǒng)AI服務器里,一張計算卡僅能容納8塊GPU;但NVL72超節(jié)點,能將72塊GPU組成一臺超級AI服務器,令AI算力和通訊速度實現(xiàn)飆升。

所以,超節(jié)點是一種將GPU高度集成的AI服務器“黑科技”。

誰也沒想到,華為云這么快就搞出了CloudMatrix 384超節(jié)點。

而且,華為云超節(jié)點的昇騰卡互聯(lián)數(shù)量飆升到384張,遠超英偉達NVL72的72卡。

這是中國AI的算力之巔,更是前所未有的應用挑戰(zhàn)。

當時,袁進輝坦承對CloudMatrix 384懷有疑慮:

第一,DeepSeek所需的大規(guī)模專家并行,要求多卡之間實現(xiàn)低延遲、高協(xié)同,并使用All-to-All通信。

但即便是英偉達,對All-to-All的支持也相當乏力。

CloudMatrix 384行不行?沒有人知道。

第二,英偉達NVL72超節(jié)點,采用銅連接;CloudMatrix 384卻采用光模塊。區(qū)別在哪呢?

光模塊通信具備更高帶寬和更低時延,適合大容量、長距離傳輸;此外光網(wǎng)絡架構簡化,空間和功耗節(jié)省顯著,且擴展性更強。但光模塊最大的問題就在于故障率高。


這個超高難度的連接方式,到底行不行?沒有人知道。

盡管充滿疑慮,但袁進輝選擇“信華為”:

華為不僅是打過硬仗的團隊,更創(chuàng)造了很多很多的奇跡。”

實際上,袁進輝的疑慮,也正是騰建軍所擔心的。

華山一條路

2023年2月,一場驟然爆發(fā)的電源浪涌,席卷新加坡數(shù)據(jù)中心,多家云廠商和數(shù)據(jù)中心客戶受影響。

騰建軍,正是這場危機的親歷者。

當時,新加坡華為云和微軟云恰好在同一數(shù)據(jù)中心。唯一不同的是,電源浪涌爆發(fā)后,華為云的AI for DC(Data Center),迅速“感知”到電源浪涌引發(fā)的高溫,自動觸發(fā)應急預警。

作為資深專家,騰建軍和團隊迅速判斷出,這將是一場全局危機。

這也是一場爭分奪秒的戰(zhàn)斗。

1分鐘發(fā)現(xiàn)故障,3分鐘建立作戰(zhàn)室進行統(tǒng)一指揮,1小時內(nèi)啟動干冰應急計劃……

騰建軍率領團隊頭戴防毒面罩、手挑干冰,沖進現(xiàn)場給服務器物理降溫,生生扛住這波突襲,確保了華為云穩(wěn)定運行。

江湖傳言,這一天,新加坡的干冰被華為云直接搬空。

微軟云在內(nèi)部溫度驟升、短暫抵抗之后,關閉了服務器,中斷了云服務。

微軟云客戶甚至是在Twitter上,才得知自家業(yè)務猛然宕機,被打了個措手不及。

一邊迅速趴窩,一邊穩(wěn)如泰山。

僅此一招,足見華為云的功力。

但智算超節(jié)點時代,對數(shù)據(jù)中心的要求更加苛刻。

在騰建軍眼中,CloudMatrix 384超節(jié)點要在物理上真正落地,數(shù)據(jù)中心要解決的是一連串實打實的難題。

因為數(shù)據(jù)中心,是“智算超節(jié)點產(chǎn)品”不可分割的一部分。

比如供電。

傳統(tǒng)數(shù)據(jù)中心,供電只做到8-10千瓦/機柜;但為了驅動CloudMatrix 384,僅供電就要飆升到50千瓦甚至更高,怎么辦?

那就突破標準,超前技術準備、超前建設。

散熱上,一套CloudMatrix 384橫跨16個機柜,熱量密度飆升,必須構建一套精密的液冷散熱系統(tǒng)。

這其中,僅鏟齒散熱器的縫隙,就堪比發(fā)絲般精細。一旦散熱液潔凈度出現(xiàn)些許問題,或是不可避免滋生細菌微生物,就很可能將鏟齒散熱器堵死,不可避免導致大規(guī)模宕機。

這時候,又怎么辦?

一方面,用AI for DC提前預警;另一方面,通過物理+化學的新方法長效殺菌,實現(xiàn)數(shù)學、物理到生物、化學的跨界研究,引領一場液冷革命。

而這些技術,早在幾年前就在華為云得到規(guī)模應用,展現(xiàn)出技術超前投入的前瞻價值。

光模塊,差點成了騰建軍“過不去的坎”。

實際上,華為在光通信領域早已世界領先。

2020年,華為全球首發(fā)800G超高速光模塊,獨步全球;2025年,華為再發(fā)1.6T硅光模塊,在800G基礎上再翻一倍。

至此,業(yè)界已無人得見華為光通信的“車尾燈”。

強大的技術積淀,讓華為云用光模塊構建超節(jié)點,而非采用銅連接,成為一種必然。

可真槍實彈干起來才發(fā)現(xiàn),困難比預想的大得多。

實測中,騰建軍發(fā)現(xiàn):光鏈路的閃斷太頻繁了,結果就是——完全不能用!

“咯噔”一下子。問題嚴重了!

當時,CloudMatrix 384赫然被列入華為重點密級項目,是必須強渡的“大渡河”。加上單卡性能不如人,被逼得只能闖光模塊這“華山一條路”。真被卡死,滿盤皆輸。

但那段時間,騰建軍對團隊說的最多的話卻是:

不要談困難,想盡辦法去突破。

于是,一邊內(nèi)部想辦法,一邊外界請高人,同時,只能用最笨的辦法把難題列出來,一條條去攻克。

終于,騰建軍團隊發(fā)現(xiàn):八成以上問題,出在光模塊幾乎肉眼不可見的臟污上,嚴重影響了通訊質量;而臟污的產(chǎn)生,就在數(shù)據(jù)中心現(xiàn)場超節(jié)點內(nèi)網(wǎng)互連的安裝環(huán)節(jié)。

找準了關鍵就好辦。

于是,團隊打造出針對光模塊故障的定位和修復系統(tǒng),通過數(shù)字化平臺上的專家經(jīng)驗庫和現(xiàn)場光模塊的故障現(xiàn)象進行對接,實現(xiàn)了問題快速定位、故障迅速處置。

這一次,CloudMatrix 384再上線,速率、穩(wěn)定性大幅提高。

作為全球首次大規(guī)模動用光模塊部署超節(jié)點的探索,華為云創(chuàng)造了“奇跡”。

這一切,都成為硅基流動基于CloudMatrix 384再次爆發(fā)的堅實根基。

一場新征程

2月底,當強大的CloudMatrix 384呈現(xiàn)在硅基流動團隊面前時,所有人面對的,卻是一場新的長征。

王磊清楚記得:

3月初,硅基流動DeepSeek服務在超節(jié)點上剛跑通,吞吐量只有320 Tokens/秒,低到令人難以置信。

一臺算力怪獸,表現(xiàn)如此拉胯,問題出在哪?沒有人知道。

實際上,普通人很難想象,大模型內(nèi)星辰般的宏大:

它的參數(shù),高達數(shù)千億級;它的神經(jīng)網(wǎng)絡層級,成百上千;每個算子(神經(jīng)網(wǎng)絡中具備特定功能的算法節(jié)點)背后,連接著不計其數(shù)的分布式系統(tǒng);它的結果,則由成百上千張GPU協(xié)同計算輸出,充滿概率偶然。

要在這其中找出問題,仿佛是在一座亞馬遜雨林中通緝一只細菌。

這幾乎是一個不可能完成的任務。

但華為云,必須上。

很快,王磊發(fā)動“超能力”,開始全公司“搖人”。

從底層做芯片的、做存儲的、做計算的,到上層做算子的、做推理的、做平臺的……王磊竭盡所能,幾乎把技術棧上的所有團隊拉到現(xiàn)場,跟硅基流動團隊協(xié)同辦公、攻堅克難。

協(xié)議有問題,馬上改協(xié)議;算子有問題,馬上改算子……圍繞硅基流動DeepSeek服務上的超節(jié)點大計,華為上百人的團隊,晝夜攻關不息。

而對華為云團隊來說,冗長的測試,更是一個永不停歇的“西西弗神話”。

通信有瓶頸,優(yōu)化通信;但接著,計算問題又冒出來了;于是,優(yōu)化計算后,GPU、NPU太快,CPU不匹配……

當整個技術棧全部優(yōu)化一遍后,王磊猛然發(fā)現(xiàn),問題又從最初的源頭,再次冒了出來。

總之,按下葫蘆浮起瓢。

但就是在這種重復、重復、再重復的優(yōu)化過程中,CloudMatrix 384,終于被托舉到一個不可思議的新高度。

4月10日,華為云生態(tài)大會,硅基流動創(chuàng)始人袁進輝鄭重宣布:

基于CloudMatrix 384的DeepSeek-R1在保證單用戶 20 TPS 水平前提下,單卡 Decode 吞吐量突破 1920 Tokens/秒。


這什么概念?

相較英偉達H100,性能追平;相較3月初的CloudMatrix 384,性能提升6倍;相較昇騰910B單卡,性能飆升10倍。

這背后,CloudMatrix 384還實現(xiàn)了性能倍增(訓推提升20%)、以存強算(吞吐量提升100%)、MoE親和(千億MoE提升3X)、長穩(wěn)可靠(長穩(wěn)運行40天不中斷)、朝推夜訓(算力利用率提升30%)、即開即用六大特性。

以MoE親和為例。


所謂MoE,即DeepSeek中的“混合專家模型”。DeepSeek之所以功能超強,在于其會內(nèi)置多個“專家”處理問題。而在硬件層面,通常1枚芯片對應1個“專家”,于是芯片越多,效率越高、性能越強。

而超節(jié)點集成了384張昇騰卡,極大優(yōu)化了MoE能力。

這不僅令DeepSeek性能大爆發(fā),更展現(xiàn)出華為云在AI技術上的前瞻布局。

今天,在華為云三大云核心樞紐(貴州貴安、內(nèi)蒙古烏蘭察布、安徽蕪湖),CloudMatrix 384實現(xiàn)全面布局,成為國內(nèi)唯一正式商用的大規(guī)模超節(jié)點。

強大的算力網(wǎng),令萬卡級服務,分分鐘即可開啟。

這不僅是華為云的自我超越,也不僅是部分指標上對英偉達的超越,更大的意義,在于中國AI正呈現(xiàn)出體系化的突破式創(chuàng)新。

用袁進輝的話說:美國試圖像“三體人”一樣,用芯片鎖死中國科技。

但6年抗爭過去,向死而生的華為,卻越挫越勇。

當歷經(jīng)了鴻蒙蟄伏、海思攻堅、昇騰崛起……憑借華為云CloudMatrix 384超節(jié)點,一道堅不可摧的國產(chǎn)算力防線正在構建。

AI長跑沒有終點,突破,也不會有終點。但中國AI,一定會迎來自己的“奇點”時刻。

>End

本文轉載自“華商韜略”,原標題《硅基昇騰,中國突圍》。

為分享前沿資訊及有價值的觀點,太空與網(wǎng)絡微信公眾號轉載此文,并經(jīng)過編輯。

未按照規(guī)范轉載及引用者,我們保留追究相應責任的權利

部分圖片難以找到原始出處,故文中未加以標注,如若侵犯了您的權益,請第一時間聯(lián)系我們。

ISTORY/往期推薦

充滿激情的新時代,

充滿挑戰(zhàn)的新疆域,

與踔厲奮發(fā)的引領者,

卓爾不群的企業(yè)家,

一起開拓,

一起體驗,

一起感悟,

共同打造更真品質,

共同實現(xiàn)更高價值,

共同見證商業(yè)航天更大的跨越!

——《太空與網(wǎng)絡》,觀察,記錄,傳播,引領。

·《衛(wèi)星與網(wǎng)絡》創(chuàng)始人:劉雨菲

·《衛(wèi)星與網(wǎng)絡》副社長:王俊峰

·微信公眾號(ID:satnetdy)團隊

編輯:艷玲、哈玫,周泳、邱莉、黃榕、娜娜

主筆記者:李剛、魏興、張雪松、霍劍、樂瑜、稻子、趙棟

策劃部:楊艷、若?、李真子

視覺總監(jiān):董濘

專業(yè)攝影:馮小京、宋偉

設計部:顧錳、潘希峎、楊小明

行政部:姜河、林紫

業(yè)務部:王錦熙、瑾怡

原創(chuàng)文章轉載授權、轉載文章侵權、投稿等事宜,請加微信:15910858067

商務合作;展覽展廳設計、企業(yè)VI/CI及室內(nèi)設計、企業(yè)文化建設及品牌推廣;企業(yè)口碑傳播及整體營銷傳播等,請加微信:13811260603

雜志訂閱,請加微信:wangxiaoyu9960

·衛(wèi)星與網(wǎng)絡各分部:

成都分部負責人:沈淮

長沙分部負責人:賓鴻浦

西安分部負責人:郭朝暉

青島分部負責人:江偉

·衛(wèi)星與網(wǎng)絡總部負責人:農(nóng)燕

·會議活動部負責人喬顥益、許克新、董今福

· 投融資及戰(zhàn)略層面合作:劉雨菲

·本平臺簽約設計公司:一畫開天(北京)文化創(chuàng)意設計有限公司

· 航天加(深圳)股權投資基金管理負責人:楊艷

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
27萬中國學生將被遣返,中方連發(fā)兩道警告,特朗普當天就收到噩耗

27萬中國學生將被遣返,中方連發(fā)兩道警告,特朗普當天就收到噩耗

書中自有顏如玉
2025-05-31 14:10:40
“我當時頭皮都麻了”!00后小伙睡夢中被貸款5萬:我看見手機在自己亮屏輸密碼

“我當時頭皮都麻了”!00后小伙睡夢中被貸款5萬:我看見手機在自己亮屏輸密碼

瀟湘晨報
2025-05-30 18:20:09
特斯拉重大突破!

特斯拉重大突破!

電動知家
2025-05-30 08:39:46
在政府任職“最后一天”,馬斯克眼角淤青引關注,本人解釋:兒子干的

在政府任職“最后一天”,馬斯克眼角淤青引關注,本人解釋:兒子干的

環(huán)球網(wǎng)資訊
2025-05-31 09:45:24
法網(wǎng)|沖擊八強!女單第四輪,鄭欽文6月1日迎戰(zhàn)薩姆索諾娃

法網(wǎng)|沖擊八強!女單第四輪,鄭欽文6月1日迎戰(zhàn)薩姆索諾娃

齊魯壹點
2025-05-31 17:37:06
為什么如今社會上,女性出軌率這么高,離婚率這么高?

為什么如今社會上,女性出軌率這么高,離婚率這么高?

加油丁小文
2025-05-13 07:50:45
真11打14?佛山vs銅梁龍轉播信號中主隊擺出4-3-6陣型

真11打14?佛山vs銅梁龍轉播信號中主隊擺出4-3-6陣型

懂球帝
2025-05-31 21:13:15
平均年齡25歲96天,巴黎派出本世紀歐冠決賽最年輕的首發(fā)

平均年齡25歲96天,巴黎派出本世紀歐冠決賽最年輕的首發(fā)

懂球帝
2025-06-01 02:52:25
他禍亂沙俄,睡遍貴族婦女,性器官因過于巨大被博物館保存至今

他禍亂沙俄,睡遍貴族婦女,性器官因過于巨大被博物館保存至今

魏驚蟄
2023-07-19 11:28:14
太難了!網(wǎng)傳四川一建筑企業(yè)通知全員降薪,已有幾個月未發(fā)工資…

太難了!網(wǎng)傳四川一建筑企業(yè)通知全員降薪,已有幾個月未發(fā)工資…

火山詩話
2025-05-31 06:04:43
醫(yī)生發(fā)現(xiàn):家中油一換,每年病患少一半,建議吃3種油,有益健康

醫(yī)生發(fā)現(xiàn):家中油一換,每年病患少一半,建議吃3種油,有益健康

王曉愛體彩
2025-05-31 05:32:38
揭秘李易峰PC被帶走的真相!

揭秘李易峰PC被帶走的真相!

八卦瘋叔
2025-05-31 10:47:53
美媒:這是自二戰(zhàn)結束以來最大的空戰(zhàn)之一,西方真被震撼到了!

美媒:這是自二戰(zhàn)結束以來最大的空戰(zhàn)之一,西方真被震撼到了!

書中自有顏如玉
2025-05-30 16:41:35
謝浩男媽媽多年辛勞,終于實現(xiàn)與女兒共度美好時光。

謝浩男媽媽多年辛勞,終于實現(xiàn)與女兒共度美好時光。

老韁科普
2025-05-30 21:12:59
準公務員禍從口出!涉事女生長相甜美,因發(fā)極端言論被終止資格…

準公務員禍從口出!涉事女生長相甜美,因發(fā)極端言論被終止資格…

火山詩話
2025-05-28 06:22:25
阿萊格里上任僅1天!就下達逐客令:米蘭27歲巨星失寵,近乎離隊

阿萊格里上任僅1天!就下達逐客令:米蘭27歲巨星失寵,近乎離隊

小火箭愛體育
2025-05-31 16:55:04
真不敢相信照片中的這個女人,竟然是著名主持人朱迅!

真不敢相信照片中的這個女人,竟然是著名主持人朱迅!

草莓解說體育
2025-05-29 14:00:51
2025年,中國人都在買什么車?

2025年,中國人都在買什么車?

金融界
2025-05-29 13:32:29
江蘇蘇超積分榜,宿遷徐州首勝,常州終“進球”,前5有4支蘇北隊

江蘇蘇超積分榜,宿遷徐州首勝,常州終“進球”,前5有4支蘇北隊

第五才子
2025-05-31 22:14:00
李在明對華態(tài)度大轉變,中國讓韓國屈服,韓國僅剩下2個核心產(chǎn)業(yè)

李在明對華態(tài)度大轉變,中國讓韓國屈服,韓國僅剩下2個核心產(chǎn)業(yè)

聞識
2025-05-31 16:07:51
2025-06-01 03:27:00
太空與網(wǎng)絡 incentive-icons
太空與網(wǎng)絡
衛(wèi)星應用領域全媒體平臺
6029文章數(shù) 8154關注度
往期回顧 全部

科技要聞

1小時大定破千,余承東:尊界S800是個開端

頭條要聞

69歲正部級高官被查 半個多月前曾赴海南考察

頭條要聞

69歲正部級高官被查 半個多月前曾赴海南考察

體育要聞

亞錦賽女子200米:16歲陳妤頡22秒97奪金

娛樂要聞

張柏芝曬端午vlog!大兒子送禮物

財經(jīng)要聞

中汽協(xié)倡議:反對“內(nèi)卷式”惡性競爭

汽車要聞

續(xù)航超1000km/增程動力 上汽大眾ID.ERA深圳車展亮相

態(tài)度原創(chuàng)

手機
時尚
數(shù)碼
家居
游戲

手機要聞

主打輕薄,傳音旗下兩款新機均不足6mm

7款復購2次以上的香香好物!誰用誰好聞!

數(shù)碼要聞

單 SSD 容量可達 1PB,SNIA 正開發(fā)面向 2U 的 EDSFF E2 外形規(guī)格

家居要聞

原木純白 邂逅自然本真

毫無難度,BLG零封IG!網(wǎng)友:還是BLG打得有碾壓感!

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 东兰县| 武穴市| 区。| 景泰县| 蕲春县| 江北区| 博乐市| 田林县| 常州市| 泰兴市| 怀柔区| 合江县| 太保市| 宁陵县| 天峨县| 西峡县| 潜山县| 遂平县| 昆明市| 新丰县| 大连市| 托克托县| 长垣县| 周口市| 蒙城县| 百色市| 临澧县| 延吉市| 文水县| 涟水县| 隆安县| 同江市| 呼和浩特市| 通江县| 济源市| 交城县| 孟津县| 舞阳县| 略阳县| 武胜县| 武城县|