DeepSeek致謝騰訊!深企杭企這波聯動火了
近日,騰訊技術團隊針對DeepSeek開源的DeepEP通信框架進行深度優化,使其在多種網絡環境下均實現顯著性能提升。經測試,優化后的通信框架性能在RoCE網絡環境提升100%,IB網絡環境提升30%,為企業開展AI大模型訓練提供更高效的解決方案。相關技術方案獲得了DeepSeek公開致謝,稱這是一次“huge speedup”代碼貢獻。
自今年2月DeepSeek開源包括DeepEP在內的五大代碼庫以來,該團隊便向業界展示了如何利用有限的硬件資源實現接近萬卡集群的性能。在這些技術中,DeepEP憑借突破性的方法提升了300%的通信效率,成功解決了MoE架構大模型對英偉達NCCL的依賴問題。
但該技術在成本較低、適用面更廣的RoCE網絡環境中表現不佳,限制了其在更廣泛場景的應用。這一痛點引發了開源社區的持續討論。
騰訊星脈網絡團隊基于在RoCE網絡領域的深厚積累,在DeepEP開源后便展開技術攻關,發現兩大關鍵瓶頸:一是對于雙端口網卡帶寬利用率不足,二是CPU控制面交互存在時延。
騰訊在RoCE網絡優化方面的突破,首先體現在帶寬分配的智能化,通過拓撲感知的多QP建鏈技術,智能分配數據流,優化了雙端口網卡的帶寬利用率,確保每條數據通道都能得到充分使用。此舉有效避免了帶寬浪費,為RoCE網絡的性能提升提供了有力支撐。
其次,騰訊還著力解決了GPU通信中的CPU控制瓶頸問題。通過基于IBGDA技術的優化,騰訊使得“控制面”場景的操作也可以繞過CPU的“中轉”,進一步降低了延遲和能耗,提升了整體通信效率。
同時,GPU直接“對話”時存在的傳輸順序混亂難題,騰訊提出了“QP內時序鎖”機制,使得多個GPU間的數據傳輸能夠精準、按順序完成,即使同時處理1000多個數據傳輸任務,DeepEP也能自動理順先后順序。
在騰訊的技術優化下,DeepEP不僅在RoCE網絡實現性能翻倍,反哺到IB(InfiniBand)網絡時更使原有通信效率再提升30%。
騰訊工程師在不同節點服務器上的測試數據
目前該技術已全面開源,并成功應用于騰訊混元大模型等項目的訓練推理,在騰訊星脈與H20服務器構建的高性能環境中,這套方案同樣展現出卓越的通用性。
(內容來源:極目新聞、第一財經、界面新聞、IT之家)
鴻蒙電腦亮相深圳!國產操作系統實現重大突破
5月8日
華為公司在深圳舉辦
鴻蒙電腦技術與生態溝通會
標志著搭載鴻蒙操作系統的
“鴻蒙電腦”正式亮相
國產操作系統
在個人電腦(PC)領域
實現重要突破
據了解,鴻蒙電腦歷經5年布局,集結上萬名工程師、聯合20多家研究所共同研發,積累超過2700項核心專利。鴻蒙電腦搭載HarmonyOS 5,從內核開始重構操作系統。
此外,鴻蒙電腦還將AI和智慧交互等功能引入操作系統,帶來更加智慧流暢的操作體驗。目前,已有300多個融合生態應用完成適配,預計今年底將有超過2000個應用完成適配。
據了解,鴻蒙操作系統是由華為開發的全場景智能操作系統,于2015年立項,用不到10年的時間走完了同行30年的歷程。2019年,華為公司正式對外發布鴻蒙操作系統,2021年該系統正式搭載到智能手機上。
近年來,該系統在創新中不斷演進。2023年9月,華為宣布全面啟動鴻蒙應用,這意味著鴻蒙操作系統將完全使用自主“內核”,在開發過程中不再依賴其他操作系統的開放源代碼。目前,鴻蒙操作系統生態設備突破10億臺。鴻蒙操作系統注冊開發者達到720萬,代碼超過1.1億行,并實現從操作系統內核、文件系統,到編程語言、人工智能框架和大模型等全部實現自研。
小藝首次登錄鴻蒙電腦
據悉,通過系統級的AI能力,小藝在鴻蒙電腦上成為無處不在的系統級智能助理:
配合第三方應用,小藝文檔助理搞定好用的PPT就是一句話的事情;
小藝知識空間能從本機全盤文檔中摘取用戶所需的信息,并直接給出答案和總結;
小藝慧記可以提供會議紀要轉寫和摘要總結,會議托管能還能跨端提醒。
此外,依托分布式軟總線技術,鴻蒙電腦帶來了自然、無縫、無感的跨設備互聯體驗,支持與華為手機、電腦、平板三設備鍵鼠共享。
通過手眼同行、跨設備互通、應用接續、華為分享,能實現華為手機、平板與電腦之間的無縫銜接,極大提升辦公效率。并以軟硬芯云垂直整合架構重塑電腦體驗,應用秒開、文件秒開、交互跟手絲滑,帶來更加智慧高效、流暢安全的使用體驗。
(來源:人民日報、深圳特區報)
來源: 深圳夢 (微信號ID:SZeverything) 綜合
我們的使命是:星辰大海,只與夢想者同行!
擁有深圳夢,請關注(微信號ID:SZeverything)
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.