99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網易首頁 > 網易號 > 正文 申請入駐

一切計算皆AI,開放計算再破局

0
分享至

“OpenAI最差的決定就是沒有開放它的大模型。”著名科技預言家凱文·凱利在2024年最新演講中強調開源對于AI發展的重要性。

的確,開源大模型近年來迸發出巨大的產業活力,推動了AI的協作與創新:2023年全球新發布的基礎模型中有三分之二為開源模型,80%以上的AI項目使用開源框架,開源大模型下載量超過3億次、并衍生出3萬個新模型……

華麗的數字背后,離不開計算產業的鼎力相助,尤其是開放計算功不可沒。如今,“開源大模型+開放計算”的黃金組合,正深刻影響著AI和計算產業的發展方向。正如浪潮信息服務器產品線總經理趙帥所言:“AI時代,開放計算重要價值在于應對多元算力挑戰,通過產業協作來促進AI的Scale和創新?!?/p>

01

AI重構計算產業

2020年,大模型訓練Scaling Law黃金規則的提出,拉開了AI對于計算產業深遠影響的序幕。

所謂Scaling Law黃金規則,即大模型增加參數量、數據集和計算量,就可以得到性能更優的模型效果,當模型規模達到一定閾值,就會出現智能涌現。例如,Meta最新發布的開源Llama 3.1大模型參數規模高達4030億,能力取得長足進步,甚至在多個方面超越閉源大模型。

Scaling Law黃金規則意味著AI大模型的規模、復雜性、數據量將不斷攀升,對于算力等基礎設施提出極高挑戰。浪潮信息服務器產品線總經理趙帥在2024開放計算中國峰會上表示,AI大模型給基礎設施帶來了全面Scale的全新挑戰。


從產品技術維度來看,為應對AI大模型的規模性和復雜性,算力等基礎設施需要在縱向擴展(Scale up:單系統性能提升)和橫向擴展(Scale out:集群規模擴展)方面來解決挑戰:縱向擴展通過更強大或更多AI加速卡、處理器以及更高速互聯通信,來增加單個設備或節點的計算能力和計算效率;橫向擴展則通過不斷增加計算節點構建大規模集群來滿足AI大模型的算力需求。

“以算力橫向擴展為例,會帶來集群網絡帶寬、基礎設施快速部署、算力資源管理以及高效供電與制冷等一系列全新挑戰。”趙帥如是說,“當前算力的縱向擴展與橫向擴展正處于并存迭代、快速發展的過程。”

另一方面,AI大模型的市場應用迎來關鍵節點,持續帶動更加豐富和細化的算力需求。IDC認為,中國大模型應用在2024年進入到落地期,垂直領域大模型的商業化應用正在加速,尤其是多模態大模型的涌現,應用場景將更加豐富,對于AI算力需求迫切且多樣。

鑒于AI大模型對于算力基礎設施帶來的全方位需求,僅僅依靠傳統產業模式和一兩家領先廠商是遠遠不夠的,產業生態的協作與創新成為必然。因此,開放計算則再次被委寄以重望,并在產業協作實踐與創新中展現出巨大價值。OCP(開放計算社區)基金會理事 David Ramku直言,“人工智能的快速增長正在重構數據中心的生態系統,開放計算項目的全球化協作創新模式可以最大限度激發創新活力。”

據悉,過去三年里,OCP成員數量增長至360多家,增幅接近50%,社區項目和子項目數量超過40個。這其中,像OAM(開放加速規范項目)、開放液冷規范、OpenBMC等項目在帶動AI算力產業高質量和推動AI創新等方面成果顯著。在本次開放計算峰會上,開放算力模組規范(OCM)正式啟動,首批成員包括中國電子標準院、浪潮信息、Intel、AMD、百度等產業伙伴宣布立項,旨在解決AI時代的多元算力等系列挑戰。

02

OAM:硬件開放的完美價值體現

在大模型的帶動下,AI應用創新速度“一日千里”,也讓AI加速芯片成為市場中的香餑餑。

但一大批AI加速芯片企業、產品涌現,不僅讓市場一定程度陷入混亂的局面,也在兼容性、適配性等方面增加用戶使用AI算力產品的難度。如何實現各類AI加速卡兼容、接口標準化就成為破局的關鍵。因此,OAI(Open Accelerator Infrastructure)項目在2019年孕育而生,以解決單個服務器內多元AI加速卡形態和接口不統一、高速互連效率低、研發周期長等問題。

在OAI項目中,OAM設計規范發展最為迅速,獲得包括英偉達、英特爾、AMD、微軟、阿里巴巴、谷歌、浪潮信息等AI芯片企業、互聯網企業、系統廠商的廣泛支持,近年來完美展現出硬件開放的巨大產業價值。目前,OAM已成為全球最多高端AI加速芯片遵循的統一設計標準,全球20多家芯片企業支持OAM規范標準。

以AI系統研發為例,受制于AI芯片動輒兩三年的迭代升級周期,AI系統的產品設計難度大、研發周期長,愈發難以滿足快速變化的AI創新算力需求。OAM設計規范改變了一切,使得AI芯片可以節省研發時間6個月以上,并帶動以浪潮信息為代表系統廠商的產品創新速度。相關數據統計,OAM設計在過去幾年已為整體產業研發投入帶來數十億元的節省,AI算力產業創新的難度得以大幅降低,極大滿足市場需求。

浪潮信息是業界最早擁抱且深度參與OAM規范的系統廠商,并定義業界第一個符合OAM規范的8卡互連硬件系統,其全球首款支持多家不同型號AI加速芯片的開放計算系統MX1可讓不同的加速器共享統一的服務器,用戶可根據需求更換不同的AI加速芯片,而無需更換整機系統,大幅降低AI使用門檻。去年,浪潮信息發布基于OAM v1.5規范的開放加速計算平臺NF5698G7,支持多款基于OAM標準的開放加速芯片,推動完善著整個OAM產業生態。


“基于OAM的標準化平臺,不僅大大加速AI芯片的適配兼容過程,還有利于AI芯片產品的迭代升級,更讓算力部署和使用得以提速,從而快速支撐起大模型和AIGC應用的創新需求。”趙帥介紹道,“明年浪潮信息會基于UBB2.0推出交換拓撲,支撐正在開發的數十款OAM2.0產品的適配兼容?!?/p>

顯然,OAM成為開放計算產業鏈開放、協作成功的典范。當AI浪潮來臨之際,OAM真正以AI需求為牽引,通過硬件產品、設計規范和知識共享,實現產業鏈的高效協作、AI算力創新加速。例如,當前涌現出越來越多千卡、萬卡AI集群,但也帶來了AI大模型訓練的穩定性挑戰,意外中斷的情況頻發、有效訓練時間不足。為此,浪潮信息、字節等10余家企業聯合定義OAM監控管理規范,兼顧不同AI芯片功能特性,完善監控管理數據處理機制,構建分層故障診斷機制,定義標準數據傳輸協議格式,以降低AI芯片訓練的故障。

據悉,OAM規范還在持續迭代,未來基于OAM2.0規范的AI加速卡將支持1024張加速卡的卡間互聯,有望突破大模型互聯瓶頸。

03

開放算力模組規范OCM正式啟動

近年來,計算產業因為AI算力而受到廣泛關注,而通用算力似乎“備受冷落”。事實上,隨著AI大模型廣泛進入各行各業,AI大模型一方面與PC、手機、邊緣服務器等設備緊密結合,另一方面又與HPC、數據庫、大數據、BI、備份軟件等各類應用的深度融合,這一切使得算力范式再次變化,通用算力也需要迎接AI的浪潮,承擔起AI融合的重任。

“未來不僅僅是AI芯片,一切計算皆AI,通用算力也需要具備AI計算的能力。”趙帥旗幟鮮明地表示。

另一方面,通用算力芯片依然是計算產業中的核心骨干,并呈現出百花齊放的發展態勢,x86、ARM、RISC-V等不同架構的芯片高速發展,讓多元化算力的趨勢更加明顯。另一方面,不同CPU協議標準不統一,隨著系統功耗、總線速率、電流密度不斷提升,導致硬件開發、固件適配、部件測試資源等時間激增,給算力系統設計帶來巨大挑戰。

趙帥表示:“應用場景的豐富化、復雜化和快速變化,使得算力平臺的迭代速度需要提速。因此,需要一個統一的算力底座,來解決CPU計算的效率、兼容和迭代升級等問題。”

因此,本次開放計算峰會上啟動的開放算力模組規范(OCM)受到業界廣泛關注。OCM規范是將過去緊耦合的服務器架構進行“分散”,以CPU和內存作為最小的算力單元,通過標準化對外高速互連、管理協議、供電接口等來實現多CPU的“兼容并蓄”。

顯然,OCM規范對于開放計算、計算產業的意義重大。有了OCM規范之后,算力系統廠商可以加快產品迭代速度,并提升產品研發效率;另外,屆時,采用OCM規范的算力平臺針對不同應用需求,只需更換CPU即可,實現算力快速抵達用戶,讓用戶可根據需求變化快速地利用最先進、最適配的算力。

對于OCM標準化未來可能帶來產品同質化的挑戰。浪潮信息認為,標準化必然會帶來同質化,但計算產品走向標準化和開放化是大勢所趨,既能夠讓新技術實現快速迭代和落地,又能夠讓廠商與用戶連接更加緊密,更能夠促進新技術的產業化。

04

全方位進化,加速AI創新

AI改變世界的“進度條”才剛剛開始。對于算力基礎設施而言,OAM、OCM等規范的出爐與實踐,僅僅是算力范式的進化。面向未來,隨著算力需求依然會持續大幅增加,算力還將繼續Scale,必須在運維、管理、制冷散熱等方面全方位進化,從而加速AI創新。

例如,異構多元算力的發展,必然會帶來固件平臺分支龐大、適配管理困難等挑戰。為此,浪潮信息去年發布了基于OpenBMC的InBry開放管理平臺,經過一年多的發展,實現多種管理規范的統一和多固件分支版本適配等挑戰,并建立統一管理規范和在標準接口規范下的異步、自主定制迭代,為AI的發展進一步做提速。

又如,AI芯片功耗的飆升,隨著萬卡、十萬卡規模的AI集群越來也多,整個數據中心能耗問題突出。產業鏈上下游亟需高效協作和推動液冷技術的產業化,讓液冷技術走進每一個數據中心。為此,浪潮信息聯合產業鏈合作伙伴制定了四個液冷相關標準,推動GPU、CPU等算力組件液冷化,以及模塊化標準接口、液冷機柜等,解決未來AI集群規模化下的能耗挑戰。

“開放計算對于計算產業未來發展的意義重大。作為產業鏈一份子,浪潮信息會堅定走開放的路線,并且更加開放、走的更快,擁抱新技術、推動技術產業化,實現與用戶、產業鏈共贏?!壁w帥表示。

大數據在線是聚焦人工智能、大數據、云計算等前沿科技領域深度觀察的深度媒體。目前,大數據在線在微信公眾號、今日頭條號、新浪財經、36氪、雪球號、觀察號等主流自媒體平臺均有入駐,積累粉絲超過20W;并榮獲今日頭條十大科技新銳媒體、商業新知十大人工智能媒體等多項殊榮。商務聯系請添加微信:Owen_Inter,添加請備注具體信息。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
北洋最豪橫官二代一一盧小嘉

北洋最豪橫官二代一一盧小嘉

曉史
2025-06-17 13:31:58
陳彼得妻子首度發聲!哽咽回應死因,兩人最近合影曝光,十分恩愛

陳彼得妻子首度發聲!哽咽回應死因,兩人最近合影曝光,十分恩愛

深析古今
2025-06-17 21:57:21
這個月數據,真特么難看?

這個月數據,真特么難看?

混知房產
2025-06-17 09:12:35
Shams解釋其奇怪眼神:當時香波特聊馬刺&KD傳聞 我想那可能嗎?

Shams解釋其奇怪眼神:當時香波特聊馬刺&KD傳聞 我想那可能嗎?

直播吧
2025-06-18 01:00:30
網易云VIP突然宣布免費,還不領就來不及了

網易云VIP突然宣布免費,還不領就來不及了

鋒潮評測
2025-06-17 16:03:05
抱摔!Haynes:鑒于兩人都是新秀 BIG3不會對霍華德&師弟追加禁賽

抱摔!Haynes:鑒于兩人都是新秀 BIG3不會對霍華德&師弟追加禁賽

直播吧
2025-06-18 01:32:11
澤連斯基:基輔等地遭俄大規模空襲,已致近百人死傷

澤連斯基:基輔等地遭俄大規模空襲,已致近百人死傷

界面新聞
2025-06-17 14:59:50
ESPN最新模擬選秀:楊瀚森第35順位被76人選中 有望搭檔恩比德?

ESPN最新模擬選秀:楊瀚森第35順位被76人選中 有望搭檔恩比德?

醉臥浮生
2025-06-17 21:46:02
以色列和伊朗相隔1000多公里,并無領土爭端,為何以色列要揍伊朗

以色列和伊朗相隔1000多公里,并無領土爭端,為何以色列要揍伊朗

行走的知識庫
2025-06-14 07:48:23
這下,很多人又要返貧了

這下,很多人又要返貧了

路財主
2025-06-17 22:45:39
重拳出擊!中方發出最后通牒,重裝部隊壓境直抵班公湖,不戰而勝

重拳出擊!中方發出最后通牒,重裝部隊壓境直抵班公湖,不戰而勝

Ck的蜜糖
2025-06-13 01:28:57
張子宇出戰亞洲杯引熱議!媒體人:難道要一個18歲的孩子保冠軍?

張子宇出戰亞洲杯引熱議!媒體人:難道要一個18歲的孩子保冠軍?

狼叔評論
2025-06-17 13:09:09
中國駐伊朗大使館:提醒在伊中國公民盡快通過陸路邊境口岸轉道回國或離境

中國駐伊朗大使館:提醒在伊中國公民盡快通過陸路邊境口岸轉道回國或離境

環球網資訊
2025-06-17 17:55:29
美國商務部:在美國的制裁下,中國休想制造出數量龐大的AI芯片

美國商務部:在美國的制裁下,中國休想制造出數量龐大的AI芯片

史行途
2025-06-16 08:32:22
一IT男被裁!自曝10年攢400萬現金加股票,2套房,1輛30萬的車…

一IT男被裁!自曝10年攢400萬現金加股票,2套房,1輛30萬的車…

火山詩話
2025-06-17 17:29:13
7月開始,我國將明令禁止收取這5種物業費,業主們還需早知道!

7月開始,我國將明令禁止收取這5種物業費,業主們還需早知道!

山丘樓評
2025-06-15 22:18:09
超級龍舟水特大暴雨襲廣東,700毫米逼近記錄!分析:最強雨帶北抬

超級龍舟水特大暴雨襲廣東,700毫米逼近記錄!分析:最強雨帶北抬

中國氣象愛好者
2025-06-17 22:01:13
??從1億巨星到免簽替補!博格巴醒悟,2026世界杯,搶姆總隊長

??從1億巨星到免簽替補!博格巴醒悟,2026世界杯,搶姆總隊長

阿泰希特
2025-06-17 14:16:41
內塔尼亞胡:不排除干掉哈梅內伊

內塔尼亞胡:不排除干掉哈梅內伊

觀察者網
2025-06-17 10:11:08
溢價超30倍,有人一周賺37萬!外掛軟件讓普通人“無貨可買”

溢價超30倍,有人一周賺37萬!外掛軟件讓普通人“無貨可買”

極目新聞
2025-06-16 22:29:44
2025-06-18 01:48:49
dobigdata incentive-icons
dobigdata
科技推動商業
719文章數 305關注度
往期回顧 全部

科技要聞

51歲劉強東談幾年前"退休":當時太理想主義

頭條要聞

救護車轉運重癥患兒800公里收費28000元 衛健委回應

頭條要聞

救護車轉運重癥患兒800公里收費28000元 衛健委回應

體育要聞

杰威40+6雷霆3-2步行者 SGA31+10

娛樂要聞

重男輕女還雌競?朱丹行為引爭議

財經要聞

白酒股崩了,誰在“拋棄”茅臺?

汽車要聞

高級感拉滿 極氪9X全新配色“極晝白”亮相

態度原創

教育
房產
健康
公開課
軍事航空

教育要聞

貴州元寶村小學支教流水賬(Day1)

房產要聞

又一城購房補貼!買房就發錢,正在海南樓市瘋狂擴散!

呼吸科專家破解呼吸道九大謠言!

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

伊朗襲擊摩薩德總部

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 昌吉市| 静宁县| 常德市| 天等县| 贵南县| 铁力市| 上饶县| 云龙县| 马龙县| 宁强县| 遂宁市| 沙坪坝区| 会宁县| 阿鲁科尔沁旗| 石林| 满洲里市| 中超| 长白| 琼结县| 楚雄市| 张家界市| 万宁市| 浦城县| 辽阳市| 南宫市| 大荔县| 长沙市| 密山市| 夏河县| 师宗县| 余姚市| 曲周县| 遂宁市| 吕梁市| 营山县| 大同县| 江口县| 太仆寺旗| 车险| 沅陵县| 盐源县|