2024年7月8日,由深圳市芯師爺科技有限公司和慕尼黑上海電子展攜手主辦,深圳市半導體行業協會、深圳市人工智能行業協會和智用人工智能應用研究院指導,深圳市微納集成電路與系統應用研究院支持的“2024算力技術創新發展生態大會”,于上海新國際博覽中心C1館現場論壇區1574號展位圓滿落幕。
高端對話:跨越算力瓶頸,探索人工智能的新邊界
上午場高端對話由益企研究院創始人、CDCC中國數據中心專家組專家、OCTC開放計算委員會數據中心工作組組長張廣彬主持,特邀智用人工智能應用研究院CTO、原微軟中國首席創新技術架構師周聞鈞、深圳市人工智能行業協會執行會長郎麗艷和蘇州億鑄智能科技有限公司創始人、董事長兼CEO熊大鵬博士等三位行業資深人士及企業高管,圍繞論壇主題“跨越算力瓶頸,探索人工智能的新邊界”展開交流探討。
AI到底是一片新藍海,還是又一次的泡沫?專家們普遍認為,盡管AI和算力發展面臨泡沫和挑戰,但整體態勢呈樂觀趨勢。當泡沫褪去,AI將在更多領域大放異彩,也將開啟云計算產業鏈新一輪的景氣周期。
從技術成熟度和容錯率的角度出發,郎麗艷認為對AI容錯率高的應用將率先取得突破,無論是ToC還是ToB領域。從算力層面來看,熊大鵬博士認為,未來將會出現算力中臺一類的產品。算力中臺向上支撐各類大模型的發展,向下對接和兼容各類應用,在大數據時代起到數字基建的關鍵作用,而千卡萬卡集群也離不開算力中臺這一概念,可以說未來市場巨大。
最后,周聞鈞強調了走自主技術發展道路的重要性。他認為,在地緣政治的影響下,中國應發展適合自身特點和優勢的AI領域,如具身智能和端側模型,以避免跟隨美國的步伐,走出自己的發展道路。
01:驅動存儲的性能飛躍
數據顯示,自2012年以來,AI訓練應用的算力需求每3-4個月翻倍,10年內增長超過30萬倍,未來10年有望實現千倍增長。江波龍企業級存儲事業部市場總監聶集武在演講中提出,AI算力需求從云側逐步轉移至端側,使得2024年被譽為“AI PC元年”,AI PC將在2025年快速提升滲透率。推動相關硬件和軟件技術的創新。
其中,江波龍FORESEE XP2300 PCIe Gen4 SSD專為電競游戲本和高效生產力PC設計,順序讀寫速度最高可達7400MB/s和/ 6400MB/s,具備溫控算法和低功耗L1.2,以平衡性能與溫度,提高設備續航。FORESEE LPCAMM2則采用了LPDDR5x DRAM技術,兼具高性能、低功耗、小型化等特點,為AI PC提供更多可能。
02:超越極限:大算力芯片面臨的技術挑戰與解決策略
蘇州億鑄智能科技有限公司創始人、董事長兼CEO熊大鵬博士帶來《超越極限:大算力芯片面臨的技術挑戰與解決策略》主題演講,闡述大算力芯片的新機遇、新挑戰:人工智能正迅速融入傳統領域,誕生智算中心、AI PC、AI手機和具身智能等新興市場,不僅迎來AI PC元年,AI手機對相關芯片的需求也愈加凸顯。然而,大算力芯片發展正遭遇存儲墻、能耗墻、成本增加和軟件生態不足等發展瓶頸。
面對這些挑戰,熊大鵬博士提出:存算一體超異構可以有效解決上述問題,是開啟算力增長第二曲線的終極解決方案,可以為算力的落地和最后一公里的打通提供更大的算力,更高的能效比和更具成本效應的解決方案。億鑄科技希望通過技術創新,開啟新的發展路徑,實現算力的落地,加速生態的發展,推動整個產業的可持續發展。未來,億鑄科技將致力于持續推動國內大算力芯片產業鏈的發展!
03:TPU和RISC-V:大模型時代下的算力新機遇
在算能生態合作部總監何旅洋看來,在大模型同質化引發的算力戰爭中,成本、功耗成為決勝關鍵,要求訓推硬件系統化,異構算力、多維并行、異步調度和資源池化為長期趨勢,而RISC-V作為新一代指令集,擁有“開源、簡單、高效、可擴展”等眾多特性,在智算領域擁有無限想象空間。
因此,算能推出行業首款服務器級RISC-V處理器SG2042,已實現商用交付。SG2042基于64核RISC-V架構,主頻2GHz,擁有64MB系統緩存,最多支持兩路SG2042互聯,兼具高性能、高吞吐、高能耗比等特性,適用于云計算、數據分析、網絡和存儲工作負載,以及數據密集型和I/O密集型的工作負載。
04:面向邊緣智能的國產邊緣計算芯片創新
在題為《面向邊緣智能的國產邊緣計算芯片創新》的演講中,云天勵飛芯片市場總監沈宇亮強調,AI大模型行業應用規模化發展趨勢之下,推理算力的重要性日益提升,大模型推理和微調的市場需求巨大,專用的大模型推理芯片將有廣闊市場空間。
云天勵飛基于大模型算法芯片化的“1+N+X”戰略,推出的邊緣大模型智算芯片DeepEdge10系列,是基于國產工藝的Chiplet AI芯片,內置自研新一代神經網絡處理器NNP400T,通過D2D高速互聯Chiplet技術、C2CMesh互聯架構實現算力擴展,能夠支持千億級參數大模型,落地于邊緣設備和邊緣服務器。
05:算法算力和存儲行業的協同: 推動中國制造的軟硬件一體化建設
德明利營銷中心戰略銷售副總經理張晟彬分享德明利在存儲領域的創新與實踐,指出馮·諾依曼架構已成為發展芯片算力的桎梏,傳統芯片的發展速度已無法滿足對算力急劇上升的需求,摩爾定律的放緩給芯片行業帶來巨大挑戰。此時,存算一體化作為先進算力的代表技術,通過在存儲器中嵌入計算能力,有效提升計算能效,為解決算力瓶頸提供了新思路。
德明利持續聚焦存儲主業16年,產品線涵蓋固態硬盤、嵌入式存儲、內存條及移動存儲四大系列,已廣泛應用于車載電子、數據中心、新能源汽車、手機、平板、安防監控等多元應用場景,持續為全球100多個國家和地區的客戶提供定制化、高品質、高性能的存儲產品和解決方案。
06:大模型加持具身智能,算力們準備好了嗎?
智用人工智能應用研究院CTO、原微軟中國首席創新技術架構師周聞鈞通過Figure 1公司的案例導入,展示了OpenAI大模型在多模態輸入、意圖理解和方案規劃上是如何與設備端模型完美協同,并與斯坦福開源的Mobile ALOHA項目在具身智能領域的進展進行對比。致力于推動AI技術與傳統產業的深度融合,智用人工智能應用研究院特別關注AI在產品制造領域的應用,推出產品“AI BOM”優化產品從研發到銷售的全過程,為制造業的轉型升級提供了新思路。
據周聞鈞觀察,當下工業機器人的智能化仍依賴于傳統機器學習,在制造業領域,算力并不稀缺,國產企業仍大有可為。與其去追逐H100、H200的步伐,不如更好地適配開源小模型,為具身智能帶來新的可能性。
07:玄鐵RISC-V AI全棧技術拓展算力生態邊界
達摩院RISC-V及生態資深軟件負責人李春強在演講中援引SHD集團的數據顯示,自2022年至2030年,RISC-V在主流市場年復合增長率將高達40%。不僅如此,作為一種新興開源芯片架構,RISC-V以其開放、模塊化和可擴展的核心特性,RISC-V從開始推廣商用到實現累計出貨100億顆芯片,僅用了約十年的時間,就完成了Arm架構30年的歷程。
玄鐵在去年發布了三款RISC-V核心,包括面向端側人工智能的C907,面向高性能推理的C920,以及面向實時/可靠領域增強的高性能處理器R910。據李春強透露,玄鐵將面向AI加速、低功耗、安全、車規等方面全面迭代玄鐵產品線,并將在今年推出繼續引領市場的下一代高性能RISC-V處理器核C930。玄鐵C930兼容RVA24 Profile,采用亂序流水線,SpecINT2K6最高跑分可達15/GHz。
08:基于RISC-V V擴展滿足大算力并行需求
芯來科技戰略市場高級總監馬越帶來主題演講《基于RISC-V V擴展滿足大算力并行需求》,提出RISC-V可以加持賦能AI芯片中的CPU,更好的支持AI芯片的軟硬件協同及生態。AI加速芯片將會成為所有RISC-V SoC中占比最高的部分,預計2030年總市場規模達到420億美元,CAGR高達49.2%,是RISC-V增長預期中的重要組成部分。
芯來科技重點布局AI應用場景,推出第一款AI專用RISC-V處理器CPU IP NI900系列內核,不僅支持RISC-V Vector1.0標準,還擁有強大的并行計算能力、Memory讀寫能力,帶來極大的并行計算性能提升,助力本土芯片設計公司完成AI芯片的設計。
09:從多核到眾核:RISC-V+NOC IP算力子系統
廣東賽昉科技有限公司資深銷售總監周杰在演講中展示了賽昉科技的IP產品線,包括兩款高性能RISC-V CPU IP——昉?天樞-90和昉?天樞-80,以及兩款一致性互聯總線IP——昉?星鏈-500和昉?星鏈-700。從高性能到高能效,賽昉科技在RISC-V領域持續探索,不斷擴充自研RISC-V CPU IP矩陣。以滿足不同場景的需求。
周杰還分享了基于昉?星鏈-500和昉?星鏈-700的算力子系統方案的具體實例。其中,基于昉·星鏈-500的多核(4-16核)算力子系統平臺可根據系統需求靈活配置大小核數量,展現出極致性能、能效平衡、能效優先三大優勢。基于昉?星鏈-700的眾核(大于16核)平臺是首個國產Mesh拓撲架構的算力子系統,可以支持最大144節點,周杰分享了該平臺的實際案例以及網絡延遲等階段性實測數據。
10:在算力ASIC之前的一種可商業化技術驗證路徑——針對高帶寬計算優化的FPGA
Achronix Semiconductor中國區總經理郭道正深入分析了AI芯片市場的快速發展和對高帶寬計算優化FPGA的需求。從AI市場增長速度來看,預計從2023年到2033年,AI芯片市場將增長10倍,達到920億美元。其中,開發先進節點ASIC開發成本高昂,例如5nm工藝的成本可能超過5億美元,3nm工藝可能達到15億美元。
除了原型驗證以外,FPGA因其硬件可編程性、計算能力和靈活性、內存帶寬和容量以及成本效益,在大模型推理中扮演重要角色。Achronix Speedster7t系列FPGA旨在優化LLM操作,平衡LLM硬件的關鍵要求,具體特性體現在高性能計算、高帶寬內存和高能效處理,可提供更經濟且更高能效大模型推理解決方案。
11:邊緣側AI
Imagination Technologies中國區資深市場拓展經理黃音在演講中引用了AI研究者Rich Sutton在其《苦澀的教訓》(The Bitter Lesson)論文中的觀點,強調了通用基礎模型和開放軟件生態系統在邊緣側AI發展中的重要性。隨著端側AI訓練、推理的需求增大,晶體管持續擴展,性能不斷提升的同時,熱管理也成為了主要挑戰。硬件設計趨向于用更通用的同構的架構可能成為硬件設計的最優解。
Imagination作為圖形、計算和邊緣人工智能領域的領導者,致力于推動技術創新,擁抱人工智能的未來發展。目前,Imagination提供全棧解決方案,覆蓋了汽車、移動設備、桌面等多個領域,其產品線涵蓋多個GPU和CPU系列。GPU包括支持光線追蹤的XT GPU、支持高性能DirectX的XD GPU、專為汽車等安全關鍵領域設計的XS GPU等等;高質量RISC-V CPU包含了實時CPU系列、性能密集型CPU系列、以及高性能CPU系列。 Imagination也希望通過標準化組織的力量—UXL基金會和RISE組織里的領導作用, 幫助國產芯片在GPU和RISC-V CPU在邊緣算力上對接生態取得成功。
12:基于iDivider的數字隔離技術為數據通訊接口提供可靠的保護
榮湃半導體(上海)有限公司市場高級經理張宏林詳細闡述了榮湃半導體的核心技術——電容智能分壓技術(iDivider),這是一種創新的數字隔離器技術,它通過電容分壓原理簡化了電路設計,無需RF信號和調制解調,相比傳統光耦和其他隔離技術具有更低的功耗、更高的信號傳輸效率和更強的抗干擾能力。
據介紹,榮湃半導體的數字隔離器產品線,包括標準數字隔離器、數字光耦、高速光耦PTP、光MOS和超寬體數字隔離器,在電動汽車和光伏逆變器等領域如OBC/DC-DC汽車電源、BMS電池管理系統、電機驅動器、空調與加熱器熱管理實現關鍵應用。
圓桌討論:中國機遇下的多元算力生態構建策略
下午場圓桌討論由益企研究院創始人、CDCC中國數據中心專家組專家、OCTC開放計算委員會數據中心工作組組長張廣彬主持,特邀曠深科技總經理、原統信軟件生態中心副總經理、原戴爾EMC超融合產品VxRail運營負責人周辰杰、深圳市德明利技術股份有限公司營銷中心戰略銷售副總經理張晟彬、達摩院RISC-V及生態資深軟件負責人李春強、Imagination Technologies中國區資深市場拓展經理黃音和戴爾科技集團軟件研發總監石勇軍等行業大咖,圍繞主題“中國機遇下的多元算力生態構建策略”展開交流探討。
周辰杰將當前的算力發展比作“iPhone時刻”,指出中國擁有龐大的人口基數、市場和科技力量,這使得中國在算力領域成為世界的重要玩家。中國在移動互聯網的快速發展中已經展現出了巨大的潛力和創新能力,此次也能迎頭趕上全球算力浪潮。
張晟彬則強調了開源生態和聚焦中國擅長領域的重要性。他認為,中國應該發展自己擅長的東西,而不是盲目跟隨國際潮流,這樣才能做出提更加創新、被人接受的東西。
李春強從技術維度和生態角度分析算力,他提到:“算力不僅僅是數值計算能力的衡量,更關鍵的是算力與應用的有機結合,以及算力的性價比和能效比。”中國在算力生態中具有巨大的應用市場,這將牽引創新力量,推動中國在全球算力生態中扮演舉足輕重的角色。
黃音認為,中國發展算力的優勢在于大量的需求、資源和人才,但同時也面臨著基礎問題、標準化問題和信息安全問題等挑戰,應該更加關注應用的落地和整體解決方案,而不僅僅是算力的峰值性能。要提高中國的算力競爭力和國際影響力就好加入國際標準化組織。Imagination在RISC-V軟件生態組織RISE和開放軟件系統UXL組織中都是創始成員和技術委員會成員。Imagination希望幫助中國本土芯片廠家在標準化組織中發聲,跟國際對接,跟全球生態兼容。
石勇軍也表示,中國的生態鏈系統是其顯著優勢之一。國內擁有各行各業的芯片廠商,這些廠商之間的競爭和發展為算力的創新和發展提供了堅實的基礎。一個完善的生態鏈不僅促進了技術的進步,還加速了從創新到產品制造的轉化過程。
整體而言,中國在全球算力發展中具有顯著的優勢,包括完善的生態鏈、廣泛的應用需求、創新與客戶需求的結合以及龐大的市場規模。這些優勢為中國在算力領域的持續發展和全球領先提供了堅實的基礎,但也面臨著需要克服的挑戰。通過聚焦創新、開放合作和解決實際應用問題,中國有望在算力領域取得更大的發展和突破。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.