日前，備受業(yè)內矚目的國際權威AI基準測試MLPerf?公布了最新一期訓練（Training)榜單V1.1。其中，中國系統(tǒng)廠商浪潮信息提交了AI服務器所有8項單機測試的固定任務(Closed Division)成績，并斬獲其中7項冠軍。而縱觀即將過去的2021年，在該年度總共4次性能測試中，浪潮AI服務器共斬獲44項第一，名列MLPerf?2021年度冠軍榜首。

那么問題來了，MLPerf?榜單緣何如此重要？以浪潮信息為代表的中國系統(tǒng)廠商獲得該榜單年度總冠軍背后意味著什么？

大咖云集、接地氣，MLPerf?榜單含金量高

提及與ICT產業(yè)相關領域的榜單，相信業(yè)內有相當部分的人會抱有不屑的態(tài)度。這很容易理解，畢竟在“不服跑個分”已經成為某些廠商口頭禪和誰都要跑個分的今天，某些榜單的含金量大打折扣確是不爭的事實。

而在我們看來，衡量和判斷一個榜單含金量的標準非常簡單，即參與榜單廠商在與測試相關的產業(yè)中的實力和地位如何（代表權威性），更重要的是，該榜單的測試標準及項目是否更貼近該市場和用戶的實際應用場景（代表實用性），即俗話說的是否更接地氣。

據此，我們來看看MLPerf?榜單的含金量究竟如何？

以MLPerf?公布的最新一期訓練（Training)榜單V1.1為例，我們看到，它吸引了包括谷歌、微軟云、英偉達、浪潮信息、百度、戴爾、聯想等14家公司及科研機構的參與。其中谷歌、英偉達、微軟無疑是業(yè)內公認的，當下AI領域軟硬件方面絕對的大咖，而浪潮信息則是AI系統(tǒng)（例如AI服務器）市場中的No.1（中國及全球AI服務器市場始終占據榜首）。從參與的廠商看，我們不難發(fā)現，其涵蓋了AI的硬件、軟件、系統(tǒng)、應用等業(yè)內頂尖的企業(yè)。

接下來我們再看其是否更貼近市場和用戶的實際應用場商場景。這里我們還是以MLPerf?公布的最新一期訓練（Training)榜單V1.1為例，上述參與的相關企業(yè)共提交180項固定任務成績，6項開放任務成績。其中固定任務要求參賽各方使用與參考模型等價的模型和限定的優(yōu)化器，對于實際用戶評測AI計算系統(tǒng)性能具備很強的參考意義，也一直是MLPerf?中角逐最激烈及主流廠商最關注的領域。

對此，浪潮信息高級 AI 產品經理王磊此前接受全球權威數據中心媒體The Next Platform采訪時曾表示：“MLPerf 是基于最廣泛的 AI 負載和應用場景，例如計算機視覺、自然語言處理和推薦系統(tǒng)。”“MLPerf 訓練基準中的八項任務提供了較為完整的各類神經網絡模型，對客戶的應用場景有非常好的代表性”。而也正是這份權威雜志，其在《WHY THE MLPERFBENCHMARK IS GOOD FOR AI, AND GOOD FOR YOU》https://www.nextplatform.com//why-the-mlperf-benchmark-is-good-for-ai-and-good-for-you/，文章中，作為第三方，詳細分析了MLPerf?榜單權威性的原因，有興趣的業(yè)內人士不妨拿來一閱，相信會對MLPerf?榜單，尤其是其權威性和實用性會有更加客觀和深刻的理解，我們這里不再贅述。

我們認為，無論是從參與的廠商（AI產業(yè)相關大咖云集），還是其接近市場和用戶實際應用場景（項目設置更符合實際應用）以及獨立第三方的分析和解讀，MLPerf?榜單不僅權威，還更接地氣，是它對于市場和用戶的真正價值所在，即市場和用戶以此榜單作為標準做出的選擇，與其在實際業(yè)務場景中的應用表現應相差無幾。

當我們明確了MLPerf?榜單的權威性及實用性再來看看中國系統(tǒng)廠商浪潮信息的表現。

2021年，浪潮AI服務器在MLPerf?數據中心AI推理場景的總32項任務中斬獲17項冠軍，在邊緣AI推理場景的總31項任務中斬獲16項冠軍，從云到邊全面領先；在單機AI訓練場景的16項任務中浪潮AI服務器共斬獲11項冠軍。

可以說，無論是從MLPerf?榜單，還是實際應用的角度，中國系統(tǒng)廠商在AI計算確實走在了前列。

系統(tǒng)級創(chuàng)新，榜單背后的硬核支撐

所謂知其然，需知所以然。中國系統(tǒng)廠商緣何會在MLPerf?榜單中名列前茅？

眾所周知，對于AI算力，雖然芯片是核心，但事實是，芯片從造出來到大規(guī)模用起來，往往還隔著一個巨大的產業(yè)鏈鴻溝，主要體現在，算力的供給需要構建算力平臺，需要解決架構設計、核心部件、高速互聯、散熱設計等一系列工程問題。而要解決這些問題，就涉及到系統(tǒng)創(chuàng)新。

需要提醒的是，千萬不要忽視系統(tǒng)創(chuàng)新的難度，具體到一臺AI服務器，除了芯片外，系統(tǒng)廠商需要解決超過300個關鍵的過程控制點和設計難題，同時還需要解決與算法框架和AI應用的優(yōu)化和適配等挑戰(zhàn)。

業(yè)內知道，與單純的芯片廠商相比，系統(tǒng)廠商由于長期位居服務市場和客戶的最前沿（離市場和用戶最近），最知曉他們的痛點和需求，所以在我們看來，有且只有系統(tǒng)廠商，依靠其系統(tǒng)級的創(chuàng)新能力，有的放矢，化解我們前述面臨的挑戰(zhàn)，最終釋放出AI算力的最大價值，高效率地輸出算力，滿足市場和用戶實際的應用場景及業(yè)務需求。而這一規(guī)律，通過此次和全年霸榜MLPerf?的中國系統(tǒng)廠商浪潮信息在AI計算系統(tǒng)創(chuàng)新方面的系統(tǒng)設計和全棧優(yōu)化能力的表現得到了很好的驗證。

具體表現在，針對AI訓練中常見的密集I/O傳輸瓶頸，浪潮AI服務器以領先設計大幅降低通信延遲，極大提升了AI訓練效率；同時，針對高負載多GPU協同任務調度，對NUMA節(jié)點與GPU之間的數據傳輸進行全面優(yōu)化和深度調校，確保訓練任務中的數據IO無阻塞；在散熱層面，針對目前業(yè)界功率最高的A100-SXM-80GB(500W） GPU，浪潮率先開發(fā)的先進冷板液冷系統(tǒng)，確保GPU在全功率甚負載下依然穩(wěn)定工作，將AI計算系統(tǒng)的性能發(fā)揮到極致。

針對不同AI任務的計算特點，浪潮AI服務器的精細化調優(yōu)能力也走在前列。在2020年的MLPerf? V0.7評測中，浪潮信息開創(chuàng)性提出效率更高的圖像分類（ResNet50）收斂性優(yōu)化方案，即在ImageNet數據集上，僅使用85%的迭代步數就達到了75.9%的目標精度，該優(yōu)化方案將訓練性能提升了15%。目前，該方案已被MLPerf社區(qū)成員普遍采納。此外，在本次V1.1競賽中，浪潮信息對Resnet任務中的圖像的前處理進行了優(yōu)化，使用DALI框架并在GPU上運行解碼，解決了CPU運行的計算瓶頸，實現了浪潮信息在ResNet任務上連續(xù)3屆領先。

由此看，本次浪潮AI服務器在8項AI訓練任務中，取得7項冠軍，正體現了浪潮AI服務器對多元AI計算場景的洞察和深刻理解。

除了具備系統(tǒng)級的創(chuàng)新能力外，我們認為在解決這些市場和用戶痛點及滿足他們需求的同時，系統(tǒng)廠商還能形成自己對于相關產業(yè)發(fā)展趨勢的洞察和理解，做到先知先覺，并率先付諸于行動，進而形成市場先發(fā)和領先優(yōu)勢。

例如鑒于人工智能在算法領域的不斷突破，不同數值精度帶來了跨度更大的計算類型，對計算芯片指令集、架構的要求更加細分。對此，圖靈獎獲得者 John Hennessy和 David Patterson2019年共同發(fā)表的《計算機架構的新黃金時代》，詳見原文https://cacm.acm.org/magazines/2019/2/234352-a-new-golden-age-for-computer-architecture/fulltext中提出：當摩爾定律不再適用，一種更以硬件為中心的針對特定問題領域定制設計計算機體系架構的方法DSAs(Domain-Specific Architectures）會成為主導，這種設計的核心在于針對特定問題或特定領域來定義計算架構。

而我們從系統(tǒng)廠商浪潮信息上述的系統(tǒng)級創(chuàng)新不難判斷，其不僅對于計算產業(yè)的發(fā)展趨勢早有認知（例如率先推出采用GPU加速的AI服務器實例，并至今引領這一市場），且已經通過自身的系統(tǒng)級創(chuàng)新能力正在化解擺在業(yè)內面前、讓新的計算架構真正落地所面臨的挑戰(zhàn)（如我們前述阻礙AI芯片充分發(fā)揮算力產生的產業(yè)鏈鴻溝）。而這也是中國系統(tǒng)廠商霸榜MLPerf?榜單背后的又一個重要原因。

服務數字經濟，智算時代迎挑戰(zhàn)仍需更多

眾所周知，ICT產業(yè)的創(chuàng)新最終都是要為市場和用戶服務。而在人工智能為代表的智算時代同樣如此。我們前述AI計算系統(tǒng)創(chuàng)新的根本目的，最終還是要讓算力、算法和數據去服務數字經濟，去支撐科研創(chuàng)新，去推動智慧轉型，這就需要加大以AI計算為核心的智能計算中心—這一新型人工智能基礎設施建設，以此推動AI產業(yè)化、產業(yè)AI化和政府治理的智能化。

但隨之而來的，面對智算中心建設所需大規(guī)模AI算力部署，AI算力平臺建設將面臨高功耗、高電流密度、高總線速率、高系統(tǒng)復雜度的新挑戰(zhàn)。

對此，中國工程院院士、浪潮首席科學家王恩東認為，要想釋放多元算力價值、促進人工智能創(chuàng)新，一是要重視智算系統(tǒng)的創(chuàng)新，加大人工智能新型基礎設施建設，把從技術到應用的鏈條設計好，從體系結構、芯片設計、系統(tǒng)設計、系統(tǒng)軟件、開發(fā)環(huán)境等各個領域形成既分工明確又協同創(chuàng)新的局面；二是要加快推動開放標準建設，通過統(tǒng)一的、規(guī)范的標準，將多元化算力轉變?yōu)榭烧{度的資源，讓算力好用、易用。

不知業(yè)內從王恩東院士的言論看到了什么？我們看到的是，系統(tǒng)級創(chuàng)新在智算中心的建設中依然是重中之重，畢竟AI計算是智算中心的核心，而AI服務器又是智算中心生產算力的“動力機組”，是產出強大算力的源泉。而放置于智算系統(tǒng)（例如智算中心），系統(tǒng)創(chuàng)新又被賦予了更寬泛的內涵，即不僅應是算力的生產，還應包括聚合、調度和釋放，同時需要產業(yè)鏈相關參與者在遵守統(tǒng)一、規(guī)范的標準之下，通力協作，各施所長，打造智算生態(tài)。

實際的情況是，去年發(fā)布的《智能計算中心規(guī)劃建設指南》已經就上述做了明確的說明。而系統(tǒng)廠商，無論是在算力的生產、聚合、調度和釋放，還是在打造生態(tài)方面，已走在了業(yè)內的前列。

以浪潮信息為例，除了我們前述的在算力生產層面的系統(tǒng)級創(chuàng)新外，在算力調度層面，浪潮AIStation人工智能開發(fā)平臺能夠為AI模型開發(fā)訓練與推理部署提供從底層資源到上層業(yè)務的全平臺全流程管理支持，幫助企業(yè)提升資源使用率與開發(fā)效率90%以上，加快AI開發(fā)應用創(chuàng)新（解決了算力的效率問題）；在聚合算力方面，浪潮持續(xù)打造更高效率更低延遲硬件加速設備與優(yōu)化軟件棧；在算力釋放上，浪潮AutoML Suite為人工智能客戶與開發(fā)者提供快速高效開發(fā)AI模型的能力，開啟AI全自動建模新方式，加速產業(yè)化應用。

總結：綜上，我們看到，系統(tǒng)廠商在MLPerf?中能取得優(yōu)異成績的能力，是建立在其對市場及客戶應用場景的理解之上，而其在產品研發(fā)、客戶需求、實際應用中所獲得的洞察和理解，又指導著MLPerf?測試，是其能夠取得優(yōu)異成績的一個重要原因。與此同時，系統(tǒng)廠商在MLPerf?測試中的探索和創(chuàng)新也反過來幫助其更好地回饋產業(yè)客戶的實際應用，以此形成一種良性的循環(huán)。而這種良性循環(huán)，在保持系統(tǒng)廠商持續(xù)領先的同時，更重要的是會加速AI產業(yè)化和產業(yè)AI化的落地。而在智算中心到來的時代，這種能力和良性循環(huán)又會被放大，進而促進中國數字經濟的發(fā)展。