Arm 架構處理器在云計算領域逐漸受到青睞的原因主要包括其能效優勢和成本效益。Arm 處理器通常具有較低的功耗,這對于大規模的數據中心來說,可以節省大量的能源成本。此外,隨著技術的發展,Arm處理器的性能也在不斷提升,能夠滿足云計算中多種工作負載的需求。
專為云工作負載而生的Amazon Graviton系列處理器,首款產品在2018年發布,歷經4輪迭代,不僅成就了亞馬遜云科技Arm服務器的霸主地位,更為生成式AI發展夯實了基礎設施新底座。
Amazon Graviton4與R8g強強聯合,性能飛躍新篇章
2023 re:Invent大會上宣布Amazon Graviton處理器再次升級,也就是Amazon Graviton4,半年后的今天,基于Amazon Graviton4的R8g實例正式可用。
據悉,Amazon Graviton4處理器搭載96個Neoverse V2核心,每個核心都配備了高達2MB的L2緩存,同時集成了12個DDR5-5600通道,從而確保了數據的高速傳輸與處理。相較于前代Graviton3處理器,Graviton4在性能上實現了質的飛躍,獨立核心數量增加50%以上,內存帶寬提升高達75%,專為內存密集型應用而生,該芯片集成了730億個晶體管,可為云服務提供了前所未有的強大動力。
從 Graviton 到 Graviton4,亞馬遜云科技已經累計交付了超過200萬顆 Graviton 芯片。
亞馬遜云科技計算和網絡副總裁 David Brown 表示:“我們的芯片設計重點放在對客戶重要的實際工作負載上,我們能夠為他們提供最先進的云基礎設施。” “Graviton4 標志著我們在短短五年內推出的第四代芯片,是我們為廣泛的工作負載打造的最強大、最節能的芯片。”
而基于這款高性能處理器的Amazon EC2 R8g實例,與采用Graviton3的R7g實例相比,R8g實例在整體性能上提升了高達30%。這一顯著的性能提升,得益于Graviton4處理器的強大性能和優化的系統設計。此外,R8g實例還提供了更大的實例規格,包括高達48xlarge的選項,其虛擬處理器(vCPU)數量和內存也分別可提升至驚人的192個 1.5TB,這一規格是R7g實例的三倍,為數據庫、實時大數據分析等場景帶來革命性的效率提升,應對各種復雜應用場景時更加得心應手。
Amazon Graviton4與R8g的強勁上線,不僅僅體現在Graviton4性能提升,R8g更大的實例規格以及高達50Gbps的增強網絡帶寬和高達40Gbps的Amazon EBS帶寬,更表現在基于Amazon Nitro System構建的R8g實例,將CPU虛擬化、存儲和網絡功能卸載到專用硬件和軟件上,從而提升性能并增強安全性。同時還具備更廣泛的軟件支持、更好的資源優化效率和更加友好的環境支持以及全球可用。
除此之外需要特別強調的是,亞馬遜云科技通過Graviton4的推出,并持續推動包括機器學習在內的其他領域的芯片發展,如Amazon Trainium2和Amazon Inferentia2芯片,從而驅動生成式AI的每一步。
Amazon Graviton 處理器受到許多熱門的操作系統、ISV 和亞馬遜云科技合作伙伴支持,基于 Amazon Graviton 的實例也可用于熱門的托管 亞馬遜云科技服務,例如 Amazon Aurora、Amazon RDS 和 Amazon EKS。同時,亞馬遜云科技擁有龐大的云計算生態系統,包括豐富的工具、服務和應用程序。因此,在提供出色性能的同時節省大量成本,滿足客戶不同應用場景的需求。
據統計,超過150種計算實例及眾多托管服務在 Graviton 的驅動下運轉自如,惠及全球逾5萬用戶的數字化轉型之路,這使得開發者能夠更輕松地在Graviton4芯片和R8g實例上進行開發和部署,充分發揮其性能優勢。亞馬遜云科技的眾多客戶如SAP、Epic Games和SmugMug等已經從使用基于Amazon Graviton4的實例中受益。這種廣泛的應用和驗證使得Graviton4與R8g的聯合更具可靠性和穩定性。
因此,基于Amazon Graviton4的R8g正式可用,為企業數字化轉型提供了更加強大的引擎,預示著一個更智能、更綠色、更高效的云計算時代的到來。
助力企業數字化轉型與創新發展,開啟云服務新時代
隨著數字化轉型的深入推進,企業對云服務的需求也日益增長。在這一背景下,亞馬遜云科技新一代Amazon Graviton4處理器和Amazon EC2 R8g實例的推出,將為企業提供更為強大的計算支持和更高效的云服務體驗。
“Amazon Graviton4 實例是我們測試過的最快的 EC2 實例,它們在我們最具競爭力和延遲敏感的工作負載中提供了出色的性能。” Epic 首席云工程師 Roman Visintine 表示:“我們期待使用 Graviton4 來改善玩家體驗并擴展《堡壘之夜》的可能性。”
更為可貴的是,基于CPU的一些機器學習和推理任務非常適合Graviton。
雖然 GPU 和加速器憑借優異的性能,一直是這些部署任務的默認首選平臺,但在推理領域,除了 GPU 和加速器之外,CPU 一直被用于傳統的 AI 和機器學習 (ML) 用例。
CPU利用單指令多數據流(SIMD)技術,即單指令同時處理多個數據點,實現數據級并行和性能提升。Arm Neoverse CPU支持Neon和SVE等SIMD技術,加速HPC和ML算法。通用矩陣乘法(GEMM)是ML基礎算法,涉及復雜矩陣乘法運算。Armv8.6-A架構新增SMMLA和FMMLA指令,能在更寬陣列上并行執行,顯著縮短取指和計算周期,而Amazon Graviton4/3就支持這些指令。
這使得圖像分類、對象檢測、自然語言處理、自動語音識別、推薦系統、小語言模型等用例中,Amazon Graviton可為 ML 帶來諸多優勢。
深究其原因,除了性能提升、能效優勢、成本效益之外,還有非常關鍵的一條是與云計算資源和環境高度融合,比如亞馬遜云科技提供了多種基于Graviton的實例類型,這些實例可以根據具體的機器學習工作負載需求進行選擇,無論是需要大量內存的模型還是需要高計算能力的訓練任務。為機器學習和推理任務提供便捷、高效的計算環境和支持。
對于處理內存密集型工作負載如數據庫、內存緩存和實時大數據分析等任務來說,R8g實例其強大的性能和超高的資源配置,使得企業在處理這些復雜任務時能夠更加高效、穩定。
隨著數字化轉型的深入推進,企業對云服務的需求也日益增長。在這一背景下,亞馬遜云科技新一代Amazon Graviton4處理器和Amazon EC2 R8g實例的推出,無疑為企業提供了更為強大的計算支持和更高效的云服務體驗。
結 語
深度圍觀認為:亞馬遜云科技再次重塑自己同時重塑了云計算生態。
在自研芯片的道路上,亞馬遜云科技的Amazon Graviton4處理器,不僅為云服務的性能和安全性設立了新的標桿,更為全球云服務市場注入了一劑強心針。
Amazon Graviton4處理器的R8g實例,是亞馬遜云科技對“更智能、更綠色、更高效”云服務承諾的兌現。它將云計算的性能和可持續性提升到了一個新的維度。
在不斷重塑文化熏陶下,亞馬遜云科技在科技進步的浩瀚星海,再次以技術突破完成對未來智能世界的深遠布局,不僅重塑了自己,同時重塑了云計算生態。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.