人工智能/機器學習(AI/ML)改變了一切，影響著每個行業，觸及每個人的生活。AI正在催化廣泛技術市場的驚人增長。這一點在AI訓練集的增長中得到了有力體現，其增長速度每年達到10倍，并將在本十年繼續增長。

支持這一速度需要遠遠超出通過摩爾定律可以實現的技術進步，摩爾定律在任何情況下都在放緩，因此需要人工智能計算機硬件和軟件在每一個方面都進行快速的持續改進。

HBM概述

高帶寬內存 (HBM) 是一種標準化堆疊內存技術，它為堆棧內以及內存與邏輯之間的數據提供了非常寬的通道。

HBM 堆棧最多可容納 8 個DRAM模塊，每個模塊通過兩個通道連接。當前實現最多包含 4 個芯片，這大致相當于在很小的空間內容納 40 個 DDR 內核。該項技術的吸引力在于 DRAM 芯片之間、模塊與邏輯（中介層技術）之間的帶寬，以及與 DRAM DIMM 相比較小的外形尺寸。

隨著數據量的快速增長和計算需求的不斷提高，傳統的內存技術（如DDR和GDDR）已經無法滿足新興技術對內存帶寬的需求。HBM的出現正好解決了這個問題，成為高性能計算和圖形處理領域的關鍵技術。

HBM圖

HBM發展

HBM1（高帶寬內存1）

發布時間：2015年

技術特點：HBM1 是由JEDEC（聯合電子設備工程委員會）定義的一種新型內存標準，首個廣泛推出的 3D 內存技術。使用硅通孔（TSV）技術將多個內存芯片安裝在一起，提供高帶寬和低功耗。

每個堆棧的容量為1GB，最大總帶寬為128GB/s，最開始于GDDR5（最大32GB/s帶寬）提供了顯著的帶寬。

它的主要應用在高性能圖形處理單元（GPU）和網絡加速器中。

應用：AMD的Fiji架構顯卡（如Radeon R9 Fury系列）正在鼓勵采用HBM1技術的產品。

HBM2（高帶寬內存2）

發布時間：2016年

技術特點：HBM2是對HBM1的改進，提供了更高的容量和更高的帶寬。

每個堆棧的容量最大可達8GB，支持16GB的總內存容量，帶寬提升至256GB/s以上。

它的內存頻率大約為2-2.4Gbps，相對于HBM1而言，帶寬和容量都有了顯著的提高。

HBM2繼續采用3D充足和TSV訓練技術，并支持更高的數據傳輸速率，適用于高端圖形處理、AI、超級計算等場景。

應用：NVIDIA的Tesla P100加速卡、AMD的Vega顯卡、以及其他高性能計算平臺廣泛使用HBM2技術。

HBM2E（高帶寬內存2增強型）

發布時間：2018年

技術特點：

HBM2E是HBM2的增強版本，進一步提升了帶寬和性能，優化了內存訪問延遲。HBM2E的帶寬提升至16-20Gbps，總帶寬可以達到900GB/s或更高，適合對數據吞吐量有極高要求的應用。

單個堆棧的容量最大為8GB或16GB，支持更高的帶寬和更大的內存容量，尤其適用于高性能計算、深度學習、數據中心等領域。

應用：NVIDIA的Tesla V100和A100 GPU加速卡，以及AMD的Radeon VII顯卡，均使用了HBM2E內存。

HBM3（高帶寬內存3）

發布時間：2020年（預計）

技術特點：HBM3是目前高帶寬內存技術的最新版本，提供了更高的帶寬和更大的內存容量，目標是滿足AI、大數據、5G、HPC等領域的需求。

每個堆棧的帶寬可達6.4Gbps或更高，總帶寬可達到1.6TB/s或以上，提供極為高速的數據傳輸。

它的每個堆棧容量可達32GB或更高，總內存容量支持上百GB，適用于更復雜的計算任務，如深度學習訓練、科學計算、大規模模擬等。

應用：預計HBM3將大規模高性能計算、超算中心、大規模AI訓練和推理等應用領域。

HBM3E（高帶寬內存3增強型）

發布時間：預計在 HBM3 基礎上一代推出

技術特點：HBM3E是在HBM3的基礎上進一步提升帶寬、延遲、能效和容量。

HBM3E預計將帶來8Gbps以上的每通道帶寬，總帶寬可超過2TB/s，并能夠支持64GB或更高容量的堆棧。

它不僅能夠支持大規模計算、超高帶寬要求的AI模型訓練和推理任務，還能夠滿足超計算中心、大規模數據中心的內存需求。

應用：預計HBM3E將廣泛評價未來的GPU加速器、AI處理單元、超級計算機、自動駕駛和嵌入式系統。

美光12層HBM3e

HBM企業

美光科技

美光是全球第三大內存供應商，盡管在HBM技術上起步稍晚于三星和SK海力士，但美光依然在此領域有著重要布局。美光以其在內存和存儲技術方面的廣泛經驗，在HBM市場中逐漸積累了競爭力。

技術發展：HBM2：美光在HBM2市場上逐漸發力，推出了支持高帶寬、高容量和低延遲的內存解決方案，主要應用于GPU、AI加速卡、服務器和高性能計算平臺。

HBM2E與HBM3：美光同樣在研發HBM2E和HBM3方面進行布局，持續提高內存帶寬、容量和功耗效率，確保在未來市場中能夠保持競爭力。

合作與研發：美光與多個科技巨頭，包括NVIDIA和AMD，保持密切合作，推動高性能計算與AI技術的發展。

應用拓展：除了在高端GPU市場的應用，美光還通過將HBM內存推廣至高性能計算（HPC）、數據中心、云計算等多個領域，拓寬其市場份額。

美光HBM3E介紹圖

Intel

英特爾雖然主要以CPU和半導體技術為主，但其也在積極布局HBM技術，尤其在高性能計算和超算領域中，英特爾與其他企業合作開發高帶寬內存解決方案。

合作開發：英特爾并未完全獨立研發HBM內存，而是與SK海力士和三星等內存廠商合作，共同開發面向AI、深度學習、超算等領域的HBM解決方案。

高帶寬內存的未來布局：英特爾的多個加速器和處理器（如Xe GPU系列）都計劃采用HBM內存技術，以提供更高的內存帶寬，支持更高效的數據處理。

集成與創新：英特爾在高性能處理器中積極集成HBM內存，推動其與自身的處理器架構深度集成，以提升整體計算性能。

進軍新興市場：英特爾著眼于AI和大數據市場，希望通過與內存制造商合作，共同打造下一代內存解決方案。

Intel Gaudi 3 產品

三星電子（Samsung Electronics）

三星電子是全球領先的半導體制造商之一，也是高帶寬內存（HBM）技術的先鋒之一。三星在HBM領域的投入始于HBM1，并不斷推動HBM2、HBM2E及HBM3的技術創新。

技術發展：HBM1：三星是最早將HBM1技術商業化的公司之一，成為首批提供HBM內存的供應商，推出了針對高性能計算和GPU的解決方案。

HBM2/HBM2E：三星繼續推進HBM2和HBM2E的研發，并在多個高端GPU、AI加速卡和超算平臺中采用其技術。HBM2E內存已經被廣泛應用于NVIDIA、AMD等大廠的圖形處理單元（GPU）和加速器中。

HBM3：三星在HBM3領域也有所突破，并計劃在2025年開始大規模生產HBM3內存，繼續鞏固其在高帶寬內存市場的領導地位。

合作伙伴關系：三星與AMD、NVIDIA等圖形和計算芯片巨頭有著深度合作，推動HBM內存在各種高端設備中的應用。

生產能力：三星在全球范圍內擁有領先的內存生產設施，通過持續投資擴大產能，以滿足市場對高性能內存日益增長的需求。

三星HBM2E官網圖

SK海力士（SK Hynix）

SK海力士是全球第二大內存制造商，僅次于三星，且在HBM領域有著強大的技術儲備和市場份額。SK海力士積極推動HBM技術的進步，特別是在HBM2、HBM2E和HBM3方面，已成為HBM內存的主要供應商之一。

技術發展：HBM1和HBM2：SK海力士在HBM1和HBM2的研發中扮演了重要角色，成為全球首批推出HBM2內存產品的公司之一。

HBM2E：在HBM2E技術上，SK海力士進一步提升了帶寬和容量，能夠提供更高的帶寬，滿足現代數據中心、AI訓練和高性能計算等需求。

HBM3：SK海力士計劃在未來幾年推出HBM3，并提升帶寬以滿足下一代超高性能計算平臺、AI加速器和大規模數據處理的需求。

強大的研發能力：SK海力士不斷在HBM研發上進行投資，建立了強大的技術團隊，推動從HBM2到HBM3的持續演進。

產品多樣化：SK海力士不僅生產用于GPU和AI加速器的HBM內存，還為服務器、數據中心和超級計算機等市場提供HBM解決方案。

SK Hynix HBM3E圖

其他相關企業與創新

除了三星、SK海力士、美光和英特爾外，還有一些小型企業和新興公司在HBM技術領域進行創新和研發。它們通常專注于內存封裝技術、3D堆疊、硅通孔（TSV）技術等，推動內存技術的進一步發展。

Advanced Semiconductor Engineering (ASE) 和 Amkor Technology 等封裝公司，正在積極研發創新的封裝技術，以更高效地集成HBM內存并降低生產成本。

臺灣半導體制造公司（TSMC）：雖然TSMC本身不生產內存芯片，但其作為全球領先的半導體代工廠商，為HBM內存的生產提供了重要的制造支持。

市場挑戰與未來趨勢

挑戰：

高成本與復雜生產工藝：HBM技術仍面臨較高的生產成本，特別是在3D堆疊技術和硅通孔（TSV）技術的應用中，成本較高的制造過程仍然是技術普及的障礙之一。

產能瓶頸：目前，HBM內存的生產主要集中在幾家主要的內存制造商手中，其他廠商面臨較高的市場準入門檻。

市場競爭：隨著GDDR技術的不斷進步，盡管HBM提供了更高的帶寬和效率，但其成本高昂的特性仍然使其難以在消費級市場廣泛推廣。

未來趨勢：

技術不斷演進：隨著AI、深度學習、數據分析和超算市場的需求持續增加，HBM技術將不斷進化。HBM3、HBM3E等新一代技術將推動內存帶寬和容量的進一步提升。

廣泛應用：隨著新興市場的崛起，HBM將在更多領域中發揮作用，尤其是在高端計算、GPU加速、AI硬件等領域。

更高的集成度與性價比：未來，隨著制造工藝的改進和技術的成熟，HBM有望逐步降低成本，逐漸進入更多的消費級市場。

結論：

HBM技術的快速發展，吸引了多家全球領先的半導體企業的關注和投入。三星、SK海力士和美光等公司已經在此領域取得了顯著進展，并推動了高性能計算、AI和GPU領域的技術進步。盡管面臨挑戰，隨著生產技術和制造工藝的不斷提升，HBM的市場應用前景依然廣闊，未來將成為推動現代計算和數據處理平臺創新的關鍵因素。