公眾號記得加星標??,第一時間看推送不會錯過。
來源:內容編譯自wccftech。
英偉達將為其用于 AI 產品的模塊化內存解決方案 (SOCAMM) 生產大量庫存,從而更輕松地升級設備內存以獲得卓越的性能和高效率。
NVIDIA在 GTC 2025大會上展出的全新 SOCAMM 內存,預計今年的庫存將有所增加,因為 NVIDIA 致力于在其 AI 產品上實現卓越的性能和更低的功耗。在 GTC 大會上,我們看到 NVIDIA 的 GB300 平臺采用了美光科技開發的 SOCAMM 內存,這與服務器和移動平臺等 AI 產品上使用的 HBM 和 LPDDR5X 內存截然不同。
SOCAMM 內存基于 LPDDR DRAM,后者傳統上用于移動設備和低功耗設備。但與 HBM 和 LPDDR5X 等解決方案不同,SOCAMM 可升級。它并非焊接在 PCB 上,而是通過三個螺絲固定。據韓國媒體ETNews最新報道,NVIDIA 今年計劃生產約 60 萬至 80 萬塊 SOCAMM 內存。此次新內存的增產將用于 NVIDIA 的 AI 產品堆棧。
首批搭載 SOCAMM 內存的產品之一是最新的 GB300 Blackwell 平臺,這已經暗示了 NVIDIA 打算為其眾多 AI 產品過渡到新的內存規格。雖然今年 80 萬片的目標產量遠低于 NVIDIA 內存合作伙伴在 2025 年向 NVIDIA 交付的 HBM 內存數量,但明年這一規模將開始擴大,尤其是在 SOCAMM 2 內存上市之后。
SOCAMM內存采用定制外形,不僅緊湊模塊化,而且比RDIMM更節能。我們尚不清楚具體的節能改進幅度,但從報告中得知,SOCAMM將提供卓越的效率,同時帶來比RDIMM以及LPDDR5X和LPCAMM更高的帶寬,而LPDDR5X和LPCAMM是移動平臺最受歡迎的內存解決方案之一。
SOCAMM 內存帶寬約為 150-250 GB/s,并且可交換,為 AI PC 和 AI 服務器提供了多功能選擇,并且可以輕松升級。在不久的將來,SOCAMM 有望成為低功耗 AI 設備的標配。目前,美光公司是 NVIDIA 的 SOCAMM 制造商,而三星和 SK 海力士據稱也在與 NVIDIA 洽談,希望為 NVIDIA 生產 SOCAMM 模塊。
SOCAMM:DRAM 創新的下一個重大事件
隨著人工智能在各個行業創造新的市場,它也推動了小外形壓縮附加內存模塊 (SOCAMM) 的增長,這種新興技術通常被稱為“下一代高帶寬內存”。
雖然 SOCAMM 不能直接替代 HBM 內存,但憑借其可擴展性和更低功耗要求,它可能在重塑全球內存芯片格局方面發揮同樣重要且有利可圖的作用。
全球頂級圖形處理器供應商英偉達提出了一種新的服務器模塊化內存芯片標準,該標準可在降低功耗的同時最大限度地提高性能,并專門為其即將推出的人工智能處理器量身定制。
雖然 SOCAMM 的價格預計僅為 HBM(為 AI 處理 GPU 提供動力的昂貴內存芯片)的 25-33%,但領先的內存芯片制造商三星電子、SK 海力士和美光科技已加入競爭,以在新興服務器模塊市場中取得領先地位。
一位業內人士表示:“SOCAMM市場對芯片制造商而言,其競爭性和戰略重要性將不亞于HBM市場。真正的競爭在于,一旦搭載SOCAMM的服務器上市,誰能率先通過Nvidia的資格測試,并成為新服務器模塊的主要供應商。”
SOCAMM 是一款專為 AI 服務器優化的緊湊型高性能內存模塊。與使用 DDR5 構建的傳統服務器模塊不同,SOCAMM 采用 LPDDR,這是一種通常用于移動設備的低功耗芯片。它垂直堆疊多個 LPDDR5X(高級型號),以提升數據處理性能,同時顯著提高能效。
一位業內人士解釋說:“雖然 DDR5 是服務器的標準,但功耗已成為大規模部署的一個主要問題。SOCAMM 的設計充分考慮了低功耗,而且隨著移動 DRAM 性能的顯著提升,它現在已可用于服務器?!?/p>
SOCAMM 擁有 694 個輸入和輸出引腳(微型接觸點,使芯片能夠發送和接收數據),數量遠超傳統的 DRAM 模塊(262 個引腳),甚至 LPCAMM 的 644 個引腳。LPCAMM 是筆記本電腦的典型內存模塊。更高的引腳數有助于減少數據瓶頸。
SOCAMM 的另一個吸引人之處在于其模塊化設計,用戶可以輕松拆卸和更換以進行更新。該芯片預計將與 HBM 芯片一起使用,以增強 Nvidia 即將推出的 AI 處理器的性能。
Nvidia 計劃在其下一代 AI 加速器 GB300 中同時使用 HBM 和 SOCAMM 芯片,該加速器計劃于今年晚些時候推出。SOCAMM 模塊預計將安裝在配備 Nvidia AI 加速器的服務器中。
據業內人士透露,這家 GPU 巨頭還計劃在其即將開發的名為 Project DIGITS 的個人 AI 超級計算機中使用 SOCAMM。該設備體積小巧,可輕松放置在桌面上,旨在讓高性能 AI 計算更容易被大眾接受。
在今年Nvidia的開發者大會GTC 2025上,美光科技率先宣布已經開始量產用于Nvidia GB300的SOCAMM。
據這家美國芯片制造商稱,其 SOCAMM 模塊的帶寬是 RDIMM 的 2.5 倍以上,而功耗僅為 RDIMM 的三分之一。該公司補充說,緊湊的設計還有望實現更高效的服務器布局和更好的熱管理。
三星和 SK 海力士也在 GTC 2025 上展示了他們的 SOCAMM 原型。三星報告稱,其功耗為 9.2 瓦,與基于 DDR5 的 DIMM 相比,電源效率提高了 45% 以上。
這兩家韓國芯片制造商尚未宣布量產計劃,但表示正在做好準備,以便“按照市場需求”進入市場。
一位業內官員表示:“美光公司似乎在早期批量生產方面處于領先地位,但這并不是為了立即安裝服務器,而是為了進行早期優化。”
與此同時,SOCAMM也被視為三星東山再起的機會。
繼在HBM芯片的AI內存競爭中落后于SK海力士之后,三星在今年1-3月期間失去了DRAM市場的頭把交椅。這家芯片巨頭在AI內存領域未能取得先機后,首次被規模較小的競爭對手超越。
據業內人士透露,三星近期向英偉達交付了SOCAMM模塊樣品,數量遠超競爭對手,這標志著其將努力在下一波AI內存市場中重新奪回領導地位。
預計三星將利用其在LPDDR領域的主導地位,進軍SOCAMM市場。據市場追蹤機構Omdia的數據,去年第一季度,三星在移動DRAM市場的收入份額為57.9%。
https://wccftech.com/nvidia-to-deploy-up-to-800000-units-of-its-socamm-modules-this-year-in-its-ai-products/
*免責聲明:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅為了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支持,如果有任何異議,歡迎聯系半導體行業觀察。
今天是《半導體行業觀察》為您分享的第4097期內容,歡迎關注。
加星標??第一時間看推送,小號防走丟
求推薦
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.