英偉達(dá)近期在 SC24 超算大會(huì)上震撼發(fā)布兩款全新 AI 硬件：H200 NVL PCIe GPU 和 GB200 NVL4 超級(jí)芯片。

英偉達(dá)打造的 H200 NVL PCIe GPU，是針對(duì)當(dāng)前約七成企業(yè)機(jī)架電力供應(yīng)不足 20kW 且采用空氣冷卻的現(xiàn)狀，其 AI 計(jì)算卡專為低功耗環(huán)境設(shè)計(jì)，最高 TDP 功耗從 H200 SXM 的 700W 降低至 600W，盡管算力有所調(diào)整，但 HBM 內(nèi)存容量與帶寬仍保持在 141GB 與 4.8TB/s 的高水準(zhǔn)，更好滿足企業(yè)對(duì)高效能與低功耗的雙重需求。

此前，英偉達(dá)也推出過(guò)針對(duì)有大型需求的企業(yè)提供服務(wù)器成品，提供完整的服務(wù)器解決方案。

例如GB200 NVL72服務(wù)器，提供了 36 個(gè) CPU 和 72 個(gè)Blackwell構(gòu)架 GPU，并完善提供一體水冷散熱方案，實(shí)現(xiàn) 720 PFlops 的 AI 訓(xùn)練性能或 1440 PFlops 的推理性能。

H200 NVL PCIe GPU 還支持雙路或四路 900GB/s 的 NVLink 橋接器互聯(lián)，進(jìn)一步提升了數(shù)據(jù)傳輸效率。

性能表現(xiàn)方面，H200 NVL GPU 相較于前代 H100 NVL，內(nèi)存容量提升 1.5 倍，帶寬提升 1.2 倍，實(shí)現(xiàn) 1.7 倍的 AI推 理性能提升。

在高性能計(jì)算（HPC）應(yīng)用中，其性能更是提升 30%，為科研、氣候模擬等領(lǐng)域提供了更為強(qiáng)大的計(jì)算能力。

與此同時(shí)，英偉達(dá)還推出了面向單服務(wù)器解決方案的 GB200 NVL4 超級(jí)芯片。這款超級(jí)芯片集成了 2 個(gè) Grace CPU 和 4 個(gè) Blackwell GPU，形成了強(qiáng)大的計(jì)算模塊，HBM 內(nèi)存池容量達(dá)到了 1.3TB，相當(dāng)于兩組 GB200 Grace Blackwell 超級(jí)芯片的總和。當(dāng)然了，整體功耗為 5.4kW。相較于上代 GH200 NVL4 系統(tǒng)，新的 GB200 NVL4 在模擬性能、AI 訓(xùn)練性能和 AI 推理性能上分別實(shí)現(xiàn)了 2.2 倍、1.8 倍和 1.8 倍的提升。

GB200 NVL4 超級(jí)芯片的推出，可以說(shuō)是英偉達(dá)繼續(xù)加碼 AI 計(jì)算領(lǐng)域的又一重要?jiǎng)?chuàng)新，更將為用戶帶來(lái)更為高效、便捷的計(jì)算體驗(yàn)。

根據(jù)曝光的消息匯總，GB200 NVL4 超級(jí)芯片預(yù)計(jì)將于 2025 年下半年正式上市。