更多全球市場交易資訊，使用智堡AI，股債匯商一應俱全

點擊文末閱讀原文，加入智堡會員，參與我們3月2日的在線會議：中國市場消費行業展望。

聽寫：騰子，轉錄：Monica，譯者：Gemini，摘要：o3，AI可能會出錯，部分是會議麥克風不清晰和口音所致，未經人工校對。

問題 1（CJ Muse 提問）：

關于訓練與推理之間界限逐漸模糊，客戶可能怎樣使用專門的推理集群？這對 Nvidia 的影響如何？

回答摘要（Jensen Wong 回答）：

• 目前存在三個“擴展定律”：

• 1. 預訓練擴展定律： 多模態數據和推理數據均在推動基礎模型擴展。

  2. 后訓練擴展定律： 利用強化學習和人類反饋生成大量合成數據，后訓練計算量遠大于預訓練。

  3. 推理擴展定律： 推理過程中（長思考推理）可能消耗比一次性推理多 100 倍甚至更多的計算。

• 為滿足不同需求，Nvidia 架構高度靈活，能夠應對預訓練、后訓練和推理三個階段的不同配置，尤其 Blackwell 針對推理階段優化以實現 25 倍的吞吐提升。

關于 GB200 架構的復雜性和系統級瓶頸問題，目前大規模部署進程如何？NV Link 72 平臺的前景如何？

回答摘要：

• 目前已向大量云服務提供商交付了產品，350 家工廠生產 150 萬個組件保證了系統大規模量產。

• 供應鏈已經恢復至正常，客戶及合作伙伴對未來 GB200 系統的部署充滿信心。

首先詢問 Q1 是否為毛利率底部；其次詢問公司如何看待強勁的市場需求以及通過哪些指標對未來增長保持信心？

回答摘要（Colleette Cress 和 Jensen Wong 回答）：

• Q1 在毛利率上，因 Blackwell 正處于初期投產階段，毛利率預計維持在低 70% 區間，但隨著產品完全啟動，毛利率有望提升到中 70% 左右。

• 對需求的信心主要基于客戶資本支出計劃、數據中心擴容規模，以及 AI 軟件向云端和企業級滲透的長遠趨勢。未來，企業和云服務提供商的市場份額都將增長，從而全面推動 Nvidia 的計算解決方案普及。

關于下一代 Blackwell Ultra 產品的需求動力，客戶與供應鏈如何同時應對當前 Blackwell 和下一代產品的平行推進？是否按計劃在下半年推出？

回答摘要（Jensen Wong 回答）：

• Blackwell Ultra 計劃在下半年推出，產品架構與現有系列保持一致，盡管當前從 Hopper 到 Blackwell 的轉換經歷了挑戰，但團隊已完全恢復并大幅提高產能。

• 公司已與所有合作伙伴及客戶密切溝通，確保平穩過渡到下一代產品，同時預告了后續更多新平臺（如 Vera Rubin）的發布。

關于自定義 ASIC 與通用 GPU 之間的平衡問題，客戶會否采用同時包含 GPU 與 ASIC 的異構架構？或兩者是否會各自獨立發展？

回答摘要（Jensen Wong 回答）：

• Nvidia 的 GPU 架構具有高度通用性，能夠兼顧自回歸模型、擴散模型、視覺、文本及多模態模型等任務。

• 相比專用 ASIC，GPU 產品在系統構成、軟件生態及整體性能方面具備明顯優勢。因此，公司認為其產品在面對多樣化 AI 工作負載時仍更具競爭力，同時 GPU 產品已在所有形式的數據中心（包括云端、內部以及機器人系統中）廣泛部署。

• 此外，產品的性能和能效優勢直接轉化為數據中心的投資回報，進一步鞏固了 Nvidia 的市場地位。

關于地理分布的擔憂：美國市場環比增長顯著，而出口管制影響下中國市場占比維持在較低水平。對此，公司如何看待這種區域性差異及其對未來增長的影響？

回答摘要（Jensen Wong 回答）：

• 中國市場雖然受出口管制影響，占比較此前有所下降，但整體結構保持穩定。

• Nvidia 認為 AI 已經進入主流應用領域，不論是美國、歐洲還是中國，未來 AI 將滲透到每個行業，推動各地區市場持續發展。

• 關于企業市場與大型云服務提供商 (CSP) 在數據中心消費中的比例、未來比例如何變化，以及新一代 AI 應用對數據中心硬件及生態環境的影響。

• 此外，還涉及到過去幾年基礎設施部署的換代周期問題，是否會迎來更新換代的機會？

回答摘要（Jensen Wong 和 Colleette Cress 回答）：

• 企業級市場和 CSP 在 AI 相關基礎設施消費中各有優勢，未來企業市場可能成為更大的一塊蛋糕，尤其是在企業整體數字化轉型和“Agentic AI”（面向員工生產力工具方面）的推動下。

• 關于換代周期：雖然現有系統（如 Hopper、Pascal）依舊在服務于數據處理和數據預處理等場景，但更高性能、能效更優的新一代產品（如 Blackwell）正在快速替代舊平臺，整個換代過程是漸進且有序的，同時舊有基礎設施依然在一些輕負載場景中發揮作用。

繼續關注毛利率的問題，詢問公司對 Q4 后半段毛利率逐季提升、最終達到中 70% 區間的信心，同時考慮到國際關稅和其他不確定因素的影響。

回答摘要（Colleette Cress 回答）：

• 毛利率由多個因素構成，Blackwell 系統的不同配置為公司提供了改善毛利率的多種路徑。

• 隨著大規模生產的推進和內部流程優化，公司有信心在未來幾個季度內逐步實現毛利率提升到中 70% 區間。

• 對于關稅問題，目前仍存在不確定性，公司將根據美國政府的進一步政策動態作出相應調整，同時嚴格遵守相關出口管制規定。

老黃的總結：

對 Blackwell 的需求勢頭非比尋常。人工智能正從感知和生成階段迅速進化到推理階段。在推理 AI 方面，我們觀察到另一條擴展定律，即“推理時間擴展”或“測試時間擴展”：模型投入更多計算時，推理過程越充分，給出的答案就越智能。像 OpenAI 的 drop3、DeepSeq R1 等模型正是采用了推理時擴展方法的推理模型，其計算資源消耗可以達到普通推理的百倍甚至更多。未來，推理模型的計算需求將會更高。DeepSeq R1 已經引發了全球的熱情。這不僅是一項卓越的創新，更重要的是，它開源了世界級的推理 AI 模型。幾乎所有的 AI 開發者都在使用 R1、鏈式思維（chain of thought）和類似 R1 的強化學習技術來提升模型性能。

正如我之前提到的，當前驅動 AI 計算需求的擴展定律共有三條：

• 傳統的預訓練擴展定律依然有效 ——基礎模型正通過多模態融合不斷被優化，預訓練規模持續擴大，但單靠預訓練已不再足夠；

• 后訓練擴展維度 ——強化學習、微調以及模型蒸餾等后訓練技術所需的計算量往往比單純的預訓練高出幾個數量級；

• 推理時間擴展——單個查詢在推理過程中可能需要消耗百倍以上的計算資源。

我們正是為這一時刻設計了 Blackwell：一個能夠無縫實現預訓練、后訓練和推理擴展的統一平臺。Blackwell 的 FP4 Transformer 引擎、MVLink 72 高速互連架構以及全新的軟件技術，使其在推理 AI 模型的處理上比 Hopper 快了 25 倍。無論是在何種配置下，Blackwell 均已全面投產，每個 Grace Blackwell NV Link 72 機架都是一項工程奇跡——它融合了 350 個生產基地累計生產的近 150 萬個組件，由近 10 萬名工廠操作人員協同制造。

人工智能正以光速前進，我們如今正站在推理 AI 和推理時間擴展的起點。但這僅僅是 AI 時代的開始。多模態 AI、企業級 AI、主權 AI 乃至物理 AI 都已指日可待。我們預期 2025 年將迎來強勁增長。展望未來，數據中心將會將大部分資本支出投入到加速計算和人工智能領域，數據中心也將逐步轉型為 AI 工廠，每家公司無論是租用還是自建，都將擁有自己的 AI 工廠。

感謝各位今天的參與。歡迎在幾周后的 GTC 大會上與我們共同探討 Blackwell、Blackwell Ultra、Ruben 以及其他全新計算、網絡、推理 AI 和物理 AI 產品。

謝謝大家。