杰文斯悖論不是天然成立的。在 AI的敘事中,要讓算力用得越多,就要讓算力變得更便宜,也要讓 AI更有用、好用。兌現杰文斯悖論已經成為了英偉達的命門,黃仁勛要在本屆 GTC上,讓市場再次相信他。
AI正在從技術變革和基礎設施的部署期,向規?;纳虡I應用期轉變。對于 GPU的需求也在發生根本性的變化,即從搶購 GPU快速部署算力和技術,到商業應用尋求更具性價比的算力。老黃苦心經營的賣方市場,并非一成不變。需求在呼喚新的創新。
算力成本下降的趨勢已經相當明顯。 Deepseek 從軟硬件協同層面起了帶頭作用,阿里千問和百度文心接力,挑起了價格戰。但是,硬件層面的算力成本也需要快速下降,即全生命周期內總持有成本( TCO)的下降。它既包括單位算力成本的下降,決定了算力的資本開支( Capex),也包括單位性能能耗的下降,決定了算力的運營開支( Opex)。
如果只是降低單位算力的成本,也就是每花一美元獲得的算力的多少,很快就會遇到電力的天花板。尤其是在美國,存量電力基礎設施老化,增量建設緩慢,無法支撐數據中心快速擴張。 EpochAI認為,前沿模型訓練首先遇到的瓶頸就是電力問題,當前的預訓練之路,在 2030年之前就會終結。推理規模落地,尤其是 DeepResearch這樣昂貴的智能體技術,需要更高的算力消耗,也就更快觸及電力瓶頸。
對英偉達來說,一旦算力觸及了電力瓶頸,想要賣出更多的 AI芯片,就要降低它的單位算力能耗。否則,整個行業都將像 DeepSeek學習,在現有硬件的基礎上,通過軟硬件協同或模型優化,壓榨出更多的算力——這樣對于更強大的芯片的需求會變得相對淡定。
事實上,即使沒有觸及總電力供給的瓶頸,當 R1推出之后,美國云巨頭與 AI應用企業就迅速將其部署于自己的服務器或應用之上。 AI走向商業化變化,企業就有強烈的降低成本的驅動力,要么是更便宜的資本開支,要么是更便宜的運營開支。
CoreWeave曾透露,電力大約占其基礎設施成本的 10%。該企業大量采購了英偉達 AI芯片,披露該數據的時候,算力主要來自 Hopper架構芯片。 Semianalysis曾簡單地算過一筆賬, H100售價 3.5萬美元, 8塊 H100的服務器約 28萬美元,它每月電力成本約為 648美元(按 0.087美元 /千瓦時的電價計算,電價更低的地區運營成本相應降低)。如果按 6年折舊,那么算力用電成本相當于 GPU成本的 15%左右。
但是, EpochAI估算,按當前英偉達芯片的發布趨勢,到 2030年,每花 1美元,就能比現在多買到 8倍多的算力( FLOP),而驅動這些算力的功耗則會減少 4倍,花在電力上的成本相當于 GPU成本的 40%。即,因為推理應用階段會在算力中占更大比重,運營成本中的電力成本占比相對上升了。只有比現在更快地降低單位算力能耗 ——或者在電價更低的地區大規模部署 ——才能大幅降低未來 AI企業的運營成本。
英偉達的芯片越來越 “燙手 ”。 A100的熱設計功率( TDP)為 400瓦, H100達到了 700瓦, B200約為 1000瓦;多家分析機構預計,即將發布的 GB300約為 1400瓦,下一代 Rubin高達 1800瓦。這不僅使得芯片與機架層面頻頻出現設計與散熱問題,量產時間較預期推遲不少時間,更有可能將用戶推向擁抱更節能的定制 AI芯片。
巨頭們已經開始紛紛自研芯片。谷歌找了博通還不夠,計劃讓聯發科也試試設計 TPU。英偉達的競爭對手越來越多。提升能效,正是下一代芯片與算力系統創新最重要的主題。
從 2022年底 ChatGPT發布,到 2026年下半年 Rubin正式量產,以及 2027年規模部署,算力基礎設施粗放式地建設浪潮,也跨過了 5年的周期。按照互聯網時代的經驗,大模型也是時候進入更節能的階段了。
前勞倫斯伯克利國家實驗室研究人員喬納森 ·庫米( Jonathan Koomey),在 2000年互聯網泡沫高峰期,駁斥了幾乎與今天一樣的“電力炒作”。當時同樣有很多人預測,計算機和互聯網應用最終將消耗大量電力,從 2000年到 2005年,數據中心用電量確實翻了一番,但此后增長緩慢,從 2010年到 2018年,由于芯片系統技術的進步,更是用 6%的用量增量支撐了計算量的 6倍增長。
庫米最近發布報告稱,在 AI熱潮的早期階段,巨頭玩家們爭相獲得算力部署新興的技術,效率往往并不是首要考慮,但隨著部署限制逐步顯現,行業將會用效率來緩解這種限制。盡管摩爾定律,在放緩,登納德定律 ( Dennard Scaling) 所定義的芯片能效逐步失效,但除了在軟件與算法層面尋求優化,硬件仍然可以在定制化、集成化和立體化設計等方向,甚至新的材料或新的計算模式(如量子計算)上進行創新。
誰解決了這個問題,誰從產業中贏得更多的利潤。這是黃仁勛需要在即將到來的 GTC演講上,給出一個能源答案。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.