上周，谷歌發布了自家最新（第七代）TPU芯片Ironwood。圈里又冒出來一堆炸裂體的文章，講這顆芯片如何干翻英偉達…

實際情況怎么樣呢？先說結論：毫無機會。

今天我們就來簡單分析下，谷歌要想在AI芯片領域干翻英偉達，總共分幾步？

雖然是掛谷歌舉例子，但也同樣適用于圈里所有玩家，包括悄悄發力、躍躍欲試甚至希望遙遙領先的國產廠商們↓

干翻英偉達，只需要五步

?搞定芯片性能：

單拼芯片本身，Ironwood確實有點兒東西，尤其在FP8推理、內存容量和功耗效率上，與Blackwell旗鼓相當。

但僅僅看推理場景，英偉達在低精度（FP4）和混合精度任務中的優化，以及集群互聯技術的成熟度，仍然優勢明顯。更不用說高精度和訓練場景。

當然，僅僅是谷歌這一小步，對國產芯片廠商已經很有難度了。不過Ironwood的思路值得借鑒，那就是鎖定推理場景，提升能效比，爭取局部領先。

另外，只要我們的芯片性能超過閹割版，就算是成功的第一步。

?打破生態壁壘：

即便芯片性能過關，這一步更難。

英偉達的CUDA和軟件棧是AI開發的行業標準，谷歌的TPU生態（JAX、TensorFlow）覆蓋面有限，短期內難以吸引大量開發者遷移。

國內芯片同樣存在這樣的尷尬，計算平臺、AI框架、開發工具鏈都需要慢慢積累。

?消除市場慣性：

英偉達的GPU已在80-90%的AI工作負載中占據主導，客戶切換成本高，Ironwood的云端專屬模式進一步限制了其吸引力。

谷歌的困境也是國產AI芯片的困境，畢竟客戶不愛吃螃蟹，對國內利好的一點是芯片禁運和信創需求，可以推動客戶切換。

?解鎖全棧能力：

英偉達的GPU全面覆蓋訓練、推理和邊緣計算，適用場景更廣；Ironwood主要在推理上優化，無法對抗英偉達的全棧優勢。

從未來趨勢看，推理是大需求，訓練是小需求，國內AI芯片如果能主攻推理（FP8/FP6/FP4），不追求訓練核彈，未嘗不是更好的出路。

當然低精度高速度反而對器件和工藝的要求更高，更難做。所以千萬不要小看N家的低精度推理優勢。

?持續迭代創新：

英偉達已明確從兩年一次的架構更新轉向每年推出一款新芯片的節奏。

2025年下半年將推出Blackwell Ultra，2026年推出Vera Rubin，2027年推出Rubin Ultra，性能預計比Hopper架構提升數十倍，目標支持萬億參數模型的實時推理和訓練。

這種節奏，谷歌跟不上，業內也沒有廠商跟得上，不過N記的多芯片設計和先進制程依賴TSMC，有一定供應鏈風險（當然，國產芯片供應鏈風險更大，即便已經正在慢慢破局）。

總而言之，雖然英偉達AI芯片面臨AMD Instinct MI系列、Intel Gaudi 3和谷歌TPU等競品在性能和成本上逐步追趕，客戶可能轉向多元化采購。

國內廠商也在不斷蓄力，力求局部替代，但綜合性能、生態、市場、場景、可持續性來看，每一步都任重道遠。

太長不看的分界線，以下為詳細分析

第一戰：性能戰

Ironwood是谷歌首款專門針對推理優化的TPU，旨在滿足生成式AI和復雜推理模型（比如MoE模型）的計算需求。關鍵技術亮點如下：

單芯片峰值性能為4,614 TFLOPs（FP8精度），集群規模可擴展至9,216個芯片，提供42.5 Exaflops的計算能力。

谷歌聲稱這一性能是全球最強大超級計算機El Capitan（1.7 Exaflops，FP64精度）的24倍以上。聽起來很NB吧，但谷歌這里玩了數字游戲，拿FP8與FP64的比較，有點不講武德。

Ironwood相比前代Trillium（第六代TPU），每瓦性能提升2倍，跟第一代TPU比，更是提升3,600倍，功耗效率提升近30倍。

每芯片配備192GB高帶寬內存（HBM），是Trillium的6倍，帶寬達7.2-7.4 TB/s。

增強的芯片間互聯（ICI）帶寬達1.2 Tbps（雙向），比Trillium提升1.5倍，支持大規模同步通信。（ICI相當于谷歌的NVlink）

單項PK，英偉達的比較：

Ironwood單芯片4,614 TFLOPs@FP8與英偉達B200（4,500 TFLOPs@FP8）性能相當，但B200在FP4精度下可進一步提升吞吐量（適合低精度推理）。

Ironwood的9,216芯片集群（42.5 EFLOPs）在理論峰值上領先，但英偉達的NVL144集群可以提供更高FP4性能。

同時，英偉達的NVLink和NVSwitch互聯技術在高密度集群中表現出色，在分布式任務中優于谷歌的ICI。

顯存方面，Ironwood的192GB HBM和7.2 TB/s帶寬領先于B200（141GB HBM3e，4.8 TB/s帶寬），對內存密集型推理任務（如長上下文LLM）更有優勢。

但英偉達在HBM3e技術上更靈活，支持Micron等供應商，在供應鏈穩定性上占優。

Ironwood的能效比優于B200，尤其在FP8推理任務中，但英偉達在FP4和稀疏計算優化上仍有領先。

不過，英偉達的Blackwell平臺整體功耗偏高（單卡約700W），堪稱電老虎，可能在超大規模部署中面臨電力瓶頸。

而Ironwood在能效比上，還是占據了一定優勢。

小結一下↓

從技術角度看，Ironwood在FP8推理性能、內存容量和功耗效率上與英偉達Blackwell系列旗鼓相當，甚至在特定場景（如內存密集型推理）略有優勢。

英偉達在低精度（FP4）和混合精度任務中的優化，以及集群互聯技術的成熟度，仍使其在多樣化AI工作負載中更具競爭力。

純看推理，谷歌這款芯片還比較能打，這一局算是基本打平吧。

第二戰：市場與應用場景戰

Ironwood的定位是推理優先和云端專屬。

Ironwood是谷歌首款專為推理設計的TPU，針對生成式AI的實時響應需求。推理正成為AI工作負載的主導部分，谷歌這波操作很應景。

同時，Ironwood僅通過Google Cloud提供（256或9,216芯片配置），不對外銷售硬件，鎖定云服務生態。

從目標客戶看，支持Gemini、AlphaFold等前沿模型，同時吸引生成式AI初創企業和需要超大規模推理的客戶，比如蘋果曾用8,192個TPU v4訓練其基礎模型。

英偉達的定位則是全棧覆蓋，硬件銷售+云服務并舉，其GPU同時支持訓練和推理，覆蓋從云端到邊緣的廣泛場景。

銷售模式不僅提供GPU硬件，還與云大廠合作，提供GPU實例，市場覆蓋更廣。比如云頭牌AWS，就推出了英偉達GPU實例全家桶。

而國內云，只要不受限的，也都會把英偉達GPU作為首選。

Ironwood高度集成于谷歌生態，適合依賴Google Cloud的客戶，但靈活性太低。

而英偉達的開放生態支持多種框架（TensorFlow、PyTorch）和部署環境，適應性更強。

所以，這一局，谷歌完敗。

第三戰：生態與軟件支持戰

Ironwood與谷歌Pathways運行時、JAX和Vertex AI深度整合，支持Gemini、Llama等模型。Pathways可高效分布式計算、跨數萬TPU協同工作。

但是，TPU生態相對封閉，嚴重依賴谷歌的TensorFlow和JAX框架，PyTorch支持有限。（雖然vLLM近期宣布支持TPU）

谷歌云提供一站式AI服務，對初創企業吸引力較大。

反觀英偉達，CUDA、TensorRT、Triton Inference Server和NAIE套件支持幾乎所有主流AI框架，開發者體驗更優。

同時有龐大開發者社區和第三方優化，模型遷移成本低，跨平臺兼容性強。

從靈活性看，英偉達的GPU可在幾乎所有云服務上部署，以及本地部署，客戶選擇余地更大。（買不起和買不到的另當別論）

這一局，谷歌仍然毫無取勝機會。

第四戰：成本與價格戰

谷歌并未公開Ironwood的定價，但TPU歷來以高性價比著稱，尤其在Google Cloud上運行大規模推理任務時。同時，Ironwood的能效比很不錯。

可是這一切的前提是：客戶需完全依賴Google Cloud，初期遷移成本（如模型優化、框架適配）可能較高。

英偉達GPU價格較高，就不用說了，賊貴。

但其性能通用性、易用性和生態優勢抵消了部分成本劣勢，可以大大降低客戶踩坑成本，畢竟填坑的隱形成本更高。

還有一點，英偉達現在開始推FP4推理優化了，有機會進一步降低推理成本，尤其在邊緣場景中。

這一局，仍然是英偉達的優勢局。

第五戰：產品迭代能力戰

谷歌的優勢在于自研生態垂直整合（從芯片到模型再到云服務的全棧），優化深度推理任務。

同時自有數據中心規模巨大，自己吃狗糧就ok，同時目前大規模需求都是推理，Ironwood的定位恰好精準。

但是英偉達的客戶基礎和開發者社區難以撼動，短期內Ironwood難以引發大規模切換。

更重要的是，英偉達的產品迭代能力，猶如已經提速的跑車，后來者很難追趕。

比如，英偉達已明確從兩年一次的架構更新轉向每年推出一款新芯片的節奏。

2025年下半年將推出Blackwell Ultra，2026年推出Vera Rubin，2027年推出Rubin Ultra，性能預計比Hopper架構提升數十倍，目標支持萬億參數模型的實時推理和訓練。

所以，谷歌的Ironwood更適合在推理領域切分市場份額，但其云端專屬模式很難與英偉達直接精準。

其他玩家（如AMD的MI300X、AWS的Trainium、Intel的Gaudi、以及菊廠的昇騰910）雖然也在挑戰英偉達，但短期內很難形成足夠威脅。

所以，干翻英偉達只需要五步，但是每一步都堪比登天路。