當(dāng)?shù)貢r(shí)間4月9日，谷歌在美國(guó)舉行了“Google Cloud Next 25”大會(huì)，正式發(fā)布了專(zhuān)為AI設(shè)計(jì)的第七代TPU（Tensor Processing Unit）加速器“Ironwood”，單芯片峰值算力可達(dá)4,614 TFLOPs。

谷歌在去年的I/O 2024大會(huì)上，剛發(fā)布了其第六代TPU “Trilium”。官方表示，相比上一代芯片，第六代TPU的訓(xùn)練性能提升4倍以上，推理吞吐量提升達(dá)到3倍，峰值計(jì)算性能提升了4.7倍，能效也提升了67%。去年末，第六代TPU正式向Google Cloud客戶開(kāi)放使用。

在各大科技巨頭競(jìng)相開(kāi)發(fā)自研人工智能芯片的情況下，谷歌也在將其TPU推向第七代。

據(jù)介紹，最新的Ironwood是谷歌首款在其張量核和矩陣數(shù)學(xué)單元中支持 FP8 計(jì)算的 TPU，而此前谷歌的 TPU 僅支持用于推理的 INT8 格式和處理以及用于訓(xùn)練的 BF16 格式和處理。

谷歌為Ironwood設(shè)計(jì)了兩種規(guī)模配置：面向推理的256芯片集群和面向訓(xùn)練的9216芯片集群。當(dāng)擴(kuò)展至最大規(guī)模時(shí)，總運(yùn)算能力可達(dá)42.5 Exaflops，是當(dāng)前全球最強(qiáng)超級(jí)計(jì)算機(jī)El Capitan的24倍。這一算力足以支持超大型密集LLM（大型語(yǔ)言模型）或MoE（混合專(zhuān)家模型）的訓(xùn)練與推理，推動(dòng)AI技術(shù)向“思考型”和“推理型”模型演進(jìn)。

Ironwood還大幅增加高頻寬內(nèi)存（HBM）容量，每顆芯片的HBM容量提高到了192GB，達(dá)到了Trillium的6倍，可處理更大型的模型和數(shù)據(jù)集運(yùn)算，減少頻繁的數(shù)據(jù)傳輸需求，同時(shí)，HBM帶寬也大幅提升，Ironwood單顆芯片的內(nèi)存帶寬可達(dá)7.2Tbps，是Trillium的4.5倍，以確保數(shù)據(jù)快速存取。

谷歌云副總裁阿明·瓦赫達(dá)特表示：“Ironwood是我們迄今為止性能最強(qiáng)、功能最全、能效最高的TPU。它專(zhuān)為驅(qū)動(dòng)具備思考能力的AI模型而設(shè)計(jì)，代表了AI基礎(chǔ)設(shè)施的重大轉(zhuǎn)變”。

目前，Ironwood已計(jì)劃于今年晚些時(shí)候向Google Cloud客戶開(kāi)放，

谷歌為內(nèi)部研發(fā)和云服務(wù)設(shè)計(jì)自己的人工智能芯片，從而減少了對(duì)英偉達(dá)的依賴，鞏固自身在AI競(jìng)賽中的地位。 其競(jìng)爭(zhēng)對(duì)手OpenAI和Meta仍然嚴(yán)重依賴英偉達(dá)芯片，來(lái)滿足日益增長(zhǎng)的服務(wù)需求。

隨著AI芯片競(jìng)爭(zhēng)的白熱化，盡管英偉達(dá)仍占據(jù)領(lǐng)先地位，但亞馬遜、微軟等科技巨頭也在加速布局自研解決方案。亞馬遜擁有AWS Trainium / Inferentia芯片以及Graviton處理器，微軟則有Maia 100、Cobalt 100芯片。

另外有報(bào)道稱，在OpenAI宣布將采用競(jìng)爭(zhēng)對(duì)手Anthropic的AI 模型連接數(shù)據(jù)系統(tǒng)標(biāo)準(zhǔn)后，谷歌也迅速跟進(jìn)。

谷歌 DeepMind 首席執(zhí)行官德米斯?哈薩比斯（Demis Hassabis）本周三在 X 平臺(tái)上發(fā)布消息，稱谷歌將為其 Gemini 模型和軟件開(kāi)發(fā)工具包（SDK）添加對(duì) Anthropic 的模型上下文協(xié)議（Model Context Protocol，MCP）的支持，不過(guò)他并未給出具體的時(shí)間表。

來(lái)源：界面新聞