又是炒冷飯？

近日，IBM宣布了一項(xiàng)重大的光學(xué)技術(shù)突破，該技術(shù)可以以光速訓(xùn)練AI模型，同時(shí)節(jié)省大量能源。

這篇IBM發(fā)布的技術(shù)論文顯示，這項(xiàng)技術(shù)是一種新型的共封裝光學(xué)技術(shù)（co-packaged optics），可以利用光速實(shí)現(xiàn)數(shù)據(jù)中心內(nèi)部的連接，從而替代目前使用的銅電纜。

盡管光纖技術(shù)已在全球商業(yè)和通信中廣泛應(yīng)用，但大多數(shù)數(shù)據(jù)中心內(nèi)部仍依賴于銅電纜進(jìn)行短距離通訊。這導(dǎo)致 GPU 加速器在訓(xùn)練過(guò)程中常常處于閑置狀態(tài)，浪費(fèi)大量的時(shí)間和能源。

因此IBM的研究團(tuán)隊(duì)展示了如何將光的速度和容量引入數(shù)據(jù)中心，顯著提高數(shù)據(jù)中心的通信帶寬，減少 GPU 的閑置時(shí)間，從而加速 AI 模型的處理速度。

IBM高級(jí)副總裁兼研究總監(jiān)Dario Gil在評(píng)論這一技術(shù)時(shí)表示：

“由于生成式AI需要更多的能源和處理能力，數(shù)據(jù)中心必須不斷發(fā)展——而同封裝光學(xué)器件可以使這些數(shù)據(jù)中心面向未來(lái)。有了這一突破，未來(lái)的芯片將像光纖電纜將數(shù)據(jù)傳入和傳出數(shù)據(jù)中心一樣進(jìn)行通信，開啟一個(gè)更快、更可持續(xù)的通信新時(shí)代，可以處理未來(lái)的 AI 工作負(fù)載。”

至于效果如何，根據(jù)IBM計(jì)算出的結(jié)論表示，大型語(yǔ)言模型 (LLM) 的訓(xùn)練時(shí)間可以從三個(gè)月縮短到三周。同時(shí)，提高能源效率將減少能源使用量并降低與訓(xùn)練 LLM 相關(guān)的成本。換算成發(fā)電量的話，訓(xùn)練 AI 模型時(shí)節(jié)省的能源相當(dāng)于5000個(gè)美國(guó)家庭的年度能源使用量。

事實(shí)上，CPO并不是最近才有的新技術(shù)。早在一年前，臺(tái)積電就攜手博通、英偉達(dá)等大客戶共同推進(jìn)這項(xiàng)技術(shù)的研發(fā)進(jìn)度，制程技術(shù)從45nm延伸到7nm，原計(jì)劃2024年就開始迎來(lái)大單，并在2025年左右達(dá)到放量階段。

這種所謂的“硅光芯片”，是在硅的平臺(tái)上，將傳統(tǒng)芯片中的電晶體替換成光電元件，進(jìn)行電與光訊號(hào)的傳導(dǎo)。對(duì)比傳統(tǒng)芯片會(huì)出現(xiàn)電訊號(hào)的丟失與耗損的情況，光訊號(hào)不僅損耗少，還實(shí)現(xiàn)更高頻寬和更快速度的數(shù)據(jù)處理。

原理上很簡(jiǎn)單，但實(shí)際推廣上難度并不小。

首先，硅光產(chǎn)品并沒有到大規(guī)模需求階段。雖說(shuō)有自動(dòng)駕駛和數(shù)據(jù)中心兩大領(lǐng)域的需求，但目前還沒有主流芯片廠商推出高性能芯片。

其次，硅光產(chǎn)品需要考慮相對(duì)高昂的成本問題。受限于大量光學(xué)器件，一個(gè)硅光器件需要采用各種材料，在缺乏大規(guī)模需求的情況下，硅光產(chǎn)品成為一種“高價(jià)、低性價(jià)比”的產(chǎn)品。同時(shí)，器件的性能與良品率難以得到保障。

最后，硅光芯片在打通各個(gè)環(huán)節(jié)還需要努力。例如設(shè)計(jì)環(huán)節(jié)，雖然已經(jīng)有EDA工具支持，但算不上專用；而在制造與封裝環(huán)節(jié)，類似臺(tái)積電、三星等大型晶圓代工廠都沒有提供硅光工藝晶圓代工服務(wù)。

即便是已經(jīng)推出COUPE技術(shù)的臺(tái)積電，短時(shí)間內(nèi)會(huì)專注更加成熟的封裝方案，很難勻出產(chǎn)能提供給硅光芯片。

另外，不同廠商對(duì)于硅光產(chǎn)品的理解也各不相同。目前作為硅光賽道真正的老大哥英特爾已經(jīng)陷入了低谷，很難抽出精力繼續(xù)硅光子技術(shù)。

因?yàn)檫@次IBM推出CPO技術(shù)，大概率只是儲(chǔ)備新技術(shù)，距離商用還有段時(shí)間。

本文作者：jh，觀點(diǎn)僅代表個(gè)人，題圖源：網(wǎng)絡(luò)

記得星標(biāo)微信公眾號(hào)：鎂客網(wǎng)（im2maker），更多干貨在等你