計算硬件的不斷升級順應著 AI 算法的突破，但為了真正釋放 AI 的全部潛力，可能需要尋找一種新方法來替代現(xiàn)有計算硬件。

在熱力學計算中，是否存在一種快速而低功耗的方法來加速 AI 的基本操作，尤其是針對生成式 AI 與概率性 AI？美國紐約的 Normal Computing Corporation 公司用他們研發(fā)的一臺小型熱力學計算機給出了答案。

他們稱呼這項成果為隨機處理單元，由印刷電路板上的 RLC 電路組成，具有 8 個單位單元，通過開關(guān)電容實現(xiàn)多對全耦合。

該研究以「Thermodynamic computing system for AI applications」為題，于 2025 年 4 月 22 日刊登于《Nature Communications》。

論文鏈接：https://www.nature.com/articles/s41467-025-59011-x

隨機處理單元

AI 革命凸顯了當今計算硬件的缺點，部分引領者認為機器學習目前卡在局部最優(yōu)狀態(tài)，如果該領域能夠擺脫當前的數(shù)字硬件，那么就可以達到全局最佳狀態(tài)。

概率 AI 是模擬硬件的一個特別引人注目的用例。這一分支處理貝葉斯推理、不確定性量化和采樣任務，并導致生成式 AI（如擴散模型）的最新突破。

雖然它在當前的數(shù)字硬件上難以計算，但概率 AI 的數(shù)學恰好與熱力學相符，而熱力學是經(jīng)典物理學中涉及隨機動力學的分支。

所以在這項工作中，該團隊提出了熱力學計算的實驗演示，并介紹了他們的隨機處理單元（SPU）。

圖 1：隨機處理單元（SPU）。

SPU 可以在數(shù)學上建模為一組具有噪聲電流驅(qū)動的電容耦合理想 RLC 電路，其排列在左上角三角形中的元件對應于耦合晶胞的可控耦合。

高斯采樣和矩陣求逆

在硬件上，團隊演示了高斯采樣和矩陣求逆。

如論文內(nèi)公式所述，SPU 中電壓和電流的穩(wěn)態(tài)分布取決于電路的無噪聲和無耗散哈密頓量。隨著收集到更多的樣本，與分布矩相關(guān)的誤差會隨著時間的推移而下降。

圖 2：在 SPU 上對二維高斯分布進行采樣。

接下來考慮的是矩陣求逆。他們對 SPU 的三個不同副本執(zhí)行算法，并獲得了相似的結(jié)果，可用于證明可重復性。結(jié)果誤差（即 SPU 逆矩陣和目標逆逆矩陣之間的相對 Frobenius 誤差）隨著樣本數(shù)量的增加而下降。在收集了數(shù)千個樣本后，SPU 逆函數(shù)在視覺上看起來與目標逆函數(shù)相似。

圖 3：8 × 8 矩陣的熱力學反轉(zhuǎn)。

熱力學的性能優(yōu)勢

團隊將 SPU 的預期運行時間和能耗與最先進的 GPU 進行了比較，模型的運行時間和能耗數(shù)學模型涉及考慮三個關(guān)鍵階段的影響：

• 從輸入?yún)f(xié)方差矩陣計算電容器陣列的元件值（數(shù)字計算，在 GPU 上）
• 將元件值加載到設備（數(shù)字傳輸）
• 等待生成樣本所需的物理動力學的積分時間（模擬運行時）。

最后將樣本發(fā)送回數(shù)字設備。

他們假設 SPU 由在室溫下運行的標準電氣元件構(gòu)成，理想的情況是具有 16 位精度的電氣元件，并且 SPU 單元完全連接。

圖 4：GPU 和估計的 SPU 性能的比較。

對于 10,000 個樣本，GPU 在低維度下速度更快，但在高維度下，SPU 性能預計會優(yōu)于 GPU。

SPU 的簡單模型、其端到端運行所涉及的時間以及這些過程中的能源成本，相對于相對保守的假設里最先進的 GPU，SPU 潛在的加速和節(jié)能潛力提高了一個數(shù)量級。

一項有效的實驗

這臺熱力學計算的原型機成功演示了熱力學線性代數(shù)實驗。它所使用的架構(gòu)不包含電感器，而是使用了電阻（不是電容）耦合。

熱力學計算的精度受到指定物理參數(shù)的精度的限制，并且不可避免地需要在精度和可擴展性之間進行權(quán)衡，這是擴展硬件時會遇到的問題。

這項工作還帶來了更多發(fā)展空間，類似于此處介紹的設備的硬件可用于加速其他任務，例如求解線性系統(tǒng)等。團隊為未來在非高斯情況下的實驗工作提供了指導，這也許會解鎖擴散模型等生成式 AI 的應用。