對于 Michael Frank,效率一直是一個主要關注點。作為 1990 年代的學生,他最初對人工智能感興趣。但是,當他意識到這項技術會消耗多少能源時,他就把研究轉向了另一個方向:計算的物理極限。
他很快找到了一個利用熱力學特性的候選方案:一種既能正向運行也能反向運行的計算設備。通過從不刪除數據,這種「可逆」計算機可以避免浪費能量。
如今,隨著傳統計算的進步放緩——新的芯片遇到了根本性的物理限制,無法繼續縮小——可逆計算或許能夠繼續推動計算的進步。
相關鏈接:https://www.nature.com/news/the-chips-are-down-for-moore-s-law-1.19338
感受熵增
最早研究可逆計算的是 IBM 的一位著名物理學家 Rolf Landauer。20 世紀 60 年代,他在信息處理領域做出了重要貢獻。他的研究主要探討了熵(衡量無序程度的指標)與信息之間的關系。
簡而言之,對系統了解得越多其結構就越有序,反之就越無序。原子從可預測的行為轉變為不可預測的運動,正是導致某些物理過程不可逆的原因。
在 1961 年,Rolf Landauer 證明了這些原理同樣適用于計算機。當計算機系統刪除信息時,計算機芯片中的電子會從已知路徑變為未知路徑。這些被丟棄的電子實際上已經丟失,它們的能量會以熱量的形式逸出。
相關鏈接:https://ieeexplore.ieee.org/document/5392446
他證明了這是一個不可避免的事實:無論計算機是如何構建的,它在刪除每個比特信息時都必須釋放一定量的最小熱量。這種損失普遍存在于計算機運行的進程中。
Rolf Landauer 懷疑如果一臺機器從未刪除數據,是否可以繞過這一限制。這樣的設備需要記錄每一項操作,每一步中每一對數字的加法。這樣的操作會迅速填滿內存,他認為這是一條死胡同。
但在十年后,他發現自己的判斷有誤。
反向操作
1973 年,IBM 的 Charles Bennett 提出了另一種選擇。與其保存每一條信息碎片,不如在計算前運行每個計算,存儲結果,然后反向運行該計算。他稱這個過程為「反計算」。
相關鏈接:https://ieeexplore.ieee.org/document/5391327
反計算意味著你只會保留你需要的數據,并且永遠不會失去對這些數據的追蹤。因為初始信息沒有被刪除,所以永遠不會因為散熱而浪費能量。
但很不幸,這種計算所需的時間是普通計算的兩倍,在當時屬于不切實際的想法。
1989 年,Bennett 展示了通過使用稍微多一點的內存,可以大大減少反計算所需的時間。但計算機在刪除數據時并不會僅僅失去能量,因此為了從可逆計算中節省能量,計算機必須從設計之初就考慮低熱損耗的問題。
20 世紀 90 年代,麻省理工學院的一組工程師致力于此。但在當時的時代,芯片還不具備實際節省能源的能力,這讓為此加入該團隊的 Frank 一度消沉。
在 2022 年,當時在劍橋大學工作的 Hannah Earley 提交了一份嚴謹的報告,其中指出可逆計算機比傳統計算機散發出的熱量要少得多,通過精確的計算,Earley 證明了可逆計算機運行得越慢,散發的熱量就越少。
這項結論揭示了熱量與速度之間的關系對于可逆計算最具前景的應用:人工智能。AI 計算中,許多計算是并行的,因此可以完成這樣的操作:大幅降低可逆芯片運行速度,并增添更多芯片。
低速芯片的節能會抵消數量上的損耗,運行得足夠慢,甚至可能不需要那么多的冷卻設備,從而擴大集成規模,再次節省傳輸時間。
Earley 與 Frank 顯然注意到了這一點,他們已經著手開發可逆芯片的商用版本。
參考鏈接:https://www.quantamagazine.org/how-can-ai-researchers-save-energy-by-going-backward-20250530/
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.