導語
時間為何總是向前流動?為何世界在宏觀層面呈現出確定性,而微觀世界卻充滿不確定?這背后,隱藏著一個深刻的物理學概念——熵。熵的增長規律,緊密關聯著我們最基本的經驗,揭示了自然界不可逆的演化方向。自1824年薩迪·卡諾首次提出熵的概念以來,它的內涵在物理學、信息論、生態學等領域不斷演化。
在兩百年后的今天,我們正在迎來對這一量化指標的全新理解:熵不再被視為系統固有的屬性,而是相對于與系統互動的觀察者而言的屬性。這種現代觀點揭示了信息與能量之間的深刻聯系,這一聯系正推動著微觀尺度上的微型工業革命。
研究領域:熵,不確定性,觀察者,熵增,信息論,熱力學第二定律
什么是熵?一個衡量我們的無知程度的標準。
整整兩百年前,一位法國工程師提出了一個理念,試圖量化宇宙不可避免地走向衰退的過程。然而,如今我們所理解的“熵” (Entropy) ,與其說是關于世界的一個客觀事實,不如說是反映我們日益增長的無知。接受這一真相,正促使人們重新思考諸多領域的問題,從理性決策到機器的極限,無一例外。
生命就像一部關于毀滅的文集。你所建造的一切最終都會崩塌。你所愛的人終將逝去。任何秩序或穩定的感覺都不可避免地會瓦解。整個宇宙都走在一條令人沮喪的漫漫旅途之上,最終抵達一個單調沉悶,而又極度混亂的狀態。
為了刻畫這種宇宙級的衰退,物理學家們使用了一個概念,稱為“熵” (Entropy) 。熵是對系統無序程度的衡量。有一條定律宣稱熵總是不斷增加,這條定律被稱為“熱力學第二定律” (Second Law of Thermodynamics) [1],它是自然界中最無法逃避的法則之一。
我長期以來一直被一種感覺所困擾,那就是宇宙似乎總有走向混亂的普遍趨勢。秩序本質上是脆弱的。制作一個花瓶需要數月的精心規劃和藝術創作,但用一個足球砸碎它卻只在一瞬間。我們一生都在努力理解這個混亂且不可預測的世界,然而,任何試圖建立控制的努力似乎總是適得其反。熱力學第二定律斷言機器永遠無法達到完美效率。這意味著,無論宇宙中出現了怎樣的結構[2],其最終作用都只是進一步耗散能量——無論是最終爆炸的恒星,還是將食物轉化為熱量的生物體。哪怕我們竭盡全力,我們仍然是熵的代理人[3]。
“生活中唯一確定的東西只有死亡、稅收和熱力學第二定律,”麻省理工學院的物理學家塞斯·勞埃德 (Seth Lloyd) 寫道[4],我們無法避開“熵”這個概念。熵的增長與我們最基本的經驗緊密相連,它解釋了為何時間總是向前流動[5],也解釋了為何世界看似是確定性的,而不是量子力學中的不確定狀態[6]。
盡管熵具有根本性的重要意義,但它卻可能是物理學中最具分歧的概念。“熵一直是個難題,”Lloyd對我說。這種爭議源于“熵”這個術語在不同學科間的混用和扭曲——它在物理學、信息論、生態學等領域含義相同,但卻格局分野。但更深層的原因在于,要真正掌握熵的本質,需要克服一些令人不適的哲學障礙,這種思維上的深刻轉變,使許多人難以全面理解。
在過去一個世紀中,物理學家們努力將看似無關的領域統一起來,他們為熵帶來了新的光芒——將觀察的焦點從外部系統轉向觀察者自身,并將概念的中心從“無序”轉變為“無知”。如今,熵不再被視為系統固有的屬性,而是相對于與系統互動的觀察者而言的屬性。這種現代觀點揭示了信息與能量之間的深刻聯系,這一聯系正推動著微觀尺度上的微型工業革命。
在熵的概念首次提出的兩百年后,我們迎來了對這一量化指標的全新理解,它不再是虛無主義的象征,而是更具“機會主義”的象征。這種概念的演變正在顛覆舊的思維方式,不僅關乎熵本身,還關乎科學的意義以及我們在宇宙中的角色。
火的動力
熵的概念源于工業革命時期對制造完美機械的嘗試。一位28歲的法國軍事工程師,名叫薩迪·卡諾 (Sadi Carnot) ,試圖計算蒸汽動力引擎的極限效率。1824年,他出版了一本118頁的書[7],書名為《論火的動力》 (Reflections on the Motive Power of Fire) ,并在塞納河畔以3法郎的價格出售。卡諾的書在科學界幾乎無人問津,幾年后,他因霍亂去世,許多手稿和他的遺體一起被火化,化為灰燼。然而,這本書有一些得以幸存,其中蘊含著熱力學這門新科學的火種——火的原動力。
17歲的薩迪·卡諾。
圖源: 路易-利奧波德·布瓦伊(Louis-Léopold Boilly)
卡諾認識到,蒸汽引擎的核心是一種機器,它利用了熱量從高溫物體流向低溫物體的傾向。他設計了所能想象的最有效的引擎,并為熱量轉化為功的效率設定了一個上限,這一結果如今被稱為“卡諾定理” (Carnot’s Theorem) 。他在書中最后一頁提出的一個警告最具深遠意義:“我們不應該指望在實踐中完全利用燃料的全部動力。”總有一些能量會通過摩擦、振動,或其他不受歡迎的運動形式而耗散。完美的效率是無法實現的。
幾十年后的1865年,德國物理學家魯道夫·克勞修斯 (Rudolf Clausius) 閱讀了卡諾的書,為那些注定要耗散的能量比例創造了一個術語。他稱之為“熵” (Entropy) ,這個詞來源于希臘語中的“轉變”一詞。隨后,他提出了后來被稱為“熱力學第二定律” (Second Law of Thermodynamics) 的理論:“宇宙的熵趨向于最大值。”
那個時代的物理學家錯誤地認為,熱是一種流體 (稱為“熱質”(caloric)) 。在接下來的幾十年里,他們逐漸意識到,熱其實是單個分子相互碰撞的副產品。這一視角的轉變,使得奧地利物理學家路德維希·玻爾茲曼 (Ludwig Boltzmann) 能夠用概率重新定義并深化熵的概念。
魯道夫·克勞修斯(左)首次提出熵趨于增加的洞見;路德維希·玻爾茲曼將這一增加植根于統計力學。
Theo Schafgans (left); Creative Commons
玻爾茲曼將分子的微觀屬性 (例如它們各自的位置和速度) 與氣體宏觀屬性 (例如溫度和壓力) 的區分開來。試想一下,假設不是氣體,而是一組在棋盤上的相同棋子。所有棋子確切坐標的列表,被玻爾茲曼稱為“微觀狀態” (microstate) ;而它們的整體構型——例如是形成一個星形,還是都堆積在一起——則被稱為“宏觀狀態” (macrostate) 。玻爾茲曼根據能夠產生某一宏觀狀態的微觀狀態數量,來定義該宏觀狀態的熵。一個高熵的宏觀狀態,是指有許多與之兼容的微觀狀態——即許多可能的棋子排列方式都能產生相同的總體模式。
棋子形成特定有序形狀的方式是有限的,而它們隨機散布在棋盤上的方式卻多得驚人。因此,熵可以被視為無序的衡量標準。熱力學第二定律由此成為一個直觀的概率陳述:物體看起來雜亂的方式遠多于整潔的方式。因此,當一個系統的組成部分隨機地在不同可能構型間切換時,它們往往會呈現出越來越混亂的排列。
視頻標題:熵是什么?
熵是無序的衡量標準。它對應于一個整體狀態下可能存在的微觀構型的數量。
1/3:假設一個盒子里有九個粒子,它們必須聚集成一個大正方形。這種狀態只有16種可能的方式;
2/3:現在假設這些粒子可以占據盒子中任意方格,可能的排列方式達到了94,143,280種;
3/3:因為粒子分散排列的方式多得如此之多,粒子進入分散狀態的可能性是壓倒性的。這正是熱力學第二定律的核心思想:一個封閉系統的熵總是增加的。
約納斯·帕爾諾 (Jonas Parnow) 和馬克·貝蘭 (Mark Belan)/《量子雜志》(Quanta Magazine);創意共享 (Creative Commons: CC BY-ND 4.0)[8]
在卡諾的引擎中,熱量從高溫流向低溫,因為氣體粒子完全混合在一起的概率,遠高于按速度分隔——一邊是高溫、快速運動的粒子,另一邊是低溫、緩慢運動的粒子。同樣的道理解釋了為何玻璃會破碎、冰會融化、液體會混合、樹葉會分解。事實上,系統從低熵狀態轉向高熵狀態的自然傾向,似乎是宇宙中唯一能可靠賦予時間一致方向的現象。熵為那些本可在正反方向上同樣發生的過程,刻畫出了時間的箭頭。
熵的概念最終遠遠超出了熱力學的范疇。“當卡諾寫下他的文章時,我認為沒人能想象到它將會帶來什么,”艾克斯-馬賽大學 (University of Aix-Marseille) 的物理學家卡洛·羅韋利 (Carlo Rovelli)[9 ] 說道。
物理學家卡洛·羅韋利長期強調物理學中量的觀察者依賴性,包括熵。
圖源:Christopher Wahl
熵的延伸
熵在第二次世界大戰期間迎來了新生。美國數學家克勞德·香農 (Claude Shannon) 當時致力于加密通信渠道,包括連接富蘭克林·D·羅斯福 (Franklin D. Roosevelt) 和溫斯頓·丘吉爾 (Winston Churchill) 的通信線路。這一經歷促使他在接下來的幾年里,深入思考通信的基本原理。香農試圖測量一條信息中所含的信息量,他通過一種迂回的方式做到了這一點——將知識視為不確定性的減少。
克勞德·香農,被稱為信息論之父,將熵理解為不確定性。
圖源:Estate of Francis Bello;Science Source
乍一看,香農提出的公式似乎與蒸汽引擎毫無關系。給定消息中可能出現的一組字符,香農的公式將“下一個字符的不確定性”定義為:每個字符出現概率與其概率對數的乘積之和。但如果每個字符的出現概率相等,香農的公式就會簡化,并與玻爾茲曼的熵公式完全相同。據說物理學家約翰·馮·諾伊曼 (John von Neumann) 曾敦促香農將這一量稱為“熵”——部分原因是它與玻爾茲曼的熵密切相關,還有部分原因是“沒人真正知道熵是什么,所以在辯論中你總能占上風。”
正如熱力學中的熵描述了引擎的效率,信息熵則捕捉了通信的效率。信息熵對應于弄清消息內容所需的“是或否”問題的數量。高熵消息是沒有模式的,無法猜測下一個字符,因此需要許多問題才能完全揭示其內容。而充滿模式的消息包含的信息較少,更容易猜測。“信息與熵之間呈現出一幅非常美妙的交織圖景,”勞埃德說,“熵是我們未知的信息;信息是我們已知的信息。”
1957年,美國物理學家E.T.杰恩斯 (E.T. Jaynes) 發表的兩篇里程碑式的論文[10]中,通過信息論的視角審視熱力學,鞏固了這一聯系。他將熱力學視為一種從不完整粒子測量中進行統計推斷的科學。杰恩斯提出,當一個系統只有部分信息已知時,我們應對符合這些已知約束的每種構型賦予相等的可能性。他的“最大熵原理” (Principle of Maximum Entropy) 提供了一種對有限數據集進行預測的最無偏方法,如今被廣泛應用于統計力學、機器學習[11]和生態學[12]等領域。
因此,在不同領域中發展出熵的概念,卻能彼此契合。熵的增加對應于微觀細節信息的丟失。例如,在統計力學中,當盒子里的粒子混合起來,我們無法追蹤它們的位置和動量時,“吉布斯熵” (Gibbs Entropy) 就會增加。在量子力學中,當粒子與其環境發生糾纏,從而打亂其量子態時,“馮·諾伊曼熵” (von Neumann Entropy) 上升。當物質落入黑洞,外界失去對其信息時,“貝肯斯坦-霍金熵” (Bekenstein-Hawking Entropy) [13]也會上升。
熵始終衡量的都是無知:對粒子運動的無知、代碼中下一個數字的無知,或量子系統確切狀態的知識缺失。“盡管熵最初因不同動機被引入,如今我們能將它們全部與不確定性的概念聯系起來,”蘇黎世聯邦理工學院 (Swiss Federal Institute of Technology Zurich) 的物理學家雷納托·倫納 (Renato Renner) [14]說。
然而,這種對熵的統一理解引發了一個令人不安的問題:我們談論的是誰的“無知”?
視頻標題:熵作為不確定性。
熵也可以被視為不確定性的衡量標準。一組粒子的無序程度越高,它們的確切排列就越不確定。
1/2:我們以有序狀態開始,你知道所有九個粒子聚在一起,點擊方格即可揭示粒子的位置。
2/2:在任何可能排列的更無序狀態下,找到一個粒子無法告訴你其余粒子的位置。點擊方格,找到這種高熵狀態下的粒子。
約納斯·帕爾諾 (Jonas Parnow) 和馬克·貝蘭 (Mark Belan)/《量子雜志》(Quanta Magazine);創意共享 (Creative Commons: CC BY-ND 4.0)[15]
主觀性的氣息
作為意大利北部的一名本科物理學學生,卡洛·羅韋利從教授那里學習了熵和無序增長的概念。但他感到有些不對勁。他回家后,將油和水裝進一個罐子,搖晃后觀察液體分離——這似乎與他所學的熱力學第二定律相悖。“他們告訴我的都是胡說八道,”他回憶當時的想法,“顯然教學方式存在問題。”
羅韋利的經歷揭示了熵之所以令人困惑的一個關鍵原因:生活中不乏看似秩序增加的情況,從孩子收拾臥室,到冰箱冷卻火雞。然而,羅韋利也明白,他對熱力學第二定律的“勝利”只是幻覺。一個擁有超強熱視力的超級觀察者會看到,油和水的分離如何將動能釋放給分子,留下一個熱學上更無序的狀態。“真正發生的是,宏觀秩序的形成是以微觀無序為代價的,”羅韋利說。熱力學第二定律始終成立,只是有時隱藏在視線之外,罷了。
E.T.杰恩斯(E.T.Jaynes)(上)在解決威爾拉德·吉布斯(Willard Gibbs)提出的悖論時,
闡明了熵的主觀性質。
Creative Commons(top);The Scientific Papers of J. Willard Gibbs
杰恩斯也幫助澄清了這個問題。為此,他回顧了1875年由約西亞·威爾拉德·吉布斯 (Josiah Willard Gibbs) 首次提出的一個思想實驗,這個實驗后來被稱為“吉布斯混合悖論” (Gibbs Mixing Paradox) :假設一個盒子里有兩種氣體,A和B,中間由一塊隔板分隔。當你移開隔板時,熱力學第二定律要求氣體擴散并混合,熵會因此增加。但如果A和B是相同的氣體,且保持相同的壓力和溫度,移開隔板后熵并不會改變,因為粒子已經處于最大混合狀態。
問題來了:如果A和B是不同的氣體,但你無法區分它們,會發生什么?
吉布斯提出這個悖論一個多世紀后,杰恩斯給出了解決方案[16] (他堅稱吉布斯已明白這一點,只是未能清楚表達) 。想象盒子里裝的是兩種不同的氬氣,它們完全相同,唯一的區別是其中一種能溶于一種尚未發現的元素——姑且稱為“嗅素” (whifnium) 。在嗅素被發現之前,無法區分這兩種氣體,因此移開隔板后,熵看似沒有變化。然而,一旦嗅素被發現,一位聰明的科學家就能利用它區分兩種氬氣,并計算出兩種氣體混合時熵的增加。更有甚者,這位科學家還能設計一個基于嗅素的活塞,從氣體的自然混合中提取此前無法利用的能量。
杰恩斯闡明了一點:一個系統的“有序性”——以及從中提取有用能量的潛力——取決于執行者的相對知識和資源。如果實驗者無法區分氣體A和B,它們實際上就是同一種氣體。一旦科學家有了區分它們的手段,他們就能利用氣體混合的傾向來提取功。熵不取決于氣體之間的差異,而取決于它們的可區分性。無序是觀察者的主觀判斷。
杰恩斯寫道:“我們能從任何系統中提取的有用功的數量,顯然且必然地取決于我們對其微觀狀態的‘主觀’信息有多少。”
吉布斯悖論強調,需要將熵視為一種依賴于觀察者視角的性質,而非系統固有的特性。然而,這種主觀的熵的理解,物理學家們難以接受[17]。正如科學哲學家肯尼思·登比 (Kenneth Denbigh) 在1985年的一本教科書[18]中寫道:“如果這種觀點成立,將帶來一些深刻的哲學問題,并可能動搖科學事業的客觀性。”
接受這種條件定義的熵,需要重新思考科學的根本目的。這可能意味著物理學更準確地描述的是個體經驗,而非某種客觀現實。如此一來,科學家們逐漸意識到熵被卷入了的更大趨勢:許多物理量只有相對于觀察者才有意義。 (甚至時間本身,也因愛因斯坦(Albert Einstein)的相對論而變得相對。) “物理學家不喜歡主觀性——他們對此很排斥,”加州大學圣克魯斯分校 (University of California, Santa Cruz) 的物理學家安東尼·阿吉雷 (Anthony Aguirre) [19]說,“但“絕對”性是不存在的,它從來都是幻覺。”
視頻標題:熵是主觀的。
秩序的概念因觀察者的知識不同而異。
1/4:這里有一個房間,里面滿是不同形狀和顏色的物體。任務是按相似性將物體整理到同一側。
2/4:首先是愛麗絲,她視力模糊且忘了戴眼鏡,只能分辨物體的顏色。
3/4:現在鮑勃進入房間,他是色盲,只能分辨物體的形狀。對他來說,房間依然很亂。
4/4:這表明熵是一種主觀衡量。不同觀察者眼中的有序,取決于他們能獲取的信息。
約納斯·帕爾諾 (Jonas Parnow) 和馬克·貝蘭 (Mark Belan)/《量子雜志》(Quanta Magazine);創意共享 (Creative Commons: CC BY-ND 4.0) [20]
現在,這種接受逐漸到來,一些物理學家開始探索如何將主觀性融入熵的數學定義中。
阿吉雷與合作者們設計了一種新度量方法,他們稱之為“觀測熵” (Observational Entropy) [21]。 該方法通過調整觀察者以何種方式“模糊”或“粗粒化” (coarse-grain) 他們對現實的感知,從而改變觀察者所能觀測到的屬性。 。然后,它對所有與這些觀測屬性兼容的微觀狀態賦予相等概率,正如杰恩斯所提議的。這個方程架起了熱力學熵 (描述宏觀特征) 與信息熵 (捕捉微觀細節) 之間的橋梁。“這種粗粒化的、部分主觀的視角,是我們以有意義的方式與現實互動的方式,”阿吉雷說。
多個獨立研究小組已使用阿吉雷的公式,試圖尋找熱力學第二定律更嚴格的證明 [22] 。阿吉雷本人則希望用這種度量方法解釋:為何宇宙起始于低熵狀態 [23] (從而解釋時間為何向前流動) ,以及在黑洞中熵究竟意味著什么。“觀測熵框架提供了更多的清晰度,”巴塞羅那自治大學 (Autonomous University of Barcelona) 的物理學家菲利普·斯特拉斯伯格 (Philipp Strasberg) 說。他最近在一項比較不同微觀熵定義的研究中引入了這一框架[24],“它真正將玻爾茲曼和馮·諾伊曼的思想與現代研究連接了起來。”
安東尼·阿吉雷定義了一種他稱為“觀測熵”的量,其他研究者認為這具有澄清作用。
麗莎·謝(Lisa Tse)為FQxI拍攝
與此同時,量子信息理論家們采取了不同的方法[26]來處理主觀性。他們將信息視為一種資源[27],觀察者可以利用它與一個日益與其環境融合的系統進行交互。對于一臺擁有無限算力的超級計算機來說,如果它能追蹤宇宙中每個粒子的確切狀態,熵將始終保持恒定——因為信息不會丟失——時間也將停止流動。但對于像我們這樣計算資源有限的觀察者,總是不得不面對一個粗粒化的現實圖景。我們無法追蹤房間里所有空氣分子的運動,因此我們取平均值,用溫度和壓力來描述。隨著系統演化到更可能的狀態,我們逐漸失去對微觀細節的掌控,這種無情的趨勢體現為時間的流動。“物理學中的時間,歸根結底,是我們對世界無知的表達,”羅韋利寫道。無知構成了我們的現實。
“世界外面有一個宇宙,每個觀察者也攜帶著一個內在的宇宙,那就是他們對世界的理解和模型,”阿吉雷說。熵提供了一個標尺,用來衡量我們內在模型的不足。這些模型,他說,“讓我們能在也許有時充滿敵意、但一定總是充滿挑戰的物理世界中,做出良好預測并智能地行動。”
知識驅動的探索
2023年夏天,阿吉雷在英格蘭約克郡一座歷史悠久的莊園山麓舉辦了一次靜修學術研討會[28],這次活動是由非營利研究組織“基礎問題研究所” (Foundational Questions Institute, FQxI) 主辦,該組織創辦于2006年,阿吉雷也是聯合發起人之一。這次活動,吸引了來自世界各地的物理學家,他們聚集在一起,進行為期一周的智力休憩,其他可以參加的活動還包括瑜伽、冥想和野外游泳。這次活動中FQxI資助也支持了一些研究者,他們研究如何將信息作為能量來源加以利用。
約克郡FQxI靜修活動場景。
麗莎·謝為FQxI拍攝
對于許多物理學家來說,發動機和計算機的研究界限已變得模糊。他們學會將信息視為一種真實、可量化的物理資源——用來診斷從系統中能提取多少功。他們意識到,知識的確就是力量。現在,他們正著手利用這種力量,展開研究。
一天早晨,在莊園圓頂帳篷里進行了可選瑜伽課程后,團隊聆聽了夏威夷大學馬諾阿分校 (University of Hawai‘i at Mānoa) 的物理學家蘇珊娜·斯蒂爾 (Susanne Still) [29]的發言。她討論了一項新工作,這讓人回想起一個世紀前由匈牙利裔物理學家萊奧·西拉德 (Leo Szilard) 首次提出的思想實驗[30]。
想象一個盒子,里面有一塊可左右滑動的垂直隔板,隔板可在盒子的左右壁之間來回移動。盒子里有一個粒子,位于隔板左側。當粒子在壁上反彈時,它會將隔板向右推動。一個聰明的“妖精”可以設置繩子和滑輪,使得當隔板被粒子推動時,繩子被拉動,從而提起盒子外的重物。此時,妖精可以偷偷重新插入隔板,重新開始這一過程——看似提供了一個無限能量的來源。
然而,要持續從盒子中提取功,妖精必須知道粒子在盒子的哪一側。西拉德的引擎以信息為燃料。原則上,信息引擎有點像帆船。在海上,你利用對風向的知識調整風帆,推動船前進。
視頻標題:利用熵的增加。
知識在利用熵的增加時就是力量。
1/3:讓我們用你所知道的做一些功。在這個例子中,你將嘗試把這個重物從地面抬起。
2/3:這種有序狀態將演變為無序狀態。你可以利用對粒子的知識設計一臺機器,來利用這種傾向。
3/3:你可以將重物掛在連接隔板左側或右側的繩子上。如果你想讓擴散的粒子抬起重物,應該選擇哪一邊?
約納斯·帕爾諾 (Jonas Parnow) 和馬克·貝蘭 (Mark Belan) /《量子雜志》 (Quanta Magazine);創意共享 (Creative Commons: CC BY-ND 4.0)[31]
但就像熱機一樣,信息引擎永遠不會完美運行。它們也必須以產生熵的形式支付“稅收”。正如西拉德等人指出的,我們無法將信息引擎用作永動機,因為測量和存儲信息平均產生的熵至少與提取的功相當。知識帶來力量,但獲取和記住知識會消耗力量。
西拉德構想他的引擎幾年后,阿道夫·希特勒成為了德國總理。出生于猶太家庭,住在德國的西拉德逃離了祖國。他的工作被忽視了幾十年,直到最終被翻譯成英文,正如斯蒂爾在最近關于信息引擎的歷史綜述[32]中所描述的。最近,通過研究信息處理的基本要素,斯蒂爾成功擴展并推廣了西拉德的信息引擎概念。
十多年來,斯蒂爾她一直在研究如何將觀察者本身視為物理系統,并且如何受制于自身的物理限制。這些限制的邊界能被接近到什么程度,不僅取決于觀察者能獲取的數據,還取決于他們的數據處理策略。畢竟,他們必須決定測量哪些屬性,以及如何在有限的記憶中存儲這些細節。
在研究這一決策過程時,斯蒂爾發現,收集無法幫助觀察者做出有用預測的信息,會降低他們的能量效率。她提出,觀察者應遵循她所謂的“最小自我阻礙原則” (Principle of Least Self-Impediment) ——選擇盡可能接近其物理極限的信息處理策略,以提高決策的速度和準確性。她還意識到,通過將這些想法應用于改進的信息引擎,可以進一步探索這些理念。
萊奧·西拉德提出了以信息為動力的引擎概念。
美國能源部(U.S. Department of Energy)
在西拉德的原始設計中,“妖精”的測量能夠完美揭示粒子的位置。然而在現實中,我們永遠無法對系統擁有完美的知識,因為我們的測量總是有缺陷——傳感器受噪聲干擾,顯示器分辨率有限,計算機存儲容量受限。斯蒂爾展示了如何通過稍微修改西拉德的引擎,即本質上是通過改變隔板的形狀來引入現實世界測量中固有的“部分可觀測性”[33]。
想象盒子里的隔板是傾斜的,用戶只能看到粒子的水平位置 (或許他們看到的是粒子投影到盒子底部邊緣的影子) 。如果影子完全在隔板的左側或右側,你能確定粒子在哪一邊。但如果影子位于中間區域,粒子可能在傾斜隔板的上方或下方,因此可能在盒子的左側或右側。
斯蒂爾利用部分可觀測的信息引擎,計算了測量粒子位置并將其編碼到內存中的最優策略。這得出了一種純物理學推導的算法,該算法目前也在機器學習中使用,稱為“信息瓶頸算法” (Information Bottleneck Algorithm) [34]。它提供了一種僅保留相關信息來有效壓縮數據的方法。
此后,斯蒂爾與她的研究生多利安·戴默 (Dorian Daimer) 一起研究了 [35] 多種經過修改的西拉德引擎設計,并探討了不同情況下的最優編碼策略。這些理論裝置被視為“在不確定性下決策的基本構建模塊”,擁有認知科學與物理學雙重背景的戴默表示,“這就是為什么研究信息處理的物理學讓我如此著迷,因為在某種意義上你繞了一圈,最終回到了對科學家本身的描述。”
再次工業化
斯蒂爾并非約克郡唯一對西拉德引擎抱有憧憬的研究者。近年來,多位獲得FQxI資助的科學家已在實驗室中成功研發了實用型引擎,這些引擎利用信息為機械裝置提供動力。與卡諾時代不同,如今沒有人期待這些微型引擎能推動列車或決定戰爭勝負;它們主要作為探索基礎物理學的實驗平臺。然而,與歷史重演般,這些引擎正促使物理學家們重新思考能量、信息和熵的本質含義。
在斯蒂爾的協助下,約翰·貝克霍弗 (John Bechhoefer) 成功在加拿大西蒙弗雷澤大 (Simon Fraser University) 重現了西拉德引擎[37]的構想,他們使用了一顆比塵埃還小的二氧化硅微珠,讓它漂浮在水浴中。貝克霍弗團隊利用激光束捕獲這顆微珠,并精確監測其隨機熱運動。當微珠偶然向上躍動時,他們迅速提升激光陷阱的位置,巧妙利用這一運動。這一實驗完美實現了西拉德的設想——通過信息的力量抬起重物。
蘇珊娜·斯蒂爾修改了西拉德引擎,以解釋不確定性和部分信息的情況。
芒果青檸工作室(Mango Lime Studio)
在研究現實信息引擎提取功的極限[38]時,貝克霍弗和斯蒂爾發現,在某些條件下,它能顯著優于[39]傳統引擎。受斯蒂爾理論工作的啟發,他們還追蹤了接收珠子狀態部分信息[40]時的低效性。
信息引擎如今在牛津大學 (University of Oxford) 的物理學家納塔利婭·阿雷斯 (Natalia Ares) [41]的幫助下,縮小到了量子尺度。她在靜修活動中與斯蒂爾同在一個小組[42]。在杯墊大小的硅芯片上,阿雷斯將單個電子捕獲在懸浮于兩個支柱之間的細碳線中。這個“納米管” (nanotube) ,被冷卻到接近絕對零度千分之一度,像吉他弦一樣振動,其振蕩頻率由內部電子的狀態決定[43]。通過追蹤納米管的微小振動,阿雷斯和同事們計劃診斷不同量子現象的功輸出。
阿雷斯的研究走廊兩側的黑板上密密麻麻地寫滿了量子熱力學實驗計劃。“這本質上是一場納米尺度的工業革命,”她解釋道。其中一項計劃中的實驗汲取了斯蒂爾的思想,該實驗將精確調控納米管振動對電子狀態的依賴程度 (相對于其他未知因素) ,本質上創造了一個可以調節觀察者認知盲區的精密控制機制。
阿雷斯和她的團隊正在探測最小尺度下熱力學的極限——某種意義上的“量子火的動力”。在經典物理中,粒子運動轉化為功的效率極限由卡諾定理設定。但在量子情況下,有一系列熵[44]可供選擇,確定哪一個設定相關界限——甚至如何定義功輸出——要復雜得多。“如果你像我們實驗中那樣只有一個電子,熵意味著什么?”阿雷斯說,“以我的經驗,我們在這方面仍然很迷失。”
阿雷斯和她的團隊正在探索熱力學在最微小尺度上的極限——某種意義上的“量子火的動力”。在經典物理學中,粒子運動轉化為功的效率極限由卡諾定理確定。但在量子領域,面對眾多不同類型的熵可供選擇,確定哪一種熵能設定相關邊界變得極為復雜——甚至連如何定義功率輸出都成為難題。“如果你只有一個電子,就像我們實驗中的情況,熵到底意味著什么?“阿雷斯說道。"根據我的經驗,我們在這個領域仍然處于探索之中。”
納塔利婭·阿雷斯在牛津實驗室研究量子尺度的熱力學,她定制的熱粉色冷藏室象征著時代的變遷。
納塔利婭·阿雷斯贈予
最近,由國家標準與技術研究院 (National Institute of Standards and Technology) 的物理學家妮可·揚格·哈爾彭 (Nicole Yunger Halpern) [45]領導的一項研究表明,在量子領域中,那些通常被視為同義的熵產生定義可能存在分歧[46],這同樣是因為不確定性和觀察者依賴性。在這種微觀尺度上,某些特性無法同時被精確測量,而且測量某些物理量的順序會影響最終結果。揚格·哈爾彭認為我們可以利用這種量子奇異性為己所用:“量子世界中存在經典物理中不具備的額外資源,因此我們可以繞過卡諾定理的限制,”她說。
阿雷斯在實驗室中推動這些新邊界,希望為更高效的能量收集、設備充電或計算鋪平道路。這些實驗還可能洞察我們所知的最有效信息處理系統——我們自身的機制。科學家們還不確定人腦如何僅用20瓦的功率完成極其復雜的心理運算。或許生物計算效率的秘密也在于利用小尺度的隨機波動,這些實驗旨在發掘出任何可能的優勢。“如果這里確實有某種優勢科研,自然界很可能已經在利用它了,”埃克塞特大學 (University of Exeter) 的理論學家珍妮特·安德斯 (Janet Anders) [47]說,她也是阿雷斯的合作者。“我們現在發展的這種基礎理解,希望未來能幫助我們更好地理解生物如何運作。”
阿雷斯的下一輪實驗將在她牛津實驗室天花板上懸掛的熱粉色冷藏室中進行。幾年前,她開玩笑地向制造商建議改造,但他們警告說金屬漆顆粒會干擾實驗。后來,公司偷偷將冰箱送到汽車店,覆蓋上閃亮的粉色薄膜。阿雷斯將她的新實驗場地視為時代變遷的象征,反映了她對這場新工業革命與上一次不同的期望——更加注重道德考量、環境友好且包容多元。
“感覺我們正處于某件偉大而美妙事物開端的時刻,”她說。
擁抱不確定性
“當卡諾寫下他的論文時……我認為沒人能想象它會帶來什么。” 卡洛·羅韋利,艾克斯-馬賽大學
2024年9月,數百名研究者在法國帕萊索 (Palaiseau) 聚會[48],紀念卡諾出版其著作200周年。來自不同科學領域的學者們探討了熵在其研究中的獨特印記——從太陽能電池的量子躍遷到黑洞的事件視界,熵無處不在。在歡迎開幕式致辭中,法國國家科學研究中心 (French National Center for Scientific Research) 的一位主任以國家名義作出歷史性致歉,為當年對卡諾開創性工作的忽視鄭重致意。當晚,研究者們聚集在一個奢華的金色餐廳,聆聽由卡諾父親創作的交響樂,由包括作曲家一位遠親在內的四重奏表演。
卡諾的深遠洞見源于試圖完全掌控機械世界,那是理性時代的圣杯。但隨著熵的概念擴散到自然科學中,其目的發生了轉變。如今對熵的深刻理解拋棄了對完全效率和完美預測的虛假夢幻想,轉而承認世界中不可消減的不確定性。“在某種程度上,我們在多個方向上與啟蒙主義分道揚鑣,”理論物理學家羅韋利指出——從決定論和絕對主義轉向不確定性和主觀性。
無論我們接受與否,熱力學第二定律都深刻塑造了我們對自身與宇宙的理解:我們不可避免地推動宇宙走向極度混亂的終局。不過,通過重新詮釋熵,我們能以更加正面的角度看待這一現象。正是這種不可逆的能量耗散過程,為所有機器提供了動力源泉。盡管有用能量的減少確實從根本上限制了我們的技術發展,但范式的轉變常能讓我們在表面混亂中發現隱藏的有序結構。
更為關鍵的是,一個熵不斷增加的宇宙同時也是一個充滿無限可能性的宇宙。當我們不再徒勞地試圖消除不確定性,而是學會管理并適應它時,我們會發現正是這種不可避免的未知狀態激發了我們探索知識的原動力。從這個角度看,熵既是限制我們的約束,也是定義人類獨特存在方式的基本條件。
你可以哀嘆秩序不可避免的崩潰,也可以將不確定性視為學習、感知、推演、做出更好選擇、以及利用“你”的力量的機會。
Zack Savitsky | 作者
烏穆語、梁金
| 譯者
任超
| 審校
Quanta| 來源
原文鏈接: https://www.quantamagazine.org/what-is-entropy-a-measure-of-just-how-little-we-really-know-20241213/
參考文獻
[1]https://www.quantamagazine.org/how-maxwells-demon-continues-to-startle-scientists-20210422/
[2]https://www.quantamagazine.org/how-life-and-death-spring-from-disorder-20170126/
[3]https://www.quantamagazine.org/first-support-for-a-physics-theory-of-life-20170726/
[4]https://www.nature.com/articles/430971a
[5]https://www.quantamagazine.org/what-is-time-a-history-of-physics-biology-clocks-and-culture-20200504/
[6]https://www.quantamagazine.org/quantum-entanglement-drives-the-arrow-of-time-scientists-say-20140416/
[7]https://sites.pitt.edu/~jdnorton/teaching/2559_Therm_Stat_Mech/docs/Carnot%20Reflections%201897%20facsimile.pdf
[8]https://creativecommons.org/licenses/by-nd/4.0/
[9]https://www.cpt.univ-mrs.fr/~rovelli/
[10]https://journals.aps.org/pr/abstract/10.1103/PhysRev.106.620
https://journals.aps.org/pr/abstract/10.1103/PhysRev.108.171
[11]https://cdn.aaai.org/AAAI/2008/AAAI08-227.pdf
[12]https://www.quantamagazine.org/the-thermodynamic-theory-of-ecology-20140903/
[13]https://www.quantamagazine.org/the-1-clue-to-quantum-gravity-sits-on-the-surfaces-of-black-holes-20240925/
[14]https://itp.phys.ethz.ch/people/person-detail.NTkyNzU=.TGlzdC84NDYsLTE5MDQ4MDM5ODI=.html
([15])https://creativecommons.org/licenses/by-nd/4.0/
[16]https://www.damtp.cam.ac.uk/user/tong/statphys/jaynes.pdf
[17]https://arxiv.org/abs/1711.07326
[18]https://www.cambridge.org/core/journals/philosophy-of-science/article/abs/k-g-denbigh-and-j-s-denbigh-entropy-in-relation-to-incomplete-knowledge-cambridge-cambridge-university-press-1985-vii-164-pp-3450/8CC10679F11E800A509A0B3C3C55DB8A
[19]https://www.physics.ucsc.edu/faculty/index.php?uid=anaguirr
[20]https://creativecommons.org/licenses/by-nd/4.0/
[21]https://arxiv.org/abs/2008.04409
[22]https://journals.aps.org/prxquantum/abstract/10.1103/PRXQuantum.2.030202
https://arxiv.org/abs/2404.11985
https://arxiv.org/abs/2406.01677
[23]https://link.springer.com/article/10.1007/s10701-023-00745-3
[24]https://arxiv.org/abs/2403.09403
[25]https://www.penguinrandomhouse.com/books/551483/the-order-of-time-by-carlo-rovelli/
[26]https://journals.aps.org/prl/abstract/10.1103/PhysRevLett.117.260601
[27]https://www.quantamagazine.org/physicists-trace-the-rise-in-entropy-to-quantum-information-20220526/
[28]https://fqxi.org/programs/events/2023-uk-retreat/
[29]http://www2.hawaii.edu/~sstill/
[30]https://link.springer.com/article/10.1007/BF01341281
[31]https://creativecommons.org/licenses/by-nd/4.0/
[32]https://www.sfipress.org/02-szilard-1929
[33]https://arxiv.org/abs/2103.15803
[34]https://www.quantamagazine.org/new-theory-cracks-open-the-black-box-of-deep-learning-20170921/
[35]https://arxiv.org/abs/2309.10580
[36]https://arxiv.org/abs/2402.17860
[37]https://www.pnas.org/doi/full/10.1073/pnas.2023356118
[38]https://www.tandfonline.com/doi/full/10.1080/23746149.2024.2352112
[39]https://journals.aps.org/prl/abstract/10.1103/PhysRevLett.131.057101
[40]https://meetings.aps.org/Meeting/MAR24/Session/A28.2
[41]https://eng.ox.ac.uk/people/natalia-ares/
[42]https://www.youtube.com/watch?v=xmgiav22hqI&t=2s&ab_channel=FQxI
[43]https://arxiv.org/abs/2402.19288
[44]https://phfaist.com/d/entropyzoo/TheEntropyZoo-150dpi.jpg
[45]https://quics.umd.edu/people/nicole-yunger-halpern
[46]https://journals.aps.org/prxquantum/abstract/10.1103/PRXQuantum.5.030355
[47]https://physics-astronomy.exeter.ac.uk/people/profile/index.php?username=ja343
[48]https://carnot-legacy.sciencesconf.org/
(參考文獻可上下滑動查看)
來源:集智俱樂部
編輯:紫竹小筑
轉載內容僅代表作者觀點
不代表中科院物理所立場
如需轉載請聯系原公眾號
1.2.
3.
4.
5.
6.
7.
8.
9.
10.
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.