【編者按】當語言模型越來越像人類，“意識”這一哲學和科學交界的謎題依舊未解。我們該如何理解這場科學與哲學的碰撞？今天，我們帶來《我的哲學探索》一書中最為深刻的一章，作者試圖以哲學的視角、科學的案例、認知的反思，走出現代科學對“意識”的困境，照亮一條從“現代常識理性”邁向“科學理性”乃至“真實性哲學”的道路。

投稿 | 中信出版集團

責編｜夢依丹

出品丨AI 科技大本營

AI 有意識了嗎？

這是一個越來越難以回避的問題。尤其是在 OpenAI 發布 o1 之后，我們看到了前所未有的智能錯覺：AI 不再只是機械地回答問題，而是表現出一種“似乎理解了你”的狀態。與此同時，DeepSeek R1 的推出，也讓推理能力成為大模型的標配，“像人一樣思考”成為新的技術追求。

從技術角度看，這一輪大模型的進化，更像是在建構一個“擬態意識系統”——它并不真的理解世界，但卻能以高度一致的方式，模擬出理解的效果；它沒有主觀體驗，卻能精準模仿人類語言中的情緒、動機與邏輯。

哲學家金觀濤指出，要真正理解當下的智能浪潮，必須回到科學發展的歷史現場，從哲學角度重新思考“真實”“虛擬”以及“人之為人”的根本問題。在《我的哲學探索》一書附錄的《關于人工智能的對話》中，他與技術專家就“AI 是否會涌現意識”“科學為何以人為中心”“人文學者應如何回應技術變革”等關鍵議題展開深入討論，提供了極具啟發性的哲學視角。也正是在這種跨學科的理性思辨中，AI 意識的問題才開始被嚴肅對待。

以下內容，正是金觀濤在《我的哲學探索》中，從科學哲學、意識哲學與現代技術批判的角度，系統剖析「AI 為什么不會產生意識」這一結論的理論基礎與思想脈絡。

金觀濤，現任中國美術學院南山講座教授、香港中文大學中國文化研究所高級名譽研究員。

大腦研究與人工智能

對于意識研究，2024 年是一個標志性的年份。就在這一年，現代科學對“什么是意識”的兩個探索方向終于相遇，并得到了出人意料的結果。

第一個探索方向是 2013 年歐盟宣布的為期 10 年的神經科學研究，該計劃以空前的人力和物力投入大腦神經系統的實驗，力圖通過研究神經系統如何學習及記憶，揭示什么是意識。然而，長達 10 年的研究結果表明：神經系統的實驗研究并不能完全理解真實的大腦。正如一位評論者所說：“一心想要在二三十年甚至 10 年內就揭開人腦之謎，只能是揠苗助長和水中撈月。”

第二個探索方向就是根據已知的計算機學習原理建立有智能的機器。從人造神經網絡的深度學習到大語言模型，研究的進步引發了人工智能巨浪。今天，Chat GPT 已經學會了語言并可以進行知識處理，人們認為它將在各個領域掀起產業革命。然而，意識卻沒有如一些人期待的那樣，在計算機的升級和大數據訓練中涌現出來。意識至今仍是一個謎，我們不知道打開它的鑰匙究竟在哪里。

這一切使人想起阿爾貝勃在《人如何學會語言》一書中的故事：一位紳士看見醉漢在路燈下找鑰匙，就盡力幫助他。兩人找了很久都沒有找到，紳士就問醉漢鑰匙是在哪里丟的。醉漢回答說：鑰匙在街上丟的，但其他地方太黑，只能在路燈下找。阿爾貝勃用這個故事告誡世人：在今日高度專門化的科學研究中，某一門學科探討某一問題必須保證答案在該學科的范圍之內。然而，把這個故事應用到意識研究，得到的結論卻是驚心動魄的。它說明解開意識之謎的鑰匙不在現代科學的燈光之下！

這又如何可能呢？意識無疑是大腦的屬性，而大腦是由神經元組成的。如果要解釋大腦為何具有意識，就必定要揭示神經元如何構成神經網絡及其工作原理。如果意識不包含在這些基本原理之中，它又在哪里呢？一直以來，哲學家把會使用語言視為人和動物的本質區別。因為使用語言直接和意識相關聯，用人造神經網絡掌握語言就成為意識研究的另一個方向。然而，當人工智能的研究者終于制造出會使用語言的機器時，卻并沒有在這些機器中發現意識。這一結果使人感到不可思議，因為只要把上述兩個方向的研究綜合起來，就可以得到一個明確的結論：現代科學不能揭示什么是意識。

為什么這么講？如果解開意識之謎的鑰匙真的在現代科學之中，那么近十幾年兩個意識研究方向已經窮盡了在科學的燈光下找到鑰匙的一切可能。大腦神經系統研究計劃是從內向外的尋找。科學以大腦解剖為基礎發現神經系統，神經系統由神經元組成，用科學實驗方法研究神經元以及由它們組成的具有多層次反饋結構的神經網絡，這不是在現代科學的聚光燈下一步一步從最基本的東西出發向外求索又是什么呢？而用人工智能研究意識則是從外（燈光照射范圍的周邊）向內尋找。人造神經網絡的結構是已知的，機器學習和訓練的原理也是已知的，如果意識和使用語言等同，那么當這些由已知原理設計的儀器通過大數據學習掌握語言時，它們應該是有意識的。然而，會說話的Chat GPT卻沒有意識！

人生活在意識流之中，意識是考察世界的出發點。探討什么是意識，本來是不可能的。把意識定為科學研究的對象，是啟蒙運動以后的事情。啟蒙運動否定傳統宗教的真實性，用科學之光照亮一切知識領域，解釋意識才成為現代科學的目標。當上述兩個研究方向最終相遇，證明尋找意識之謎的鑰匙確實不在科學路燈照耀范圍之內時，人們一時無所適從。一些人主張：應該回到啟蒙運動前的立場，仍將意識歸為傳統宗教。然而，在21世紀的今天，大多人難以退回到兩個世紀前的認識中去。這時，只能去設想：能不能打開街上所有的路燈，看看解開意識之謎的鑰匙究竟在哪里？然而，在現代科學之上真的存在著一盞盞照亮整個認知領域的路燈嗎？

在真實性哲學的路燈下

從表面上看，根本不會有這樣的路燈。但是，如果我們把“意識是什么”轉化為“為什么我們對意識的研究是真的”，問題就完全不同了。啟蒙運動之后，人們之所以堅持用現代科學解釋意識，是因為認為唯有科學知識才是真實的。而科學之所以為真，乃是因為其研究客觀存在的對象，以揭示客觀世界的規律。但我們一直沒有問過：如果客觀世界根本不存在，現代科學是不是真的？當我們仍堅持科學知識是真的時，那就必須回答：為什么科學是真的？這時，對“科學為真”本身的研究可以使我們打開所有認知領域的路燈，知曉為什么在現代科學燈光下尋找意識之鑰匙是徒勞的。

發現科學的真實性不同于“客觀實在為真”，這要始于量子力學。雖然量子力學原理的哲學解釋早就懷疑客觀世界的存在，但真正證明客觀世界不存在的，是20世紀80年代的“延遲選擇實驗”。這是人類歷史上第一次用科學實驗證明客觀實在并不是真實的，迫使我們把科學真實和客觀實在區別開來，從而發現什么是真正的“真實性”。我認為：這對于認識論是一件劃時代的事情。

我在《真實與虛擬》一書中詳細討論了惠勒提出的延遲選擇實驗。延遲選擇實驗以光子（或光波）為對象，用受控實驗來檢驗其是不是可以獨立于主體選擇（實驗裝置）的客觀實在。雖然光子（或光波）產生于特定的裝置，但它只要是客觀實在，就一定可以獨立于實驗裝置。換言之，在某種選擇（裝置）產生了光子（或光波）后，總可以迅速用某種新選擇（新裝置）取代原有裝置，并且在之后某一瞬間仍可以確定原來的光子（或光波）存在著。所謂“延遲選擇”指的就是，當光子（或光波）已經存在時，通過極為迅速地改變裝置證明光子（或光波）對裝置（選擇）的獨立性，以顯示它是一種和主體選擇（設置實驗裝置）無關的客觀實在。這些實驗在20世紀80年代前后都相繼完成，并得到確定無疑的結果，實驗證明光子和光波都不是客觀實在。

必須強調的是，這些實驗可以運用到所有的基本粒子中。它帶來了一個人們不敢相信的結論：所有基本粒子都不是客觀實在。世界本是由基本粒子組成的，這意味著世界不能獨立于主體的選擇（設置實驗裝置）而存在！延遲選擇實驗之所以重要，乃在于它克服了一個原先看來無法解決的困難。這就是在證明客觀實在不是真的同時，必須確定這個“證明客觀實在不是真的”之實驗本身是真的。眾所周知，在科學研究中判斷某一個實驗結果是否為真，有著明確的標準，這就是該實驗結果必須普遍可重復。

以往科學家在解釋為什么受控實驗（或受控觀察）只有在普遍可重復的前提下，結果才為真時，總會回答：因為對象是客觀實在。而延遲選擇實驗證明：必須把真實性和經驗世界的客觀性明確區別開來。受控實驗（或受控觀察）結果為真是因為它普遍可重復，而不是因為對象客觀存在著。它揭示出真實性實為主體X、控制手段M和對象Y三者的關系：只要控制手段M是主體可任意重復的，主體用選擇M規定的對象Y就是真的。換言之，對象的真實性并不源于它是客觀實在。正因為如此，可以用受控實驗來證明客觀實在不存在。延遲選擇實驗的本質是讓Y形成后，迅速改變M，如果Y可以獨立于主體和控制手段，那么獨立于M的Y可以被受控實驗觀察到。當實驗否定上述想象，仍然證明Y由M規定時，Y不是客觀實在。這時，基于受控實驗普遍可重復，Y仍然是真實的。真實性作為主體X、控制手段M和對象Y三者的關系，它和客觀實在沒有關系。

讀者或許有疑義：M是實驗裝置，它是客觀實在。真實性怎么會和客觀實在沒有關系？表面上看，實驗裝置的存在，使我們不能離開客觀實在定義真實性。然而，什么是實驗裝置？我們如何知道它是真的存在著？這時，必須依賴另一個證明實驗裝置存在的受控實驗（或受控觀察），實驗裝置的真實性取決于這些受控實驗（或受控觀察）的普遍可重復性。這樣，任何實驗裝置都可以化約為主體所實行的一系列選擇（設置）及其結果，我們將最后化約的結果記為M。這一切顯示了選擇（設置）的任意可重復性才是真實性的本質。一旦理解了真實性實為主體X、控制手段（設置）M 和對象Y三者的關系，我們將三者關系記為R（X，M，Y），并得到如下結論：在三元關系R（X，M，Y）中，只要控制手段（設置）M是主體可任意重復的，R（X，M，Y）中Y就是真的。

真實性研究使我們找到了不同于科學之光的其他路燈。在它們的照耀之下，科學、心靈、人文宗教之間不再存在著黑暗地帶。為什么？基于上面的分析，我們可以發現：R（X，M，Y）有著不同的類型，每一類構成一個領域，科學真實只是真實的R（X，M，Y）某一特殊領域而已！有關意識之謎的鑰匙存在于真實性的哪一個領域，終于清晰地顯現出來了。換言之，在真實性哲學的燈光之下，雖不能立即回答什么是意識，但這個問題應該如何解決卻是可以回答的。

為什么人工智能不可能有意識

首先，我們來證明為什么神經系統的實驗研究不能揭示意識，以及為什么人工智能不可能有意識。原因在于，真實性具有眾多領域，而科學真實只是眾多真實性之中的一個，用科學研究證明意識為真是搞錯了領域。為什么？因為在三元關系R（X，M，Y）中，只要M是主體可任意重復的，由M規定的Y就是真的。而X有“個別”和“普遍”兩個不同選項， M有“包含主體”和“不包含主體”兩個不同選項，對象Y也有“經驗”和“符號”兩個不同選項。所有選項的兩兩組合，有8 種可能性。在真實性關系的 8 種類型中，如果只考慮經驗真實性，一共有 4 種可能性。分析這 4 種可能性，立即推出科學只是經驗真實三個領域中的一個。

科學真實的前提是主體X為“普遍”，M為“不包含主體”。什么是主體 X為“普遍”？科學真實的基礎是受控實驗或受控觀察的普遍可重復。普遍可重復是指受控實驗或受控觀察結果對某一個主體Xn為真時，對另一個主體Xn+1 亦為真。也就是說，在可控制變量和可觀察變量不變的前提下，將某一個主體Xn換為另一個主體Xn+1，只要受控實驗和受控觀察結果仍然相同，再加上數學歸納法成立，得到的相應經驗對所有主體X為真。這時，我們稱之為主體X是普遍的。而M是主體做出的控制（儀器裝置及其規定的實驗條件），因所有科學實驗中實驗條件都不包含主體，科學真實只是 R（X，M，Y）中X為普遍、M 不包含主體，即主體可懸置所規定的那一特定類型。

當X為普遍，但M包含主體，即主體在普遍可重復之受控操作中不能懸置時，其可重復性結構和受控實驗（受控觀察）不同，它亦規定了對象對所有主體的真實性。因為M是一批變量，其中某些包含主體，某些不包含主體。和它相比，規定科學真實的普遍可重復的受控實驗和受控觀察，只是M中將包含主體變量排除之結果。在《真實與虛擬》一書中，我將包含主體的 M 之實驗稱為擬受控實驗（觀察）。和擬受控實驗（觀察）的普遍可重復對應的真實性領域屬于人文社會世界。同理可知，當“X為普遍”不成立，只要由主體控制的Y可任意重復，Y仍是真的。這樣，也就得到真實性的第三種類型，這就是個體真實。在《真實與虛擬》一書中，我詳細論證了真實性存在著三個領域。它們分別是科學真實、人文社會真實和個體真實。

一旦認識到現代科學研究只是三種真實性領域中某一種真實性探索，立即可以理解為什么在現代科學的路燈下找不到打開意識之門的鑰匙。因為任何用普遍可重復的受控實驗和受控觀察確定為真的對象中都不包含主體X，而意識和主體直接相關。也就是說，用科學的真實性不能證明意識的真實性。意識研究不屬于純粹的科學真實領域。

我們可以用神經系統記憶研究為例說明這一點。大腦神經系統的實驗研究要求其普遍可重復，然而只要實驗的控制條件中不包含主體，用科學研究發現的神經系統的記憶只能是輸入和輸出關系的變化，它不可能涉及主體，當然也不能用于解釋意識。今天科學家在討論神經元的記憶功能時，將其歸為外部輸入導致其閾值變化，其后果是輸入與輸出關系的改變。必須強調的是，這是用受控實驗和受控觀察研究神經系統如何記憶得到的結論。例如，一只狗被汽車撞了，下次見了汽車就會害怕，神經科學用狗有記憶來說明這一點時，記憶被稱為生物對外界刺激的敏感化。這種解釋可被一個普遍可重復的受控觀察證明，它當然是真的，但這種記憶中不存在意識。難道記憶真的和意識無關嗎？答案是否定的！

心理學家都知道：用行為模式的改變來定義的記憶，實際上只是記憶的一種形態，稱為“程序性記憶”。人學會游泳但事先并不知道在水里應如何動作，這是一種和主體無關的記憶。人還有一種記憶，它是通過主體喚起過去的經驗呈現出來的，心理學上稱之為“陳述性記憶”。陳述性記憶具有符號性、意向性、建構性、會被遺忘等特點，它使人能主動地去適應環境。a 事實上，“人有陳述性記憶”是通過擬受控實驗（觀察）證明的。在相應心理學實驗中，普遍可重復實驗的控制變量中存在主體，實驗也要求主體進入實驗條件之中。b 所有這一切都是科學真實領域中的普遍可重復之受控實驗和受控觀察不能做到的。

科學真實研究中主體被懸置，不僅體現在普遍可重復的受控實驗和受控觀察里，更表現在根據已知的科學原理設計的儀器和計算機之中。人造神經網絡、人工智能不會有意識，因為它們是用科學原理設計出來的，證明這些原理為真需要普遍可重復的受控實驗和受控觀察（或作為其符號表達的數學）。而在普遍可重復的受控實驗和受控觀察中，可控制變量和可觀察變量中都沒有主體，儀器和程序中也不會有主體。在什么前提下，人造儀器或程序有意識？如前所述，它們的設計原理必須被普遍可重復的擬受控實驗（觀察）證明。至今人工智能中還沒有這樣的設計原理，人們指望意識在今日人工智能程序中涌現，是把自己（主體意識）投射到儀器中的想象。

這方面最典型的例子是對思維和智能的行為主義定義：如果我們對機器提一系列問題，當其回答和人沒有區別時，即可認為機器和人一樣能思維。這就是圖靈測試。表面上看，人的思維和智能規定了人如何根據自己收到的信息（輸入）給出相應的回答（輸出），只要機器的輸出和輸入關系與人一樣，兩者就沒有差別。其實，這是不正確的。因為人是主體，主體可以否定原有的輸入與輸出的關系，做出完全不同于任何既定程序規定的行為。行為主義根據機器以前的表現和自己一樣，就把自己有意識投射到機器中去，認為機器有意識。這是把擬受控實驗（觀察）誤認成受控實驗（觀察）。

早在20世紀80年代，美國哲學家約翰·塞爾提出“中文房間”的思想實驗時已經隱約感覺到這一點。塞爾想象一位只說英語的人處于一個“中文房間”之中，除了有一個小窗口外，該房間是對外封閉的。房間里有足夠的稿紙、鉛筆和櫥柜，還有一本中文翻譯手冊。當寫著中文的紙片通過小窗口源源不斷地被送入房間中，房間中的人可以使用手冊來翻譯這些

文字并用英文回復給窗外。這時，房間外的人都以為房中的人懂中文也懂英文，而事實上房中的人根本不懂中文。塞爾用這一思想實驗證明：一個既懂中文又懂英文的人，判斷另一個人和自己一樣既懂中文又懂英文，是把自己想象成對方，以解釋其行為。這和“中文房間”里人的處境完全不是一回事。

“中文房間”實驗中的人是程序的一部分。“中文房間”的輸入與輸出關系之中都沒有主體，程序運作也不需要主體的存在。而房間外的人則可以將其想象成自己，將自己如何把中文翻譯為英文的過程投射到房間中人的行為之中。這種投射是將主體放入本來不存在的輸入和輸出關系中。今天人們熟知的Chat GPT實際上就是“中文房間”的升級版。其輸入為一個由文字組成的符號串，它代表我們向智能程序提出的問題和要求。智能機器根據輸入用程序產生另一個由文字組成的符號串，提問題的人讀懂了這個符號串，認為智能機器回答了自己的問題。有人認為，據此可認為人工智能是有意識的，因為其通過了圖靈測試，其實那個根據輸入做出輸出的程序，根本不知道輸出符號串的意義，正如前面講的第一種記憶那樣。這可以解釋為什么迄今為止所有人工智能都不能通過圖靈測試。事實不正是如此嗎？無論計算機的輸入和輸出關系多么接近人的行為，因為其沒有主體，只要在新的測試中加入一個計算機學習中不曾考慮到的主體特有的指標，這時計算機的輸入和輸出立即和人的行為區別開來了。

既然現代科學研究不能揭示意識，解開意識之謎的鑰匙在哪一個領域呢？顯而易見，意識研究必須以擬受控實驗（觀察）為基礎。擬受控實驗（觀察）中，主體可控制（可觀察）變量M包含主體，但作為實驗結果的真實性，其和用受控實驗（受控觀察）保證科學研究結果的真實一樣，必須依靠其普遍可重復性。讀者或許會問：真的存在擬受控實驗和擬受控觀察嗎？有關意識研究的真實性唯有靠其普遍可重復來證明嗎？當然是的，心理學就是最典型的例子。