IPP 評論是國家高端智庫華南理工大學公共政策研究院（IPP）官方微信平臺

導語：

當人類的求知過程被迅速而高效的AI所取代時，我們是否隨之喪失了對未知世界的好奇與探索的樂趣？智能從主體性中剝離出來，形成無主體的算法，這種分離是否意味著現代社會正遭遇前所未有的“脫嵌”？在人文精神遭遇科學烏托邦沖擊的當下，人文學者應當承擔起怎樣的使命與責任，去捍衛和重塑屬于人類的主體性、自由和意義？

2025年1月中旬，“雙體實驗室”舉辦了一次關于人工智能的小型討論會，圍繞人類在AI時代的自我審視與重建等話題展開了深入探討。本文是這次討論會文稿的節選。討論會全部文章收錄于金觀濤《我的哲學探索》一書別冊《關于AI的對話：智能的過去、現在與未來》。

與談人簡介：

金觀濤，生于1947年，現任中國美術學院南山講座教授、香港中文大學中國文化研究所高級名譽研究員。主要著作有《系統的哲學》《歷史的巨鏡》《軸心文明與現代社會》《消失的真實》《真實與虛擬》。與劉青峰長期合作研究，合著代表作有《興盛與危機》《開放中的變遷》《中國現代思想的起源》《觀念史研究》《中國思想史十講（上卷）》。

林峰，畢業于西安交通大學，長期從事電信與互聯網設備領域的硬件研發與供應鏈管理工作。著有《“理解”供應鏈——系統論視角下的供應鏈概念》。雙體實驗室播客主理人。

余晨，易寶支付聯合創始人、總裁，易寶公益聯合發起人，元宇宙與人工智能三十人論壇理事會理事，2019、2023年度中國公益人物，復旦大學哲學課堂客座教授。著有暢銷書《看見未來：改變互聯網世界的人們》。雙體實驗室總顧問。

劉青峰，香港中文大學中國文化研究所名譽研究員，香港中文大學《二十一世紀》雙月刊創刊編輯。畢業于北京大學，曾任鄭州大學教師、中國科學院副研究員，《自然辯證法通訊》編輯。著有《讓科學的光芒照亮自己》《公開的情書》。與金觀濤長期合作研究，合著有《興盛與危機》《開放中的變遷》《中國現代思想的起源》《觀念史研究》《中國思想史十講（上卷）》。

林峰：當前的人工智能革命應視為現代科技本身的“脫嵌”。

今天，人工智能研究者千方百計地想辦法消除大語言模型中的幻覺（hallucinations），然而，基于人工智能的工作原理是將“使用語言”這個本由主體規定的確定過程變為沒有主體的概率過程，那幻覺就是不能徹底消除的。科學真實中主體可懸置，這是在科學真實領域中智能可以和主體分離的原因，而與主體分離后的人工智能會產生幻覺，也就意味著真實性有喪失的可能，這不正是智能“脫嵌”帶來的問題嗎？

余晨：《軸心文明與現代社會》中對“脫嵌”有一個定義，就是現代市場經濟和科技發展從束縛它的有機體中解放出來時，不能完全被納入一個新的容量不斷增大的社會整合框架中去。這個新的整合框架就是現代社會結構。

今天，人們普遍把現代社會當作契約社會，然而它是建立在理性和終極關懷二元分離之上的。現代社會的有效運作，不能離開終極關懷，因道德和人生的終極價值由終極關懷規定。今天，“脫嵌”之所以在各個方面出現，是因為建立在理性之上的現代契約社會，正面臨道德和人生終極價值喪失的危機。

然而，人工智能導致的“脫嵌”也能歸為終極關懷和理性的分離嗎？

劉青峰：從我的感受來看，確實是有這樣的問題。我用一些搜索網站查詢信息時，首先跳出來的是AI給出的答案。面對AI給出的答案，我往往感到無趣和沮喪。因為我是一個從小就有求知欲望、愛學習、活到老學到老的人，我想要的不是一個眾所周知的平庸答案，而是能夠在求知過程中感到愉悅。剛才余晨講現代社會危機的根源是終極關懷退出公共領域，可能主要是指宗教和傳統生死觀。AI如此強大，似乎無所不知、無比正確，我想，那些有宗教信仰的人會質疑它是否要扮演造物主。而對我這樣的人來說，一旦失去求知過程的樂趣，活著的意義在哪里？

自小我就對星空充滿好奇心。1961年加加林上天，我就覺得人太偉大了，居然可以離開地面進入太空，這激勵我考上了北京大學物理系。星空的神秘感對我而言始終存在。在我進入老年后，2021年詹姆斯·韋伯空間望遠鏡上天的時候，我還非常有興趣地去了解它整個過程中的挫折和成功，去了解怎么計算這個拉格朗日點。這一切今后還有意義嗎？這讓我想起《星際穿越》里反復出現的一首詩：

不要溫和地走進那個良夜， 老年應當在日暮時燃燒咆哮； 怒斥，怒斥光明的消逝。

這些詩句中有一種堅守和熱愛。當人工智能的浪潮把人類吞沒時，人會不會失去對未知的神秘感和好奇心？實際上，追求知識和以知識追求為生命意義并不是一回事。人需要的是對生活意義的不懈追求，不是一個答案。有追求，這才是人啊！

金觀濤：青峰的說法有道理，背后涉及求知能不能成為終極關懷的問題，但現代人除了把認知作為生命意義外，似乎沒有其他的選擇了。20多年前，我和青峰在中山大學做觀念史研究的報告，一位做自然辯證法研究的朋友評論說，當年你們提出大歷史觀，今天卻在咬文嚼字。當時，我想到了清代學者戴震。任何知識哪怕再微小，它也代表了真實性追求。

人工智能的出現，動搖了這種意義。本來測定蛋白質三維結構需要科學家用冷凍電鏡來觀察和試驗，現在人工智能一下子就做到了。如果知識就是一個正確答案，用人工智就能得到，求知過程意義何在？

從歷史上看，求知能否作為終極關懷，這本來就有爭議。古希臘文明之所以出現超越視野轉向，就是因為求知不能解決生死問題。現代性需要終極關懷與理性的二元分離，依據的正是認知理性必須和其他終極關懷分裂共存，而不是僅僅用認知這一種超越視野作為生命意義。在此意義上，求知意義的喪失使得現代性面臨的挑戰更為嚴峻了。它不僅要求各種超越視野的純化和多元共存，還要求在人工智能時代重塑求知本身的意義。

林峰：我認為，有了人工智能后，認知作為終極關懷不會改變，改變的只是求知方法。21世紀的大學生已經高度依賴人工智能了，2025年初ChatGPT有次宕機了，導致很多學生連論文都寫不下去了，有些喜歡夸大其詞的自媒體驚呼：“學術因此倒退了100年。”寫學術論文是求知和獲得新發現，現在可借助于人工智能，這說明人工智能正在重新定義求知過程。

其實，被重新塑造的還包括人與人之間的情感交流。2013年有一部科幻電影叫《她》（Her）。Her是個和ChatGPT類似的AI，在電影中是一個完美的戀愛對象。男主人公原本有情感障礙，與很多人都合不來，Her出現后，與他談了一場完美的戀愛。電影的結局有個反轉，Her在某一天突然覺醒了，認為男主人公與自己不匹配。

余晨：美國物理學家邁克斯·泰格馬克出版過一本名為《生命3.0》的書，他設想了十幾種未來人工智能時代中可能出現的情況，例如機器把人干掉了，或人把機器降伏，其中一種很特別的情況叫“善意的獨裁者”。人不再作為知識的追求者，因為所有的科學定律都已經被機器發現過了。然而，泰格馬克認為人還可以找到活下去的意義，這就是和幼兒園的小孩一樣，被老師帶著玩游戲，讓人工智能帶領著人類再發現一遍科學定理，這不僅有樂趣，還沒有任何風險。

金觀濤：我認為余晨提出的例子并不意味著人工智能創造了求知的新形態。讓人工智能帶著人類再發現一遍科學定理，實際上是歷史上曾經發生過的在某種價值和意識形態指導下做研究的重演。中世紀就是在神學籠罩下做各種學問，20世紀還出現過在不同主義支配下的科學研究，都不僅僅是在老師帶領下的玩游戲。

至于人工智能可以改變人的情感交流，更是一種幻覺。《她》這部電影講的究竟是戀愛還是一種自戀？人工智能沒有主體，Her的主體其實是愛她的那個男主人公給予她的。人和人工智能談戀愛只是我和我的另一部分相愛。自古以來就有自戀，人工智能對其賦予了戀愛的形態。至于電影的結局，不過是人從自戀中醒過來。這表明，在人類的感情生活中，還是那句老話：太陽底下沒有新事物。

劉青峰：關鍵是人工智能不可能有主體。我年輕時愛看阿西莫夫的書，他提出機器人三定律。機器人有主體，道德戒律才有意義。現在大語言模型問世了，人工智能沒有主體，機器人三定律一條都不成立。這種機器人用于戰爭，是人類的悲劇。我喜歡看《星球大戰》系列電影，其中的小機器人R2-D2非常可愛，能夠非常機靈地解決很多問題。后來還出來一個C-3PO，是一個禮儀機器人。包括《星際穿越》在內，很多的科幻電影中既有反思，也有父女之間的感情。我覺得AI時代，拍不出這樣的電影。

余晨：剛才談到人工智能對人類社會的威脅，大眾一般會想到好萊塢電影呈現的內容—機器覺醒并消滅人類。但在現實中，人工智能的威脅更體現在以下兩個方面：

第一，人工智能的出現，使得獲得真相的成本更高。這樣，人類社會就會真正進入一個后真相時代，民主社會運作的基礎也就不存在了。

第二，人工智能在理論上可能創造出比現有生產力高出幾個數量級的財富，但分配問題也就顯現了出來，很可能會因此帶來更大的貧富差距。在工業時代，人的才能大體呈現出正態分布，流水線上最熟練的工人比最不熟練的工人可能也就高出兩倍的才能。

而在互聯網時代，人的才能差異可能會呈現出冪律分布，一個好的程序員在收入上可能比普通程序員高出十倍以上。在人工智能時代，這個差別可能會發生指數級的增長。現在有一個新概念叫“超級個體”，在人工智能技術的支持下，薩姆·奧爾特曼認為未來可能會出現一個人的獨角獸企業（即市值10億美元以上的公司）。

最近另一個流行的概念是AIAgent，也就是人工智能代理，它是一種能夠代表用戶或其他系統自主執行任務的智能體。那么，未來也許只需要一個人指揮成千上萬的Agent，就能運營一家公司，形成一個獨角獸企業。這會帶來財富分配的危機。

林峰：針對剛才我們提到的人工智能對人類社會的潛在威脅，很多人工智能專家也在試圖尋找預防和控制的辦法，其中一個嘗試叫“超級對齊”。最早是OpenAI在2023年建立的一個團隊提出的。“超級對齊”的主要目標就是試圖讓人工智能在價值觀上與人類對齊，以防止在人工智能的自由意志涌現之后，威脅人類社會。當然，“超級對齊”對價值的定義是功利性的，屬于價值函數或效用函數內的概念。

金觀濤：什么是價值？我認為價值是主體對對象的評價，這個評價規定了主體對對象的態度、行為方式。舉個例子，一個男孩愛上一個女孩，表明男孩對女孩有一個評價—她是值得愛的。但光有評價還不夠，這個男孩對女孩的行為方式、說話態度都要發生轉變，這才構成價值。

因此，價值包含兩個層面：第一，價值是主觀的，是對主體而言的；第二，一旦價值產生，就會改變主體對對象的行為方式。一旦價值社會化，被所有人接受之后，就會發生普遍觀念和社會行動的互動。我剛才也說過，人工智能中不可能產生主體性，試圖與人類價值的“超級對齊”很可能實現不了，即便實現了，出現的也不是價值問題。這一切可能引發未知的社會災難。不過，這個社會災難不是機器造成的，而是來源于人類自身。

余晨：價值是要有主體的，但“超級對齊”并不要求機器有主體性和意識。以核能的開發為例，人類要設計一套符合自身價值的規定和協議，防止核能開發中發生違背人類價值的事情。“超級對齊”的思路也是如此。

機器不具備價值主體性，這在很多時候是一件好事。正因為機器不具備意識和主體性，它才不是道德的主體和對象，人也不需要對機器擔負倫理責任。人可以奴役機器為其服務而不需要有任何道德負擔，因為機器沒有意識，不會產生痛苦。

然而，“超級對齊”過程中，經常會出現很多非預期的后果—畢竟現實的社會系統太復雜了。哲學家尼克·博斯特羅姆于2003年提出一個思想實驗，名為“極致曲別針制造機”（paperclip maximiser）。人工智能得到一個指令：盡可能多地生產曲別針。在這個一切都是為了盡可能搜集資源去制造曲別針的過程中，機器人和人類發生沖突，并消滅了人類。

劉青峰：作為思想史研究者，我還有一個擔心，這就是機器迭代過程中是否有可能將過去的歷史記憶都清洗掉。未來人們可能認為不再需要保存一種hardcopy（實體文檔）的史料，而完全依賴機器，這時，一旦電腦宕機了，人類文明的記憶就徹底遺失了。我曾問過AI一個歷史上的小問題，得到的回復是它處理不了，因為這個問題不在它的訓練數據中。人們可能有一種幻覺：人工智能可以處理歷史上所有的材料。

林峰：就像金老師在討論會開場所說的，21世紀還剩下四分之三，在這段時間內，人工智能對人類社會的影響究竟會是正面的還是負面的？有意思的是，作為AI教父的辛頓對此持悲觀態度。他認為未來30年內人工智能導致人類滅亡的概率高達10%~20%。

金觀濤：這是我欣賞辛頓的地方。他向公眾道歉，承認自己做了一件對人類有危險的事情，這種精神不簡單。辛頓的擔心是有可能出現的，但如果人類滅亡，導致這一可怕后果的原因不是人工智能超過人類，而是人類無法駕馭人工智能，解決不了它帶來的社會問題。技術本身不會讓人類滅亡，人類的滅亡是由于當技術帶來重大社會問題時人類還沒有在認知上做好準備，以至于不能應對。就像我們前面反復提及的，人工智能的本質是智能和主體的分離，分離后的智能完全可能被一些人控制，并損害個人自由，還可能被用于戰爭。現代社會正處在危機中！

其實，人類一直面臨如何與自己發明的技術相處的問題。除了駕馭技術，人類還要去發現新的生活意義。農業革命之后，人類不再像部落社會那樣逍遙了，定居本身是一件讓人煩惱的事情，大部分人都要辛苦地耕作，生活變得不堪重負。但只要建立了跨地域文明，人就不得不適應這種變化，去發現新的人生意義。進入現代社會之后，個人的自主性得到高度擴張，同時也出現了一系列新的問題，如原本屬于傳統社會的意義的消失和孤獨感。這時，求知和努力工作本身成了很多人的人生意義。

今天，當人工智能可以取代各種原來由人完成的工作時，以工作養家為意義就會受到挑戰，必須重新確立人生的意義。我同意美國哲學家諾齊克的說法—人不是體驗幸福的機器，而是意義的追求者。人工智能只是將現代社會中被隱藏的問題放大，讓我們不得不面對而已。

林峰：金老師，在《軸心文明與現代社會》中，您提出21世紀人類正面臨“新軸心時代”，人工智能革命似乎正在為這個“新軸心時代”添加更多的變數。現在已經是1月13日中午了，我們的對話已經持續了一天半。您能否對這一天半的討論做一個總結呢？

金觀濤：我還是回到軸心文明大歷史觀和真實性哲學來分析今天人類的處境。有人說我們正在進入晚期現代社會，我不同意這種說法。現代社會必須經過不斷改進才能成熟，今天也正處于自我改進的過程之中。現代性起源于天主教文明中終極關懷與理性的二元分裂，經歷了近百年的宗教戰爭，才在加爾文教社會中形成。自從法國大革命開啟天主教文明的現代轉型起，在民族國家興起、全球市場經濟和科技的高速發展所帶來的第一次“脫嵌”危機中，20世紀發生了兩次世界大戰，人類發明了足以毀滅自己的核武器。

但在兩次世界大戰后，現代社會實行了一次自我改進，此后出現了冷戰結束和第二次全球化。第二次全球化展開半個世紀后，現代社會又面臨第二次“脫嵌”的可能，人工智能革命是其中科技“脫嵌”的表現。也許，樂觀點兒看，它可能加快現代社會第二次自我改進的進程。歷史表明，現代社會作為軸心文明的新形態是在大風大浪中發展起來的，它一直在不斷探索，并尋找一種可以保持現代市場經濟和科技不斷發展的社會結構。

如果把我們人類正在經歷的現代社會第二次“脫嵌”看作走向新軸心時代，那么，我有兩點看法。

第一，現代社會不能沒有終極關懷，而終極關懷的幾種類型是在兩千多年前的軸心時代形成，至今人們無法創造新的形態；

第二，今日全球市場經濟和科技“脫嵌”的原因是與終極關懷的萎縮乃至消失有關的，必須意識到這是不可避免的。早在軸心文明起源時，四種終極關懷中的認知理性就是不穩定的，后來被宗教文明吸納、消化。在傳統社會向現代社會轉型中，終極關懷和認知理性處于二元分離狀態，似乎找到了兩者共存的方法。現在看來，事情沒有那么簡單。隨著認知理性無限制地擴張，終極關懷必定會受到沖擊，乃至萎縮、消失。今天，很多人試圖回到舊宗教中去，懷念現代性起源時兩者共存的狀態，這份用心可能是良好的，但我們真能回得去嗎？

我認為，在當今的現代社會，終極關懷仍然是道德和人生終極意義的來源，終極關懷不會消失，我們唯一能做的是將終極關懷“純化”，使它們和現代社會科技認知相一致。軸心文明有四種超越視野，每種超越視野中又有若干種終極關懷，它們互相之間也是存在沖突的，這樣，終極關懷的純化不僅是化解它們和科學理性的不一致，還要能做到多元共存。

另外，作為現代性基石的個人自由雖然起源于加爾文教，但是我根據真實性哲學，論證了個人自由是元價值，和宗教沒有關系；而要把獨立自由的個人組織起來，只能是建立契約社會。當契約出現問題時，必須根據每個時代的問題做出改進。今天，無論是終極關懷的純化還是契約社會的重建，都需要科學和人文的再一次合作。只有這樣，我們才會有信心去開啟現代社會進一步改進的探索之路。

當下，人類碰到的最大的問題是人文精神被科學烏托邦摧毀。在科技進步發展到人工智能革命所掀起的巨浪面前，很多人文學者不知道發生了什么。本來語言是人文研究的基礎，現在機器會說話了，人工智能好像有了主體，人文學者的信心正在被人工智能摧毀。

我在《歷史的巨鏡》中曾寫道：

“現代性起源于人的解放，知識掙脫信仰和道德至上束縛的牢籠，個人從社會有機體中獨立出來以申訴追求真理和創造的權利，但思想的死亡也是虛無對現代人的勝利。從此，一個個必定死亡的個體在孤獨的黑暗里發問：生命的意義何在？同類的回聲即使震耳欲聾，但也無助于克服死亡的恐懼。這將是人類心靈面臨的真正的黑暗時代。”

如何在現代性受到挑戰的時代，高揚人的主體性，這正是人文學者的責任。我希望人文學者站起來，恢復自己的自信和勇氣。要知道，在人工智能時代，人類比以前更需要人文研究和藝術創造！這是我對本次對話的總結。

《我的哲學探索》

【作者】金觀濤

【出版時間】 2025年

【出版社】 中信出版社

【ISBN】 9787521772425

【內容簡介】

這本書是一個以思想為志業的學者，畢生探索歷程和研究成果的集成之作。40年間物換星移，從青蔥年代到暮色將至，思想者的歲月波瀾壯闊。而數十年如一日地苦苦追求真理，不僅要有直面驕陽的魄力，還需耐得住長久的孤獨，接受可能的失敗。尤其是在如今理想主義不再流行，人文精神被科技熱潮消解殆盡的時代里，許多人可能不禁要問，這樣的哲學探索究竟有何意義呢？當現代世界深陷精神困境，大多數人或是選擇激流勇退宣布“哲學已死”，或是躲進被后現代粉飾的對立狂歡，或是藏在思辨游戲的安樂窩里假寐。孤獨的思想家仿佛只身行走于幽深密林。

對探索的堅持，是因為唯有哲學思想能給我們答案——要走出因真實性喪失帶來的困境，我們需要梳理自現代化起源以來，哲學作為普遍觀念對人類社會造成的深層影響。今日種種，不過是思想的潛流在海平面激起的洶涌波濤。而一種現代的哲學，勢必要能夠整合起自20世紀以來科學發展的成果，講清楚人工智能浪潮及其背后的量子力學革命，以一種嶄新的思路去考察因科學進步而需要重新理解的古老哲學命題。究其根本，回答一個基本問題——在客觀世界不存在的情況下，人類如何理解自己的存在，現代人的價值和終極關懷去哪里尋求？只有用哲學再次證明人具有思想的自由，證明科

學以人為中心，我們才能擺脫人會成為工具的焦慮，以及人將被機器取代的恐懼。用現代哲學捍衛人之為人的意義，重建洞察世界的信心。讓我們從先行者那里繼承精神與智慧，越過重巒疊嶂，向著未來更為開放的理性，勇往直前。

IPP最新力作｜《決策咨詢制度與中國特色新型智庫建設研究》

書單 | 鄭永年教授9本著作，帶你看清當下與未來

IPP薦書｜巨浪已至：科學技術發展及其脫嵌

關于IPP

華南理工大學公共政策研究院（IPP）是一個獨立、非營利性的知識創新與公共政策研究平臺。IPP圍繞中國的體制改革、社會政策、中國話語權與國際關系等開展一系列的研究工作，并在此基礎上形成知識創新和政策咨詢協調發展的良好格局。IPP的愿景是打造開放式的知識創新和政策研究平臺，成為領先世界的中國智庫。