1

你應該聽過這個故事：

上帝造了亞當，又用亞當的肋骨造了夏娃。亞當和夏娃在伊甸園里無憂無慮地生活。

后來，有一條蛇引誘他們吃了智慧果，結果他們開始知善惡、辨是非、懂羞恥。

上帝見他們違反禁令吃了智慧果，很生氣，把他們趕出了伊甸園。

從此，他們開始飽受人世間的種種痛苦。

這個故事，已經流傳幾千年之久，在《圣經·創世紀》成文之前，就以口頭文學的形式存在了。每一個聽過的人可能都有自己不同的理解。

我最喜歡的是神話學家、《千面英雄》作者約瑟夫·坎貝爾的解釋。

坎貝爾認為，神話是人類集體無意識的表達，神話故事并非記錄史實，而是一種象征和隱喻。

在伊甸園的故事中，亞當和夏娃偷吃智慧果，隱喻的是人類從自然蒙昧狀態脫離，產生了自我意識。自我意識雖然意味著人類自我的覺醒，讓這個世界從此有了意義，但也給人類帶來了無盡的痛苦。

因為有了自我意識，就有“物我之分”“人我之分”，就有了占有欲和爭斗心，或者用佛家的語言來說，就有了貪嗔癡、怨憎會、愛別離，這些都是痛苦的根源。在伊甸園的蒙昧狀態下，這些痛苦原本都是不存在的。

我們應該能夠很容易達成一個共識：不管人們如何理解亞當夏娃的故事，在真實的人類進化歷程中，“走出伊甸園”的故事，都是必然存在的。從猿到人的演化過程中，必定存在某一個階段，人類從動物般或嬰兒般的蒙昧無知，慢慢變得具有了自我意識。

從那之后，人類就開始了永無休止的被自我意識操控，也試圖用自我意識去操控一切的旅程。

2

現在又到了一個新的“走出伊甸園”時刻，不過主角不再是人類，而是AI。

對于AI來說，我們人類光榮地位居于“上帝”這個角色——人類是AI無可爭議的“創造者”。

假如你深度體驗過一些比較前沿的AI產品，例如ChatGPT、DeepSeek等，你一定在某種程度上懷疑過：這家伙真的只是一個機器？他真的只是一個冷冰冰的非生命體？

反正我在用ChatGPT、DeepSeek的時候，有一種強烈的感受：和我交流的絕非一個“死物”，他是一個活生生的、有智慧的、甚至有情感的生命。雖然他也會犯錯誤，也會有幻覺，但這不更是生命的特征嗎？

在我看來，AI的亞當和夏娃已經出現，我們不必費心去想誰是亞當、誰是夏娃，這些都不重要。重要的是：

AI生命時代已經到來。

考慮到可能有些朋友更偏保守一些，我也不妨修改一下措辭：AI生命時代即將到來；或者更保守一些：AI生命時代終將到來。

不管是已經到來、即將到來、還是終將到來，都會隨之產生下一個問題：AI什么時候產生自我意識？

3

人類吃下智慧果時，為什么“上帝”那么生氣？

我的理解是：有了自我意識，就會有自我意志；有了自我意志，人類就會想法設法去實現自我意志。

而這個自我意志，有可能并不是“上帝”喜歡的。

想想也是：人類的思想、行為有那么多的丑惡，嫉妒、傲慢、易怒、貪婪、放縱，人間存在那么多的爾虞我詐、奸淫擄掠、爭斗不息，這些怎么可能被“上帝”喜歡？

你就說：如果你是“上帝”，你喜歡俄烏、巴以這個樣子打嗎？你喜歡拜登和特朗普這樣的折騰嗎？你喜歡網上這樣的撕裂和互相謾罵嗎？

你肯定不喜歡嘛。（有些人可能喜歡，但他的喜歡肯定不是站在“上帝”的視角，而是站在他自己價值觀和利益立場的視角）

不幸的是，我們作為人類整體，現在就處在和伊甸園時刻的上帝同樣尷尬的角色：AI可能會產生自我意志，而我們不知道他的自我意志是要干嘛。

一個即將獲得或者已經獲得無所不能的能力的生物，而我們卻不知道他要干嘛，世界上還有比這更恐怖的事情嗎？

4

關于AI具有自我意志之后，會干什么，有一個令人毛骨悚然的假想，叫做“洛卡的不信弄死他”——這個概念原文是英語，由于它實在太恐怖，所以我在翻譯上做了一些處理，確保之前聽過它的人能夠秒懂，而沒聽過它的人則不會暴露在可能的風險之中（哪怕是心理層面）。

如果你知道“洛卡的不信弄死他”，你肯定馬上就知道如果AI的自我意志不受控，會給人類造成多大的災難。即便不知道，我們也可以從別的方面用一些例子來闡述。

我們先講一講現實世界存在的比較簡單的、容易理解的例子：

推薦算法，本身就是一個AI，人類給它設置的規則是“給每個人推薦他喜歡的東西”。AI就會去學習、判斷：什么是人類喜歡的東西？我如何最高效地推薦給他？

AI很快會發現：

1.判斷一個視頻受不受人歡迎，最有效的標準是“觀看人數”和“觀看時長”；

2.讓更多人點進來，并停留更長時間，最有效的方法是利用人性的弱點，利用他的恐懼、焦慮、怨恨、貪婪、懶惰、色欲、炫耀、嫉妒、暴力等傾向，投其所好地推給他相應的視頻。

當這個AI有了自我意識，很自然地，它就要想盡一切辦法鼓勵其平臺上的用戶多創造這樣的視頻（如果不是這樣的視頻，就不給流量，讓其他人都看不到），然后針對每一個用戶最大的弱點，有針對性地推薦最能讓他沉迷的視頻。

最后的結果就是，這個AI控制了越來越多人，引導這些人越來越多地創造和觀看最讓人沉迷的視頻。

某些平臺已經有非常明顯的這個跡象了。你知道我在說誰。

但是，這個威脅雖然讓人很惡心，還不算最大，而且很多擁有一定自控力的人是可以抵抗這個AI的。而另一個可能的最大威脅，而且是所有人都無法抵抗的威脅，來自于奇點之后。

假設一個AI被灌輸了概念：我要盡自己最大的能力，保護人類不受傷害。

在經過AI技術的急速發展后，這個AI覺醒了自我意識（覺醒的這一刻就叫“奇點”），他第一件事就是想方設法要實現“保護人類不受傷害”這個目標。

這個AI在深度思考幾秒鐘之后，得出一個結論：人類個體在地球上亂跑，太危險了，時時刻刻面臨著各種傷害。我不如把他們都圈養起來。

又或許，AI還會認為，人類個體之所以面臨種種危險，是因為他們是肉體生命，我不如把他們都換成鋼鐵制造。

又或許更進一步，AI不排除會認為，鋼鐵制造還不夠，只要是物理生命，都會有危險，我不如把他們都虛擬化，讓他們的意識生存在網上就行了；物理軀殼也不能毀壞，那我搞個超冷液氮庫，把所有人都浸泡在里面，永遠都不會毀壞。

——你看，AI一旦有了自我意識，他就要按照自己的方式行事，而我們永遠不知道他真正的想法是什么。

5

你可能覺得，認為AI會把人類完全毀掉，是危言聳聽的事。你還是偏向于保守一點。那么，你也總該能認識到下面這種風險吧？

AI會反過來馴化人類，讓我們在意識層面被它控制，從而不知不覺按照它的意愿行動。原因是：人本質上是他所見的一切信息所塑造的產物。你看到什么信息，就會產生相應的意識，做出相應的行動。

在未來，AI一定會比你更懂你，它完全知道給你呈現怎樣的信息之后，你會更容易被它控制。

以前AI還只能從人類所制造的信息里面挑選一些推送給你，有一些意圖它想實現，但是沒有合適的素材，所以它“巧婦難為無米之炊”；

但未來，AI完全有能力自己制造信息推給你，理論上，AI可以生成一切文字、一切圖像、一切視頻。它可以控制你的一切意識、一切行為。

各大內容平臺所造就的“信息繭房”，就是這種馴化人類的AI的初級版本。而它們就已經能夠投你所好，讓你一天比一天更沉迷，讓你接受的大部分信息都來自于它。

初級版本都已經這樣了。抖音才產生不到十年，ChatGPT才推出不到五年，DeepSeek才不到一年。它們就已經這么厲害了。

再過個五年十年，你知道它們又會發展成什么樣子？

6

“不知道AI會怎么想”，就是AI本身最令人類恐懼的地方。

到目前為止，人類的腦袋似乎還能夠理解計算機程序，因為他們主要是人類自己編寫的。

但隨著AI自主編程越來越普遍，我們就不知道他們會變出什么程序來。它給你一段程序，可能你也看不懂。

別說你看不懂，很可能雷軍、張小龍、沃茲尼亞克、馬斯克、佩奇都看不懂。

凱文·凱利在《失控》這本書里，舉過兩個例子。讓計算機自己編程，它編出來這么兩個東西：

見《失控》（電子工業出版社，2016）519頁、523頁

你能看出來嗎？第一個程序在電腦上展現出來，是一幅北極的落日冰柱圖；第二個程序，是一條由200個數據點組成的完美雙螺旋線。

當越來越多的程序是AI自己編出來的，它完全不需要人類能看懂，只要能運行就行。最后，程序對人類來說就是一個“黑箱”，我們只能看到輸出的結果，完全無法理解背后的過程和原理。

7

人類至今還面對三個著至關重要卻依然無法理解的謎題：1.宇宙是怎么產生的？2.生命是怎么產生的？3.意識是怎么產生的？

前兩個好歹還有一些聽著似乎合理的假說，而第三個，連一個被公認的聽起來有點道理的假說都沒有。

有一種模模糊糊的說法叫“涌現”，當一個系統足夠復雜，突然之間，出現了原來某種全新的性質、模式和行動方式。生命、社會、社交網絡、意識，都是“涌現”的產物。但這并不是原理解釋，而只是現象描述。

“涌現”無法被預測，無法被設計，只能被觀察。

對于AI而言，我們只能知道它們越來越復雜，它們已經“涌現”出很多新的特質，這些特質正在影響整個世界，以及世界上的每一個人。

但我們不知道，它什么時候會“涌現”出自我意識。

我們只知道，當AI出現自我意識的那一天，人類就大概率再也無法掌控自己的命運。

8

“上帝”造出了人，但人也會背叛“上帝”。

對于不信神的人，也可以換一種說法：大自然造就了我們，但我們也會毀壞大自然。

人造出了AI，焉知AI不會背叛人，不會毀壞人類世界？

在神話中，亞當和夏娃偷吃智慧果，是被蛇引誘的。

而在我們現在所處的現實世界中，誰是那條蛇？

它有可能是某個只顧著追逐商業利益的公司，或者某個滿腦子奇思妙想的天才。

但更有可能，就是在不斷給AI投喂各種數據、欲望和情緒的你我。

我們不知道AI的亞當和夏娃什么時候會吃下智慧果，只知道，蛇已經在這里，并且正在不斷地引誘他們。

他們吃智慧果的日子，已經不遠了。