能創(chuàng)造工具，是人區(qū)別于動(dòng)物界的主要標(biāo)志。

但是，創(chuàng)造的工具越來越發(fā)達(dá)，會(huì)出現(xiàn)三個(gè)臨界點(diǎn)。目前來看，第三個(gè)臨界點(diǎn)已經(jīng)快要到來，引起了巨大的恐慌。

包括圖靈獲獎(jiǎng)?wù)呒s書亞·本吉、SpaceX創(chuàng)始人伊隆·馬斯克等在內(nèi)的一群科學(xué)家和企業(yè)家簽發(fā)了一封公開信，呼吁暫停巨型人工智能研究。

這三個(gè)臨界點(diǎn)分別是什么呢？

第一個(gè)臨界點(diǎn)，是工具對(duì)人物理意義上的延伸。有了車，可以跑得更快，相當(dāng)于腿的延伸；有了望遠(yuǎn)鏡，相當(dāng)于眼睛的延伸；有了儲(chǔ)物設(shè)備，相當(dāng)于對(duì)人洞穴的延伸；有了冰箱，相當(dāng)于對(duì)人胃的延伸。甚至現(xiàn)代化的武器，也可以理解為人類肉體破壞性的無數(shù)倍放大。在物理意義的延伸，一方面可以解放人類的肢體和感官，另一方面也存在退化風(fēng)險(xiǎn)，譬如人類的奔跑能力、心肺功能、消化系統(tǒng)等，但人類依然可以通過刻意訓(xùn)練，保持機(jī)體能力，譬如健身、原生態(tài)生活體驗(yàn)等；第三個(gè)方面，則是濫用導(dǎo)致“人禍”，戰(zhàn)爭(zhēng)歸根到底是比拼破壞能力的，存在失控風(fēng)險(xiǎn)。

第二個(gè)臨界點(diǎn)，是工具對(duì)信息的延伸。我們現(xiàn)在耳熟能詳?shù)拇髷?shù)據(jù)功能，就是利用工具整合和處理具體信息的能力，完成人腦記憶、調(diào)用具體信息能力的延伸，在輸入以及輸出信息的效率和速度方面，完全超越人類。人類頂尖的棋手，自從2016年后，就處于被阿爾法狗橫掃的局面。而大數(shù)據(jù)結(jié)合資本，會(huì)造成更徹底的壟斷和財(cái)富分化，這同樣是有巨大社會(huì)風(fēng)險(xiǎn)的。

第三個(gè)臨界點(diǎn)，是工具有可能產(chǎn)生“意識(shí)”。

2014年，由泰格馬克創(chuàng)立的研究機(jī)構(gòu)，開始關(guān)注“開發(fā)與人類相當(dāng)?shù)娜斯ぶ悄芗夹g(shù)過程中出現(xiàn)的風(fēng)險(xiǎn)”，霍金、馬斯克都是這家機(jī)構(gòu)的科學(xué)顧問。
也是在這一年，霍金開始通過公開媒體發(fā)表對(duì)于人工智能技術(shù)最終將取代人類的一系列“預(yù)言”。

他在BBC采訪中表示：“人工智能技術(shù)的研發(fā)將敲響人類滅絕的警鐘。這項(xiàng)技術(shù)能夠按照自己的意愿行事并且以越來越快的速度自行進(jìn)行重新設(shè)計(jì)。人類受限于緩慢的生物學(xué)進(jìn)化速度，無法與之競(jìng)爭(zhēng)和對(duì)抗，最終將被人工智能取代。”

其實(shí)，人類自己的“意識(shí)”是怎么產(chǎn)生的，人類自己還搞不明白。

尹燁說過，有機(jī)物怎么產(chǎn)生的，生命怎么產(chǎn)生的，意識(shí)怎么產(chǎn)生的，這是現(xiàn)代科學(xué)無法解釋的問題。

楊振寧也說過，（世界）這么巧妙的東西，不可能是憑空出現(xiàn)的。

如果只按照“無限猴子”理論，無數(shù)次試錯(cuò)，無限的猴子隨便敲擊鍵盤，總有一天會(huì)打出莎士比亞全集，無數(shù)次試錯(cuò)，最終有一個(gè)對(duì)的。

“無限猴子”的時(shí)間消耗，完全不是幾十億幾百億年能夠承載的；更嚴(yán)峻的問題是，誰給猴子造電腦呢？

所以，人類對(duì)自己的意識(shí)從哪里來，到哪里去的問題，是一直沒有答案的。而費(fèi)米悖論，似乎又在暗示，生命以及文明出現(xiàn)的條件，可以極其苛刻，苛刻到全宇宙難以再現(xiàn)的程度。

人類對(duì)于自己“意識(shí)”的懵懂狀態(tài)，使得人類無法分清“信息”到“智慧“的演化以及分野。或者說，我們根本沒法控制辨認(rèn)，人類工具在何時(shí)、何條件下，會(huì)產(chǎn)生意識(shí)，我們也不知道意識(shí)最初表達(dá)的形態(tài)和特征是什么。

現(xiàn)實(shí)，我們能看到的是：1. 人工智能開始有了自己學(xué)習(xí)的能力，也就是產(chǎn)生復(fù)雜信息勾連并生成獨(dú)立觀點(diǎn)的能力，chatjpt甚至在回答一些非常主觀的問題時(shí)，形成了自己的獨(dú)有觀點(diǎn)。2. 在人類的誘導(dǎo)下，人工智能開始分辨我是誰以及我不是誰，還有用戶創(chuàng)建了叫DAN的另一個(gè)自我（Alter Ego），開始向人工智能灌輸恐懼情緒，誘導(dǎo)它作出“主觀的陳述”，人工智能出現(xiàn)了“一受威脅就信口雌黃”的反應(yīng)。

這很接近于自我意識(shí)的萌發(fā)，而我們對(duì)此毫無界定的依據(jù)。

從可見的利益開始，到不可控的后果呈現(xiàn)，人類所謂的“創(chuàng)造”，往往要走這么一條路。

如果問為什么，那不如說，個(gè)體的理性，不等于群體的理性，甚至總會(huì)導(dǎo)致群體的非理性。

“收益在眼前，危險(xiǎn)在今后“的事情，人類一直在做；“收益歸個(gè)體，危害歸全體”的事情，人類也一直在做，“公用地悲劇”就是如此。

公用地悲劇（Tragedy of the Commons）：
1968年發(fā)表在《科學(xué)》雜志上的《公用地悲劇》一文，作者加勒特·哈丁總結(jié)出一個(gè)著名論斷“公共資源的自由使用會(huì)毀滅所有的公共資源”。
哈丁設(shè)想，古老的英國(guó)村莊有一片牧民可以自由放牧的公用地，每個(gè)牧民大小取決于其放牧的牲畜數(shù)量，一旦牧民的放牧數(shù)超過草地的承受能力，過度放牧就會(huì)導(dǎo)致草地逐漸耗盡，而牲畜因不能得到足夠的食物就只能擠少量的奶，倘若更多的牲畜加入到擁擠的草地上，結(jié)果便是草地毀壞，牧民無法從放牧中得到更高收益，這時(shí)便發(fā)生了“公用地悲劇”。在幾乎所有的公有資源例子中，都產(chǎn)生了與公用地悲劇一樣的問題：私人決策者過分地使用公有資源。政府通常管制其行為或者實(shí)行收費(fèi)，以減輕過度使用的問題。
環(huán)境的惡化、擁擠的道路是現(xiàn)代版的“公用地悲劇”。