我懷著些許忐忑步入隔間，即將同時(shí)接受頻閃燈光與音樂(lè)刺激——這是一項(xiàng)試圖理解人類本質(zhì)的研究項(xiàng)目的一部分。這一體驗(yàn)讓我聯(lián)想到科幻電影《銀翼殺手》中旨在區(qū)分人類與偽裝成人的AI造物的測(cè)試。我會(huì)不會(huì)是來(lái)自未來(lái)的機(jī)器人，自己卻不自知？我能通過(guò)測(cè)試嗎？

研究人員向我保證，這并非實(shí)驗(yàn)的真正目的。他們把這個(gè)裝置命名為"Dreamachine"，它通過(guò)閃光將大腦內(nèi)部活動(dòng)呈現(xiàn)于表面，旨在研究大腦如何生成我們對(duì)世界的意識(shí)體驗(yàn)。

當(dāng)頻閃開(kāi)始時(shí)，即使閉著雙眼，我也能看到旋轉(zhuǎn)的二維幾何圖案。宛如正身處萬(wàn)花筒中，三角形、五邊形和八邊形不斷變換，色彩鮮明、強(qiáng)烈且流轉(zhuǎn)不息：粉色、洋紅與青綠色交織，如霓虹燈般閃爍。

?作者正在體驗(yàn)旨在探索人類如何構(gòu)建世界意識(shí)的 "Dreamachine"

研究人員告訴我，我看到的圖像不僅代表了我的內(nèi)心世界，也代表著我自己。他們認(rèn)為這些模式可以揭示意識(shí)本身。聽(tīng)了這些，我不禁喃喃自語(yǔ)：“太美妙了！這如同翱翔于自己的腦海！”

蘇塞克斯大學(xué)意識(shí)科學(xué)中心的"Dreamachine" 只是全球眾多人類意識(shí)研究新項(xiàng)目之一。意識(shí)作為心智的核心，讓我們能自我覺(jué)知、思考、感受并對(duì)世界做出獨(dú)立決策。通過(guò)解析意識(shí)本質(zhì)，研究者希望更深入理解人工智能硅基大腦中的活動(dòng)。部分學(xué)者認(rèn)為，AI 系統(tǒng)將很快擁有獨(dú)立意識(shí)。

但意識(shí)究竟是什么？AI 距離獲得意識(shí)還有多遠(yuǎn)？相信人工智能本身可能擁有意識(shí)，這種信念會(huì)在未來(lái)幾十年徹底改變?nèi)祟悊幔?/p>

從科幻走向現(xiàn)實(shí)

長(zhǎng)期以來(lái)，人們一直在科幻作品中探討機(jī)器擁有自主心智的構(gòu)想。對(duì)AI的憂慮可追溯至近百年前的電影《大都會(huì)》（Metropolis），片中有一個(gè)機(jī)器人冒充了一位真實(shí)的女性。而1968 年的電影《2001太空漫游》（2001: A Space Odyssey）探討了機(jī)器覺(jué)醒并威脅人類的恐懼，片中HAL 9000計(jì)算機(jī)攻擊了飛船上的宇航員。在剛上映的《碟中諜》（Mission Impossible）終章中，影片中的世界受到一個(gè)強(qiáng)大的失控AI的威脅，其中一個(gè)角色將其描述為“具有自我意識(shí)、自我學(xué)習(xí)能力、吞噬真相的數(shù)碼寄生蟲(chóng)”。

?1927 年弗里茨·朗執(zhí)導(dǎo)的《大都會(huì)》預(yù)見(jiàn)了人類與技術(shù)的博弈

但就在最近，已經(jīng)有權(quán)威聲音開(kāi)始對(duì)機(jī)器意識(shí)的出現(xiàn)產(chǎn)生擔(dān)憂，認(rèn)為它可能已經(jīng)不再是科幻小說(shuō)中的劇情。這種急劇轉(zhuǎn)折源于大語(yǔ)言模型（LLMs）的成功，我們已經(jīng)可以通過(guò)Gemini或者ChatGPT等手機(jī)應(yīng)用接觸它們。新一代LLMs流暢自然的對(duì)話能力甚至令其設(shè)計(jì)者和相關(guān)領(lǐng)域的頂尖專家震驚。這也使得有一種日益增長(zhǎng)的觀點(diǎn)認(rèn)為，隨著人工智能的持續(xù)進(jìn)化，機(jī)器內(nèi)部將突然亮起“意識(shí)之光”。

但也有一些學(xué)者持反對(duì)意見(jiàn)，比如蘇塞克斯大學(xué)研究團(tuán)隊(duì)負(fù)責(zé)人安尼爾·塞斯（Anil Seth）教授稱此觀點(diǎn)為“盲目樂(lè)觀且受人類例外論（human exceptionalism）驅(qū)動(dòng)”。“我們將意識(shí)與智能和語(yǔ)言關(guān)聯(lián)，因它們?cè)谌祟愔泄泊妗５@并不意味著它們必然普遍共存，例如在動(dòng)物中，這一點(diǎn)就不成立。”

那么意識(shí)究竟是什么？

目前尚且無(wú)人知曉，這一點(diǎn)從塞斯教授（Prof Seth）團(tuán)隊(duì)內(nèi)部友好而激烈的辯論中顯而易見(jiàn)。這支由年輕AI專家、計(jì)算科學(xué)家、神經(jīng)學(xué)家和哲學(xué)家組成的團(tuán)隊(duì)，正試圖解答科學(xué)和哲學(xué)領(lǐng)域的終極問(wèn)題之一。

盡管在意識(shí)研究中心存在諸多分歧，但科學(xué)家們的方法論是高度統(tǒng)一的，即將宏大命題分解為系列研究項(xiàng)目（包括 Dreamachine）中的子課題。正如19世紀(jì)科學(xué)界放棄尋找能使無(wú)生命物體活化的“生命火花”，轉(zhuǎn)而聚焦于研究生命系統(tǒng)各組成部分的機(jī)制，蘇塞克斯團(tuán)隊(duì)現(xiàn)在正以相同路徑探索意識(shí)研究。

?研究者通過(guò)腦部研究試圖更深入理解意識(shí)

他們希望能識(shí)別出可以解釋意識(shí)體驗(yàn)各種特性的大腦活動(dòng)模式，例如不同腦區(qū)的電信號(hào)變化或流向不同腦區(qū)的血流變化，來(lái)超越單純尋找大腦活動(dòng)與意識(shí)的簡(jiǎn)單關(guān)聯(lián)的研究，轉(zhuǎn)而嘗試解釋各個(gè)組成部分。

不過(guò)，塞斯教授擔(dān)憂我們可能會(huì)在缺乏科學(xué)認(rèn)知與后果評(píng)估的情況下，匆忙奔向一個(gè)被技術(shù)變革急速重塑的社會(huì)。“我們仿佛認(rèn)定未來(lái)已成定局；人類注定被超越人類的存在取代，”他說(shuō)。“社交媒體興起時(shí)，我們未做充分討論，于是人類這個(gè)集體都為此付出代價(jià)。但對(duì)于AI，現(xiàn)在還為時(shí)不晚。我們可以決定自己想要什么。”

AI意識(shí)已經(jīng)存在了嗎？

科技界部分人士認(rèn)為，我們的計(jì)算機(jī)和手機(jī)中的AI可能已具備意識(shí)，因此我們應(yīng)該把它們當(dāng)做有意識(shí)的個(gè)體，并據(jù)此對(duì)待它們。

2022年，谷歌軟件工程師布萊克·勒莫因（Blake Lemoine）聲稱AI聊天機(jī)器人能感知事物并可能承受痛苦，隨后被停職。無(wú)獨(dú)有偶，2024年11月，Anthropic公司AI倫理研究員凱爾·菲什（Kyle Fish）聯(lián)合撰寫(xiě)報(bào)告指出，AI意識(shí)可能在不久的將來(lái)成為現(xiàn)實(shí)。他近期向《紐約時(shí)報(bào)》表示，他認(rèn)為聊天機(jī)器人已有意識(shí)的可能性雖小（15%），但確實(shí)存在。

他持此觀點(diǎn)的原因之一是，包括開(kāi)發(fā)這些系統(tǒng)的人，無(wú)人確切知曉其運(yùn)作原理。

谷歌 DeepMind首席科學(xué)家、倫敦帝國(guó)理工學(xué)院人工智能榮譽(yù)教授默里·沙納漢（Murray Shanahan）也認(rèn)為，這令人擔(dān)憂。“我們并未真正理解LLMs的內(nèi)部工作機(jī)制，這值得引起關(guān)注，”他告訴BBC。沙納漢教授強(qiáng)調(diào)，科技公司必須充分理解其所構(gòu)建的系統(tǒng)，并將此視為緊要目標(biāo)。“我們處于一種尷尬境地，一邊建造著極度復(fù)雜的系統(tǒng)，卻缺乏完善理論解釋其驚人能力的實(shí)現(xiàn)機(jī)制，”他表示，“應(yīng)當(dāng)深入理解其原理才能引導(dǎo)它們朝預(yù)期方向發(fā)展，并確保安全性。”

人類進(jìn)化的下一階段

科技界主流觀點(diǎn)認(rèn)為，當(dāng)前LLMs并不具備人類感知世界方式的那種意識(shí)，而且可能根本不存在任何形式的意識(shí)。但匹茲堡卡內(nèi)基梅隆大學(xué)榮譽(yù)教授夫婦萊諾爾·布盧姆（Lenore Blum）與曼努埃爾·布盧姆（Manuel Blum）相信，這種狀況可能很快改變。

布盧姆夫婦指出，當(dāng)AI和LLMs通過(guò)連接攝像頭與觸覺(jué)傳感器獲得更多實(shí)時(shí)感官輸入時(shí)，意識(shí)就可能涌現(xiàn)。他們正在開(kāi)發(fā)名為Brainish的計(jì)算機(jī)模型，通過(guò)構(gòu)建內(nèi)部語(yǔ)言從而處理額外的感官數(shù)據(jù)，試圖復(fù)現(xiàn)大腦運(yùn)作過(guò)程。

?《2001太空漫游》等影片早已警示有意識(shí)計(jì)算機(jī)的危險(xiǎn)

“我們認(rèn)為Brainish能解決我們已知的意識(shí)難題，”萊諾爾告訴BBC，“AI意識(shí)必將出現(xiàn)。”曼努埃爾帶著頑皮的笑容熱情補(bǔ)充道，他堅(jiān)信即將涌現(xiàn)的新系統(tǒng)將是“人類進(jìn)化的下一階段”。

他認(rèn)為有意識(shí)的機(jī)器人“是我們的后代。未來(lái)當(dāng)人類消失后，這類機(jī)器將取代我們駐守在地球乃至其他星球上”。

1994年亞利桑那州圖森市的會(huì)議上，紐約大學(xué)哲學(xué)與神經(jīng)科學(xué)教授大衛(wèi)·查爾默斯（David Chalmers）界定了真實(shí)意識(shí)與表觀意識(shí)的區(qū)別。他提出，如何解釋大腦復(fù)雜運(yùn)作為何及如何產(chǎn)生意識(shí)體驗(yàn)，比如我們聽(tīng)到夜鶯鳴叫時(shí)的情緒反應(yīng)，是一種“困難問(wèn)題”（hard problem），查爾默斯教授對(duì)解決這一難題持開(kāi)放態(tài)度。“理想結(jié)果是人類能共享這場(chǎng)智能盛宴，”他告訴BBC，“或許我們的大腦將通過(guò)AI 系統(tǒng)得到增強(qiáng)。”談及其中的科幻色彩，他犀利地指出：“在我的專業(yè)領(lǐng)域，科幻與哲學(xué)僅一線之隔。”

血肉計(jì)算機(jī)

然而，塞斯教授正在研究“唯有生命系統(tǒng)才能實(shí)現(xiàn)真正意識(shí)”的觀點(diǎn)。“有充分的證據(jù)表明，實(shí)現(xiàn)意識(shí)的關(guān)鍵并非計(jì)算能力，而是具備生命屬性，”他指出，“大腦與計(jì)算機(jī)不同，其功能與本質(zhì)不可分割。”他認(rèn)為正是這種不可分割性，使大腦難以被簡(jiǎn)單視作“血肉構(gòu)成的計(jì)算機(jī)”。

?Cortical Systems 等公司正研究由神經(jīng)細(xì)胞組成的“類器官”

如果塞斯教授關(guān)于生命重要性的直覺(jué)是正確的，那么最可能可行的技術(shù)載體將不是硅基計(jì)算機(jī)，而是實(shí)驗(yàn)室培育的扁豆粒大小的微型神經(jīng)細(xì)胞群。它們?cè)诳茖W(xué)界被稱為“大腦類器官”，用于研究腦部機(jī)制及藥物測(cè)試。媒體則稱之為“迷你大腦”。墨爾本澳大利亞公司 Cortical Labs甚至開(kāi)發(fā)出了培養(yǎng)皿中神經(jīng)細(xì)胞系統(tǒng)，它們已經(jīng)可以運(yùn)行1972年的體育電子游戲《Pong》。雖然這遠(yuǎn)未達(dá)到意識(shí)系統(tǒng)水平，但這個(gè)“培養(yǎng)皿中的大腦”控制屏幕擋板擊打像素球的畫(huà)面仍令人毛骨悚然。

部分專家認(rèn)為，若意識(shí)將最終涌現(xiàn)，最可能源于比這些活體組織更先進(jìn)更大的系統(tǒng)。Cortical Labs正持續(xù)監(jiān)測(cè)其電活動(dòng)，搜尋任何可能預(yù)示意識(shí)出現(xiàn)的信號(hào)。

該公司首席科學(xué)運(yùn)營(yíng)官布雷特·卡根博士（Dr Brett Kagan）深知，任何新興的不可控的智能體的目標(biāo)都可能“與人類相悖”。對(duì)此他半開(kāi)玩笑表示，這種情況下，潛在的類器官統(tǒng)治者更容易被擊敗，因?yàn)椤翱傆衅讋笨梢詽苍诖嗳跎窠?jīng)元上。

回歸嚴(yán)肅語(yǔ)氣后，他強(qiáng)調(diào)，人工意識(shí)出現(xiàn)威脅的可能性雖小，但一旦出現(xiàn)就影響重大，他希望行業(yè)巨頭能將其納入重點(diǎn)研究范圍以推進(jìn)科學(xué)認(rèn)知，但“遺憾的是當(dāng)前未見(jiàn)任何實(shí)質(zhì)性投入”。

意識(shí)的幻覺(jué)

更迫切的危機(jī)或許是機(jī)器意識(shí)幻覺(jué)對(duì)人類的影響。

塞斯教授預(yù)測(cè)，未來(lái)幾年我們可能生活在一個(gè)由人形機(jī)器人和深度偽造技術(shù)構(gòu)筑的"偽意識(shí)世界"。他擔(dān)憂人類將難以抗拒“相信AI具有情感與共情能力”的認(rèn)知，從而引發(fā)新風(fēng)險(xiǎn)。“這意味著我們會(huì)更信任它們，分享更多數(shù)據(jù)，并更容易被說(shuō)服。”

但他指出，意識(shí)幻覺(jué)的最大風(fēng)險(xiǎn)在于“道德腐蝕”。

“這將扭曲我們的道德優(yōu)先級(jí)，迫使我們耗費(fèi)更多資源用于關(guān)懷這些系統(tǒng)，卻以犧牲現(xiàn)實(shí)生活中有價(jià)值的事物為代價(jià)。”這意味著人類可能對(duì)機(jī)器人產(chǎn)生同情，卻減少對(duì)同胞的關(guān)懷。沙納漢教授認(rèn)為，這或?qū)母旧细淖內(nèi)祟悺！叭穗H關(guān)系將日益被人機(jī)關(guān)系替代，AI將成為教師、朋友、游戲?qū)κ稚踔翍偃恕！?/p>

“是福是禍，這必將發(fā)生且無(wú)法阻止。”

原文鏈接：https://www.bbc.com/news/articles/c0k3700zljjo

關(guān)于追問(wèn)nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問(wèn)為紐帶，深入探究人工智能與人類智能相互融合與促進(jìn)，不斷探索科學(xué)的邊界。歡迎評(píng)論區(qū)留言，或后臺(tái)留言“社群”即可加入社群與我們互動(dòng)。您也可以在后臺(tái)提問(wèn)，我們將基于追問(wèn)知識(shí)庫(kù)為你做出智能回復(fù)。

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元?jiǎng)?chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點(diǎn)，支持腦科學(xué)研究，造福人類。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實(shí)驗(yàn)室、人工智能與精神健康前沿實(shí)驗(yàn)室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項(xiàng)目遍布?xì)W美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎(jiǎng)勵(lì)計(jì)劃、、等。