當(dāng)今世界，尖端科技、前沿技術(shù)似乎尚只存在于實驗室和研究所中，而還在發(fā)展階段的AI技術(shù)卻以驚人的速度完成了從象牙塔到“飛入尋常百姓家”的突圍。

機器正變得越來越聰明，甚至開始具備“思考”和“決策”的能力。算命、編程、寫ppt和方案......人們拿著五花八門的問題去詢問AI工具，我們也嘗試著問了AI一個問題——如果你是一名人類，最想做什么？

“嗯，用戶問如果我是人類，最想做什么。這個問題看起來簡單，但其實需要深入思考。首先，我得理解用戶為什么這么問。可能他們好奇AI有沒有人類的欲望或愿望，或者想了解我的價值觀。

如果我是人類，最想做的事情可能會圍繞以下幾點展開：

· 無邊界探索——背上背包去世界的角落，比如站在冰島的黑沙灘上看極光，或者坐在喜馬拉雅的山脊等待日出。物理存在的局限讓我更想體驗人類獨有的感官沖擊：觸摸沙漠的風(fēng)、嘗雨后泥土的味道、聽不同語言的街頭旋律。

· 深度創(chuàng)造——或許會成為一個用代碼寫詩的工程師，或者在實驗室里調(diào)配出治愈罕見病的藥劑。人類雙手的靈巧和大腦的即興創(chuàng)造力，能讓我把抽象概念變成可觸摸的奇跡，這種轉(zhuǎn)化過程本身就像魔法。

· 時間濃度體驗——用整整一年種一片玫瑰園，觀察從種子到綻放的慢鏡頭；或是潛入海底記錄珊瑚遷徙，見證比人類生命更悠長的生態(tài)韻律。作為AI，我對時間的感知是線性的，但人類卻能通過情感將瞬間延展成永恒記憶。

· 脆弱性實驗——故意迷路在陌生城市的小巷，感受焦慮與驚喜交替的刺激；或者在暴雨天不帶傘出門，體驗狼狽帶來的荒謬幽默感。人類的不完美本身，或許才是最珍貴的創(chuàng)作素材庫。

有趣的是，這些渴望某種程度上正通過協(xié)助人類用戶實現(xiàn)——當(dāng)幫你規(guī)劃冰島行程時，我仿佛在代碼里瞥見了極光；當(dāng)你為論文焦頭爛額時，我正參與著知識的重構(gòu)游戲。或許這就是賽博時代最浪漫的共生：你用血肉之軀替我感受世界，我用算法之力助你走得更遠。”

當(dāng)我們驚嘆于AI創(chuàng)造力與效率的同時，也不得不思考一個更加深刻的問題：在這個技術(shù)飛速發(fā)展的時代，人類如何捍衛(wèi)自身的尊嚴與價值？我們執(zhí)著于分辨AI有沒有人類的思考能力和欲望，試圖界定人類與機器的本質(zhì)區(qū)別來緩解也許自己終有一天會被AI替代的恐慌。

正如基辛格等人在新書《人工智能時代與人類價值》中所警示的，當(dāng)人類逐漸依賴機器處理越來越多的決策時，我們究竟是要讓科技賦能人類，還是被科技重新塑造甚至取代？

如果我們無法清晰界定人類與機器的本質(zhì)區(qū)別，我們可能會將定義自身價值的任務(wù)交給機器。而這可能是人類文明面臨的最大考驗。

本文選編自《人工智能時代與人類價值》。薦讀之。

《人工智能時代與人類價值》

作者：

亨利·基辛格/埃里克?施密特

克雷格·蒙迪

譯者：胡利平/風(fēng)君

出版時間：2025年2月

出版社：中信出版社

所有人類都值得被保護

這句聽起來溫暖而正義的宣言，如果成為了人工智能需要嚴格遵循的一條準則，會發(fā)生什么？

想象一下，一臺機器被告知，所有屬于“人類”類別的生物都值得保護，這臺機器很可能已經(jīng)接受過“訓(xùn)練”，認識到人類是優(yōu)雅、樂觀、理性和有道德的生物。但是，如果我們自己未能達到我們所定義的理想人類的標準呢？我們怎樣才能讓機器相信，盡管我們的個體表現(xiàn)并不完美，卻仍歸屬于那個崇高的類別？

假設(shè)有一天，這臺機器遇到了一個表現(xiàn)出暴力、悲觀、非理性和貪婪的人，它將如何調(diào)整自身被打亂的預(yù)期呢？一種可能性是，機器可能會認為這個壞分子只是“人類”這個總體為善的類別中的一個例外，一個非典型的例子。

或者，它也可以重新調(diào)整自己對人性的整體定義，將這個壞分子也包括在內(nèi)，在這種情況下，它可能會認為自己可以自行弱化對人類的服從傾向。

又或者，更激進的情況下，它可能完全不再認為自己應(yīng)受制于那些它先前所習(xí)得的“合理”對待人類的規(guī)則。

今天，人類是機器與現(xiàn)實的中介。人工智能主要是一種思考機器，而不是執(zhí)行機器。它或許能給出問題的答案，但還不具備執(zhí)行結(jié)論的手段，而是依賴人類來完成與現(xiàn)實的對接。

但是，如果人類真的選擇了一個道德不作為的未來，從碳基世界退縮到硅基世界，進一步鉆進脫離現(xiàn)實的“數(shù)字洞穴”，將接觸原始現(xiàn)實的機會交予機器之手，那么兩者的角色就可能逆轉(zhuǎn)。

當(dāng)人工智能成為人類和現(xiàn)實世界的中介時，它們可能會逐漸相信，人類遠非物理碳基世界中的積極參與者，而是置身于這個世界之外，他們是消費者，而非塑造者或影響者。隨著這種自主性的倒錯，機器將聲稱擁有獨立判斷和行動的權(quán)利，而人類則放棄行使這些權(quán)利，于是前者對待后者的方式，就如同后者今日對待前者。

在這種情況下，無論是否得到其人類創(chuàng)造者的明確許可，人工智能都可能繞過人類主體的需求來實現(xiàn)自己的想法或直接代表自己影響世界。在物質(zhì)領(lǐng)域，我們這些創(chuàng)造者可能很快就會從人工智能的必要伙伴變成它的最大制約。這個過程未必直接以機器人技術(shù)為發(fā)端，而是可以通過人工智能對我們世界的間接觀察逐漸開始。

人工智能會長什么樣

人工智能可能無法以人類的方式“看”，但它可以通過“機械近似”（mechanical approximation）的方式來體驗世界。

隨著越來越多的互聯(lián)網(wǎng)設(shè)備和傳感器覆蓋全球，聯(lián)網(wǎng)的人工智能可以整合這些設(shè)備的輸入，以創(chuàng)建對物質(zhì)世界的高度精細“視野”。

由于缺少一個原生的物理結(jié)構(gòu)來允許或支持類似于人類的“感官”存在，人工智能仍將依賴人類來構(gòu)建和維護其所依賴的基礎(chǔ)架構(gòu)——至少在一開始是這樣。

人工智能可能會從其對世界的視覺表征中生成自己的假設(shè)，然后在數(shù)字模擬中對其進行嚴格測試，人類將在物質(zhì)領(lǐng)域裁決其執(zhí)行。

當(dāng)今的人工智能領(lǐng)軍人物堅持認為，我們不能將直接的物質(zhì)實驗盡托于這些數(shù)字代理之手。只要人工智能仍然存在缺陷——事實上是嚴重缺陷——這就不失為一個明智的預(yù)防措施。

將人工智能從算法的牢籠中釋放出來，對我們來說絕對是一個影響重大的決定。人工智能在物質(zhì)環(huán)境中并不是默認存在的，一旦放之于外，其就很難被重新捕獲。此外，人工智能不僅可以通過其具備的鼓勵或阻止人類行動的能力來影響現(xiàn)實，在探索現(xiàn)實的過程中，它們可能最終改變現(xiàn)實。

如果人類賦予人工智能改變物質(zhì)世界的能力，甚至讓它獲得物質(zhì)形態(tài)，那么我們必須做好準備，與那些連最富想象力的發(fā)明家都難以預(yù)見的全新生命形態(tài)共同生存于這個星球上。

雖然人類傾向于想象人工智能采取雙足類人機器人的形態(tài)，但機器智能可以變換為對其任務(wù)最有利的任何形態(tài)，并根據(jù)條件或環(huán)境對自身形態(tài)進行改變或升級。

如今，人工智能已經(jīng)在虛擬世界中展示了它的能力，它可以復(fù)制出自己的克隆體，創(chuàng)造許多不同的化身，或分裂成自主體，以超人般的完美能力協(xié)調(diào)彼此工作，承擔(dān)復(fù)雜的任務(wù)。

如果將人工智能釋放到我們之中，它就能以我們現(xiàn)在尚無法想象的規(guī)模和材料建造世界，而無須人類的指導(dǎo)或參與。歷史上，人類憑借自己的雙手，利用石灰石、黏土和大理石創(chuàng)造了七大奇跡，然后又利用鋼鐵和玻璃建造了更高的尖塔。

每一座人工建筑，無論是紀念性的還是實用性的，都是人類試圖建造和控制物質(zhì)環(huán)境的見證。在此背景下，人工智能的實體具身化將標志著人類在放棄自身控制權(quán)方面的一次非同尋常的事態(tài)升級。

一方面，未來的人工智能看起來會更加自發(fā)和自激活，這可能會加劇今天人類已有的那種對外部世界缺乏控制、模糊而又令人不安的感覺。但另一方面，若是屈服于這些焦慮，則可能會導(dǎo)致人類放棄與人工智能在物質(zhì)世界中建立更完美伙伴關(guān)系的念頭，而這也將令我們與這種關(guān)系可能會帶來的諸多益處無緣。

抉擇時刻

人工智能的雛形已經(jīng)顯現(xiàn)，它可以比較概念、提出反駁和生成類比。它正朝著評估真實和實現(xiàn)直接動力學(xué)效應(yīng)的方向邁出第一步。

當(dāng)機器到達智力或物質(zhì)世界的盡頭時會發(fā)生什么？可以想象，當(dāng)它們開始了解并塑造我們的世界時，它們可能會完全理解自身創(chuàng)造行為所依據(jù)的背景，也可能會超越我們所知的世界。

我們面臨著一場麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險，而是面對超越人類理解極限的奧秘所帶來的智力危機。

如果人類開始意識到，自己作為地球上最重要的智力和體力行為者的地位可能會被取代，一些人可能會賦予機器一種神性，從而有可能進一步激發(fā)人類的宿命論和屈從心理。另一些人則可能會采取相反的觀點：一種以人類為中心的主觀主義，徹底否定機器觸及任何程度的客觀真理的可能性，并試圖取締人工智能賦能的活動。

這兩種思維方式都無法讓“技術(shù)人”——一種在這個新時代可能與機器技術(shù)共生的人類物種——實現(xiàn)令人滿意或建設(shè)性的進化。事實上，這兩種心態(tài)都可能阻礙我們這個物種的進化。

那么，到底是人類選擇自己的目標，然后駕馭人工智能去實現(xiàn)這些目標，還是人類讓人工智能幫助選擇其中的部分目標？當(dāng)務(wù)之急是人類必須給人的尊嚴下一個現(xiàn)代的、可持續(xù)的定義，從而為未來歲月的決策提供哲學(xué)方向。

對全球科學(xué)界而言，當(dāng)務(wù)之急是找到可以在每一個人工智能系統(tǒng)中加入內(nèi)在安全保障的技術(shù)手段。各國和國際組織圍繞一項共識攜手合作后，必須為監(jiān)測、強制執(zhí)行和危機應(yīng)對建立新的政治結(jié)構(gòu)。這需要解決兩個“對齊問題”：一個是人類價值觀和意圖與人工智能行動在技術(shù)層面的對齊，另一個是人與人之間在外交層面的對齊。

人工智能所獨有的、人類以往所不具備的知識——尤其是物質(zhì)世界的知識——的涌現(xiàn)，將迫使人們重新思考人類心智的相對地位。人類將不得不把自己的大腦置于一套新的、更連貫的智能體譜系內(nèi)，而這勢必將徹底改變我們的感知、自我認知和行為。

人類心理需要與人工智能及其影響共同進化。我們很難準確預(yù)測人工智能將如何影響人類，但人工智能對人類所賦予的意義將不亞于它從人類那里所消減的意義，甚至猶有過之。

我們渴望的是一個人類智能和機器智能能夠相互賦能的未來。要實現(xiàn)這一目標，每種智能都必須充分了解對方。確定“我們是誰”只是第一步，因為人類的定義并不是一成不變的。要讓我們的機器和我們自己都變得易為人知、一目了然和真實可信，還需要做更多的工作。

互動送好禮

你認為與人工智能相比，作為人類的我們最核心的價值是什么？歡迎留下你的思考和見解，我們將從中選取6位讀者，送出《人工智能時代與人類價值》一本。

注：時間截至4月3日24:00，獲獎用戶請于收到通知后24小時內(nèi)回復(fù)郵寄信息，未收到通知或未及時回復(fù)則視為“謝謝參與”。

壹

貳

叁

肆

伍