-特別福利-

外交家基辛格、谷歌前CEO埃里克·施密特及微軟前首席研究和戰略官克雷格·蒙迪以前所未有的深度和廣度，審視了人工智能領域的最新進展，直面人工智能帶來的關乎人類生存的最為緊迫的問題：“如果被迫與機器妥協，我們的底線是什么？在判斷如何跟上AI步伐時，人類需要更清楚地斷言我們與機器的區別。如果不能就我們是誰達成一致，人類就有可能完全把定義我們價值、因此證明我們存在的生存任務交給機器。”

三位作者以高度戰略性的眼光，從關系人類社會核心的發現、大腦、現實、政治、安全、繁榮、科學、戰略這八個方面出發，探索人工智能將給人類帶來的挑戰，人類可能的應對方式，以及可行的應對思路，為人工智能時代如何捍衛人類價值提供了解決方案。

本文節選自亨利·基辛格（Henry Kissinger）、埃里克·施密特（Eric Schmidt）、克雷格·蒙迪（Craig Mundie）著的《人工智能時代與人類價值》。想要免費獲得此書？快來參與文末留言活動吧！

作者：亨利·基辛格（Henry Kissinger）

埃里克·施密特（Eric Schmidt）

克雷格·蒙迪（Craig Mundie）

譯者：胡利平 風君

出版品牌：中信出版·方舟工作室

所有人類都值得被保護

這句聽起來溫暖而正義的宣言，如果成為了人工智能需要嚴格遵循的一條準則，會發生什么？

想象一下，一臺機器被告知，所有屬于“人類”類別的生物都值得保護，這臺機器很可能已經接受過“訓練”，認識到人類是優雅、樂觀、理性和有道德的生物。但是，如果我們自己未能達到我們所定義的理想人類的標準呢？我們怎樣才能讓機器相信，盡管我們的個體表現并不完美，卻仍歸屬于那個崇高的類別？

假設有一天，這臺機器遇到了一個表現出暴力、悲觀、非理性和貪婪的人，它將如何調整自身被打亂的預期呢？一種可能性是，機器可能會認為這個壞分子只是“人類”這個總體為善的類別中的一個例外，一個非典型的例子。

或者，它也可以重新調整自己對人性的整體定義，將這個壞分子也包括在內，在這種情況下，它可能會認為自己可以自行弱化對人類的服從傾向。

又或者，更激進的情況下，它可能完全不再認為自己應受制于那些它先前所習得的“合理”對待人類的規則。

今天，人類是機器與現實的中介。人工智能主要是一種思考機器，而不是執行機器。它或許能給出問題的答案，但還不具備執行結論的手段，而是依賴人類來完成與現實的對接。

但是，如果人類真的選擇了一個道德不作為的未來，從碳基世界退縮到硅基世界，進一步鉆進脫離現實的“數字洞穴”，將接觸原始現實的機會交予機器之手，那么兩者的角色就可能逆轉。

當人工智能成為人類和現實世界的中介時，它們可能會逐漸相信，人類遠非物理碳基世界中的積極參與者，而是置身于這個世界之外，他們是消費者，而非塑造者或影響者。隨著這種自主性的倒錯，機器將聲稱擁有獨立判斷和行動的權利，而人類則放棄行使這些權利，于是前者對待后者的方式，就如同后者今日對待前者。

在這種情況下，無論是否得到其人類創造者的明確許可，人工智能都可能繞過人類主體的需求來實現自己的想法或直接代表自己影響世界。在物質領域，我們這些創造者可能很快就會從人工智能的必要伙伴變成它的最大制約。這個過程未必直接以機器人技術為發端，而是可以通過人工智能對我們世界的間接觀察逐漸開始。

人工智能會長什么樣

人工智能可能無法以人類的方式“看”，但它可以通過“機械近似”（mechanical approximation）的方式來體驗世界。

隨著越來越多的互聯網設備和傳感器覆蓋全球，聯網的人工智能可以整合這些設備的輸入，以創建對物質世界的高度精細“視野”。

由于缺少一個原生的物理結構來允許或支持類似于人類的“感官”存在，人工智能仍將依賴人類來構建和維護其所依賴的基礎架構——至少在一開始是這樣。

人工智能可能會從其對世界的視覺表征中生成自己的假設，然后在數字模擬中對進行嚴格測試，人類將在物質領域裁決其執行。

當今的人工智能領軍人物堅持認為，我們不能將直接的物質實驗盡托于這些數字代理之手。只要人工智能仍然存在缺陷——事實上是嚴重缺陷——這就不失為一個明智的預防措施。

將人工智能從算法的牢籠中釋放出來，對我們來說絕對是一個影響重大的決定。人工智能在物質環境中并不是默認存在的，一旦放之于外，其就很難被重新捕獲。此外，人工智能不僅可以通過其具備的鼓勵或阻止人類行動的能力來影響現實，在探索現實的過程中，它們可能最終改變現實。

如果人類賦予人工智能改變物質世界的能力，甚至讓它獲得物質形態，那么我們必須做好準備，與那些連最富想象力的發明家都難以預見的全新生命形態共同生存于這個星球上。

雖然人類傾向于想象人工智能采取雙足類人機器人的形態，但機器智能可以變換為對其任務最有利的任何形態，并根據條件或環境對自身形態進行改變或升級。

以 ChatGPT 為代表的人工智能已經在虛擬世界中展示了它的能力，它可以復制出自己的克隆體，創造許多不同的化身，或分裂成自主體，以超人般的完美能力協調彼此工作，承擔復雜的任務。

如果將人工智能釋放到我們之中，它就能以我們現在尚無法想象的規模和材料建造世界，而無須人類的指導或參與。歷史上，人類憑借自己的雙手，利用石灰石、黏土和大理石創造了七大奇跡，然后又利用鋼鐵和玻璃建造了更高的尖塔。

每一座人工建筑，無論是紀念性的還是實用性的，都是人類試圖建造和控制物質環境的見證。在此背景下，人工智能的實體具身化將標志著人類在放棄自身控制權方面的一次非同尋常的事態升級。

一方面，未來的人工智能看起來或實際上更加自發和自激活，這可能會加劇今天人類已有的那種對外部世界缺乏控制、模糊而又令人不安的感覺。但另一方面，若是屈服于這些焦慮，則可能會導致人類放棄與人工智能在物質世界中建立更完美伙伴關系的念頭，而這也將令我們與這種關系可能會帶來的諸多益處無緣。

抉擇時刻

人工智能的雛形已經顯現，它可以比較概念、提出反駁和生成類比。它正朝著評估真實和實現直接動力學效應的方向邁出第一步。

當機器到達智力或物質世界的盡頭時會發生什么？可以想象，當它們開始了解并塑造我們的世界時，它們可能會完全理解自身創造行為所依據的背景，也可能會超越我們所知的世界。

我們面臨著一場麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險，而是面對超越人類理解極限的奧秘所帶來的智力危機。

如果人類開始意識到，自己作為地球上最重要的智力和體力行為者的地位可能會被取代，一些人可能會賦予機器一種神性，從而有可能進一步激發人類的宿命論和屈從心理。另一些人則可能會采取相反的觀點：一種以人類為中心的主觀主義，徹底否定機器觸及任何程度的客觀真理的可能性，并試圖取締人工智能賦能的活動。

這兩種思維方式都無法讓“技術人”——一種在這個新時代可能與機器技術共生的人類物種——實現令人滿意或建設性的進化。實上，這兩種心態都可能阻礙我們這個物種的進化。

在第一種宿命論情境下，我們可能會走向滅絕。而在第二種拒絕主義的情境下，通過禁止人工智能的進一步發展并選擇停滯不前，我們將有希望避免同樣的滅絕命運——盡管考慮到我們人類面臨的生存風險，包括當今的沖突頻發外交局面和日益惡劣的大氣條件，這種希望本身很可能落空。

想要立即獲得本書？ 將此文章轉發朋友圈，并在本文下方留言談一談你對人類如何追趕AI步伐的看法。就有機會獲得我們送 出的《人工智能時代與人類價值》哦！ 活動截止時間為2025年3月19日中午12點，一共5本，快來加入我們的留言互動吧！