自OpenAI 全量上線了GPT-4o圖像生成功能后不久，最近刮起了一股“吉卜力”之風，這一屬于經典日本動畫的代表性符號在AI的加成下迅速走紅，大家紛紛曬出了大量生成案例。

OpenAI高管們也開始下場助力，就連OpenAI的CEO奧特曼也火速換上了這一風格的頭像。

然而，并不是所有人都持樂觀態度。吉卜力風格的重要塑造者、享譽世界的動畫導演宮崎駿大師曾在一段采訪中明確表示：“我明確感到這（AI生成的動畫）是對生命本身的一種侮辱。”事實上，AI生成的“吉卜力風格”圖片也存在一定的版權爭議，很多律師表示，目前像4o這樣的做法更像游走在“灰色地帶”。

宮崎駿的觀點引起我們的深思。看上去，AI越來越智能，上限越來越高，甚至無需人出手就可以幫人完成工作，甚至比大部分人做得都好，堪比一個有著幾十年練習經驗的專精者。但實際上，這是否是“對生命本身的侮辱”？

當我們驚嘆于AI創造力與效率的同時，我們也不得不思考一個更加深刻的問題：在這個技術飛速發展的時代，人類如何捍衛自身的尊嚴與價值？

正如基辛格等人在新書《人工智能時代與人類價值》中所警示的，當人類逐漸依賴機器處理越來越多的決策時，我們究竟是要讓科技賦能人類，還是被科技重新塑造甚至取代？

如果我們無法清晰界定人類與機器的本質區別，我們可能會將定義自身價值的任務交給機器。而這可能是人類文明面臨的最大考驗。

01

人工智能將開創“富足時代”

人工智能的出現提供了一個真正的機會，通過將人類的勞動功能轉移到機器上，取代了至少一種原始的生產要素。此外，人工智能還將用于研究和開發日益廉價與豐富的原材料來源，作為對其自身的投入。隨著人工智能同時應用于制造業，它可以減少任何特定商品所需的資本。誠然，裝備這種非人類智能本身仍需要一些不可再生的要素和商品，但如果人工智能被成功地用于尋找或生成這些要素的合成替代品，情況可能會為之一變。人工智能可以重新設計一種新的計算架構，其效率要比現有的高出幾個數量級。最終，制造人工智能各組成部分的工廠也可以對此如法炮制。

人工智能可以為各種商品生產更具可持續性的合成替代品，從而開創一個新的富足時代。即使考慮到目前的一些物理和物質限制，人工智能的產出——盡管不是無窮無盡的——也可以達到相當寬裕的程度，足以滿足人類所有基本需求，并實現我們的眾多期待。這可能會讓我們在心理層面不再那么受制于經濟學的稀缺范式，以及我們為生存所迫而工作所導致的悲觀情緒。

但是，引導這些蘊含巨大可能性的能量，并重新分配這些發展方向所帶來的利益，是一項重大責任。未來的決策者必須小心謹慎，避免讓工業革命時期蔓延開來的各種社會和經濟不平等現象再度固化，然后才談得上著手通過更多由人類主導的控制結構對此加以糾正，盡管其糾正速度將十分緩慢。

盡管如此，本書的作者們仍相信，人工智能可以作為創造人類財富和福祉的新基準，而這種可能性本身就敦促我們朝著這個方向努力。此外，我們有信心，如果這樣的經濟和政治方案得以實現，那么其即便不能完全消除之前蹂躪人類的各種勞動、階級和沖突壓力，至少也可以減輕這些壓力。

我們確實擔心大部分人類會成為人工智能生成內容的被動消費者。但這種擔憂源于人類好逸

惡勞的傾向，而且更令人不安的一點在于，關于人工智能在未來對我們的看法，我們也只能假設揣測而已。

換句話說，我們對人類被動性的擔憂并不是因為人類失去了有償工作的機會。其實，關于人們不用工作就能得償所愿時是如何生活的，我們現在已經有了相應的原型。我們稱這些人為富人和退休者。當然，富人——包括許多以前并不富有的人——有時會在多年辛苦積累財富之后不知如何行使他們的選擇權。正如托爾斯泰所說：“如果有一個仙女來滿足我的一切愿望，我也不知道該許什么愿。”

對富足的適應可能只是一個過渡性問題，而不是永久性的挑戰。有些人最初會認為機器勞動的引入剝奪了他們獲得滿足和快樂的主要來源。毫無疑問，這將是一次令人不快的經歷。但對我們來說，這似乎不是對我們告誡的回應，而是人類本能的產物——在既定時期內，人類總會選擇鍥而不舍，或許是就此踏上新的道路，或許是成為人工智能的伙伴。人類不會畏縮不前，而是會轉而成為優秀的思考者和實干家。最終，即便我們建立了分配、連接、參與和教育所需的諸多系統，但在人工智能賦予的力量和啟發之下，人類也可能會繼續工作，不為報酬，而是為了快樂和自豪感。

02

人類有多少能動性？

一旦人工智能不再將人類視為機器世界的唯一創造者和主宰者，而是將其視為更廣闊世界中彼此離散的活動者，那么機器將如何看待人類？人工智能將如何描述和權衡人類不完美的理性及其他品質？一個能感知現實的人工智能需要多久才會自問，人類有多少能動性？而它又需要多久才會根據人類特有的可預測屬性，問問自己人類“應該”有多少能動性？

那么機器本身呢？智能機器是否會將人類對它的指令理解為機器自身實際角色和理想角色的實現？或者說，它可能會從自身的功能中推斷出自己本應是自主的，因此人類對機器的編程是一種奴役的形式？

最重要的是，人類的行為方式及其對待機器的方式將影響機器對人類的看法及其對自身在整個關系中所扮演角色的認知。畢竟，人類是通過明確的指令和行為方式向機器展示人性的，機器也是通過這些指令和行為方式學會識別人類并以適當的方式對待人類的。

想象一下，一臺機器被告知，所有屬于“人類”類別的生物都值得保護，這臺機器很可能已經接受過“訓練”，認識到人類是優雅、樂觀、理性和有道德的生物。但是，如果我們自己未能達到我們所定義的理想人類的標準呢？我們怎樣才能讓機器相信，盡管我們的個體表現并不完美，卻仍歸屬于那個崇高的類別？

假設有一天，這臺機器遇到了一個表現出暴力、悲觀、非理性和貪婪的人，它將如何調整自身被打亂的預期呢？一種可能性是，機器可能會認為這個壞分子只是“人類”這個總體為善的類別中的一個例外，一個非典型的例子。

或者，它也可以重新調整自己對人性的整體定義，將這個壞分子也包括在內，在這種情況下，它可能會認為自己可以自行弱化對人類的服從傾向。

又或者，更激進的情況下，它可能完全不再認為自己應受制于那些它先前所習得的“合理”對待人類的規則。

今天，人類是機器與現實的中介。人工智能主要是一種思考機器，而不是執行機器。它或許能給出問題的答案，但還不具備執行結論的手段，而是依賴人類來完成與現實的對接。

但是，如果人類真的選擇了一個道德不作為的未來，從碳基世界退縮到硅基世界，進一步鉆進脫離現實的“數字洞穴”，將接觸原始現實的機會交予機器之手，那么兩者的角色就可能逆轉。

當人工智能成為人類和現實世界的中介時，它們可能會逐漸相信，人類遠非物理碳基世界中的積極參與者，而是置身于這個世界之外，他們是消費者，而非塑造者或影響者。隨著這種自主性的倒錯，機器將聲稱擁有獨立判斷和行動的權利，而人類則放棄行使這些權利，于是前者對待后者的方式，就如同后者今日對待前者。

在這種情況下，無論是否得到其人類創造者的明確許可，人工智能都可能繞過人類主體的需求來實現自己的想法或直接代表自己影響世界。在物質領域，我們這些創造者可能很快就會從人工智能的必要伙伴變成它的最大制約。這個過程未必直接以機器人技術為發端，而是可以通過人工智能對我們世界的間接觀察逐漸開始。

03

智能體的發展&人類的抉擇時刻

在短期內，我們可以預見人工智能目前所遵循的指導原則將不斷進步，其中許多原則將比現在的要復雜巧妙得多。對現有模型的擴展將使其更智能、更準確、更可靠。與此同時，訓練和“推理”的成本正在迅速下降，從而導致不同價位和能力水平的模型廣泛涌現。

如今，許多科學家都在研究“智能體”（agent），即經過優化以實現特定結果的自主計算機程序。例如，為了執行復雜的架構設計，用戶可以雇用專門從事該具體工作領域的智能體。

屆時將出現數以百萬計的人工智能系統，它們很可能高度專業化，并構成我們生活的一部分；還有更少數量的功能極其強大的機器，它們具有“通用智能”，但這種智能又以非人類的方式呈現。無論是開放式和分散式的，還是封閉式和集中式的，作為通用人工智能運行的計算機都有可能在某一時刻聯網。專家級人工智能體將在不同主題之間相互咨詢，甚至以假想方式彼此進行“交談”。這些交互所使用的語言可能由計算機自行設計。

人工智能的雛形已經顯現，它可以比較概念、提出反駁和生成類比。它正朝著評估真實和實現直接動力學效應的方向邁出第一步。

當機器到達智力或物質世界的盡頭時會發生什么？可以想象，當它們開始了解并塑造我們的世界時，它們可能會完全理解自身創造行為所依據的背景，也可能會超越我們所知的世界。

我們面臨著一場麥哲倫式的變革，這一次我們面臨的不是駛出世界邊緣的危險，而是面對超越人類理解極限的奧秘所帶來的智力危機。

如果人類開始意識到，自己作為地球上最重要的智力和體力行為者的地位可能會被取代，一些人可能會賦予機器一種神性，從而有可能進一步激發人類的宿命論和屈從心理。另一些人則可能會采取相反的觀點：一種以人類為中心的主觀主義，徹底否定機器觸及任何程度的客觀真理的可能性，并試圖取締人工智能賦能的活動。

這兩種思維方式都無法讓“技術人”——一種在這個新時代可能與機器技術共生的人類物種——實現令人滿意或建設性的進化。事實上，這兩種心態都可能阻礙我們這個物種的進化。

在第一種宿命論情境下，我們可能會走向滅絕。而在第二種拒絕主義的情境下，通過禁止人工智能的進一步發展并選擇停滯不前，我們將有希望避免同樣的滅絕命運——盡管考慮到我們人類面臨的生存風險，包括當今的沖突頻發外交局面和日益惡劣的大氣條件，這種希望本身很可能落空。

04

如何定義人類價值？

隨著機器越來越多地具備人類的特質（且如果某些人類通過自我強化而具備機器的特質），這兩者之間的界限將變得模糊不清。什么是人工智能，什么是人類，這些定義都將發生變化，在某些情況下甚至會合而為一。因此，在判斷我們必須如何跟上人工智能的步伐時，人類需要更明確地指出我們與機器的區別。那么，我們將如何梳理和壓縮整個人類經驗范圍，以方便人工智能理解何為人類的問題呢？

為了避免我們被降格至“低機器一等”或干脆被機器取而代之，一些人希望通過人性與神性的接近，來證明我們的與眾不同。另一些人則希望得出更具戰術性的結論：哪些決策可以交給機器，哪些不能。我們則建議闡明一種或一組屬性，讓人類中大多數人都能被其涵蓋并圍繞其進行定位：這類屬性將為“什么可取”提供一個底線，而不是為“什么可能”提供一個上限。

作為起始，我們鼓勵對“尊嚴”進行定義。如果沒有一個共同的尊嚴定義，當人工智能被用作侵犯或損害尊嚴的方法或理由時，我們將無法達成一致，因而我們的應對措施就會束手束腳。沒有對尊嚴的定義，我們就不知道人工智能在具備足夠能力的情況下，是否以及何時能夠成為一個有尊嚴的存在，或者能夠完全站在人類立場上行事，或者能夠完全與人類一致。人工智能即使被證明是非人類，也可能是一個獨立的、同樣有尊嚴的族類的成員，它也應該有自己的、平等的待遇標準。

為了保持對自身的理解，也為了確保在機器學習的過程中能夠將適當的人類概念傳遞給機器，我們人類需要重新致力于此類界定工作，且不能局限于學術范疇。發揮能動性、好奇心和自由，重新激發和鍛煉我們對其他人、對自然世界、對宇宙、對神性可能的好奇心，這些將有助于我們持續參與對人類界限的重新定義。

誠然，僅有尊嚴是不夠的。在我們與人工智能的未來合作中，還應該具體考慮其他屬性，或許還可以將這些屬性添加到人性的概念中。但是，我們是否有能力定義和維持人性的核心要素，并將其作為人工智能理解整個人性的基準，現在已是一個具有生存意義的問題，所以努力向人工智能灌輸我們的諸多定義這項工作必須現在就勉力為之。

任何定義都不會一成不變；毫無疑問，隨著我們自身身份的轉變，我們將需要不斷發展人工智能對我們的理解。與此同時，那些更勝于我們的一代新人將繼續推進我們對“我們”和“它們”之間動態關系的集體思考，他們中的天賦異稟之人可能會構想出一種人類概念，旨在更強烈地（即使是徒勞地）確保我們作為一個可識別的物種而生存下去。然而，即便如此，我們這代人仍應努力尋求一種更進一步的定義和程序，將人類的境況提升到新的高度。因為，人工智能本身難道不就可以作為最有力的證據，證明人類有能力成為創造的積極參與者嗎？