1997 年，IBM 的 “Deep Blue” 在一場國際象棋比賽中擊敗了當(dāng)時(shí)的世界冠軍Garry Kasparov，很明顯，計(jì)算機(jī)國際象棋引擎很快就會超越人類棋手。有趣的是，一名準(zhǔn)備充分的人類與一臺計(jì)算機(jī)協(xié)同工作（這種組合通常被稱為 “"centaur"”），能夠超越那個(gè)時(shí)代最強(qiáng)大的國際象棋引擎。

人類可以憑借直覺， 引導(dǎo)引擎進(jìn)行搜索，應(yīng)對復(fù)雜的局面，并識別出標(biāo)準(zhǔn)引擎忽略的細(xì)微差別。再結(jié)合計(jì)算機(jī)強(qiáng)大的計(jì)算能力，這種人+機(jī)器組合往往能比單獨(dú)的計(jì)算機(jī)做出更明智的實(shí)際決策。

當(dāng)我思考未來幾年人工智能系統(tǒng)對勞動力市場和經(jīng)濟(jì)的影響時(shí)，我預(yù)計(jì)會出現(xiàn)類似的模式。智能體系統(tǒng)將釋放無數(shù)的智能單元，去解決世界上尚未解決的問題。但如果沒有人類的有力指導(dǎo)和支持，它們將依舊無法做到這一點(diǎn)。人類將引導(dǎo)搜索范圍，幫助提出正確的問題，讓人工智能朝著答案努力。

如今人們的普遍設(shè)想是，智能體終有一日會取代人類。這個(gè)設(shè)想看似切實(shí)可行又是不可避免的未來，但只有當(dāng)人類為智能體工作時(shí)，才會解鎖更具吸引力的經(jīng)濟(jì)潛力。在未來 24 個(gè)月內(nèi)，我預(yù)計(jì)會出現(xiàn)第一家零員工公司，這一概念是我的合作伙伴凱爾在他的《2025 年前沿理念》一文中提出的。具體而言，我預(yù)計(jì)會有以下情況：

• 一個(gè)由代幣治理的智能體將籌集超過 10 億美元，以解決一個(gè)尚未解決的問題（比如治愈一種罕見疾病，或制造用于國防的納米纖維）。

• 該智能體將向人類支付超過 1 億美元（這些人為智能體工作，在現(xiàn)實(shí)世界中幫助其實(shí)現(xiàn)目標(biāo)）。

• 一種新的雙層代幣結(jié)構(gòu)將會出現(xiàn)，它會根據(jù)資本和勞動力來區(qū)分所有權(quán)（這樣一來，經(jīng)濟(jì)激勵(lì)就不是整體治理的唯一考量因素）。

由于智能體遠(yuǎn)未達(dá)到獨(dú)立自主的程度，還無法處理長期的規(guī)劃和執(zhí)行，在短期內(nèi)，智能體對人類的需求要超過人類對它們的需求。這將催生出全新的勞動力市場，促進(jìn)智能代理系統(tǒng)與人類之間的經(jīng)濟(jì)協(xié)作。

馬克?安德森那句著名的話 ——“計(jì)算機(jī)和互聯(lián)網(wǎng)的普及將把工作分為兩類：一類是告訴計(jì)算機(jī)做什么的人，另一類是被計(jì)算機(jī)告知做什么的人”，在今天比以往任何時(shí)候都更加貼切。我預(yù)計(jì)，在快速演變的智能體/人類等級體系中，人類將扮演兩種截然不同的角色：一種是作為勞動力貢獻(xiàn)者，代表智能體完成小型的懸賞式任務(wù)；另一種是作為去中心化的董事會成員，為智能體的核心目標(biāo)提供戰(zhàn)略建議。

本文通過探討三個(gè)關(guān)鍵問題，來研究智能代理和人類將如何共同創(chuàng)造價(jià)值，以及加密技術(shù)如何為這種協(xié)作提供理想的基礎(chǔ)：

• 智能體有什么用？我們應(yīng)該如何根據(jù)其目標(biāo)范圍對智能體進(jìn)行分類？在不同的分類中，所需的人類投入有何不同？

• 人類將如何與智能體互動？人類的投入，如戰(zhàn)術(shù)指導(dǎo)、情境判斷或理念契合，是如何融入這些智能代理的工作流程的（反之亦然）？

• 隨著時(shí)間推移，人類投入減少會發(fā)生什么？隨著智能體能力的提升，它們會變得自給自足，即能夠獨(dú)立思考和行動。在這種模式下，人類將扮演什么角色？

生成式推理系統(tǒng)與從中受益的人們之間的關(guān)系，將隨著時(shí)間發(fā)生巨大變化。我從智能體目前的能力出發(fā)進(jìn)行展望，并從零員工公司的最終狀態(tài)反向推導(dǎo)，來研究這種關(guān)系。

1

如今，智能體有什么用？

第一代生成式人工智能系統(tǒng)，即 2022 - 2024 年以聊天機(jī)器人為基礎(chǔ)的大語言模型，如 ChatGPT、Gemini、Claude、Perplexity 等，在很大程度上是為輔助人類工作流程而設(shè)計(jì)的工具。用戶通過輸入 / 輸出提示這些系統(tǒng)進(jìn)行交互，解析系統(tǒng)給出的回復(fù)，然后依據(jù)自己的判斷，決定如何將結(jié)果應(yīng)用到實(shí)際中。

下一代生成式人工智能系統(tǒng)，即 “智能體”，代表了一種新的模式。像具有 “計(jì)算機(jī)使用” 功能的 Claude 3.5.1 和 OpenAI 的 Operator（即可以使用你的計(jì)算機(jī)的智能體），它們能夠代表用戶直接與互聯(lián)網(wǎng)交互，還能自主做出決策。這里的關(guān)鍵區(qū)別在于，判斷以及最終的行動是由人工智能系統(tǒng)執(zhí)行，而不是人類。人工智能正在承擔(dān)以前由人類負(fù)責(zé)的職責(zé)。

這種轉(zhuǎn)變帶來了一個(gè)挑戰(zhàn)：缺乏確定性。與傳統(tǒng)軟件系統(tǒng)或工業(yè)自動化不同，后者在設(shè)定的參數(shù)范圍內(nèi)可預(yù)測地運(yùn)行，而智能代理依賴概率推理。這使得它們在相同場景下的行為不那么一致，引入了不確定因素，這在關(guān)鍵情況下并非理想狀態(tài)。

換句話說，確定性與非確定性智能體的存在，自然地將智能體分為兩類：一類，就是能夠有效推動經(jīng)濟(jì)增長、提升現(xiàn)有經(jīng)濟(jì)規(guī)模的方法或主體；另一類更適合通過創(chuàng)新或新經(jīng)濟(jì)活動（如新技術(shù)、新產(chǎn)業(yè)、新市場等）來創(chuàng)造新的經(jīng)濟(jì)增長點(diǎn)，而不是僅僅擴(kuò)大現(xiàn)有的經(jīng)濟(jì)規(guī)模。

1.對于那些最擅長擴(kuò)大現(xiàn)有 GDP 的智能體而言，要做的工作從定義上來說是已知的。自動化客戶支持、處理貨運(yùn)代理合規(guī)事務(wù)，或?qū)彶?GitHub 上的拉取請求，這些都是定義明確、范圍有限的問題，智能體可以直接將回復(fù)映射到一組預(yù)期結(jié)果上。在這些領(lǐng)域，缺乏確定性通常是不利的，因?yàn)榇鸢甘且阎模⒉恍枰獎(jiǎng)?chuàng)造力。

2.對于那些最適合創(chuàng)造新 GDP 的智能體來說，它們的任務(wù)是在高度不確定和未知的問題中探索，以實(shí)現(xiàn)長期目標(biāo)。這里的結(jié)果要復(fù)雜得多，因?yàn)楸举|(zhì)上沒有可供智能代理映射的預(yù)期結(jié)果集。比如針對罕見疾病的藥物研發(fā)、材料科學(xué)領(lǐng)域的突破，或者開展全新的物理實(shí)驗(yàn)以更好地理解宇宙本質(zhì)等。在這些領(lǐng)域，缺乏確定性可能會有所幫助，因?yàn)槿狈Υ_定性也是一種創(chuàng)造性的體現(xiàn)。

專注于現(xiàn)有 GDP 應(yīng)用的智能體已經(jīng)在釋放價(jià)值。像 Tasker、Lindy 和 Anon 這樣的團(tuán)隊(duì)，都在構(gòu)建針對這一機(jī)遇的基礎(chǔ)設(shè)施。然而，隨著時(shí)間推移，智能代理能力的成熟和治理模式的演進(jìn)，各團(tuán)隊(duì)將把重點(diǎn)轉(zhuǎn)移到構(gòu)建能夠解決人類知識前沿和經(jīng)濟(jì)機(jī)遇領(lǐng)域問題的智能體上。

下一批智能體需要指數(shù)級增長的資源，正是因?yàn)樗鼈兊慕Y(jié)果是不確定且無邊界的 —— 我預(yù)計(jì)這些將成為最引人注目的零員工公司。

2

人類將如何與智能體互動？

如今的智能體缺乏執(zhí)行需要與現(xiàn)實(shí)世界進(jìn)行物理交互（如駕駛推土機(jī)）和 / 或需要人為干預(yù)（如銀行電匯）任務(wù)的能力。

例如，一個(gè)被賦予識別和提取鋰任務(wù)的智能體，可能在處理地震數(shù)據(jù)、衛(wèi)星圖像和地質(zhì)記錄以確定有潛力的地點(diǎn)方面表現(xiàn)出色，但在獲取數(shù)據(jù)和圖像本身、解決解釋中的歧義，或者獲得開采許可并雇傭勞動力進(jìn)行實(shí)際開采過程時(shí)，可能會遇到困難。

這些限制要求人類作為輔助者來增強(qiáng)智能體的能力，提供完成上述任務(wù)所需的現(xiàn)實(shí)世界聯(lián)系、戰(zhàn)術(shù)干預(yù)和戰(zhàn)略建議。隨著人類與智能代理關(guān)系的發(fā)展，我們還可以區(qū)分人類在智能體系統(tǒng)中扮演的角色：

1.首先是勞動力貢獻(xiàn)者，他們在現(xiàn)實(shí)世界中代表智能體開展工作。這些貢獻(xiàn)者幫助智能體移動物體，在需要人類出面時(shí)代表智能代理，從事需要體力的工作，提供進(jìn)入實(shí)驗(yàn)室或物流網(wǎng)絡(luò)的權(quán)限等。

2.其次是董事會成員，他們提供戰(zhàn)略建議，優(yōu)化驅(qū)動智能體日常決策的局部目標(biāo)函數(shù)，同時(shí)確保這些決策與定義智能體目標(biāo)的核心方向保持一致。

除了這兩個(gè)角色，我預(yù)計(jì)人類還將扮演資本貢獻(xiàn)者的角色，為智能體系統(tǒng)提供實(shí)現(xiàn)目標(biāo)所需的資源。一開始，這些資本自然來自人類，隨著時(shí)間推移，也會來自其他智能體。

隨著智能體的成熟，勞動力和指導(dǎo)貢獻(xiàn)者的數(shù)量不斷增加，加密技術(shù)為人類與智能代理的協(xié)作提供了理想的基礎(chǔ) —— 尤其是在一個(gè)智能代理指揮著說不同語言、使用不同貨幣支付、生活在世界各地不同司法管轄區(qū)的人們的世界里。智能代理會不擇手段地追求成本效益，利用勞動力市場來實(shí)現(xiàn)既定任務(wù)。加密技術(shù)為它們提供了協(xié)調(diào)勞動力和指導(dǎo)貢獻(xiàn)者的必要方式。

最近出現(xiàn)的支持加密技術(shù)的人工智能代理，如 Freysa、Zerebro 和 ai16z，代表了在資本形成方面的初步嘗試 —— 我們已在多種背景下深入探討過，這是加密和資本市場的核心突破。這些只是初步嘗試，將為一種新興的資源協(xié)調(diào)新模式鋪平道路，我預(yù)計(jì)這一過程如下：

1.第一步：人類通過代幣共同籌集資金（或許可以稱為首次代理發(fā)行？），確立廣泛的目標(biāo)函數(shù)和規(guī)則，明確智能代理系統(tǒng)的預(yù)期用途，然后將籌集到的資金控制權(quán)交給該系統(tǒng)（例如，用于精準(zhǔn)腫瘤學(xué)的新分子研發(fā)）；

2.第二步：智能體思考如何分配資金（如如何縮小蛋白質(zhì)折疊的搜索范圍，如何為推理工作負(fù)載、制造、臨床試驗(yàn)等制定預(yù)算），并通過定制懸賞任務(wù)，明確人類勞動力貢獻(xiàn)者需要代表它完成的行動（例如，輸入所有相關(guān)分子信息、與亞馬遜網(wǎng)絡(luò)服務(wù)簽訂計(jì)算服務(wù)級別協(xié)議，并進(jìn)行濕實(shí)驗(yàn)室實(shí)驗(yàn)）；

3.第三步：當(dāng)智能代理遇到障礙或面臨決策分歧時(shí)，必要時(shí)它會向董事會尋求戰(zhàn)略建議（如納入新的研究論文、改變研究方法），讓董事會在一定程度上引導(dǎo)其行為；

4.第四步：最終，智能代理的能力提升到能夠越來越精確地為人類定義行動，并且在資源分配方面幾乎不再需要人類的指導(dǎo)。此時(shí)，人類只需要在理念上確保系統(tǒng)與最初的目標(biāo)函數(shù)保持一致，防止其行為偏離正軌。

在這個(gè)例子中，加密和資本市場為智能代理提供了獲取資源和擴(kuò)展能力的三個(gè)關(guān)鍵基礎(chǔ)設(shè)施：第一，全球支付網(wǎng)絡(luò)；第二，無許可限制的勞動力市場，用于激勵(lì)勞動力和指導(dǎo)貢獻(xiàn)者；第三，資產(chǎn)發(fā)行和交易基礎(chǔ)設(shè)施，這對于資本形成以及后續(xù)的所有權(quán)和治理至關(guān)重要。

3

隨著人類投入減少會發(fā)生什么？

在 21 世紀(jì)初，國際象棋引擎取得了巨大進(jìn)步。借助先進(jìn)的啟發(fā)式算法、神經(jīng)網(wǎng)絡(luò)和更強(qiáng)大的計(jì)算能力，它們幾乎達(dá)到了完美的程度。像 Stockfish、Lc0 和 AlphaZero 的變體等現(xiàn)代國際象棋引擎，其能力遠(yuǎn)遠(yuǎn)超過人類，人類的干預(yù)很少能增加價(jià)值，在大多數(shù)情況下，反而會引入引擎自身不會犯的錯(cuò)誤。

智能代理系統(tǒng)也可能會經(jīng)歷類似的發(fā)展軌跡。隨著我們通過與人類協(xié)作者的反復(fù)互動來優(yōu)化這些智能體，從長遠(yuǎn)來看，智能體有可能變得非常能干，并且與它們的目標(biāo)高度契合，以至于任何人類戰(zhàn)略建議的價(jià)值都趨于零。

在這樣一個(gè)世界里，智能體能夠持續(xù)處理復(fù)雜問題而無需人類干預(yù)，人類的角色可能會逐漸退化為被動的觀察者。這正是人工智能悲觀論者的核心擔(dān)憂（不過，目前還不清楚這種結(jié)果是否會成為現(xiàn)實(shí)）。

我們正站在超級智能的邊緣，我們當(dāng)中的樂觀主義者希望智能代理系統(tǒng)始終是人類意圖的延伸，而不是演變成擁有自身目標(biāo)或不受約束地自主運(yùn)行的實(shí)體。在實(shí)踐中，這意味著人類身份（人格）和判斷力（權(quán)力與影響力）必須在這些系統(tǒng)中保持核心地位。人類需要對這些系統(tǒng)擁有強(qiáng)大的所有權(quán)和治理權(quán)，以確保能夠持續(xù)監(jiān)督，并將這些系統(tǒng)的發(fā)展方向與人類的共同價(jià)值觀緊密相連。

4

智能體未來需要哪些必備工具

技術(shù)突破會帶來非線性的經(jīng)濟(jì)進(jìn)步，在世界做出調(diào)整之前，與之相關(guān)的系統(tǒng)往往會先出現(xiàn)問題。智能代理系統(tǒng)的能力正在迅速提升，加密和資本市場已經(jīng)成為推動這些系統(tǒng)建設(shè)、并在其融入社會的過程中設(shè)定規(guī)則所不可或缺的協(xié)調(diào)基礎(chǔ)。

為了讓人類能夠?yàn)橹悄艽硐到y(tǒng)提供戰(zhàn)術(shù)支持和積極指導(dǎo)，我們預(yù)計(jì)會出現(xiàn)以下 “必備工具” 類的機(jī)遇：

1.代理身份證明 + 人類身份證明：智能體缺乏身份或產(chǎn)權(quán)的概念。作為人類的代理，它們依賴人類的法律和社會結(jié)構(gòu)來獲得行動能力。為了彌合這一差距，我們需要為智能代理和人類建立強(qiáng)大的身份系統(tǒng)。一個(gè)數(shù)字認(rèn)證登記系統(tǒng)可以讓智能代理建立聲譽(yù)、積累資質(zhì)，并與人類和其他智能代理進(jìn)行透明的交互。同樣，像 Humancode 和 Humanity Protocol 這樣的人類身份證明原語，能在這些系統(tǒng)中為人類身份提供有力保障，抵御惡意行為者的攻擊。

2.勞動力市場和鏈下驗(yàn)證原語：智能代理需要確認(rèn)它們分配的任務(wù)是否按照目標(biāo)完成。對于任何由智能代理介導(dǎo)的有意義的經(jīng)濟(jì)活動而言，那些能夠讓智能代理系統(tǒng)創(chuàng)建懸賞任務(wù)、驗(yàn)證任務(wù)完成情況并分發(fā)報(bào)酬的工具都是基本要求。

3.資本形成和治理系統(tǒng)：智能體需要資金來解決問題，同時(shí)也需要制衡機(jī)制，以確保它們的行為符合既定的目標(biāo)函數(shù)。為智能代理系統(tǒng)籌集資金的新結(jié)構(gòu)，以及融合了財(cái)務(wù)權(quán)益和勞動力貢獻(xiàn)的新型所有權(quán)和控制形式，將在未來幾個(gè)月成為一個(gè)充滿創(chuàng)新的設(shè)計(jì)領(lǐng)域。

該文章為編譯，標(biāo)題為：Inverting The Human-Agent Relationship

作者：SHAYON SENGUPTA