以ChatGPT為代表的開放式人工智能的問世，宣示著人工智能的發展來到了一個新的階段。與之相對應，一方面，人工智能成為了能夠輔助創作等各類活動的工具；另一方面，人工智能的科普工作將面臨新的任務與挑戰。從前沿科技科普的視角來看，針對人工智能現有的發展，相關的科普內容大體上可以分為兩類：一類主要關注人工智能的研究進展，并主要從計算機科學的角度介紹相關領域取得的成就和未來的發展前景；另一類則主要關注人工智能潛在的應用風險，呼吁加強對人工智能的倫理與法律治理等。

從科學傳播的角度來看，前一類研究容易為公眾帶來技術的“樂觀主義”思潮，讓公眾過于期待人工智能的進步；后一類則容易帶來技術的“悲觀主義”思潮，讓公眾過于警惕甚至是拒斥人工智能的發展。雖然這兩種后果都不是出自相關研究者的本意，但也從一個側面說明，有必要結合人工智能的技術實質，綜合考慮人工智能在不同情境下的運行狀態，相對全面地向公眾闡釋人工智能的社會形象。同時，為了增強科普效果，避免形成“傳者”與“受者”之間的認知鴻溝，還應采取相對生動的手法，盡可能連接人工智能的專業知識和公眾的常識認知。

縱觀廣義的科學社會學研究，科學修辭當中的“隱喻”手法將可以幫助我們完成這樣的任務。比如，西方學者提出的“馬太效應”就是借由《圣經》中“馬太福音”的典故解釋說明科學研究中的資源分配問題，“將原先在學者小圈子中探討的問題，以深入淺出的形式介紹給公眾，這對我們社會的健康發展大有幫助”[1]，學界也認為這些“科學文化語境下的科學傳播研究……成果豐碩、意義重大”[2]。這也意味著要恰當地將“科技發展”與“文化語境”相結合，才可能發揮“隱喻”在揭示人工智能的社會形象中的作用。

當前，諸如“小愛同學”“微軟小冰”和“豆包”等人工智能產品一般都采用擬人化形象，在文化創作中常以“伙伴”的身份出現。本文將從人工智能的技術實質出發，探究人工智能的“類本質”與具體情景中人工智能展現的社會形象，進一步分析人類應該以怎樣的策略來應用這些人工智能“伙伴”，從而更好地服務文化創作，尤其是科普創作。

一、從“人機握手”的隱喻到“人機網絡”的構建：人工智能的技術實質

談及隱喻，公眾容易聯想到的是一種文學寫作手法。事實上，在相對抽象的哲學與科學的研究中都會用到隱喻手法，比如拉美特利（Julien Offray de La Mettrie）“人是機器”的命題和牛頓力學中的“剛性小球”都使用了隱喻的手段，以幫助讀者更好地理解他們的觀點。目前，學術界主流觀點認為，“隱喻是人類語言中非常重要而普遍的思維方法和修辭方法”[3]。實際上，在人工智能的底層理論中，本身就包含著科學隱喻現象。

（一）計算機科學中的“握手”隱喻及人機協同單元的形成

眾所周知，相比于20世紀就已出現的功能單一的機器人和古已有之的機械傀儡，當代人工智能依靠計算機通信技術發揮其功能。計算機通信的實現是有條件的，這里需要的是一個“人機握手”的過程。“握手”（Handshake）就是帶有隱喻性質的計算機通信術語，指的是為實現數據通信，客戶端和服務端達成協定以實現數據傳輸的過程。這一過程發生在通信線路成功搭建之后，信息正式傳輸之前。正是“基于傳輸控制協議（TCP）的……握手特性”[4]保證了信息傳輸的實現。

與社交意義上的“握手”類似的是，計算機通信意義上的人機“握手”也保留了一定的儀式感。人類向人工智能發起問詢，而人工智能則做出相應的回應，這樣的“握手”是當前人類與人工智能之間最為傳統的交互模式，也是最基本的人機對話模型。用戶就是基于“握手”的基本環節實現了與諸多人工智能工具的連接，例如實現對“小愛同學”這樣的人工智能的語音喚醒，或是向ChatGPT發出“撰寫一篇星際穿越類的短篇小說”的指令并得到回應等。

如果說“握手”的儀式還可以提示人機邊界的存在，那么隨著人工智能功能的豐富，以及人們對于人工智能的使用頻次和使用深度的提升，“握手”可能逐漸模糊化，結束“握手”后也可能仍然保持著長時間的人機交互。這使得人機關系變得更加緊密，甚至讓使用者忽視人工智能一直作為一種技術環境在發生作用。“人機耦合體成為內容創作的最小單元”[5]，人與機器在具體行動中基于共同的目標形成一個統一體。

（二）“行動者網絡”隱喻及異質性人機系統的發展

開放式人工智能是基于大數據技術和高速網絡通信技術發展的產物。行動目標相同或相似的若干個人機耦合體會彼此連接，構成節點眾多、人機混合的關系網絡。以ChatGPT為代表的開放式人工智能平臺，就是在構建出一個巨型智能系統的基礎上，吸引一個個人機耦合體加入其中。

由此可見，開放式人工智能并不是一個物理邊界清晰的實體，而是基于信息傳輸和人機協同構成的復雜人機異質性系統，人機單元因為彼此之間的相互作用形成了一個巨大的網絡系統，其實質與法國哲學家拉圖爾（Bruno Latour）和卡龍（Michel Callon）等人提出的帶有隱喻性質的“行動者網絡理論”（Actor-Network Theory，簡稱ANT）類似。該理論中“包含三個核心概念：行動者（actor）、轉譯者（mediator）和網絡（network）”，并且“所有參與到科學實踐中的要素都是行動者，行動者既可以指人（human），也可以指非人（non-human）的存在和力量”[6]。

從開放式人工智能的運行機制來看，一個網絡體系已經初步形成，其中包含的人類行動者主要是廣義的技術人員、監管人員和用戶，非人類的行動者則包括各類計算機和網絡信息技術載體。值得注意的是，開放式人工智能網絡中多數行動者都是人機耦合體，不能片面地將其歸結為人或非人行動者。例如，一些大型機構或團體可能以“網絡節點”身份出現。為了既保證其結構和功能的穩定性，又擴大其影響力，這個網絡體系“將技術科學的工作表征為構建更大更穩定的網絡結構”[7]，通過將系統功能轉譯成用戶需求，從而吸引更多成員加入，以完成更大規模的分布式計算與分布式存儲工作。

“行動者網絡理論”的隱喻，形象地描摹了當前開放式人工智能的開發策略，還預設了人與非人行動者的平等地位。基于開放式人工智能的行動者網絡特質，可以形成兩方面認識。其一，開放式人工智能帶有較為明確的意向性和能動性，因而應該將其視為“準主體”并賦予“道德準主體”地位。正如前文所述，開放式人工智能是人機共建的復雜系統，這意味著無論我們認定獨立的計算機程序是否帶有意向性和能動性，人類與非人類行動者共同形成的整體都必然帶有意向性和能動性，只是有些來自人本身，有些來自計算機的轉譯。即便我們不能將人工智能系統視為與人類一樣的“主體”和“道德主體”，也應該將其視為“準主體”和“道德準主體”，由此才能“公平分配人工智能技術的風險，避免歸責體系的內在沖突”[8]等。其二，在不同情境下，人類與非人類行動者對于行動者網絡的協同和背叛程度不同，因此有必要考察人工智能的運作狀態及其社會影響。拉圖爾以行動者網絡來隱喻科技活動及其載體，方法論層面上最突出的啟發性就在于，可以通過分析人與非人的行動者對網絡整體的協同和背叛，來分析科技活動成功和失敗的原因。這一方法同樣適用于分析由人機系統構成的智能網絡系統的運行狀態。

二、理想、現實與憂慮：人工智能的“混血王子”“縫合怪”和“混世魔王”形象

在行動者網絡中，成員對網絡整體的協同和背叛程度是不同的，高度協同和高度背叛（貌合神離）是兩個極限情況，中間地帶則是那種成員間“若即若離”的狀態。前文提到，應該把開放式人工智能視為能夠在一定程度上成功表征人類意愿乃至偏好的“準主體”，并且在分析相關倫理問題時將其視為“道德準主體”。面對這種“擬人化”對象，可以借助隱喻手法來指稱上述三種狀態，進而理解開放式人工智能在上述狀態下展現的社會形象。

（一）高度協同的行動者，構成可正可邪的“混血王子”狀態

當行動者網絡中的成員高度協同時，就會涌現出強大的力量，并指向確定的實踐目標。對應到開放式人工智能運作中，就是人機交互順暢、數據收集無礙和信息處理順利的理想狀態。這種狀態可用“混血王子”來指稱。

“混血王子”的說法出自《哈利·波特》（Harry Potter）系列的第六部，是該作重要角色斯內普教授在青年時代給自己的昵稱。這里借用“混血王子”來隱喻人工智能，可以非常貼切地描摹這一理想狀態——與“混血王子”是“麻瓜”與“魔法師”的混血類似，人工智能系統嚴格意義上來說是人機交融形成的復雜的行動者網絡，如同人機混血的產物；也正如自稱“混血王子”的斯內普既可能被引導成為正道的守護者,也可能會被帶入歧途一般，人工智能也可能帶著人類賦予它的意向性為善或作惡。

“混血王子”狀態下的人工智能，內在的結構與功能都相當完備，其中的行動者都有比較明確的實踐目標，并且運行越穩定，就越容易動員其他行動者加入其中，形成規模更大、功能更強的智能系統。其中，最大的變數就在于，這種結構和功能都很理想的人工智能，究竟在接受哪種價值觀念的引導。原本處于中立狀態的行動者并不能有效辨別善惡，更多的時候受困于“信息繭房”的人機單元，很可能錯信某些價值引導，從而給出不符合事實的回應，當作者以這些歪曲的錯誤信息作為參照開展創作時，后果可想而知。

由此，就引出了人工智能倫理問題，即價值對齊問題。對于“混血王子”狀態下的人工智能，謹慎發現其可能存在的價值倡導問題，并及時添加專業的代碼干預，是很有必要的。否則，其功能越強，越可能對人類社會造成更加巨大的負面影響。而從人工智能的行動者網絡發展過程來看，人類行動者負面行為的疊加也可能誤導機器學習的方向，并隨著數據的積累涌現出意想不到的負面后果。

（二）若即若離的行動者，聯結成須被馴服的“縫合怪”狀態

分布式計算與存儲等技術是開放式人工智能涌現強大功能的基礎，這種“開放”也保證了各類成員（包括人與非人類的行動者）能夠加入到巨大的智能系統網絡中。某種意義上，這種開放與分布也是出于存儲空間不足和算力不足的無奈，由此也導致加入到系統中的各類行動者存在各方面的參差——這也是各類開放式人工智能面臨的現狀。ChatGPT 曾一度免費開放，就是希望能夠利用用戶設備的剩余功能，但這樣也導致接入到分布式網絡或人工神經系統中的終端設備可能存在代差，甚至還可能導致人工智能系統無法穩定工作。

在人工智能行動者網絡中，表面上看各成員之間構成了一個有機整體，實際上它們如同“縫縫補補”一般被串聯在一起，這就非常接近瑪麗·雪萊（Mary Shelley）的著名科幻小說《弗蘭肯斯坦》（Frankenstein）塑造的“縫合怪”形象。所謂的“縫合怪”，就是科學家弗蘭肯斯坦用四處湊集的人體組織縫合后所制造的人造人，弗蘭肯斯坦將雷電接通到“縫合怪”身上，讓其擁有了生命。目前的人工智能網絡系統也正是如此，構成網絡系統的成員除了一些專業的數據庫和超級計算機外，還有來自五湖四海、東拼西湊的智能手機、平板、個人電腦和智能車機系統等各種終端設備。

與“混血王子”狀態相比，“縫合怪”狀態的人工智能會更弱一些。作為成員的行動者之間的協同性，以及成員與行動者網絡整體的協同性都難有持久保證。尤其是一些非專業設備，很有可能因為用戶使用習慣的改變而短暫甚至是長期離線，這就很有可能讓人工智能系統的功能出現波動。除了接入設備的偶然“叛離”，接入的數據屬性、接入用戶的使用行為等也存在不確定性，這些因素都將對人工智能系統的數據挖掘結果產生影響，計算機系統內部也可能因為程序缺陷出現程序錯誤或因數據冗余出現運轉問題等。

“縫合怪”是開放式人工智能所處的常態，因此要防止其像《弗蘭肯斯坦》中“縫合怪”那樣處于失控狀態。這種失控，包括算力和資源不足造成的“罷工”或運轉失靈，以及生成低質量的內容。當前，在抖音、快手和小紅書等社交媒體平臺經常出現讓人啼笑皆非的不符合生活常理的AI 內容，因為數據污染和算法缺陷造成的文字內容生產質量問題也屢見不鮮，這都將影響到創作者與AI“伙伴”的合作質量。

（三）貌合神離的行動者，造就幼稚低能的“混世魔王”

人工智能有著明顯的數據依賴和算力依賴。當人工智能行動者網絡中的成員都貌合神離，甚至形同陌路時，人工智能將可能只會保留一個呆板的人機對話界面，并對用戶的問題做出一些錯漏百出的回答。這種狀態與《紅樓夢》中賈寶玉少不更事、調皮搗蛋的“混世魔王”形象有一些類似。

從某種程度來說，目前很多人工智能產物都可以看作“混世魔王”。它們顯得相對低能，其中的原因可能有兩種：一種原因是基礎程序與模型建構水平不足或存在明顯缺陷，導致其無法吸引新成員加入其中，因此也無法獲得更多智能終端的剩余算力，更無法獲得新的用戶數據投喂以促進人工智能的發展，比如微軟曾在2016年推出聊天機器人Tay，因總是發表帶有種族歧視性言論而被用戶抵制；另一種原因則是相關產品在設計之初就只規定了極為有限的功能選項，比如各大智能掃地機器人的人機對話系統就只能完成特定的打掃任務，無法勝任更多的對話功能，再比如一些智能早教機也只能完成一些有限功能，即便連接網絡也只能接收一些定向推送的功能包。

行動者網絡協同者的不足和背叛者的增加都將明顯削弱其功能，人工智能系統也是如此。無論出于有意或者無意，這些“混世魔王”狀態都是源于算力充沛的協同者數量不足，而且功能的缺陷會顯著增加背叛者的數量。人工智能的幼稚低能狀態被創作者發現后，通常就不會被要求達到預期的創作目標，因此其消極影響反而可能是最容易控制的。

三、以“積極責任觀”與人工智能“伙伴”在創作中共同發展

綜合分析了人工智能的“混血王子”“縫合怪”和“混世魔王”三種狀態與形象后，我們需要解決的問題就是：未來應該以怎樣的態度對待人工智能的發展？

“一個現代的人工智能系統不再應該被簡單地視為與人類孤立的技術產物，而更應該被視為一個人類智慧與機器智慧所共建的廣義的網絡系統”[9]，即人機協同構建的有明確技術科學實踐導向的“行動者網絡”。

在對待人工智能的態度方面，我們倡導“積極責任觀”，即“‘事先防范而不是事后補救’‘風險優先于收益被考量’‘安全比遺憾更重要’等價值觀”[10]，除預防既往已知的風險外，還要對潛在的、可前瞻的風險進行約制。

（一）謹慎識別“握手”環節，避免“知情同意”的真空

人工智能行動者網絡的建構，開始于人機“握手”環節，并且對于復雜的信息系統來說，人機實際上會經過多次握手才能真正進行交互。這就意味著“握手”是人類與人工智能互相迎接和走向協同的開始，換言之，對于“握手”的拒絕可以實現人機交互的中斷。

這里值得注意的是，“握手”相當于對協議的認可，但人類是否真的知曉協議的內容呢？嚴格意義上來說，一個正規的人工智能產品要經過用戶同意才會調用在線設備的各種權限，其中包括人類正在使用的終端接入其他網絡的權限，以及調用、復制和儲存用戶數據的權限等。所謂的算法依賴和數據依賴，就是要通過訪問既有用戶的設備與數據來實現數據的收集挖掘與內容生成。

所以有必要謹慎識別“握手”環節，明確接入和使用相關服務可能付出的代價，并在必要時通過對關鍵信息的加密，保證數據不會被人工智能窺探和利用，確保不會存在“知情同意”的真空。針對文字創作可能會使用到的人工智能產品而言，用戶在接入服務時通常會經歷知情同意環節，但留給用戶的選擇空間并不足夠大。一方面是因為這些條款往往作為一個整體出現，沒有預留個性化設置的空間，用戶只能選擇同意或不同意所有條款，一旦選擇不同意，就無法使用任何功能；另一方面是因為當前的各類條款會說明使用相關服務會需要用戶的信息共享，卻不會明示數據共享的程度及共享后的數據用途等，這都可能帶來信息安全風險。

對于一些需要作者獨到的奇思妙想才能完成的創作而言，原稿的珍貴程度更是毋庸置疑的。一旦用戶沒有仔細甄別人工智能工具調用本地數據的具體權限，這些創作的妙想就可能迅速被復制和學習，并作為范本被復現到其他機器生成的作品中。又因為創作者在使用人工智能服務前，就同意了數據調用與共享條款，相關問題的追責將可能遙遙無期。

（二）了解所使用的人工智能的狀態，制定相應的使用策略

如前文所說，“混血王子”是人工智能所能達到的理想狀態，“縫合怪”是絕大多數人工智能的常態，“混世魔王”則是人工智能存在明顯缺陷的狀態。

對待不同狀態的人工智能要采取不同策略。從倫理學意義上來說，對于不同的他者要給予與之地位對應的道德責任。尤其是當下人機共存于“行動者網絡”的狀態下，對于特定的人工智能賦予其可以實現的任務，才可能避免一些不必要的風險。如此，可以在保證價值監督和價值對齊的基礎上，讓狀態最為接近“混血王子”的人工智能完成高難度工作；對容易失控的環節，在做好必要技術保障的基礎上，讓一般的“縫合怪”完成日常工作；而將一些任務單一有限的日常工作交由“混世魔王”完成。

在創作中，我們可以讓“混世魔王”完成簡單的翻譯工作或生成趣味“段子”，讓“縫合怪”協助整理數據或潤色文章初稿，而讓“混血王子”整理相關領域學術發展趨勢或制定某具體主題的寫作大綱等。這三種狀態可能對應的是多種不同的人工智能工具，也可以是同一工具在不同訓練階段的功能狀態等。人工智能輔助創作時，無論人工智能的種類與參與方式，人類對機器寫作內容的審讀依然是當下確認人工智能的運行狀態和制定進一步使用策略的重要依據。

（三）關注人工智能的狀態轉變，規避潛在風險

從理論上說，不同狀態下的人工智能各司其事可能是一種比較理想的狀態，但是值得注意的是，隨著人工智能行動者網絡中的協同者與背叛者的增減，人工智能的狀態也會發生轉變，這就意味著應對人工智能的策略也應該是動態而非靜態的。

人工智能的狀態轉變可能是自上而下的跌落，即從“混血王子”狀態跌落到“縫合怪”乃至“混世魔王”狀態。這種狀態可能由設備的電性故障和程序與模型中的錯誤積累造成，也可能由短時間涌入系統的海量數據超出系統總體的存儲與處理能力造成，其后果可能是人工智能局部或全部服務癱瘓。造成此類現象的原因，或是人工智能吸引到了超負載的用戶需求，或是海量冗余數據通過程序漏洞涌入人工智能系統，問題分別由作為行動者網絡成員的服務器和防火墻對網絡的背叛造成。

另一種狀態轉變可能是自下而上的狀態躍遷，即由“縫合怪”和“混世魔王”狀態向上發展。這是在計算機領域常見的“眾愚成智”現象，也是行動者網絡成功動員更多成員加入后實現的功能涌現。很多人工智能早期版本功能相對單一、羸弱，但是隨著模型的迭代和用戶數量的增加，其完成工作的能力會呈指數級增長。

在使用人工智能輔助創作時，創作者更應該關注“伙伴”的狀態，并且通過積極的人機對話（其中可以包括簡單的使用訴求，也可以包括復雜的程序審查），一方面幫助人工智能“伙伴”成長，另一方面更好地確認“伙伴”的狀態和變化趨勢等，以保證創作者分配給人工智能工具的任務與其狀態相適配。這樣既能保證輔助創作的質量，又能通過“投喂數據”和“模型訓練”為人機共建智能網絡的長期發展奠定基礎。

四、結語：讓人與人工智能成為更好的創作伙伴

本文基于隱喻的視角，闡釋了信息通信理論中人機“握手”隱喻及其對于人工智能系統形成和發展的基礎性作用；又基于拉圖爾等人隱喻性的行動者網絡理論，指出了當代開放式人工智能系統是人機共建的異質性行動者網絡的實質，進而指出這種人機共建的行動者網絡因為具有明確的實踐目標，且具有豐富的意向性和能動性，而具備“準主體”和“道德準主體”地位。

為了更好地幫助公眾理解各種情境下人工智能的運行狀態和社會形象，本文援引文學作品中的“混血王子”“縫合怪”和“混世魔王”三種意象隱喻人工智能的行動者網絡，描述了因成員的協同和背叛程度的不同而呈現的三種狀態。基于此，提出三條以“積極責任觀”與人工智能“伙伴”在創作中共同發展的建議：謹慎識別“握手”環節以避免“知情同意”的真空，了解所使用的人工智能的狀態以制定適宜的使用策略，關注人工智能的狀態轉變以規避潛在風險。

基于以上分析我們發現，人工智能已經參與到廣義的創作中，無論我們排斥還是歡迎，它們都已經成為我們直接或間接的創作伙伴，并且我們與這些伙伴還共建了一個巨大的“行動者網絡”。對于人工智能的樂觀或悲觀態度都來源于對它們的了解的欠缺，正如本文所努力呈現的，當我們以一種積極的態度努力識別人工智能的運作狀態，做到“知AI 善任”，人工智能將可能成為我們創作道路上可以長期合作的伙伴。

通信作者：

畢丞，北京科技大學馬克思主義學院科技與社會研究所副教授，研究方向為科學哲學、技術哲學、科學與社會。

參考文獻

[1] 田松，劉華杰《. 學妖與四姨太效應——科學文化對話集》（增補版）[J]. 讀書，2020(10)：112.

[2] 范春萍. 科學文化出版與世紀之交的科學傳播浪潮[J]. 自然辯證法通訊，2024，46(10)：104-118.

[3] 李伯聰，王楠，傅志寰. 工程生態研究：社會與時代的呼喚[J]. 工程研究——跨學科視野中的工程，2023，15(5)：365-377.

[4] 熊兵，趙錦元，廖年冬. 基于TCP 三次握手特性的高效連接管理方法[J]. 計算機工程，2013，39(11)：83-86，90.

[5] 周慎，莫菲菲，張佳偉. 人機耦合體與人機雙螺旋：AIGC 時代數字內容創作關系與方法重塑[J]. 數字出版研究，2024，3(4)：121-129.

[6] 周榮庭，魏嘯天，張嘯宇. 生成式人工智能重塑科學教育模式——基于行動者網絡理論的館校合作研究[J]. 科普研究，2024(4)：23-32，61，102.

[7] SISMONDO S. Science and Technology Studies and an Engaged Program [C]// HACKETT E J，AMSTERDAMSKA O，LYNCH M E，et al. The Handbook of Science and Technology Studies, Third Edition[M]. Cambridge: The MIT Press, 2008.

[8] 鄭志峰. 人工智能應用責任的主體識別與歸責設計[J]. 法學評論，2024(4)：123-137.

[9] 畢丞. 人類為什么不會被人工智能取代？——人工智能的技術本質研究[J]. 北京科技大學學報（社會科學版），2019(2)：102-108.

[10] 陸群峰. 預警原則與新興技術治理[J]. 自然辯證法研究，2023(7)：55-62.

本文轉自《科普創作評論》2024年第4期

《科普創作評論》期刊征稿信息

編輯：齊　鈺

審定：鄒　貞