科幻作家寶樹和晝溫圍繞科幻與AI展開了一次暢談，兩人聊到了經典科幻的價值在于不過時，自己創作中那些“預言”成功和不成功的故事，以及AI輔助寫作的相關實踐和涉及的寫作倫理問題，同時兩人還就AI能否發展出自己的語言進行了預測等。

《黑客帝國》劇照

01 看了那么多經典科幻，

自己終于活在其中一個未來了

晝溫：最近總聽人說，現在是一個科幻的時代，尤其是人工智能有了如此之大的進步，每個人都能在工作和生活中用到AI，甚至有的大語言模型已經通過了圖靈測試。小時候看科學新聞，都覺得這是遙不可及的事情。那時還有很多科幻電影和科幻作品去暢想人類和AI共存的未來。不知道寶樹老師印象最深的是哪些作品？

寶樹：這個說起來還真不少。比如說在我小時候，上世紀九十年代，留下深刻印象的一篇小說是阿西莫夫的《羅比》，講一個小女孩和照顧她的保姆機器人羅比產生了深厚的感情，她母親卻覺得總和機器人在一起對孩子的成長不好，硬是把羅比送走了。這個女孩非常難過，后來去尋找羅比的故事。人機的情誼刻畫得十分動人。

還有倪匡的一篇小說叫《筆友》，講一個女孩和一個外國的筆友通信，一來二去產生了微妙的感情。后來女孩發現，這個筆友其實是美軍基地中控制核彈的一臺先進電腦，它竟然產生了自我意識，最后為了愛情而失控，差點引起世界大戰……

王晉康老師的《生命之歌》，我讀的時候已經上大學了，但也留下了深刻印象。它講述一個機器孩子萌生種族意識，背叛人類的故事，其中有著對生命、種族、親情等主題的深刻思考。另外，還有電影《終結者》《黑客帝國》等等，內容都很有名，就不多贅述了。

當時只是把這些當成好玩的故事看，但現在看來，很多故事都非常有前瞻性，對今天我們面臨的很多問題也有啟發。當然，我們并不一定要同意作者的立場。比如《羅比》這樣的作品，如今重讀，我反而有點同情那位母親的擔憂，讓孩子在機器人而非人類伙伴的陪伴下長大，真的好嗎？這些問題需要我們從頭思考。

晝溫： 確實是很有前瞻性的作品。人類一直在尋求機器的幫助以減輕勞動負擔，過去有洗碗機、掃地機器人免去家務的辛勞，現在有智能音箱、虛擬寵物陪伴孩子，未來育兒機器人也不會少，那親子關系一定也會迎來重塑。

寶樹：是啊。我也想問問晝溫，你印象最深的科幻作品是什么呢？

晝溫：我印象最深的是阿西莫夫關于機器人的一系列短篇，講了各種人類和機器人的關系。其中著名的機器人三定律也貫穿其中：?

第一定律?：機器人不得傷害人類個體，或因不作為使人類受到傷害。

第二定律?：機器人必須服從人類命令，除非命令與第一定律沖突。

?第三定律?：在不違反前兩定律的前提下，機器人必須保護自身存在。

現在人工智能發展得越來越快，自動駕駛輔助人類開車，具身智能讓機器人在春晚的舞臺上跳舞，《機器人產業發展規劃》預期機器人將進入養老行業。我們身邊會出現越來越多輔助生活、工作的智能機械身影。如果沒有三定律之類的約束，面對知識面和力量都全面“碾壓”血肉之軀的機器人，還真會有點害怕呢！也許不久之后，人們真的會團結起來，共同在代碼里布下讓所有人工智能無法違抗的三定律。但人工智能是否會有辦法繞過它們呢？也許會發生有意思的攻防戰。

寶樹：是的，機器人三定律是非常出彩的科幻設定，有段時間甚至可以作為識別科幻迷的口令。不過后來我才明白，這個定律只是作家的虛構。在真正研發機器人的時候，壓根不存在這樣的東西。另外，我覺得三定律之類從語言上可能就有漏洞。因為語言沒有一個絕對確定的意義，語言的意義來自生活，而生活是流動的，混雜的，變動不居的。比如說機器人不得傷害人類，怎么定義傷害呢？怎么比較傷害呢？杰克·威廉森有一篇作品叫《束手》，講人工智能在保護人類的基本指令下，把人類都關了起來，不給人類任何危險的工具，以防止人類傷害自己。這種對傷害的理解看起來是錯誤的，但你又很難說哪里有硬性錯誤。如果我們真的給機器人這樣一些規則，而我們又無法把控對這些規則的理解，那可能會鬧出更大的亂子。

晝溫：確實！那還是不要硬給機器人灌輸三定律了。老師剛提到，語言來自流動、混雜、變動不居的生活，意義是不可能完全確定的，而這一輪改變世界的人工智能技術正是大語言模型。我做過一些相關翻譯工作，也算是見證了它的迅猛發展。

幾年前，大語言模型還沒這么厲害的時候，機器翻譯十分生硬。那時我在網上看到一個好玩的、對于阿西莫夫三定律的模仿——“機器翻譯發言人必須遵守的五大禁令”，每一條都對應著機器翻譯難以逾越的短板，比如不能口誤，不能在A語言里夾雜B語言之類的。

當時我深以為然：機器再強大，在根本上也是沒有創造的能力的，而語言恰恰是極富創造力、生命力的事物。法國學者斯坦納相信，自然語言松松垮垮、雜亂無章的特征是激發人類想象力所不可缺少的因素，語言的歧義、多義、模糊，乃至不符邏輯、違背規則等不是語言的病態，而是語言精髓所在。沒有了這些東西，人的生命之花將會枯萎。而這些，都是機器極難處理的。

可是現在呢，用過ChatGPT翻譯的人都知道，這些翻譯難題對它來說已經不在話下了。語言的壁壘似乎已經被攻破，科幻正在加速變為現實?？戳四敲炊嗫苹秒娪?，想到自己終于也活在了其中一個未來了。

寶樹：我作為科幻迷和科幻作者，面對“未來已來”的世界，也不免五味雜陳。一方面，有很多東西都是科幻迷一直期待的，通用人工智能，元宇宙，腦機接口，無人駕駛……但真的到來時，我們不可能像以前看科幻小說那樣輕松，正面的效應并沒有那么理想，得打個折扣，而負面的可能性也不只是空想。最近在一些展覽上看到宇樹機器狗的時候，我會想到《黑鏡》中獵殺人類的機器獵犬，二者的區別也就是程序上有點不同。但另一方面，我又覺得，能生活在這樣一個關鍵轉折的節點上，見證人類自從火和語言之后最大的發明，見證地球生命史面臨的最大試煉，無論結果如何也不失為一種幸運。

從另一個角度看，即便人類滅亡，也沒有什么。我翻譯過一本科幻小說《造星主》，里面想象了宇宙作為整體的覺醒過程，頗有啟發。如果我們把宇宙本身作為進化的主體，那么從無機到有機，從單細胞到多細胞，從猿猴到人類，從碳基到硅基，從個別星球到宇宙整體……智能的萌生、發展、豐盈與升華，是一個無數環節組成的過程，或許人類終將被揚棄，但人類中最美好的東西會被保持在后來的發展中。如海子的詩句：“我必將失敗，但詩歌本身以太陽必將勝利?！?/p>

《星際穿越》劇照

02 AI技術高度發展后，

人類翻譯是否一定會被AI取代？

晝溫：剛才提到了那么多前人的作品，人工智能不愧是科幻作家繞不過的主題，萬千種未來都在小說中“預演”了。那寶樹老師過去都寫過哪些人工智能的故事呢？哪些“預言”成功了，哪些“預言”失敗了？

寶樹：我可能寫過大約七八篇和人工智能有比較強的關聯的故事。其中比較有現實意義的一篇小說叫《妞妞》，講述一對夫婦在兩歲的女兒意外去世后，定制了一個仿生人作為他們的女兒。這個仿生人其實技術并不高，也沒有真正的智能，只是模仿人類嬰孩的表情和動作。但這個已經深深抓住了父母的心，讓他們無法自拔，無法再從這段畸形的關系中走出來。這種技術其實目前已經初具雛形，甚至已經有人在制造死者的數字人。如果有一天死者能夠惟妙惟肖地出現在我們面前，和我們對話交流，那對社會將是多么大的沖擊！

晝溫：也許那時候死亡的定義也會變化?！秾舡h游記》里說死亡并不可怕,遺忘才是最終的告別。也許到了未來，一個人的數字備份全被毀滅了，才算真正的死亡。

寶樹：還有一個方向是思考AIGC創作（人工智能生成內容）對社會的影響。我有個短篇叫《人人都愛拍電影》，講一個女人用AI生成電影，把她的前男友拍成一個人渣。因為影像的巨大感染力讓前男友陷入了麻煩……這個今天都說不清是科幻還是寫實了。晝溫在人工智能方面又做過哪些探討呢？

晝溫：我是語言學專業出身的，寫過很多語言學科幻。其中一部作品是跟機器翻譯相關——《最后的譯者》：在AI技術高度發達的未來，翻譯行業被人工智能徹底顛覆。語言學校消失，職業譯者近乎絕跡，僅剩文學翻譯這一“最后的河塘”茍延殘喘。主人公作為全國最后一名翻譯專業學生，被迫參與“巴別塔計劃”——通過整合全球語言數據，構建一種高維的“純語言”，使人類無需翻譯即可直接理解彼此。

之前刷到一個短視頻，日本世博會的當地記者用翻譯器采訪中國游客：

日本記者：你是從哪里來的？

中國人：陜西西安。

到這里一切都很順利，日本記者順勢問他，你覺得這里有什么很厲害的東西（值得一看）？結果翻譯器直接翻譯成：有什么了不起的？

中國游客的眼神一下子就不對了。

現在，人們知道機器翻譯不是百分百靠譜，不會特別當真，但到了未來，人們的交流完全靠人工智能翻譯時，AI會不會在這中間搞事情呢？就像現在的操縱性翻譯或目的性誤譯。比如《流浪地球》電影中，劉培強就會直接使用戴在耳邊的同聲傳譯裝置跟外國宇航員交流，完全沒有人在中間校驗譯文。那個時候，人們也許會認為，學外語就像現在學習手工織布一樣沒必要，那人工智能就可能從一句又一句的翻譯中離間人類，達到它們不可告人的目的。

那時你說出的話、聽到的話，都像通過了一層看不見摸不到的膜，那么你所接觸到的世界，還會是真實的嗎？

寶樹：記得前年，科幻小說家顧適給我看過她用ChatGPT翻譯的一部小說，翻譯質量是很不錯的。從那以后，我感到翻譯工作被AI取代只是時間問題。我前些年也翻譯過一些作品，后來不再做這方面的工作，但是最近我又開始翻譯了。這么做，除了作品本身對我的吸引力外，另一方面是我想探索人類的翻譯有沒有無法被AI取代的一面。所以這次翻譯，我更多地采用了所謂意譯，也就是說為了表達作者想表達的意思，不再拘泥于原文。如果這種方式能夠得到肯定的話，或許可以說，最忠實的翻譯恰恰是不忠實的，因此也不一定會被AI取代。從這個角度看，AI也推動了人類譯者對于翻譯的深層理解與反思。

你說的另一個問題，在于如果AI翻譯日趨完善的話，人們可能就不去學外文了，因為將來很可能是可以用幾分鐘就生成一本書的完善的中譯本。比如說，斯蒂芬·金或者東野圭吾這樣的作家推出一本電子版的新書，只要事先版權談妥了，我們可以在五分鐘后就讀到中文版，而以前需要一年以上。這樣的世界當然很令人向往，但是一個懂得外文的人，閱讀原文所把握到的原文意境，還是遠超過翻譯出來的內容。如果我們只依賴于翻譯，這扇大門就永遠對我們關閉了。我們實際上失去了一個讓自己擁有另一種交流和思考的維度的機會。

晝溫：正是如此，技術的發展總是有得有失?，F在最令你驚嘆的現存人工智能技術是什么呢？

寶樹：雖然我們作為創作者會更多考慮技術的復雜負面后果，但還是有很多令人振奮的方面。比如我覺得人工智能用于醫療就非常有意義，根據基因數據進行疾病風險預測和醫學影像識別等，人工智能的效率都比人類醫生要高不少，也不容易犯錯。還有基因靶向藥物的研制，可以用人工智能幫助計算高分子結構，“定制”出針對癌細胞特定基因序列的藥物，達到只殺死癌細胞，不殺死正常細胞的結果。這樣藥物研發的成本會大為下降，周期也大為縮短，目前已經有一些初步的應用。這項技術未來再發展，可能將會制造出在人體內隨時可以殺死癌細胞的智能納米機器。那樣的話，癌癥就基本攻克了。人均壽命延長幾十年不是夢。

晝溫：希望呢！但也可能出現《三體》中提到的基因定制病毒：對于其他人來說，感染上只是小感冒，而對于特定的人，則會有致命危險。人工智能時代的醫德，也許未來會成為醫務工作者躲不掉的命題。

《星際穿越》劇照

03 人機合作如果是一種趨勢，

創作者該如何應對寫作倫理？

晝溫：而作為文字工作者，大語言模型一出來，我感受到的沖擊還是挺大的。有時候在網上讀文章，津津有味看到一半才發現是AI創作的，有時候讀到最后都分辨不出來。而有些AI寫的小說已經獲得了大獎，游戲和動畫也開始出現另類“3A大作”（AI作圖、AI配音、AI作曲或AI編?。?。寫作，或者說是創作，似乎都不再需要人類了。寶樹老師怎么看這一現象？又是否用過AI創作呢？

寶樹：這個問題現在也是作家中討論的一個熱點，畢竟這是大家最關心的本領域的劇變。目前兩派還是壁壘分明的，一派認為機器沒有靈魂，不可能具有人類的創造力和想象力，寫出來的東西也只是徒具其形；另一派則認為靈魂也無非是一種算法，沒什么神秘的，機器將來必將取代人類。我比較偏向后者，我覺得不能把人的創作能力浪漫化，認為機器一定做不到。

不過我嘗試過用AI寫一些段落來實驗，感覺基本還是比較初步的，邏輯性和文學美感上都還有不小差距，機器要取代人類，還有很長的路要走。能拿得出手的那些還是經過人的仔細調整，不是純粹AI的產物。

晝溫：我也有同感。我曾經嘗試過給AI下達指令，讓它生成小說中的一段話，但怎么看怎么別扭，每一個字詞、每一個標點符號都需要調整，完全沒有腦海中的場景通過鍵盤行云流水落在文檔里的感覺。

寶樹：不過，無可否認，現在讓AI隨便寫幾段話，表達能力已經超過了人類一般的水平。某種人機協作還是一個大趨勢。但這個似乎又涉及寫作倫理，如果我讓AI生成一段可用的文本，然后我拿來使用。這和我從別人書上看到一段話來抄襲，有什么本質區別嗎？只不過這種抄襲并沒有一個苦主罷了，但我們的行為并沒有太大區別。這也是目前困擾我的一個問題。我并不是抵制AI寫作，長遠來看，人機協作進行創作是必然趨勢，但我們在奔赴和AI合作的道路之前，有些問題應該先想清楚。

晝溫：AI版權問題還遠遠沒有達成社會共識，真的是技術在前面跑，法律、道德、倫理在后面追。但總有一天，這樣混亂的局面會結束。

我目前主要還是用AI幫助查閱資料，而不是真正生成行文。寫作對我來說更多是一個自我表達的方式，把打動我的情感和經歷，通過故事的形式傳遞給更多人。寫作的過程是非常愉悅的。在未來，人工寫作是否會變成一個非常稀少而私人的事情呢？就像現在的非遺手藝人一樣，需要守護和傳承，而流水線上的商品才是服務世界上絕大多數人的存在。我很慶幸，在大語言模型出現之前成為了作家。

寶樹：我覺得從長遠角度來看，有些寶貴的東西必然會消亡。比如說當文字發明時，那些能夠背誦幾萬行史詩的行吟詩人就不見了。當我們這代人用電腦創作的時候，上一代作家用手稿寫作的方式也消失了，手稿作為文學史上的美好事物就停止存在了。我們“寫”的作品是沒有“原件”的，或者說保存原件這個行為變得沒有意義了。當AI寫作成為常態時，可能大家也覺得不靠AI而自己寫，這種行為沒什么意義。

或許問題更關鍵的地方在于，AI的創作能夠走得多遠，在多大程度上超越人類。如果AI創作最后能走到任何人類藝術家都無法想象的地方去，那后世也不會為人類的損失而哀嘆。人類只是宇宙智能演化中一個不算特別重要的過渡環節。

晝溫：在生活中的其他領域，大語言模型還是幫了很多忙。我在互聯網公司上班的朋友，每天都會用ChatGPT寫各平臺的宣發文案。他們在和外國同事溝通時，也會用AI來潤色英文。有一次她的AI賬號用不了了，急得團團轉，連外國同事的郵件都不敢回復，怕行文沒有之前那么優雅正式。但從另一個層面講，那些外國同事，永遠也不會知道，真正的“她”是什么樣的。

我在小說《你一生的言語》里提出了一個叫“語痕”的概念——說白了就是，你說的話、寫的字里，到底能留下多少屬于你的、獨一無二的痕跡。

最鮮活的是面對面聊天：你說話時的表情、小動作、語調，你前半生攢下來的那些口頭禪，還有在對方注視下，來不及多想就蹦出來的那句話——那一刻的你是獨一無二的，沒人能完全復制，連你自己都做不到。

其次是手寫：寫字其實特別考驗手上功夫，一筆一畫都是肌肉記憶。寫的時候你會反復琢磨，最后落在紙上的，可能就是你最真實的水平。內容可以抄，但字跡騙不了人——法庭上，專家光看筆跡就能辨真假。到了電子文檔，痕跡就淡多了：只剩下一點用詞習慣和思維方式的影子，但太容易復制粘貼，個性幾乎被抹平了。

那AI修改過的文字呢？經過數字傳輸后，連最后那點“人味”都沒了。它可能語法完美、邏輯清晰、文筆漂亮，但就像超市里的塑料蘋果——光鮮，但沒有生命。那這樣的語言算什么？不過是一團石墨的痕跡，空氣的振動，或是屏幕上的像素點罷了。

那會不會有一天，我們每發一條消息都要AI精修，而面對面聊天，反而成了讓人尷尬的事？而這樣的羞赧，已經在朋友面對外國同事時的失語中開始體現。

寶樹：“語痕”這個提法很有深意，我覺得廣義來說，可以當成人類個體性的表征。每個人都是獨一無二的個體。但與他人接觸，又不一定是愉快的過程。即便是相愛的人們，也不可能絕對合拍，而且越是相知，可能給彼此的傷害也越深。這方面，AI所做的是在我們周圍建立一個隔離層，比如說計算我們的喜好，建立信息繭房。當然，理想上，它應該能夠過濾掉不好的一面，而促進正面的交流，但二者實際上是一體兩面的。如果我們不邁出自己的舒適區，不冒著誤解和交惡的風險去付出努力，也永遠無法和他人建立真正真誠而深入的關聯。

晝溫：是啊。不過GPT-4o有一個版本就存在過于討好用戶的情況，在對話中專注于奉承用戶，遭到大量反對，OpenAI最終選擇緊急回滾?？磥硖嫌脩粢矔钊擞憛挘@個度連AI也不好把握呀。

寶樹：但總歸其目的是讓我們更開心，只是手段可能更狡猾。這里也關聯到另一個問題，就是可能它只讓我們生活在自己喜歡的文字和故事里，讓我們永遠無法邁出去了解世界的本相。偉大的文學，揭示這個世界一些殘忍的真相，通常是不太讓人愉悅的。但因為有很好的故事性和文筆，所以能讓我們去嘗試接受，去提升我們對世界的理解和感悟。但AI可能創造出非常精彩的故事，讓我們非常沉醉的文筆，卻和這個世界的本相隔離。這樣，我們豈不是將被豢養在一個個肥皂泡里，和世界本身也和更偉大的境界絕緣了？就像《束手》里所描述的，人類被圈養起來，只不過這種圈養更徹底，我們甚至不會意識到自己被囚禁了。

晝溫：這樣聽起來，作家還是有存在的意義呢！用手中鋒利的文字刺破人工智能打造的泡泡，幫助人們深度鏈接、理解世界。

剛才說了那么多，還是以人類為中心的話題，那在未來，AI會不會搞出一套自己的語言?。壳岸螘r間網上不是瘋傳一個視頻嗎？兩個AI聊著聊著，突然發現對方都是AI，結果直接切換成加密語言繼續聊。這不就等于它們背著我們搞小團體嗎？最可怕的是，等我們發現的時候，可能早就管不住它們了。

寶樹：這點我倒是蠻期待的，有沒有可能它們發展出一種不受人類語言模式約束的新語言？人的自然語言受限于一些基本的結構，比如說主謂結構，似乎總有一些主體在做出行為，但這些主體是對流變的現實的一種失真的模擬，而我們只能這么去理解世界，有沒有可能人工智能的語言能夠擺脫這個結構，在一個新層面上理解世界？如果可能的話，不論人類是否能理解，都是宇宙智能本身的一種飛躍。

晝溫：那到時候我們就只能像螞蟻一樣，仰望AI去探索星辰大海了。似乎對于人類來說不是一個很好的未來。你認為我們最有可能走向的未來，是什么樣的呢？

寶樹：這個真的很難預言，只能說未來可能會很美好，甚至超出我們的想象，但在這個過程中會有強烈的動蕩。比如說通用人工智能，如果能夠代替大多數人的工作，讓90%的人失業，世界會變成什么樣子？會不會誘發戰爭和混亂？又比如說，網絡通信技術，能夠讓人群以之前無法想象的方式連接起來，但又會在人群中制造區隔和對立，放大人性中黨同伐異、自我中心的缺陷。今后的每一步可能都蘊藏危險。目前日趨緊張的國際局勢，也間接和科技的迅猛發展有關。

雖然我們不可能真正去預知未來，但可以去想象。我今年會出一本新書，叫《你已生活在未來》，講述AI等近未來科技下一些可能發生的生活故事，也許會有一丁點參考價值，也許純屬盲人摸象，過幾十年看就是笑料。單純從創作角度來說，我覺得短期內還不用太悲觀。十年之內，AI還不太可能威脅到人類的創作者，但留給我們的時間也的確不多了。真正遠遠超過人類智能的人工智能可能在二三十年后就會出現，天堂或者地獄，我們到時就會知道。但就像我上面說過的，能見證這樣一個必將到來的未來本身也是一種幸運。

晝溫：是啊，“生命總會自己找到出路”，盡管中間會發生很多動蕩，人類社會一定會找到適應它的方式，也許是一種新的語言，也許是完全不同的倫理道德，也許那種方式會讓今天的我們無法理解?？傊磥硪褋?，讓我們一起見證！