科幻作家寶樹和晝溫圍繞科幻與AI展開了一次暢談,兩人聊到了經典科幻的價值在于不過時,自己創作中那些“預言”成功和不成功的故事,以及AI輔助寫作的相關實踐和涉及的寫作倫理問題,同時兩人還就AI能否發展出自己的語言進行了預測等。
《黑客帝國》劇照
01 看了那么多經典科幻,
自己終于活在其中一個未來了
晝溫:最近總聽人說,現在是一個科幻的時代,尤其是人工智能有了如此之大的進步,每個人都能在工作和生活中用到AI,甚至有的大語言模型已經通過了圖靈測試。小時候看科學新聞,都覺得這是遙不可及的事情。那時還有很多科幻電影和科幻作品去暢想人類和AI共存的未來。不知道寶樹老師印象最深的是哪些作品?
寶樹:這個說起來還真不少。比如說在我小時候,上世紀九十年代,留下深刻印象的一篇小說是阿西莫夫的《羅比》,講一個小女孩和照顧她的保姆機器人羅比產生了深厚的感情,她母親卻覺得總和機器人在一起對孩子的成長不好,硬是把羅比送走了。這個女孩非常難過,后來去尋找羅比的故事。人機的情誼刻畫得十分動人。
還有倪匡的一篇小說叫《筆友》,講一個女孩和一個外國的筆友通信,一來二去產生了微妙的感情。后來女孩發現,這個筆友其實是美軍基地中控制核彈的一臺先進電腦,它竟然產生了自我意識,最后為了愛情而失控,差點引起世界大戰……
王晉康老師的《生命之歌》,我讀的時候已經上大學了,但也留下了深刻印象。它講述一個機器孩子萌生種族意識,背叛人類的故事,其中有著對生命、種族、親情等主題的深刻思考。另外,還有電影《終結者》《黑客帝國》等等,內容都很有名,就不多贅述了。
當時只是把這些當成好玩的故事看,但現在看來,很多故事都非常有前瞻性,對今天我們面臨的很多問題也有啟發。當然,我們并不一定要同意作者的立場。比如《羅比》這樣的作品,如今重讀,我反而有點同情那位母親的擔憂,讓孩子在機器人而非人類伙伴的陪伴下長大,真的好嗎?這些問題需要我們從頭思考。
晝溫: 確實是很有前瞻性的作品。人類一直在尋求機器的幫助以減輕勞動負擔,過去有洗碗機、掃地機器人免去家務的辛勞,現在有智能音箱、虛擬寵物陪伴孩子,未來育兒機器人也不會少,那親子關系一定也會迎來重塑。
寶樹:是啊。我也想問問晝溫,你印象最深的科幻作品是什么呢?
晝溫:我印象最深的是阿西莫夫關于機器人的一系列短篇,講了各種人類和機器人的關系。其中著名的機器人三定律也貫穿其中:?
第一定律?:機器人不得傷害人類個體,或因不作為使人類受到傷害。
第二定律?:機器人必須服從人類命令,除非命令與第一定律沖突。
?第三定律?:在不違反前兩定律的前提下,機器人必須保護自身存在。
現在人工智能發展得越來越快,自動駕駛輔助人類開車,具身智能讓機器人在春晚的舞臺上跳舞,《機器人產業發展規劃》預期機器人將進入養老行業。我們身邊會出現越來越多輔助生活、工作的智能機械身影。如果沒有三定律之類的約束,面對知識面和力量都全面“碾壓”血肉之軀的機器人,還真會有點害怕呢!也許不久之后,人們真的會團結起來,共同在代碼里布下讓所有人工智能無法違抗的三定律。但人工智能是否會有辦法繞過它們呢?也許會發生有意思的攻防戰。
寶樹:是的,機器人三定律是非常出彩的科幻設定,有段時間甚至可以作為識別科幻迷的口令。不過后來我才明白,這個定律只是作家的虛構。在真正研發機器人的時候,壓根不存在這樣的東西。另外,我覺得三定律之類從語言上可能就有漏洞。因為語言沒有一個絕對確定的意義,語言的意義來自生活,而生活是流動的,混雜的,變動不居的。比如說機器人不得傷害人類,怎么定義傷害呢?怎么比較傷害呢?杰克·威廉森有一篇作品叫《束手》,講人工智能在保護人類的基本指令下,把人類都關了起來,不給人類任何危險的工具,以防止人類傷害自己。這種對傷害的理解看起來是錯誤的,但你又很難說哪里有硬性錯誤。如果我們真的給機器人這樣一些規則,而我們又無法把控對這些規則的理解,那可能會鬧出更大的亂子。
晝溫:確實!那還是不要硬給機器人灌輸三定律了。老師剛提到,語言來自流動、混雜、變動不居的生活,意義是不可能完全確定的,而這一輪改變世界的人工智能技術正是大語言模型。我做過一些相關翻譯工作,也算是見證了它的迅猛發展。
幾年前,大語言模型還沒這么厲害的時候,機器翻譯十分生硬。那時我在網上看到一個好玩的、對于阿西莫夫三定律的模仿——“機器翻譯發言人必須遵守的五大禁令”,每一條都對應著機器翻譯難以逾越的短板,比如不能口誤,不能在A語言里夾雜B語言之類的。
當時我深以為然:機器再強大,在根本上也是沒有創造的能力的,而語言恰恰是極富創造力、生命力的事物。法國學者斯坦納相信,自然語言松松垮垮、雜亂無章的特征是激發人類想象力所不可缺少的因素,語言的歧義、多義、模糊,乃至不符邏輯、違背規則等不是語言的病態,而是語言精髓所在。沒有了這些東西,人的生命之花將會枯萎。而這些,都是機器極難處理的。
可是現在呢,用過ChatGPT翻譯的人都知道,這些翻譯難題對它來說已經不在話下了。語言的壁壘似乎已經被攻破,科幻正在加速變為現實??戳四敲炊嗫苹秒娪?,想到自己終于也活在了其中一個未來了。
寶樹:我作為科幻迷和科幻作者,面對“未來已來”的世界,也不免五味雜陳。一方面,有很多東西都是科幻迷一直期待的,通用人工智能,元宇宙,腦機接口,無人駕駛……但真的到來時,我們不可能像以前看科幻小說那樣輕松,正面的效應并沒有那么理想,得打個折扣,而負面的可能性也不只是空想。最近在一些展覽上看到宇樹機器狗的時候,我會想到《黑鏡》中獵殺人類的機器獵犬,二者的區別也就是程序上有點不同。但另一方面,我又覺得,能生活在這樣一個關鍵轉折的節點上,見證人類自從火和語言之后最大的發明,見證地球生命史面臨的最大試煉,無論結果如何也不失為一種幸運。
從另一個角度看,即便人類滅亡,也沒有什么。我翻譯過一本科幻小說《造星主》,里面想象了宇宙作為整體的覺醒過程,頗有啟發。如果我們把宇宙本身作為進化的主體,那么從無機到有機,從單細胞到多細胞,從猿猴到人類,從碳基到硅基,從個別星球到宇宙整體……智能的萌生、發展、豐盈與升華,是一個無數環節組成的過程,或許人類終將被揚棄,但人類中最美好的東西會被保持在后來的發展中。如海子的詩句:“我必將失敗,但詩歌本身以太陽必將勝利?!?/p>
《星際穿越》劇照
02 AI技術高度發展后,
人類翻譯是否一定會被AI取代?
晝溫:剛才提到了那么多前人的作品,人工智能不愧是科幻作家繞不過的主題,萬千種未來都在小說中“預演”了。那寶樹老師過去都寫過哪些人工智能的故事呢?哪些“預言”成功了,哪些“預言”失敗了?
寶樹:我可能寫過大約七八篇和人工智能有比較強的關聯的故事。其中比較有現實意義的一篇小說叫《妞妞》,講述一對夫婦在兩歲的女兒意外去世后,定制了一個仿生人作為他們的女兒。這個仿生人其實技術并不高,也沒有真正的智能,只是模仿人類嬰孩的表情和動作。但這個已經深深抓住了父母的心,讓他們無法自拔,無法再從這段畸形的關系中走出來。這種技術其實目前已經初具雛形,甚至已經有人在制造死者的數字人。如果有一天死者能夠惟妙惟肖地出現在我們面前,和我們對話交流,那對社會將是多么大的沖擊!
晝溫:也許那時候死亡的定義也會變化?!秾舡h游記》里說死亡并不可怕,遺忘才是最終的告別。也許到了未來,一個人的數字備份全被毀滅了,才算真正的死亡。
寶樹:還有一個方向是思考AIGC創作(人工智能生成內容)對社會的影響。我有個短篇叫《人人都愛拍電影》,講一個女人用AI生成電影,把她的前男友拍成一個人渣。因為影像的巨大感染力讓前男友陷入了麻煩……這個今天都說不清是科幻還是寫實了。晝溫在人工智能方面又做過哪些探討呢?
晝溫:我是語言學專業出身的,寫過很多語言學科幻。其中一部作品是跟機器翻譯相關——《最后的譯者》:在AI技術高度發達的未來,翻譯行業被人工智能徹底顛覆。語言學校消失,職業譯者近乎絕跡,僅剩文學翻譯這一“最后的河塘”茍延殘喘。主人公作為全國最后一名翻譯專業學生,被迫參與“巴別塔計劃”——通過整合全球語言數據,構建一種高維的“純語言”,使人類無需翻譯即可直接理解彼此。
之前刷到一個短視頻,日本世博會的當地記者用翻譯器采訪中國游客:
日本記者:你是從哪里來的?
中國人:陜西西安。
到這里一切都很順利,日本記者順勢問他,你覺得這里有什么很厲害的東西(值得一看)?結果翻譯器直接翻譯成:有什么了不起的?
中國游客的眼神一下子就不對了。
現在,人們知道機器翻譯不是百分百靠譜,不會特別當真,但到了未來,人們的交流完全靠人工智能翻譯時,AI會不會在這中間搞事情呢?就像現在的操縱性翻譯或目的性誤譯。比如《流浪地球》電影中,劉培強就會直接使用戴在耳邊的同聲傳譯裝置跟外國宇航員交流,完全沒有人在中間校驗譯文。那個時候,人們也許會認為,學外語就像現在學習手工織布一樣沒必要,那人工智能就可能從一句又一句的翻譯中離間人類,達到它們不可告人的目的。
那時你說出的話、聽到的話,都像通過了一層看不見摸不到的膜,那么你所接觸到的世界,還會是真實的嗎?
寶樹:記得前年,科幻小說家顧適給我看過她用ChatGPT翻譯的一部小說,翻譯質量是很不錯的。從那以后,我感到翻譯工作被AI取代只是時間問題。我前些年也翻譯過一些作品,后來不再做這方面的工作,但是最近我又開始翻譯了。這么做,除了作品本身對我的吸引力外,另一方面是我想探索人類的翻譯有沒有無法被AI取代的一面。所以這次翻譯,我更多地采用了所謂意譯,也就是說為了表達作者想表達的意思,不再拘泥于原文。如果這種方式能夠得到肯定的話,或許可以說,最忠實的翻譯恰恰是不忠實的,因此也不一定會被AI取代。從這個角度看,AI也推動了人類譯者對于翻譯的深層理解與反思。
你說的另一個問題,在于如果AI翻譯日趨完善的話,人們可能就不去學外文了,因為將來很可能是可以用幾分鐘就生成一本書的完善的中譯本。比如說,斯蒂芬·金或者東野圭吾這樣的作家推出一本電子版的新書,只要事先版權談妥了,我們可以在五分鐘后就讀到中文版,而以前需要一年以上。這樣的世界當然很令人向往,但是一個懂得外文的人,閱讀原文所把握到的原文意境,還是遠超過翻譯出來的內容。如果我們只依賴于翻譯,這扇大門就永遠對我們關閉了。我們實際上失去了一個讓自己擁有另一種交流和思考的維度的機會。
晝溫:正是如此,技術的發展總是有得有失?,F在最令你驚嘆的現存人工智能技術是什么呢?
寶樹:雖然我們作為創作者會更多考慮技術的復雜負面后果,但還是有很多令人振奮的方面。比如我覺得人工智能用于醫療就非常有意義,根據基因數據進行疾病風險預測和醫學影像識別等,人工智能的效率都比人類醫生要高不少,也不容易犯錯。還有基因靶向藥物的研制,可以用人工智能幫助計算高分子結構,“定制”出針對癌細胞特定基因序列的藥物,達到只殺死癌細胞,不殺死正常細胞的結果。這樣藥物研發的成本會大為下降,周期也大為縮短,目前已經有一些初步的應用。這項技術未來再發展,可能將會制造出在人體內隨時可以殺死癌細胞的智能納米機器。那樣的話,癌癥就基本攻克了。人均壽命延長幾十年不是夢。
晝溫:希望呢!但也可能出現《三體》中提到的基因定制病毒:對于其他人來說,感染上只是小感冒,而對于特定的人,則會有致命危險。人工智能時代的醫德,也許未來會成為醫務工作者躲不掉的命題。
《星際穿越》劇照
03 人機合作如果是一種趨勢,
創作者該如何應對寫作倫理?
晝溫:而作為文字工作者,大語言模型一出來,我感受到的沖擊還是挺大的。有時候在網上讀文章,津津有味看到一半才發現是AI創作的,有時候讀到最后都分辨不出來。而有些AI寫的小說已經獲得了大獎,游戲和動畫也開始出現另類“3A大作”(AI作圖、AI配音、AI作曲或AI編?。?。寫作,或者說是創作,似乎都不再需要人類了。寶樹老師怎么看這一現象?又是否用過AI創作呢?
寶樹:這個問題現在也是作家中討論的一個熱點,畢竟這是大家最關心的本領域的劇變。目前兩派還是壁壘分明的,一派認為機器沒有靈魂,不可能具有人類的創造力和想象力,寫出來的東西也只是徒具其形;另一派則認為靈魂也無非是一種算法,沒什么神秘的,機器將來必將取代人類。我比較偏向后者,我覺得不能把人的創作能力浪漫化,認為機器一定做不到。
不過我嘗試過用AI寫一些段落來實驗,感覺基本還是比較初步的,邏輯性和文學美感上都還有不小差距,機器要取代人類,還有很長的路要走。能拿得出手的那些還是經過人的仔細調整,不是純粹AI的產物。
晝溫:我也有同感。我曾經嘗試過給AI下達指令,讓它生成小說中的一段話,但怎么看怎么別扭,每一個字詞、每一個標點符號都需要調整,完全沒有腦海中的場景通過鍵盤行云流水落在文檔里的感覺。
寶樹:不過,無可否認,現在讓AI隨便寫幾段話,表達能力已經超過了人類一般的水平。某種人機協作還是一個大趨勢。但這個似乎又涉及寫作倫理,如果我讓AI生成一段可用的文本,然后我拿來使用。這和我從別人書上看到一段話來抄襲,有什么本質區別嗎?只不過這種抄襲并沒有一個苦主罷了,但我們的行為并沒有太大區別。這也是目前困擾我的一個問題。我并不是抵制AI寫作,長遠來看,人機協作進行創作是必然趨勢,但我們在奔赴和AI合作的道路之前,有些問題應該先想清楚。
晝溫:AI版權問題還遠遠沒有達成社會共識,真的是技術在前面跑,法律、道德、倫理在后面追。但總有一天,這樣混亂的局面會結束。
我目前主要還是用AI幫助查閱資料,而不是真正生成行文。寫作對我來說更多是一個自我表達的方式,把打動我的情感和經歷,通過故事的形式傳遞給更多人。寫作的過程是非常愉悅的。在未來,人工寫作是否會變成一個非常稀少而私人的事情呢?就像現在的非遺手藝人一樣,需要守護和傳承,而流水線上的商品才是服務世界上絕大多數人的存在。我很慶幸,在大語言模型出現之前成為了作家。
寶樹:我覺得從長遠角度來看,有些寶貴的東西必然會消亡。比如說當文字發明時,那些能夠背誦幾萬行史詩的行吟詩人就不見了。當我們這代人用電腦創作的時候,上一代作家用手稿寫作的方式也消失了,手稿作為文學史上的美好事物就停止存在了。我們“寫”的作品是沒有“原件”的,或者說保存原件這個行為變得沒有意義了。當AI寫作成為常態時,可能大家也覺得不靠AI而自己寫,這種行為沒什么意義。
或許問題更關鍵的地方在于,AI的創作能夠走得多遠,在多大程度上超越人類。如果AI創作最后能走到任何人類藝術家都無法想象的地方去,那后世也不會為人類的損失而哀嘆。人類只是宇宙智能演化中一個不算特別重要的過渡環節。
晝溫:在生活中的其他領域,大語言模型還是幫了很多忙。我在互聯網公司上班的朋友,每天都會用ChatGPT寫各平臺的宣發文案。他們在和外國同事溝通時,也會用AI來潤色英文。有一次她的AI賬號用不了了,急得團團轉,連外國同事的郵件都不敢回復,怕行文沒有之前那么優雅正式。但從另一個層面講,那些外國同事,永遠也不會知道,真正的“她”是什么樣的。
我在小說《你一生的言語》里提出了一個叫“語痕”的概念——說白了就是,你說的話、寫的字里,到底能留下多少屬于你的、獨一無二的痕跡。
最鮮活的是面對面聊天:你說話時的表情、小動作、語調,你前半生攢下來的那些口頭禪,還有在對方注視下,來不及多想就蹦出來的那句話——那一刻的你是獨一無二的,沒人能完全復制,連你自己都做不到。
其次是手寫:寫字其實特別考驗手上功夫,一筆一畫都是肌肉記憶。寫的時候你會反復琢磨,最后落在紙上的,可能就是你最真實的水平。內容可以抄,但字跡騙不了人——法庭上,專家光看筆跡就能辨真假。到了電子文檔,痕跡就淡多了:只剩下一點用詞習慣和思維方式的影子,但太容易復制粘貼,個性幾乎被抹平了。
那AI修改過的文字呢?經過數字傳輸后,連最后那點“人味”都沒了。它可能語法完美、邏輯清晰、文筆漂亮,但就像超市里的塑料蘋果——光鮮,但沒有生命。那這樣的語言算什么?不過是一團石墨的痕跡,空氣的振動,或是屏幕上的像素點罷了。
那會不會有一天,我們每發一條消息都要AI精修,而面對面聊天,反而成了讓人尷尬的事?而這樣的羞赧,已經在朋友面對外國同事時的失語中開始體現。
寶樹:“語痕”這個提法很有深意,我覺得廣義來說,可以當成人類個體性的表征。每個人都是獨一無二的個體。但與他人接觸,又不一定是愉快的過程。即便是相愛的人們,也不可能絕對合拍,而且越是相知,可能給彼此的傷害也越深。這方面,AI所做的是在我們周圍建立一個隔離層,比如說計算我們的喜好,建立信息繭房。當然,理想上,它應該能夠過濾掉不好的一面,而促進正面的交流,但二者實際上是一體兩面的。如果我們不邁出自己的舒適區,不冒著誤解和交惡的風險去付出努力,也永遠無法和他人建立真正真誠而深入的關聯。
晝溫:是啊。不過GPT-4o有一個版本就存在過于討好用戶的情況,在對話中專注于奉承用戶,遭到大量反對,OpenAI最終選擇緊急回滾??磥硖嫌脩粢矔钊擞憛挘@個度連AI也不好把握呀。
寶樹:但總歸其目的是讓我們更開心,只是手段可能更狡猾。這里也關聯到另一個問題,就是可能它只讓我們生活在自己喜歡的文字和故事里,讓我們永遠無法邁出去了解世界的本相。偉大的文學,揭示這個世界一些殘忍的真相,通常是不太讓人愉悅的。但因為有很好的故事性和文筆,所以能讓我們去嘗試接受,去提升我們對世界的理解和感悟。但AI可能創造出非常精彩的故事,讓我們非常沉醉的文筆,卻和這個世界的本相隔離。這樣,我們豈不是將被豢養在一個個肥皂泡里,和世界本身也和更偉大的境界絕緣了?就像《束手》里所描述的,人類被圈養起來,只不過這種圈養更徹底,我們甚至不會意識到自己被囚禁了。
晝溫:這樣聽起來,作家還是有存在的意義呢!用手中鋒利的文字刺破人工智能打造的泡泡,幫助人們深度鏈接、理解世界。
剛才說了那么多,還是以人類為中心的話題,那在未來,AI會不會搞出一套自己的語言?。壳岸螘r間網上不是瘋傳一個視頻嗎?兩個AI聊著聊著,突然發現對方都是AI,結果直接切換成加密語言繼續聊。這不就等于它們背著我們搞小團體嗎?最可怕的是,等我們發現的時候,可能早就管不住它們了。
寶樹:這點我倒是蠻期待的,有沒有可能它們發展出一種不受人類語言模式約束的新語言?人的自然語言受限于一些基本的結構,比如說主謂結構,似乎總有一些主體在做出行為,但這些主體是對流變的現實的一種失真的模擬,而我們只能這么去理解世界,有沒有可能人工智能的語言能夠擺脫這個結構,在一個新層面上理解世界?如果可能的話,不論人類是否能理解,都是宇宙智能本身的一種飛躍。
晝溫:那到時候我們就只能像螞蟻一樣,仰望AI去探索星辰大海了。似乎對于人類來說不是一個很好的未來。你認為我們最有可能走向的未來,是什么樣的呢?
寶樹:這個真的很難預言,只能說未來可能會很美好,甚至超出我們的想象,但在這個過程中會有強烈的動蕩。比如說通用人工智能,如果能夠代替大多數人的工作,讓90%的人失業,世界會變成什么樣子?會不會誘發戰爭和混亂?又比如說,網絡通信技術,能夠讓人群以之前無法想象的方式連接起來,但又會在人群中制造區隔和對立,放大人性中黨同伐異、自我中心的缺陷。今后的每一步可能都蘊藏危險。目前日趨緊張的國際局勢,也間接和科技的迅猛發展有關。
雖然我們不可能真正去預知未來,但可以去想象。我今年會出一本新書,叫《你已生活在未來》,講述AI等近未來科技下一些可能發生的生活故事,也許會有一丁點參考價值,也許純屬盲人摸象,過幾十年看就是笑料。單純從創作角度來說,我覺得短期內還不用太悲觀。十年之內,AI還不太可能威脅到人類的創作者,但留給我們的時間也的確不多了。真正遠遠超過人類智能的人工智能可能在二三十年后就會出現,天堂或者地獄,我們到時就會知道。但就像我上面說過的,能見證這樣一個必將到來的未來本身也是一種幸運。
晝溫:是啊,“生命總會自己找到出路”,盡管中間會發生很多動蕩,人類社會一定會找到適應它的方式,也許是一種新的語言,也許是完全不同的倫理道德,也許那種方式會讓今天的我們無法理解??傊磥硪褋?,讓我們一起見證!
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.