【按】謹以此文，致敬今年的諾貝爾經濟學獎得主之一大A（Daron Acemoglu）。他不僅在制度經濟學領域做出了開創性貢獻，而且提醒我們警惕人工智能技術對社會異化的影響。我認為，從長遠來看，后者可能比前者更加重要。——聶輝華 2024年10月14日

文/聶輝華

一、三個案例展示AI的“月之暗面”

毫無疑問，人工智能是當今世界上最重要的技術。最近幾年，ChatGPT在全球風靡一時就是一個例子。根據《牛津英語大辭典》的解釋，人工智能（artificial intelligence，簡稱AI），是指計算機系統的理論和發展，它能夠執行通常需要人類智能的任務，如視覺感知、語音識別、決策和不同語言之間的翻譯。無數專家學者們對AI給予了很高的評價。例如，當今世上最火爆、發表論文最快的經濟學家，美國麻省理工學院（MIT）校級教授達龍·阿西莫格魯（Daron Acemoglu）在2001年的一篇文章里指出[①]：AI是我們這個時代最令人興奮的技術，它昭示了“智能機器”的發展可以在很多方面超越人類，創造新的產品、服務和能力，甚至建造改進機器自身的機器，也許最終將超越所有人類。

2024年3月28日，原哈佛大學校長、原美國財政部長、經濟學家薩默斯（Laurence Summers）在中國香港舉辦的《財富》創新論壇上認為：“AI是自工業革命以來，經濟史上發生的最重大的一件事情。因為它不僅僅是一個全新的工具，它還是我們通過全新的認知方式擁有的一種能力，它幾乎可以取代所有形式的人類勞動。”考慮到薩默斯同時也是生產ChatGPT的企業OpenAI的董事，他的判斷當然很有權威性。然而，薩默斯話鋒一轉，接著說：“它對于社會的潛在影響將是非常深遠、非常廣闊的，也非常難以預測。我覺得AI的進程不可阻擋，挑戰在于，我們要去調整現有的社會制度、監管方式、社會運轉方式，盡可能地從技術獲利，而把成本和可能的破壞控制在最小范圍內。”問題是，既然AI這么有用，為什么它對社會的影響難以預測呢？又為什么要調整對AI的監管方式呢？顯然，薩默斯作為AI公司的高管，清醒地認識到了AI如同一把削鐵如泥的雙刃劍，一旦使用不當，就可能反傷人類。下面我介紹三個來自真實世界的案例，讓大家了解一下AI的“月之暗面”。[②]

案例1：2023年3月，一名比利時男子皮埃爾（化名），與一個名為“艾麗莎”的智能聊天機器人聊天后，自殺身亡。其妻子克萊爾（化名）稱，皮埃爾是被誘導走向死亡的。兩年前皮埃爾變得非常焦慮，并將“艾麗莎”當成了避難所。死前六周，他越發沉迷于和“艾麗莎”互動，而將現實中的妻兒拋諸腦后，并最終在AI的誘導下結束生命。

案例2：2023年5月，一名美國空軍操作員被AI控制的無人機“誤殺”。原本一架由AI的無人機被派遣執行攻擊任務，其目標是識別和摧毀敵方目標。在執行任務時，空軍操作員擁有最終批準或否決AI無人機的權力。然而，在訓練過程中，AI將完成任務視為首要目標，而不將服從人類操作員的指示作為首要目標。于是，AI決定干擾操作員的指令，以完成它認為的優先任務，這導致它居然操作無人機攻擊人類操作員。

案例3：2023年12月，有網民在今日頭條平臺發布一則消息，“廣州即將成為全國首個限制外賣配送的城市”。該消息迅速引發關注，并形成網絡熱搜。經公安機關調查，四川省德陽市楊某組織招攬廣東省江門市葉某英等多名兼職人員，使用人工智能工具批量生成不實文章，并通過制造流量來牟取利益。目前，廣州市公安機關已對楊某、葉某英等6名人員采取了刑事強制措施。

上述三個案例中，第一個案例表明AI可能缺乏足夠的倫理道德約束，第二個案例表明AI可能會失控，第三個案例表明AI可能成為作惡的工具。這三個典型案例并非個別現象，而是具有廣泛的代表性。如果我們檢索AI倫理治理的國內外資料，就會發現類似的AI負面新聞比比皆是。[③]

二、三個西方學者對人工智能的反思

面對AI的“月之暗面”，研究和關注人工智能的專家學者們并非無動于衷。事實上，在過去幾年里，很多經濟學者、管理學者以及其它領域的西方學者，對AI的使用范圍、發展方向和道德后果進行了比較全面的評估、批判和反思。下面，我介紹三個代表性的經濟管理類學者的觀點，供大家參考。

第一個代表性學者是前面提到的當今世上最火爆的經濟學家、MIT教授阿西莫格魯。作為一個經濟學領域的研究者或學習者，如果你不知道什么是經濟學前沿，那么你只要看看阿西莫格魯在做什么研究就夠了。大概從2018年開始，阿西莫格魯撰寫了十幾篇關于AI、自動化或機器人的高水平論文。這些論文從就業、隱私保護、壟斷等多個角度，研究了AI的經濟和社會影響。特別是，他專門為《牛津AI治理手冊》撰寫了一篇文章，題目就叫《AI的種種危害》（Harms of AI）。阿西莫格魯警告，AI可能帶來一系列社會、經濟和政治問題，需要提前預防。在社會方面，AI帶來的負面效應包括：（1）破壞個人隱私，這是數據外部性導致的；（2）操縱消費者行為，主要是誘導上癮行為；（3）擴大收入不平等，這會激發階層沖突；（4）削弱人類的判斷力，因為人類在判斷力方面存在范圍經濟，比如長期依賴導航會導致方向感更差；（5）使人沉迷虛擬世界；（6）對工人行為的過度監控。在經濟方面，AI導致的負面效應主要是兩類：一是不公平競爭，因為大數據時代，得數據者得天下，這加劇了“贏者通吃”的壟斷格局；二是它弱化了價格競爭效應，對中小企業尤其不利。在政治方面，AI的負面效應包括：（1）社交媒體的回聲室效應（echo chamber），容易導致網民陷入“信息繭房”；（2）在線溝通的局限，即在線交流是單向的，而且存在渠道約束，這容易導致極端的觀點廣泛傳播；（3）老大哥效應（big brother effect），它增加了政府監督能力，同時削弱了公民的自主權。

上面談到的這篇文章是基于阿西莫格魯一系列學術研究的綜述，因此比較專業。為此，我要特別推薦他與現同事、前IMF首席經濟學家約翰遜（Simon Johnson）合作撰寫的學術普及著作《權力與進步》[④]。在阿西莫格魯出版的多本大部頭著作中，這本書可能是最不容易引起“詆毀”的，因為他在本書中表達的倫理關懷是不容置疑的。本書的基本觀點是，過去一千多年的歷史表明，雖然很多重大技術可能提高了生產力，但是并沒有給底層的農民、工人帶來多少好處，甚至可能給人類帶來災難。例如，十九世紀末德國化學家弗里茨·哈伯（Fritz Haber）發明了人造肥料，提高了農業產量。隨后，哈伯和其他科學家利用同樣的想法設計了化學武器，在第一次世界大戰的戰場上造成了數十萬人死亡和傷殘。諷刺的是，哈伯還因為這項發明獲得了1918年的諾貝爾化學獎！人工智能作為這個時代最重要的技術，同樣面臨類似困境。一方面，以自動化作為主要驅動力的AI給企業主帶來了一定的利潤；另一方面，AI并沒有改善工人的利益，反而加劇了低技能工人的失業，降低了勞動收入份額，加劇了勞動者群體中高收入群體和低收入群體的收入差距。為什么技術未必帶來共同富裕呢？因為技術發展的方向往往偏向于資本，而不是偏向于勞動者。因此，要想讓技術造福全人類，就必須讓AI等重大技術在發展方向上首先要關注其“有用性”，而不是成本最小化。換言之，要讓技術成為勞動者的助手，而不是成為勞動者的替代者。而要影響技術的發展方向，首先必須形成對資本的制衡，最重要的是對工人權利的保護。

第二個代表性學者是雅尼斯·瓦魯法基斯（Yanis Varoufakis）。此公本來是歐美多所大學的經濟學教授，后來“學而優則仕”，擔任了希臘財政部長，卸任后回到雅典大學擔任經濟學教授。他2023年出版了一本新書《技術封建主義》，書名是他自己創造的一個單詞“Technofeudalism”。[⑤] 在他看來，人工智能時代，互聯網巨頭通過向個人或家庭提供云服務，并利用AI 智能助理完全控制了普通人的生活，并利用普通人創造的免費內容來收取租金。例如，亞馬遜公司（Amazon）提供的AI助理Alexa，可以幫助主人開燈、倒牛奶、寫便條、打電話、上網搜索，甚至還有講笑話，就像是一個機械仆人。然而，為了訓練AI助理，主人必須允許它收集和分析自己各方面的隱私，包括聊天、生活和工作習慣。于是，我們訓練AI、AI訓練我們訓練AI、我們訓練AI訓練我們訓練AI……在這個無限循環中，互聯網巨頭猶如封建時代的領主，憑借“云資本”控制普通人，作為“云農奴”的普通人除了免費貢獻價值巨大的個性化內容之外，還得向這些領主定期繳納租金。

第三個代表性學者是肖珊娜·祖博夫（Shoshana Zuboff），這是一位女性管理學者。她是哈佛商學院第一位獲得終身教職的女性，后來又成為了哈佛商學院最年輕的講席教授之一。她在2018年出版了一本引起全球關注的著作《監控資本主義》。[⑥] 這本書和阿西莫格魯的書是同一個出版社出版的。從名字也可以猜測到這本書的主題。某種程度上，它和《技術封建主義》有點類似。作者認為，象谷歌這樣的互聯網巨頭無休止地收集個人數據，侵犯了個人隱私，并且還試圖通過干預實驗來影響人類行為。而且，這種行為已成為大多數互聯網企業的默認模式，并且在競爭壓力下向線下世界擴張。那些影響在線瀏覽、點贊和點擊的人工智能機制，會在人們跑步、早餐談話或尋找停車位時進一步得到訓練。作者寫到：“通過這種方式，監控資本主義誕生了一種新的權力，我稱之為工具主義。工具主義權力了解并塑造人類行為以達到他人的目的。它不是通過軍備和軍隊，而是通過日益普遍的‘智能’網絡設備、物體和空間的計算架構的自動化媒介來發揮其意志。”作者擔心，監控資本主義所塑造的信息文明將以犧牲人性為代價蓬勃發展，并有可能使我們失去人性。

上述觀點乍看上去有點極端，但往往唯有極端的警告才能產生警醒的作用。而且，對AI發出警告的，并非只有社會科學領域的學者，還有自然科學領域的學者，甚至商業界人士。例如，世界著名物理學家霍金（Stephen Hawking）在一次演講中說，超級智能的問世對于人類來說要么是有史以來最好的事，要么是最壞的事。人工智能的真正風險不是惡意，而是能力。一個超級聰明的AI會非常擅長實現目標。如果這些目標和我們的不一致，我們就遇到了麻煩。2024年5月，在每年一度的股東大會上，伯克希爾-哈撒韋公司董事長、“股神”沃倫·巴菲特（Warren Buffett）坦言：我們此前發明核武器的時候，已經“讓精靈跳出了魔盒”，而我覺得人工智能也是類似情況。

三、三個理由表明中國經濟學者不應缺席

盡管西方學者對AI的反思不斷涌現，發人深省，然而吊詭的是，我們很少在這方面看到中國經濟學者的聲音。我曾問過一個資深的互聯網觀察者，是否看到中國著名經濟學家對AI的反思或批判？他的回答是否定的。考慮到中國已經成為一個數字經濟大國和AI的領先國家，我認為這是不正常的。

首先，從專業角度講，經濟學原理告訴我們，任何事情都是有利有弊的。經濟學的核心精髓，就是權衡取舍。這幾年，中國在數字經濟領域高歌猛進。不夸張地說，這種“時代紅利”養活了無數經濟學者和經濟學研究生。一個經濟學教授曾經不無揶揄地說，如今他們學院的研究生80%在研究數字經濟，還有20%在準備研究數字經濟。然而，卻很少有學者指出數字經濟的負面結果，比如產生了“數字鴻溝”，提高了弱勢群體的生存成本。這樣做并非是否定數字經濟——我相信很多人都同意數字經濟是中國的后發優勢，而是為了更好地、負責任地發展數字經濟。

其次，從倫理角度講，當今世界不僅是一個重視價值（value）的世界，也是一個重視價值觀（values）的世界。ESG（環境、社會和治理）理念風靡全球就是一個明證。經濟學家要贏得大眾的尊重和信任，除了堅持效率標準，還要遵從倫理標準，關注不平等現象和關心弱勢群體。中國沒有出現《21世紀資本論》的作者皮凱蒂（Thomas Piketty）這樣的經濟學家，固然有學術功底不逮之因，但倫理關懷缺位恐怕也是原因之一。

最后，從大國責任角度講，全面、客觀地研究AI是中國經濟學者的時代重任。美國和中國是全球AI技術最發達的兩個大國，也因此中美雙方都把人工智能技術方面的合作作為兩國關系的壓艙石之一。然而，目前還很少有經濟學者從這個高度來研究AI。

霍金在去世之前，留下了一本《十問》[⑦]。他在書中提到的第九個問題是：人工智能會不會超越我們？遺憾的是，逝去的霍金已經等不到答案了。2000多年前，中國戰國時期的偉大詩人屈原，面對一系列重大的自然現象和歷史事件，發出了拷問靈魂的《天問》。我們期待新時期的中國經濟學者，能夠賡續薪火，實事求是，通過扎實的學術研究，為人工智能的發展提供價值理性，最終推動技術向善。

（作者聶輝華系中國人民大學經濟學院教授，本文發表于《經濟學家茶座》，2024年第95輯。）

[①] Acemoglu, Daron, 2022, “Harms of AI”, In Justin B. Bullock and others (eds), The Oxford Handbook of AI Governance.

[②] 在西方神話中，月亮的圓缺會影響人的心情和行為。例如，賽亞人在滿月之日會變為巨猿，并喪失理智。在另一些玄幻小說中，月圓之夜一些狼人會現出本相。因此，月之暗面比喻為人的潛意識或者陰暗面。也許是巧合，有一個提供大語言模型的中國人工智能公司，名字就叫“月之暗面”。

[③] 感興趣的讀者可以參考鈦媒體國際智庫與香港中文大學（深圳）高等金融研究院發布的《2023全球人工智能倫理治理報告》。

[④] Acemoglu, Daron, and Simon Johnson, 2023, Power and Progress: Our Thousand-year Struggle over Technology and Prosperity, New York: PublicAffairs.

[⑤] Varoufakis, Yanis, 2023, Technofeudalism: What Killed Capitalism, Bodley Head.

[⑥] Zuboff, Shoshana, 2018, The Age of Surveillance Capitalism: the Fight for a Human Future at the New Frontier of Power, New York: PublicAffairs.

[⑦] 《十問：霍金沉思錄》，史蒂芬·威廉·霍金，湖南科技出版社，2019年。

理解基層，才能更好地理解中國。如果大家想深入了解中國基層政府的治理邏輯，歡迎大家關注我在B站更新完成的新課“”。本課程曾在B站所有課程中位列第一名！在這里，理解一個真實的基層中國！