大數據文摘受權轉載自學術頭條

作者：木木

人工智能（AI）大模型（如語言、視覺、多模態模型）的突破引發了廣泛關注，一些人認為通過擴大數據與算力將催生通用人工智能（AGI）的誕生，人類也即將見證具有超級智能的智能體（agent）。

無論是樂觀的技術“鼓吹派”，還是更為擔憂的“災難擔憂派”，都在廣泛傳遞這這樣一種關于 AGI 的宏大敘事。

但是，最新一期的 Science 期刊發表了一篇題為“Large AI models are cultural and social technologies”文章，提供了一種與主流觀點不同的思考角度，為這一前景潑了冷水。

來自芝加哥大學圣達菲研究所和約翰霍普金斯大學等多所頂尖機構的研究人員認為，關于大模型和 AGI 的敘事，不僅讓大家誤解了這些模型的本質以及它們與過去技術變革的關系，更重要的是也轉移了我們對這些技術所帶來真實問題和機遇的關注，讓我們忽視了歷史所能提供的經驗和教訓。

文章指出，大模型技術與智能 agent 存在本質區別，并不具備真正的智能和自主性，它們無法像人類一樣感知和應對復雜多變的外部世界，也無法自主設定目標和價值觀。大模型本質上應該被視為一種新興的文化和社會技術，其核心功能是幫助人類更加高效便利地利用歷史積累的信息，而非發展出獨立的 agent。

作者們強調，結合社會學、行為科學與計算機科學的見解，有助于我們更準確地理解 AI 系統。這一觀點可通過歷史上類似技術（如文字、印刷術）的變革影響得到印證。未來或許可能出現更接近智能 agent 的 AI 系統，我們可以討論如何應對這些假設的 AI 系統，但大模型并非這樣的系統，它們更像印刷術、圖書館目錄或互聯網技術一樣，是人類文化與社會技術發展長河中的一部分。

大模型更應是當代“印刷術”

我們不妨暫時摘掉當前對大模型技術的狂熱濾鏡，回顧社會學家們對過去技術變革的獨特理解，重新思考一下大模型技術的本質。

人類文明因文化而起，也依賴文化得以生存和發展。從語言的出現開始，人類便具備了從他人經驗中學習的獨特能力，這可能是人類文明高速進化的關鍵之一。

同樣，我們也很好理解，歷史上每一項重大技術的突破都導致了社會的急劇變革。在語言之后，人類文明史上的標志性文化技術還包括符號、文字、書籍及印刷術、音視頻技術等。隨著信息能夠在更廣闊的空間和時間范圍內變得觸手可及，我們獲取、理解和生產信息的方式也隨之擴展，從圖書館到互聯網搜索，從書信到音視頻社交，這些技術的發展都對人類思想和社會文化產生了深遠影響。

（來源：wikipedia）

例如，18 世紀印刷技術的廣泛進步，使人類新思想能夠迅速傳播，在啟蒙運動和法國大革命中發揮了重要作用。進入21 世紀后，幾乎所有來自文本、圖片和動態圖像的人類文化產物都被轉換為數字格式，實現了瞬間傳輸和無限復制。這些創新不僅重塑了知識分配模式，也顛覆了政治經濟和社會組織形式。

作者指出，大模型與歷史上的文化和社會技術有許多相似之處。

首先，大模型具備獲取和重組人類積累知識的能力，類似于書寫、印刷、互聯網搜索等技術，它們能夠訪問由其他人類創造的信息，并對其進行重新組織和轉換。例如，大語言模型（LLM）可以對海量文本進行分析和總結，生成人類可讀的文本內容。同時，它們還能對信息進行大規模的模擬和重構，就像市場、國家等對資源分配和社會結構進行重組一樣。

同時，文化和社會技術不僅依賴于個體的知識和決策能力，還能反過來塑造個體的知識和決策。大模型通過提供信息和知識，影響人們的思維方式和行為模式。例如，聊天機器人可以根據用戶的輸入生成回復，這些回復可能包含新的觀點和信息，從而改變用戶的認知和決策。此外，大模型還可以通過自動化任務和提供智能輔助，提高人類的工作效率和生活質量。

也就是說，與蒸汽機、電力等純粹的技術創新不同，大模型本質上是一種特殊的文化和社會技術，融合了文化與社會技術的雙重特性，是能夠組織、傳遞和轉換人類文化知識，以及協調個體信息收集和決策的系統，它們直接作用于人類社會的文化和社會層面，具有深刻的社會變革潛力。

此外，大模型的運行高度依賴人類協作，即依賴數萬名標注員通過強化學習人類反饋（RLHF）優化輸出，用戶需要通過對話引導模型推理。本質上，當用戶向模型索取求職信建議時，他們正與成千上萬前人的經驗及標注員的知識間接互動。

所以，關于大模型的真正擔憂不在于是否會創造出威脅人類的超級智能，而在于我們如何駕馭這一新型文化技術，平衡效率與多元、權力與公正。

歷史提醒我們：技術的影響從未注定，而是社會選擇的結果。唯有融合工程智慧與社科洞察，方能引導 AI 成為人類文明的賦能者，而非支配者。

超越 AGI 敘事，從歷史中尋找經驗

如果我們將 AI 的討論聚焦于這個新的文化和社會技術所帶來的挑戰與機遇上，就會發現，如同過去文化和社會技術一樣，這些大模型系統將對生產力產生深遠影響。

大模型的潛力堪比印刷術對語言、市場對經濟的革新，不僅抽象了大量的人類文化，還允許對其執行各種新的操作，比如可以對信息進行重組和重構。這些 18 世紀和 19 世紀的早期技術是當時社會巨變的核心因素，既是變革的動因，也是變革的結果。

這些技術都支持信息的抽象化，創造了新的可能性，可以在全球范圍內協調數百萬人們之間的信息交流與合作，以便能夠進行大規模的新操作。同時，這些技術也引發了關于虛假信息傳播、偏見、文化同質化或分裂，以及權力和資源分配變化的合理擔憂。新的通信媒體的出現，無論是印刷術還是電視，都伴隨著對其傳播虛假信息和強化不良文化力量的擔憂。

（來源：Science）

在經濟領域，大模型可能改變知識工作者的角色和地位，甚至導致某些職業的消失。同時，它們也可能創造新的就業機會和產業形態。此外，大模型可能影響權力和資源的分配。例如，擁有大模型技術的企業和機構可能獲得更大的競爭優勢，而那些無法有效利用這些技術的個人和組織可能會被邊緣化。

回顧這些技術和系統的演變過程，我們可以從中汲取寶貴的經驗教訓。例如，在印刷術普及后，出現了信息過載和虛假信息傳播的問題，社會不得不建立起編輯、同行評審等規范和監管機制來應對。同樣，市場機制雖然高效，但也可能導致信息不對稱和外部性等問題，需要通過法律和政策進行干預。

這些歷史經驗已經為我們理解和應對大模型帶來的挑戰提供了有益的參考。

論文作者們認為，為了充分發揮大模型的潛力并減少其負面影響，計算機科學與社會科學的緊密合作至關重要。計算機科學家可以提供對大模型技術細節的深入理解，而社會科學家則能夠分析這些技術對社會、政治和經濟的影響。

例如，技術開發者也應不斷改進大模型的算法和架構，提高其準確性和可靠性。此外，研究人員還可以探索新的技術和應用模式，如開發具有社會意識的 AI 系統，使其能夠更好地理解和應對復雜的社會問題。而政府和國際組織需要制定相應的政策和監管措施，以規范大模型的開發和應用，這包括建立數據隱私保護機制、防止算法歧視、確保信息的真實性等。同時，政策制定者還應關注大模型對就業市場和社會不平等的影響，采取措施緩解潛在的負面影響。

作為新興的文化和社會技術，大模型正在重塑我們的社會、經濟和文化格局。它們不僅能夠獲取和重組人類知識，還能對個體的知識和決策產生深遠影響。

然而，我們也必須清醒地認識到，大模型并非完美的智能 agent，與其將 AI 的發展框定為人類與機器之間的二元斗爭，我們更應該通過借鑒歷史經驗、加強跨學科合作以及制定合理的政策和監管措施，引導大模型朝著有利于人類社會的方向發展，實現技術與人文的和諧共進。

作者：木木

本文僅為原文章作者觀點，不代表學術頭條的立場。

原政策論壇文章鏈接：

www.science.org/doi/10.1126/science.adt9819

GPU算力按需租用

A100/H100 GPU算力按需租用，

秒級計費，平均節省開支30%以上！

掃碼了解詳情?