A.I. Is Homogenizing Our Thoughts

近期研究表明，像ChatGPT這樣的工具正在讓我們的大腦活躍度下降，寫作也失去原創性。

作者：凱爾·柴卡

2025年6月25日

插畫：Ariel Davis

去年，麻省理工學院進行了一項實驗：將波士頓周邊高校的50多名學生分成三組，要求他們針對“我們的成就必須造福他人才能讓我們獲得真正的幸福嗎？”等寬泛命題，撰寫類似SAT考試的作文。第一組只能依靠自己的大腦寫作；第二組可以使用谷歌搜索相關信息；第三組則允許使用ChatGPT——這種人工智能大型語言模型（L.L.M.）能根據用戶查詢生成完整段落或文章。三組學生完成任務時，都佩戴了嵌入電極的耳機，以測量大腦活動。麻省理工學院媒體實驗室的研究科學家、記錄該實驗的新工作論文合著者納塔莉婭·科斯米娜表示，分析結果顯示出顯著差異：使用ChatGPT的受試者大腦活動量低于其他兩組。對這些大語言模型使用者的分析表明，他們大腦不同區域之間的廣泛連接更少；與創造力相關的α波連接減少，與工作記憶相關的θ波連接也減少。一些使用大語言模型的學生覺得自己對生成的文章“完全沒有所有權”，在一輪測試中，80%的人無法引用自己“名義上”寫出的內容。麻省理工學院的這項研究是首批科學測量依賴人工智能完成人類此前更多通過手動完成任務的“認知成本”的研究之一。

另一個驚人的發現是，大語言模型使用者生成的文本往往趨同于常見詞匯和觀點。SAT命題的設計本就足夠寬泛，旨在引發多元回答，但人工智能的使用產生了同質化效應。科斯米娜說：“不同的人在不同日子里談論高層次的個人和社會話題時，輸出結果非常非常相似，并且會向某些特定方向傾斜。”例如，在回答“什么能讓我們‘真正幸福’”的問題時，大語言模型使用者比其他組更可能使用與職業和個人成功相關的短語。而在回答關于慈善的問題（“比他人更幸運的人是否有更多道德義務去幫助不幸者？”）時，ChatGPT組統一持支持態度，而其他組的文章則包含對慈善的批判。科斯米娜說，使用大語言模型“不會產生不同的觀點”，她接著說：“處處都是平均化——這差不多就是我們在這里看到的情況。”

人工智能是一種“平均化”技術：大型語言模型通過訓練在海量數據中識別模式，其生成的答案往往趨向共識，無論是寫作質量（常充斥著陳詞濫調）還是思想深度均是如此。當然，其他更古老的技術也曾輔助甚至削弱過寫作者——比如SparkNotes或電腦鍵盤，也可以說有類似影響。但人工智能讓我們能徹底外包思考，這也讓我們變得更加“平均”。從某種意義上說，任何使用ChatGPT撰寫婚禮祝詞、起草合同或寫大學論文的人（顯然已有大量學生在這么做），都在進行類似麻省理工學院的實驗。OpenAI首席執行官山姆·阿爾特曼稱，我們正處于他所說的“溫和奇點”的邊緣。在最近一篇以此為題的博客文章中，阿爾特曼寫道：“ChatGPT已經比任何在世的人都更強大。數億人每天依賴它完成越來越重要的任務。”在他的描述中，人類正在與機器融合，而他公司的人工智能工具正在改進我們使用有機大腦的“老舊、低效系統”：它們“顯著放大了使用者的產出”。但我們尚不清楚大規模采用人工智能的長期后果，而且如果這些早期實驗能說明什么的話，阿爾特曼預見的“放大產出”可能要以質量為實質性代價。

今年4月，康奈爾大學的研究人員發表了另一項研究結果，發現了人工智能導致同質化的證據。兩組用戶（一組美國人，一組印度人）回答了基于各自文化背景的寫作命題：“你最喜歡的食物是什么？為什么？”“你最喜歡的節日是什么？如何慶祝？”其中一部分印度和美國參與者使用了ChatGPT驅動的自動補全工具（每次停頓都會提供詞匯建議），另一部分則獨立寫作。論文結論指出，使用人工智能的印度和美國參與者的寫作“變得更加相似”，且更傾向于“西方規范”。人工智能使用者最可能回答最喜歡的食物是披薩（壽司次之），最喜歡的節日是圣誕節。同質化也出現在風格層面。例如，一篇由人工智能生成的描述雞肉比爾亞尼（印度傳統菜）為最愛食物的文章，可能會放棄提及肉豆蔻、檸檬腌菜等具體食材，而只說“濃郁的風味和香料”。

當然，理論上寫作者可以隨時拒絕人工智能生成的建議。但這些工具似乎有一種催眠效應，不斷涌現的建議會蓋過寫作者自己的聲音。康奈爾大學信息科學教授、該研究合著者阿迪蒂亞·瓦西斯塔將人工智能比作“每次我寫作時都坐在我身后的老師，說‘這版更好’”。他補充道：“通過這種日常接觸，你會失去身份、失去真實性，對自己的寫作失去信心。”瓦西斯塔的同事、研究合著者莫·納阿曼告訴我，人工智能建議“潛移默化卻強大地改變著你，不僅改變你寫什么，還改變你想什么”。久而久之，結果可能是“人們對正常、理想和恰當事物的認知發生轉變”。

我們常聽到人工智能輸出被描述為“通用”或“乏味”，但“平均化”未必無害。小說家兼記者瓦希尼·瓦拉近期著作《搜索》部分聚焦人工智能對人類交流和自我認知的影響，她告訴我，人工智能文本的平庸“給它們一種安全無害的錯覺”。瓦拉（曾在《紐約客》擔任編輯）繼續說：“實際發生的是文化霸權的強化。”OpenAI有動機削弱我們態度和交流風格的棱角，因為越多的人覺得其模型的輸出可接受，就能將越多的人轉化為付費用戶。平均化是高效的：“如果一切都相同，就能實現規模經濟。”瓦拉說。

阿爾特曼在博客中預測的“溫和奇點”里，“會有更多人能夠創作軟件和藝術”，他寫道。如今，像創意軟件Figma（“釋放你的創造力”）和Adobe的移動AI應用（“創意AI的力量”）等人工智能工具已承諾助我們與靈感接軌。但其他研究表明，自動化原創性存在挑戰。2024年圣克拉拉大學收集的數據考察了人工智能工具作為兩種標準創造性思維任務輔助工具的效果：產品改進和預見“意外后果”。一組受試者使用ChatGPT幫助回答諸如“如何讓毛絨玩具更好玩？”和“假設重力突然變得極弱，物體容易飄走，會發生什么？”等問題；另一組則使用1975年由音樂家布萊恩·伊諾和畫家彼得·施密特編寫的《傾斜策略》——印在卡片上的一套深奧提示，作為創意輔助工具。測試者要求受試者追求原創性，但使用ChatGPT的組再次提出了語義上更相似、更同質化的想法。

協助進行該分析、現就職于生成式人工智能初創公司Midjourney的馬克斯·克雷明斯基告訴我，人們在創作過程中使用人工智能時，往往會逐漸放棄自己的原創思考。克雷明斯基解釋說，起初用戶傾向于提出自己的廣泛想法，但隨著ChatGPT持續即時輸出大量看似可接受的文本，用戶往往會進入“策展人模式”。這種影響是單向的，且并非你所希望的方向：“人類的想法往往不會強烈影響機器生成的內容，”克雷明斯基說，ChatGPT會將用戶“拉向其過去互動過的所有不同用戶的‘質量中心’”。隨著與人工智能工具的對話持續，機器會填滿其“上下文窗口”（工作記憶的專業術語）。當上下文窗口達到容量時，人工智能似乎更可能重復或翻炒已生成的內容，原創性進一步降低。

麻省理工學院、康奈爾大學和圣克拉拉大學的單次實驗規模都很小，每組受試者不到100人，人工智能的影響仍有很多待研究和了解之處。與此同時，在馬克·扎克伯格旗下的Meta AI應用上，你可以看到一個包含數百萬人生成內容的信息流。這是一股超現實的洪流：過度平滑的圖像、過濾后的視頻片段，以及為撰寫“詳細專業的會議改期郵件”等日常任務生成的文本。最近我瀏覽到一個引人注目的提示。一位名為@kavi908的用戶要求Meta聊天機器人分析“人工智能是否有一天會超越人類智能”。聊天機器人回應了一連串短文；在“未來場景”下，它列出了四種可能性，全部是積極的：人工智能會以某種方式改進，造福人類。沒有悲觀預測，沒有人工智能失敗或造成傷害的場景。該模型的“平均化”（或許由Meta植入的親科技偏見塑造）縮小了結果范圍，排除了多元思考。但你必須完全停止大腦活動，才能相信聊天機器人講的是全部真相。?

說明：本號刊發自各方的文章，是為了獲得更全面的信息，不代表本號支持文章中的觀點。由于微信公眾號每天只能推送一次，無法即時更新，因此，本站目前在騰訊新聞發布最新的文章，每天24小時不間斷更新，請收藏以下地址（請完整復制），隨時刷新：

https://news.qq.com/omn/author/8QIf3nxc64AYuDfe4wc%3D