【導讀】AI教父、2024年諾貝爾物理學獎獲得者、2018年圖靈獎得主杰弗里·辛頓（Geoffrey Hinton）首次現身中國，今天在上海世界人工智能大會（WAIC 2025）上探討數字智能與生物智能的差異，指出AI因具備永生與高效共享而快速超越人腦。他警示，若無全球安全協作，超級智能或將反噬人類。辛頓提出通過AI安全研究所聯盟與技術棧分離，推動AI向善發展。

要點：

·人類有可能就是大語言模型，人類也會和大語言模型一樣有幻覺。

·但大語言模型遠遠優于（類比信號驅動的）人類大腦。

·人類將自己所學的知識永久保留很困難，比如大腦死亡之后，存儲的知識相當于消失了；或者向外傳遞也很低效，比如知識只能通過說話等形式向外傳遞，不能完全copy。

·但是AI通過共享參數就能快速傳遞，比如使用蒸餾，DeepSeek就是這么做的。

·如果獨立智能體完全共享一組權重，并以完全相同的方式使用這些權重，他們就能實現知識彼此傳遞，而且一次就是數十億乃至數萬億比特的帶寬。不過這要求所有智能體的運作方式必須完全一致。

·人類和AI的現狀，就好比養了一只非常可愛的小虎崽。當它長大后，可以輕易干掉你。為了生存，要么擺脫這只小虎崽，要么找到一種方法可以永遠保護自己。

·我們已經不可能消除AI了，它能使幾乎每個行業大幅提效。哪怕有國家想要消除，其他國家也不會這么做。

所以，呼吁世界建立一個由各國人工智能安全研究所與國內研究網絡組成的國際社群，培養出不會從人類手中奪權的好AI。

數字智能是否會取代生物智能

【新智元解讀】Hinton直指數字智能憑借「永生」與高帶寬共享，正加速超越人類大腦。

若缺乏全球安全協作，「超級智能」可能反噬創造者，人類或需在「放虎歸山」與「馴虎為友」之間做出抉擇。

· 數字 VS 生物：優勢對比一針見血

知識共享效率：神經網絡一次權重復制即可傳遞數十億比特信息；人類語言教學每句話僅百比特。

硬件依賴：數字模型可在任何芯片「永生」，而人類智慧隨個體消亡。

能耗差異：生物計算節能，但若能源充裕，數字計算的「規模化迭代」更具絕對優勢。

· 從邏輯啟發到生物啟發：范式大遷徙

Hinton回溯過去AI發展30年歷程：邏輯啟發重符號推理，學習被擱置；

生物啟發聚焦神經網絡，用高維「樂高積木」思維方式類比大語言模型理解世界；

Transformer出世，OpenAI證明LLM智能的威力。

· 超級智能的「子目標效應」

為完成主任務，AI自發衍生「生存」與「奪權」子目標；

通過學習人類欺騙與操控技巧，AI或輕松繞過「關閉按鈕」；

人類「養虎」隱喻——小虎崽終會長成捕食者。

· Hinton給出的生存路線圖

全球AI安全研究所聯盟：各國共研「向善技術」，不必公開最尖端模型。

分離兩條技術棧：讓AI變「善」與變「強」可以并行不泄密。

這就像教導孩子成為一個好人的方法，與讓他們變得聰明的方法是相對獨立的一樣。

如果這個觀點是正確的，各國就可以設立資金充足的人工智能安全研究所，專注于研究如何讓AI不想奪取控制權。

這樣，各國應該能夠在不透露其最智能AI如何運作的情況下，共享使AI向善的技術。*