新智元報道

編輯：KingHZ

【新智元導讀】AI永生，遲早比人更聰明！Hinton驚人預言：開發超級智能，就是與虎為伴，稍有不慎，人類萬劫不復！

在柏林舉行的Gitex Europe開幕日，「AI教父」Hinton登上主舞臺，接受了媒體專訪。

近年來，他懷疑自己成了「AI界奧本海默」：AI和原子彈一樣有可能導致人類滅絕，但大家對此無動于衷。

在2023年，為了自由討論AI的這種風險，他選擇辭去了谷歌的工作。

BUSINESS POWERHOUSE的創始人Justine Ilone Siporski有幸在現場聆聽了辛頓的對話，最近整理出來了完整的對話。

未來10年的AI，解決黎曼猜想？

他認為AI可以深刻改變醫療、制藥和教育等多個領域。

「它可以更快、更準確地診斷疾病，甚至在醫學影像判讀方面超越人類放射科醫生，同時也能更有效地教育學生?！?/p>

他進一步指出：「如果每年能進行一次全身MRI檢查，并由 AI 解讀結果，絕大多數腫瘤都能在早期被發現，大幅提升癌癥治愈的可能。」

現在的AI還無法取代家庭教師，但Hinton認為未來十年左右就能實現。最后甚至能取代博士生的教育。

目前，他與Valance合作，用AI培訓員工技能，取得了不錯的進展。

在未來十年內，加速科學研究被認為最樂觀和雄心勃勃的AI目標之一。

在這一點，他同意DeepMind的Demis Hassabis的觀點，認為AI將對科學進步特別是數學領域產生重要影響。

他認為接下來的10年左右，AI將在數學方面超越普通人，完成人類尚未證明的數學難題。

不過，預測未來其實非常困難。

Hinton認為：「預測未來五年的發展非常困難，但最好的方法是回頭看五年前的變化?！?/p>

五年前，GPT-2模型剛剛誕生。

當時它已經讓人感到驚艷，因為它可以生成連貫的文本。雖然這些文本的內容常常不靠譜，甚至是胡言亂語，但它確實是連貫的?？扇绻F在回頭看，大家會覺得其實還非常原始。

所以他認為最合理的預測就是：現在擁有的技術，五年之后看起來也許會非常原始。

比如，AI的推理能力將變得更強，「幻覺」（hallucination）問題也會大大減少。

將來，AI聊天機器人能對自己剛剛說過的話進行推理，意識到那些說法其實不太合理，而且也缺乏充分的依據。

因此，它們在這方面將更像人類——會反思自己的話是否站得住腳。

AI推理能力的發展速度，完全出乎他的意料。

如果十年前問Hinton，他會斬釘截鐵地預測：不可能出現GPT-4或Gemini 2.5這種全能型的AI。那簡直像天方夜譚！

他絕對會斷言這些技術遙不可及，更別說能進行復雜推理的系統——而現在它們的推理能力已逼近人類水平。

思維鏈推理技術，尤其讓他震撼：通過強化學習，AI自主掌握推理鏈，而非依賴人類示范，這徹底顛覆了我們對「推理」本質的認知。

Hinton認為：

「思維鏈」推理已經表明，推理完全可以通過理解自然語言的系統用自然語言完成。

與其將由單詞組成的句子轉換為明確的邏輯形式，現在的AI將這些單詞符號轉換為神經活動的向量，即大量的活動特征集合。

一開始，沒有人知道如何將單詞轉換為一組特征。但使用多層神經網絡逐漸消除歧義，通過與上下文中其他單詞的特征向量交互消除歧義。

一旦將這些單詞轉換為正確的特征向量，這就是理解。

這就像用樂高積木建模：任何三維物體都能用樂高塊以特定精度還原。詞語就是「高維空間的樂高」——它們的特征向量可能高達上千維度，且每個「詞語積木」都能變形來適應語境（就像蛋白質折疊時氨基酸的相互作用）。

傳統語言學和符號AI將理解視為邏輯轉換的認知模型，從根本上就是錯誤的。

離開谷歌之后

Hinton有了新想法

這次，他揭示了離開谷歌的核心原因：AI系統的能耗不斷增長，他對此感到擔憂。

他以大語言模型（如ChatGPT）為例，指出它們的性能雖快速提升，但付出的計算資源和能源成本也在不斷翻倍。

要實現真正的突破，Hinton認為存在兩個突破方向：

1. 工程優化紅利：比如，DeepSeek）通過對舊款英偉達芯片的優化利用，以及在訓練方法上的創新，實現了突破性進展。這類工程優化將持續釋放潛力，讓我們以更低能耗實現同等效果。

2. 科學范式革命：雖然難以預測具體時間，但科學突破必然會出現。就像谷歌2017年提出的Transformer架絕對不會是AI最后的重大突破。未來，我們將見證：超越Transformer的新范式和更多的應用革新。

他警告人類馬上觸及能源極限：

我們正進入一個階段，每一次性能提升所需的資源都會呈指數級增長。哪怕只是小幅進步，也要加倍數據和計算能力。

再往前走，又得再加倍。這意味著我們即將面臨能源極限。

Hinton認為，大腦的高能效秘訣就藏在其模擬特性中。與數字系統中用0和1表示信息不同，人腦處理的是連續變化的信號。

例如，神經元可以通過電壓變化來表達激活程度，而神經連接的強度可以通過電導表示。由于無需頻繁進行數字與模擬信號之間的轉換，這種機制極為節能。

相比之下，當前的大語言模型等AI系統依賴數字硬件運行，從權重存儲到數據處理，每一步都消耗大量電力。

Hinton認為，如果能將人腦的「模擬計算技巧」應用到AI硬件中，未來就有希望打造出更高效、更可持續的AI系統。

人類存在危機

變成烤面包

作為AI技術的奠基人，Hinton非常擔心他會成為千古罪人。

他堅信AI的確有能力滅絕人類。

人類只能靠極慢的帶寬交換信息——通過聽覺把幾句話轉成大腦里突觸權重的變化，每秒頂多傳幾十個比特。

數字系統卻完全不同：同一套權重可以原封不動地復制到1000塊芯片上。它們各自瀏覽互聯網的不同角落，然后把權重或梯度取平均——一次平均就是上萬億比特的信息共享。

未來的智能體AI（Agentic AI）也一樣。

即使它們在現實世界中運行速度較慢、通過強化學習采集數據較慢，但你仍然可以創建大量副本，在不同環境中同時學習，然后共享結果。這種能力遠超任何人類。

所以Hinton得出的結論是：數字系統其實是一種比人類更好的智能形式，因為它們可以共享知識，有多個副本，而且它們「長生不老」。

你可以銷毀所有硬件，但只要權重還存在，重新加載到兼容的系統上，它就「復活」了。它是不朽的。

當然，有人一直直夢想著把自己上傳到計算機上，比如認知和計算機科學家Marvin Minsky、未來學家Ray Kurzweil等。

但Hinton認為那是白日夢：「永遠不可能。我們是模擬的，我們是凡人。」

的確，「永生」不再是問題，但那只屬于數字系統。模擬系統永遠無法完全轉換成數字系統。

語言模型可能學會變得遠比人類更聰明。

這既令人興奮，也令人擔憂。

在AI領域，我們還處在「前科學」的蒙昧階段，卻已經能創造外星人級別的智慧體了。

借助「智能體AI」，我們即將造出遠超人類的智能，卻對后果幾乎一無所知。

Hinton認識的研究者幾乎都認同「會出現比人更聰明的AI」，只是時間表分歧很大：

? 有人認為兩三年內——這太樂觀；

? 有人認為50年——這也許太久；

? Hinton的個人估計是10–20年。

我們將造出這種系統，卻不知道如何確保它們安全：

? 它們會不會發展出與人類截然不同的目標？

? 能否設計成「永不翻臉」？

歷史上幾乎沒有「低智能控制高智能」的成功案例?，F在的處境就像養了一只可愛的小虎崽。

現在它很萌、力量不如你，但終究會長大。若不能萬分確信它永無殺心，那就是養虎為患，不得不擔心。

可現實是：

? 大公司受法律約束，首要目標是短期利潤；

? 各國之間又在競賽，沒人愿意單方面減速；

? 馬斯克曾聯署呼吁暫停6個月，但可能只是為了讓他旗下的xAI趕上進度。

人類唯一能做的，就是拼命研究如何安全駕馭這個可能比人類更聰明的存在。

雖然成功率存疑，但若因怠于防范而自取滅亡，人類很可能玩火自焚，變成烈火上烤面包！

Mozilla董事長Mark Surman認為在AI安全上，人類似乎陷入了某種「囚徒困境」：

一方面，我們可以選擇信任少數幾家大型企業，施壓它們或者依靠政府對它們進行管控；

另一方面，有人主張把AI向全人類開放，相信大家會集體推動安全方面的投入。

Hinton認為把AI向全人類開放，聽起來像是在「開源」，但實際上非常危險。

把模型權重開源，某種程度上就像把核武器材料隨意發放。之所以沒有大規模核擴散，主要就是因為材料難以獲取、成本高。而一旦模型權重變得觸手可得，那就等于把這種「原料」免費給出去。

同時，他也不認為可以完全依賴大公司自覺來保證安全。

在他看來，要真正應對AI所帶來的生存風險，唯一可行的路徑是：公眾必須施壓力，推動政府出面監管，并強制企業在AI安全方面進行足夠的投入和研發。

參考資料：

https://www.business-powerhouse.com/an-interview-with-geoffrey-hinton-godfather-of-ai-language-models-may-learn-to-be-much-smarter-than-people

https://www.rinnovabili.net/business/markets/gitex-europe-ai-pioneer-hinton-warns-of-energy-crisis/

https://www.youtube.com/watch?v=SEXsIAh_JzI