今天,世界人工智能“看”上海。
7月26日,2025世界人工智能大會(下稱“WAIC 2025”)在上海盛大啟幕,會場內外人潮涌動,“全球首發”“中國首秀”的頂尖AI科技與產品們令人目不暇接。
大會首日,全球AI領域的頂尖學者、行業領袖和創新先鋒齊聚一堂,共探智能時代的未來圖景。圍繞著AI技術突破、AI全球治理、AI產業落地、全球AI協作等重要話題,一場關于技術邊界與人類價值觀的深刻討論、關乎智能文明未來的思想盛宴已然展開。
“AI教父”辛頓:人類要避免“養虎為患”,必須訓練AI,培養“好AI”
“我們必須找到一個辦法來訓練AI,培養不會從人類手中奪權的‘好AI’。”WAIC 2025主論壇上,圖靈獎得主、諾貝爾物理學獎得主、人工智能之父杰弗里·辛頓(Geoffrey Hinton)以這樣一句警示,再談人工智能安全。值得一提的是,本次WAIC 2025是辛頓首次以線下形式在中國公開亮相。
作為深度學習三巨頭之一,辛頓從1985年開始進行語言模型的研究,畢生致力于教會計算機深度學習。今日的主題演講中,他圍繞《數字智能是否會取代生物智能》為主題,深刻剖析了人工智能發展歷程與前沿趨勢。
辛頓表示,人類理解語言的方式或許與大語言模型相似,人類有可能就是大語言模型,也會像大語言模型一樣產生“幻覺”,創造出許多幻覺性語言。但他同時指出,大語言模型遠優于依賴類比信號的人類大腦。因為計算機科學的一個基礎原則是將軟件與硬件分離,這讓同樣的軟件可以在不同硬件上運行,這與人類存在根本差異。同時,程序中的知識是永恒存在的,軟件和程序可以永久保存。而人類不僅無法做到永生,難以永久留存知識,知識也只能通過語言等方式,傳遞效率低下。“我們做不到永生和快速傳遞知識,這些知識軟件和硬件可以做到。”
談及人工智能的安全性這一備受關注的話題,辛頓表示,“幾乎所有專家都認為我們將生產出比人類更智能的AI。我們習慣了成為最智能的生物,所以很多人難以想象當AI在世界中比人類更智能時會發生什么。”
在辛頓看來,如今的AI智能體不僅能完成人們指派的任務,還具備了自我復制與自我評級的能力。同時,這些智能體還會追求生存與控制權,以更好地實現我們賦予它們的目標。“有人覺得當它們變得比我們更聰明時,我們就把它們關掉,但這是不現實的。它們會操縱和勸說操控機器的人不要把它們關掉。”
他認為,人類需要避免“養虎為患”。辛頓將人類目前的處境比作正在飼養一只可愛的小老虎當寵物,如果一直養這個寵物,人類要確保它長大時不會把你吃掉。“為了生存,人類有兩個選擇:想辦法訓練它讓它永遠不想吃了你,或者擺脫它。”而區別在于,AI不能像老虎那樣被消滅。“對于AI,我們沒有擺脫它的選項,AI對醫療保健、教育、氣候變化、新材料等太多事情都非常有用,能為幾乎所有行業提供幫助并使人類更具生產力。”
“即便有國家想消除,其他國家也不會認同。”辛頓強調,如果我們想讓人類生存,必須找一個辦法訓練AI,讓他們不要消滅人類。
辛頓建議,全球或世界主要國家,或者主要的AI國家應該考慮建立一個網絡,包括來自各國的機構來研究這些問題,研究如何訓練一個已經非常聰明的AI,使這個AI不想消滅人類,不想統治世界,并且樂意做輔助工作,即使這個AI比人類聰明得多。
“從長期來說,這可能是人類面臨的最重要的問題,我們的好消息就是,在這個問題上所有的國家都是可以一起合作的。”辛頓說。
MiniMax閆俊杰:AI一定會被掌握在多家公司的手中
當辛頓開始設計AlexNet時,閆俊杰是國內第一批從事深度學習研究的博士生;當AlphaGo人機大戰上演,人工智能走進所有人視野之時,閆俊杰在參與一家創業公司;ChatGPT問世的前一年,閆俊杰開始創立MiniMax——國內的第一批大模型公司之一。
在今天的主題演講《每個人的AI,Everyone's AI》中,閆俊杰基于對公司內部和行業的種種觀察,提出了一個確定性的觀點:AI 會變得越來越強,而且這種增強幾乎是沒有盡頭的。
接下來出現的問題是,AI這么強,對社會的影響越來越大,那么AI到底會不會被壟斷?它是會被掌握在一家組織里,還是掌握在多家組織里?
閆俊杰認為,AI領域一定會有多個玩家持續存在。原因有三點:第一,目前用到的所有模型都依賴對齊(Model Alignment)。不同的對齊目標反映了不同公司或者組織的價值觀,這些價值觀最終會導致模型的表現非常不一樣,也會使得不同的模型擁有各自的特點,并且長期存在。
第二,最近半年用的AI系統其實都已經不是單個模型了,而是一個多Agent系統,里面涉及多個模型,不同的模型也可以使用不同的工具,通過這樣的方式讓AI智能水平越來越高,能夠解決越來越復雜的問題,帶來的結果是,單一模型的優勢在這樣一個多Agent系統里逐漸變弱。
第三,在過去半年,有很多非常智能的系統,都不是大公司所擁有的。背后的原因是過去一年開源模型如雨后春筍般涌現,開源模型變得越來越有影響力。過去一年比較受關注AI排行榜顯示,最好的模型還是閉源的,但最好的開源模型越來越多,同時也在不斷逼近最好的閉源模型。
基于這三點原因,閆俊杰表示:“我們認為,AI 一定會被掌握在多家公司的手中。與此同時,我們認為 AI 一定會變得越來越普惠,使用成本也會變得更加可控。”
在閆俊杰看來,大量創新能讓 AI 研發變成一個沒有那么燒錢的行業,但是算力使用還會增加。盡管 Token 會變得很便宜,但是使用 Token 的數量會顯著增加。去年ChatBot單個對話只要消耗幾千個Token,現在 Agent 單個對話可能消耗幾百萬個Token,并且因為AI解決的問題越來越復雜,越來越實用,那么用的人也會越來越多。
“讓每個人都用得起AI,這是我們對 AI 發展的判斷。Intelligence with Everyone,這也是我們創業的初衷。我們認為 AGI一定會實現,并且一定會服務大眾、普惠大眾。”他表示,如果有一天 AGI 實現了,其過程一定是由做 AI 的公司和他們的用戶一起來實現,并且這個 AGI 應該屬于多家AI 公司和它的廣泛用戶,而不是只屬于單個組織、某家公司。
“爐邊對話”共論AI時代的全球競合與治理
在WAIC 2025首日的主論壇上,一場別開生面的“爐邊對話”在此展開,對話的兩位主角堪稱AI領域的“東西方智者”:一位是香港科技大學校董會主席、前微軟執行副總裁沈向洋(Harry Shum),這位計算機視覺領域的開拓者曾帶領微軟研究院走向輝煌;另一位是Relativity Space執行董事長、谷歌前CEO埃里克·施密特(Eric Schmidt),這位硅谷傳奇人物親手將谷歌打造成科技巨頭。
從施密特見證的互聯網崛起,到沈向洋深耕的云計算變革,再到如今共同面對的AI浪潮,這場跨越太平洋的對話,不僅聚焦人工智能時代的全球競合新格局,更折射出兩位科技領袖三十年來親歷的數字革命歷程。
作為對話主持者,沈向洋以“全球AI協作”為切入點,引導出一系列深刻洞見。施密特在回應中指出,當前AI發展正進入臨界點,不僅是技術突破,更是社會結構的重構力量,尤其在AI模型能力愈發強大、泛化風險劇增的當下,治理體系亟待建立。
擔任谷歌CEO期間,施密特主導推動了Android系統的開源戰略,他以獨特的視角剖析了開源技術的雙刃劍效應:“開源帶來了驚人的創新效率,但也加劇了擴散風險。”在他看來,技術創新與風險管控之間的動態平衡,正成為全球AI治理面臨的核心命題。
施密特別強調稱,國際協作需要建立在價值共識的基礎之上。“我們必須先進行對話,理解彼此的價值觀,才有可能建立起防止誤判的機制。”他還提及構建“技術護欄”的重要性,認為“如何定義底線、誰來設定規則”是未來AI安全的根本問題。他警告稱,若無明確共識,AI發展可能偏離人類文明方向,帶來結構性沖擊。
在對話尾聲,沈向洋與施密特達成重要共識:中美作為AI領域的兩大核心力量,必須遵循“先理解、再合作”的基本原則,才能將技術發展導入安全、可控的軌道。
施密特表示:“我對接下來的兩年充滿期待,隨著智能體革命的到來,每個企業的工作流程都將發生巨大變化。但是,當AI開始自我學習并做出決策時,我們需要確保這些過程不會失控。”“這是人類共同面臨的問題,任何國家都要坐下來一起談判、合作。我相信,中美可以通過對話加強互信,共同迎接AI帶來的機遇與挑戰,特別是在防止AI負面影響方面進行協作。”
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.