文｜王方玉

編輯｜蘇建勛

7月26號，世界人工智能大會WAIC的開幕主論壇上，多位AI行業的頂級大咖出席并發表演講，為與會者烹飪了一道學術大餐。

“深度學習教父”、圖靈獎、諾貝爾獎得主杰弗里·辛頓（Geoffrey Hinton）是最受關注的演講者，他真人出席，發表了名為《數字智能是否會取代生物智能？》的演講。這也是他在中國的首次公開演講。

大會前夕，辛頓和全球20位人工智能領域的頂級專家，剛剛在上海簽完人工智能安全的“上海共識”。他的大會發言，同樣也圍繞人工智能安全為核心。

辛頓首先回顧了從早期模型到現代大語言模型的發展歷程，并指出大語言模型已經實現了對語言理解的深度模仿，這與人類理解語言的方式是相似的。

但不同的是，AI系統具有“永生性”，且機器之間知識的復制可以在極大規模下進行，實現指數級的知識轉移。因此AI的能力正在快速增長。

他由此提出疑問，如果未來AI比人更智能會怎么樣？“如果AI足夠聰明，它會通過操縱人類、獲得控制權等方式來避免被關閉。”

因此，辛頓警示了人工智能超越人類智能的可能性及其帶來的風險。“從長遠來看，這是人類面臨的最重要問題之一。”

辛頓提醒，AI可能發展出比人類更高級的智能，這將改變人類作為最智能生物的地位。AI智能體可能追求生存和控制力，這可能導致它們操縱人類，就像成年人操縱三歲孩童一樣。因此，人類必須找到方法來訓練AI，確保其不會對人類構成威脅。

與辛頓的發言主題不同，作為AI創業者，MINIMAX創始人、首席執行官閆俊杰的發言更多圍繞AI大模型的實踐和落地，主題是《每個人的人工智能》。

閆俊杰以AI在數據分析、信息追蹤、創意設計及視頻制作等方面的高效應用舉例，指出了人工智能不僅是一種強大的生產力，也是對個人能力和社會能力的一個持續增強，并且未來AI大模型成本將越來越低，能力越來越強。

他判斷，AI大模型不會被一家或者多家組織壟斷。未來AGI一定會實現，并且將會是服務大眾、普惠大眾的一件事。

“如果有一天AGI實現了，我認為實現過程一定是需要AI公司和它的用戶一起來實現的。并且AI模型或者AGI（的所有權）應該屬于AI公司和它的廣泛用戶，而不是只屬于單個組織某家公司。”

以下是經智能涌現編輯的嘉賓發言實錄：

諾貝爾獎、圖靈獎得主、多倫多大學計算機科學名譽教授 Geoffrey Hinton： 數字智能是否會取代生物智能？

從大約60年前開始，AI就發展出了兩種不同的范式。一種是「符號主義」路徑，強調邏輯推理的能力。我們通過規則操作符號來進行推理，這種方式可以幫助我們理解知識是如何被表達與處理的。這類AI模型的基礎是對符號的處理，被認為更符合邏輯智能的本質。

另一種路徑則以生物智能為基礎，是圖靈與馮·諾依曼更傾向相信的方式。他們認為智能的本質在于從神經連接中學習，在于速度、結構和連接模式的改變。這種「連接主義」強調的是學習與適應，而非顯式的邏輯規則。

1985年，我曾構建過一個非常小的模型，試圖將這兩種理論結合起來。我的想法是：每一個詞都可以由多個特征（features）表示，而這些特征之間可以被用來預測下一個詞。這個模型不存儲完整的句子，而是通過生成語言來學習詞匯之間的關系。

這種方式強調語言中的「語義特征」——也就是說，我們并不是僅僅靠規則，而是通過「理解」詞匯的語義來進行預測。這為后來計算語言學界接受特征表示打下了基礎。二十年后，這種思想得到了進一步發展，例如被用于構建更大規模的自然語言處理系統。

如果問未來30年會發生什么，從發展軌跡能看到一些趨勢。十年后，有人沿用這種建模模式，但將規模大幅擴大，使其成為自然語言的真實模擬。20年后，計算語言學家開始接受用特征向量嵌入來表達語義。又過了30年，谷歌發明了 Transformer，OpenAI的研究人員也向人們展示了它的能力。

所以我認為，如今的大語言模型就是我當年微型語言模型的“后代”。它們使用更多詞作為輸入，采用更多層的神經元結構，由于需要處理大量模糊數字，學習特征之間也建立了更復雜的交互模式。但和我做的小模型一樣，大語言模型理解語言的方式與人類相似——基本邏輯是將語言轉化為特征，再以完美的方式整合這些特征，這正是大語言模型各層級所做的工作。因此我認為，大語言模型和人類理解語言的方式相同。

用樂高積木來打比方或許能更好地解釋“理解一句話”的含義。符號型AI是將內容轉化為清晰的符號，但人類并非如此理解。樂高積木能拼出任何3D造型，比如小車模型。如果把每個詞看作多維度的樂高積木（可能有幾千個維度），語言就成了一種建模工具，能隨時與人溝通，只要給這些“積木”命名——每個“積木”就是一個詞。

不過，詞和樂高積木有很多不同：詞的符號形態可根據情況調整，而樂高積木造型固定；樂高積木的拼接是固定的（比如正方形積木插入正方形孔洞），但語言中每個詞仿佛有多個“手臂”，要通過合適的“握手”方式與其他詞互動，詞的“造型”變化，“握手”方式也會改變。

當一個詞的“造型”（即意思）改變，它與下一個詞的“握手”方式就會不同，進而產生新的含義。這就是人腦或神經網絡理解語義的根本邏輯，類似蛋白質通過氨基酸的不同組合形成有意義的結構。

所以我認為，人類理解語言的方式與大語言模型幾乎一致，人類甚至可能和大語言模型一樣產生“幻覺”，因為我們也會創造出一些虛構的表達。

圖源：企業授權

軟件中的知識是永恒的，即便存儲LLM的硬件被摧毀，只要軟件存在，就能隨時“復活”。但要實現這種“永生”，晶體管需在高功率下運行以產生可靠的二進制行為，這個過程成本很高，且無法利用硬件中不穩定的類似特性——它們是模擬型的，每次計算結果都不同。人腦也是模擬型而非數字型的，神經元每次激發的過程都一樣，但每個人的神經元連接方式不同，我無法將自己的神經結構轉移到他人腦中，這就導致知識在人腦間的傳播效率遠低于在硬件中的傳播。

軟件與硬件無關，因此能“永生”，還能帶來低功耗優勢——人腦只需30瓦特就能運轉。我們的神經元連接達數萬億個，無需花費大量資金制造完全相同的硬件。但問題在于，模擬模型間的知識轉移效率極低，我無法直接將腦中的知識展示給他人。

Deepseek的做法是將大神經網絡的知識轉移到小神經網絡中，即“蒸餾”，類似教師與學生的關系：教師將詞語在上下文中的關聯教給學生，學生通過調整權重學會表達。但這種方式效率很低，一句話通常只有100個比特的信息，即便全被理解，每秒最多也只能傳遞約100個比特。

而數字智能間的知識轉移效率極高，同一神經網絡軟件的多個拷貝在不同硬件上運行時，能通過平均化比特的方式分享知識。如果智能體在現實世界中運行，這種優勢更明顯——它們能不斷加速、拷貝，多個智能體比單個智能體學得更多，還能分享權重，這是模擬硬件或軟件做不到的。

生物計算功耗低，但知識分享難。如果能源和計算成本低廉，情況會好很多，但這也讓我感到擔憂——幾乎所有專家都認為，我們會創造出比人類更智能的 AI。人類習慣了作為最智能的生物，很難想象AI超越人類的場景。其實可以換個角度：就像養雞場的雞無法理解人類一樣，我們創造的AI智能體已能幫我們完成任務，它們能拷貝自身、評估子目標，還會為了生存和完成目標而尋求更多控制權。

有人認為可以在AI變得過強時關掉它們，但這并不現實。它們可能會像成年人操縱3歲孩子一樣操縱人類，勸說控制機器的人不要關閉它們。這就像把老虎當寵物，幼虎很可愛，但長大后可能傷人，而養老虎當寵物通常不是好主意。

面對AI，我們只有兩個選擇：要么訓練它永遠不傷害人類，要么“消滅”它。但AI在醫療、教育、氣候變化、新材料等領域作用巨大，能提升所有行業的效率，我們無法消除它——即便一個國家放棄AI，其他國家也不會。因此，若想讓人類生存，必須找到訓練AI不傷害人類的方法。

我個人認為，各國在網絡攻擊、致命武器、虛假信息操縱等領域的合作難度較大，因利益和看法不同。但在“人類掌控世界”這一目標上，各國存在共識：若有國家找到防止AI操控世界的方法，一定會愿意分享。因此我提議，全球主要國家或AI大國應建立一個由AI安全機構組成的國際社群，研究如何訓練高智能AI向善——這與訓練AI變得聰明的技術不同。各國可在自身主權范圍內研究，再分享成果。盡管目前還不知道具體怎么做，但這是人類長期面臨的最重要問題，且所有國家都能在此領域合作。

MINIMAX創始人、首席執行 閆俊杰： 每個人的人工智能

大家好，我給大家分享的題目是《每個人的AI，Everyone’s AI》。講這個題目，跟我個人過去經歷有關。當Hinton先生開始設計AlexNet之時，我是國內第一批從事深度學習研究的博士生；當AlphaGo人機大戰上演，也是人工智能走進所有人視野之時，我在參與一家創業公司；而當ChatGPT出來的前一年，我們開始創立MiniMax，也是國內第一批大模型公司。

在過去的15年里，當我每天面對任務寫代碼，看論文做實驗的時候，一直都在想一件事：如此受關注的人工智能到底是什么？人工智能跟這個社會到底有什么樣的聯系？

隨著我們模型變得越來越好，我們發現人工智能正逐步成為社會的生產力。比如，我們在做人工智能研究的時候，每天需要分析大量的數據，一開始我們需要來寫一些軟件來分析這些數據，后續我們發現其實可以讓AI來生成一個軟件，來幫助分析所有數據。作為一個研究員，我非常關心每天AI領域的所有進展，一開始我們設想，是不是可以做一款APP，來幫我們追蹤各領域的進展？后面我們發現，這件事也不需要自己來做，讓一個AI Agent來自動跟蹤更加高效。

AI是更強的生產力，也是越來越強的創意。比如，15年前上海舉辦世博會的時候，有一個非常火爆的吉祥物叫“海寶”。過去15年，上海有了全方位的發展，我們如果想繼續用“海寶”IP生成一系列更具上海特色，符合時下潮流的衍生形象時，AI可以做得更好。正如現場屏幕展示的，徐匯書院×海寶、武康大樓×海寶，AI能一鍵直出，幫我們生成各種各樣的創意形象。

再比如最近非常火的Labubu，此前制作一個Labubu創意視頻，可能需要兩個月，花費大約幾十甚至百萬人民幣。通過越來越強的AI視頻模型，像大屏幕右邊展示的Labubu視頻，基本一天時間就可以生成出來，成本只有幾百塊錢。

過去六個月，我們的視頻模型海螺（Hailuo）已經在全世界生成超過3億個視頻。通過高質量的AI模型，互聯網上的大部分內容與創意會變得越來越普及，低門檻讓每個人的創意得以充分發揮。

除了釋放生產力與創意之外，我們發現，AI的使用其實已經超出最初的的設計與預期，各種各樣想象不到的應用場景正在發生；比如解析一個古文字、模擬一次飛行、設計一個天文望遠鏡……這樣意想不到的場景，隨著模型能力越來越強，變得越來越可行；僅僅需要少量協作，就可以增強每個人的創意。

面對這么多變化，一個想法開始在我的心里涌現出來：作為一個AI創業者，AI 公司并不是重新復制一個互聯網公司，AI是一個更基礎更根本的生產力，是對個人能力和社會能力的持續增強。這里有兩點比較關鍵：第一、AI是一種能力，第二是AI是可持續的。

人類很難突破生物定律，永不停歇學習新知識，持續變聰明，而AI可以。當我們在建造更好的AI模型時，我們也發現，AI也在和我們人類一起進步，一起做出來更好的AI。就在我們公司內部，員工每天需要寫很多代碼，做很多研究型實驗，這里邊大概有70%的代碼是AI來寫，90%數據分析是靠AI來做。

圖源：企業授權

AI怎么能變得越來越專業？大約在一年前，當時訓練模型還需要大量的基礎標注工作，標注員是一個不可或缺的工種。而今年，當AI能力變得越來越強的時候，大量機械的標注工作被專業AI完成，標注員則可以專注于更有價值的專家型工作，一起幫助模型變得更好。標注工作也不再是簡單給AI一個答案，而是教會AI思考的過程，讓AI來學習人類的思考過程，從而使AI能力變得更加泛化，越來越接近人類頂尖專家的水平。

除了通過專家來教AI之外，還有另外一種進步，就是在環境中大量學習。在過去半年，通過各種環境，從編程IDE，到Agent環境，再到游戲沙盒，當我們把AI放到一個能夠持續提供可驗證的獎勵環境中學習，只要這個環境可以被定義出來，有明確的獎勵信號，AI就可以把問題給解決。這個強化學習也變得可持續，規模越來越大。

基于上面的原因，我們非常確定AI會越來越強，并且可能是無止境地強。

接下來出現的問題是，AI這么強，對社會的影響越來越大，那么AI到底會不會被壟斷？它是會被掌握在一家組織里，還是掌握在多家組織里呢？

我們認為，AI領域一定會有多個玩家持續存在。原因有三點：第一，我們目前用到的所有模型，都依賴對齊（Model Alignment）。很明顯，不同模型的對齊目標其實是不一樣的，比如有的模型對齊目標是一個靠譜的程序員，那么做 Agent就會特別的強；有的模型它對齊目標是與人的交互，那么它就會比較有情商，能夠做流暢的對話；有的模型可能會充滿想象力。不同的對齊目標反映了不同公司或者組織的價值觀，這些價值觀最終會導致模型的表現非常不一樣，也會使得不同的模型擁有各自的特點，并且長期存在。

第二，我們在最近半年用的AI系統其實都已經不是單個模型了，而是一個多 Agent系統，里面涉及多個模型，不同的模型也可以使用不同的工具，通過這樣的方式讓AI智能水平越來越高，能夠解決越來越復雜的問題。這個東西帶來的結果是，單一模型的優勢在這樣一個多Agent系統里逐漸變弱。

第三，在過去半年，有很多非常智能的系統，都不是大公司所擁有的。背后的原因，是過去一年開源模型如雨后春筍般涌現，開源模型變得越來越有影響力。這張圖是過去一年比較受關注AI的排行榜，可以發現最好的模型還是閉源的，但最好的開源模型越來越多，同時也在不斷逼近最好的閉源模型。

基于這三點原因，我們認為，AI一定會被掌握在多家公司的手中。

與此同時，我們認為AI一定會變得越來越普惠，使用成本也會變得更加可控。

在過去一年半，AI模型的大小沒有發生特別大的變化，即便我們可使用算力更多了。為什么呢？對所有實用模型而言，計算速度是一個比較關鍵的因素。如果模型計算速度特別慢，就會降低用戶的使用意愿，所以所有公司都關注模型的參數量和智能水平之間的平衡。

此前，模型大小增長和芯片的進步速度基本上是成正比的。我們知道芯片的進步速度是每18個月會翻一倍，模型也會相應保持這樣的增長趨勢。而現在，雖然大家都有更多的算力了，模型參數卻沒有變得更大。那這些增長的算力花在哪呢？

首先說訓練，規模增長的速度在過去半年已經變得比較緩慢，訓練單個模型的成本實際上卻沒有顯著增加。這些算力花在做更多的研究跟探索上。而我們知道研究和探索，除了取決于算力之外，還取決于高效的整體實驗設計，高效的研發團隊，以及一些天才的創意。結果是，擁有非常多算力的公司和沒擁有那么多算力的公司，在訓練上其實的差異可能不會那么大。沒有那么多算力的公司，可以通過持續提升自己的實驗設計、提升思考能力和組織形式，讓實驗探索變得更加高效。

再說推理，在過去一年，最好模型的推理成本其實是降了一個數量級，通過大量的計算網絡系統和優化算法，我們認為在接下來一兩年之內，最好模型的推理成本可能還能再降低一個數量級。總結而言，我們認為訓練單個模型的成本不會顯著地增加。

我們認為，大量創新能讓AI研發變成一個沒有那么燒錢的行業，但是算力使用還會增加。盡管Token會變得很便宜，但是使用Token的數量會顯著增加。去年ChatBot單個對話只要消耗幾千個Token，現在Agent單個對話可能消耗幾百萬個Token，并且因為AI解決的問題越來越復雜，越來越實用，那么用的人也會越來越多。

讓每個人都用得起AI，這是我們對AI發展的判斷。Intelligence with Everyone，這也是我們創業的初衷。我們認為AGI一定會實現，并且一定會服務大眾、普惠大眾。

如果有一天AGI實現了，其過程一定是由AI公司和它的用戶一起來實現，并且這個AGI應該屬于多家AI公司和它的廣泛用戶，而不是只屬于單個組織某家公司。

我們也愿意長期為這個目標而奮斗。感謝大家！