99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

解碼人類理解與機器理解的本質(zhì):Geoffrey Hinton談握手機制

0
分享至

今年年初的時候Geoffrey Hinton在巴黎做了個什么是理解的演講,最近也思考人類的思維和機器思維的問題,因此重新回顧Hinton說的握手機制。

1. 當我們看到一個詞,如何知道它的意思

語言是一個符號,符號是用來表達某個概念。但是對于不懂這個符號的人,概念或者意思從哪里來?

Hinton的觀點是“Meaning is having a model”

理解一個詞,首先是構(gòu)建它的“內(nèi)部模型”,詞義源于我們?nèi)绾卧谀X中、或在向量空間中,塑造它的表征。

但是如何表征呢, 語言學家J.?R.?Firth講:“A word is characterized by the company it keeps.”

基于此的分布式表達理論指出,詞的含義由它與周圍詞匯的共現(xiàn)模式?jīng)Q定。

正如當我們讀到“蘋果”時,腦海里不僅浮現(xiàn)果實的形狀、味道,還有“紅色”“果園”“維生素”等多重語義激活,它們共同構(gòu)成對“蘋果”的理解模型。


2. 生物計算建模:神經(jīng)握手中的共識

在大腦里,億萬個神經(jīng)元通過電脈沖和突觸連接,形成高維的概念網(wǎng)絡(luò)。

每個詞或概念對應(yīng)特定的神經(jīng)活動模式,當我們思考或閱讀時,這些模式在皮層與關(guān)聯(lián)區(qū)間反復“握手”——即相互激活、抑制與反饋,直至產(chǎn)生穩(wěn)定的意義感。

侯世達在《表象與本質(zhì)》中以類比方式指出:心智表征類似于多種神經(jīng)示意圖的耦合,理解就是這些圖譜通過動態(tài)耦合不斷自我校準的過程。這一握手式的交互,使得人類能夠在多模態(tài)信息(視覺、聽覺、語言)間迅速建立關(guān)聯(lián),實現(xiàn)流暢的語義推理。


生物神經(jīng)網(wǎng)絡(luò)


人工神經(jīng)網(wǎng)絡(luò)

3. 數(shù)字計算建模:向量空間中的握手與理解革命

與生物大腦類似,現(xiàn)代神經(jīng)網(wǎng)絡(luò)也在追求通過“握手”機制來實現(xiàn)理解。詞被編碼為高維向量,通過深層神經(jīng)網(wǎng)絡(luò)進行動態(tài)變換,逐層構(gòu)建出新的語義表示。

早期語言學強調(diào)形式規(guī)則,Chomsky 的句法理論將語言理解抽象為句子結(jié)構(gòu)與推理機制,但難以解釋實際語言使用中的多樣性與模糊性。對此,Hinton 曾明確表達不滿,并于1985年提出“小語言模型”(small language models),強調(diào)統(tǒng)計分布在語言學習中的作用。

這一思路最終在 Transformer 架構(gòu)中開花結(jié)果。Transformer 的注意力機制(attention)正是典型代表:每個詞的 Query(查詢)向量,與所有詞的 Key(鍵)向量做點積“握手”,計算相似度權(quán)重,再用這些權(quán)重加權(quán)各詞的 Value(值)向量,生成新的表征。

Query–Key 握手:Query 問,Key 答;二者點積決定信息流向。

  • 多頭注意力:并行多組 Query–Key–Value,實現(xiàn)多角度語義對齊。

  • 位置編碼:在純向量計算中引入序列順序信息,補全生物神經(jīng)對時序的敏感。


Hinton把此比喻成“樂高”游戲,只是我們面對的不是三維的樂高,而是數(shù)千維的樂高。

這套機制讓機器在成千上萬維度中快速完成語義匹配和結(jié)構(gòu)學習——正如數(shù)千個齒輪同時轉(zhuǎn)動,卻又精準嚙合。

4. 握手之外:數(shù)字智能的優(yōu)勢與隱憂

Hinton的結(jié)論是:

人的理解機制和機器的理解機制其實一樣。

不同的是,數(shù)字系統(tǒng)可通過復制模型、并行推理、云端協(xié)作,以接近零邊際成本的方式,共享與擴散知識。數(shù)以億計的參數(shù)模型瞬時協(xié)作,其吞吐量與可擴展性遠超任何單一大腦。

  • 效率:千倍于人腦的并行運算速度。

  • 可復制性:訓練一次,可部署萬千副本、一致性保留。

  • 共享性:模型權(quán)重可跨網(wǎng)絡(luò)即時分發(fā),知識無縫傳遞。

這帶來了深刻影響:當機器“握手”速度與覆蓋面均超越人類,我們對認知獨特性的自信或?qū)訐u。數(shù)字理解不僅在精度上趕超,更可能在廣度、深度與成本效益上碾壓生物理解。

所以最后Hinton 在演講結(jié)尾發(fā)出警示

“If energy is cheap or abundant, digital computation is just better than biological computation, because it can share knowledge efficiently.”


“That is very scary conclusion.”


  1. J.?R.?Firth, 1957, A synopsis of linguistic theory

  2. Chomsky, 1957, Syntactic Structures

  3. Geoffrey E. Hinton and Terrence J. Sejnowski,1985,A learning algorithm for Boltzmann Machines

  4. Douglas R.?Hofstadter and Emmanuel Sander, 2013, Surfaces and Essences: Analogy as the Fuel and Fire of Thinking

  5. Ashish Vaswani,2017,Attention Is All You Need

  6. Geoffrey Hinton, 2025, What is understanding?

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
懂車帝智駕測試,36款車全部翻車?智駕的天塌了!

懂車帝智駕測試,36款車全部翻車?智駕的天塌了!

創(chuàng)作者_1470992743975
2025-07-25 09:59:48
除了商標全是假的!全球科技先鋒隕落,百年巨頭淪為貼牌工廠

除了商標全是假的!全球科技先鋒隕落,百年巨頭淪為貼牌工廠

聞識
2025-07-15 13:34:23
最近發(fā)現(xiàn)一個奇怪現(xiàn)象,電車沒有干掉油車,卻干掉了汽車修理廠!

最近發(fā)現(xiàn)一個奇怪現(xiàn)象,電車沒有干掉油車,卻干掉了汽車修理廠!

錘不倒的拖油瓶
2025-07-24 05:51:28
又是顏色革命配方:基輔抗議活動首次出現(xiàn)了反對澤連斯基和葉爾馬克的標語牌

又是顏色革命配方:基輔抗議活動首次出現(xiàn)了反對澤連斯基和葉爾馬克的標語牌

愛看劇的阿峰
2025-07-26 00:47:51
網(wǎng)盤中的加密文件,二十年后依然回味無窮

網(wǎng)盤中的加密文件,二十年后依然回味無窮

街機時代
2025-04-27 16:10:02
工作時間,警察竟藏身倉庫發(fā)生性關(guān)系,每次15到20分鐘

工作時間,警察竟藏身倉庫發(fā)生性關(guān)系,每次15到20分鐘

法律讀品
2025-07-24 19:35:52
里子面子都輸了!同是唱別人寫的歌,王菲給張碧晨好好上了一課

里子面子都輸了!同是唱別人寫的歌,王菲給張碧晨好好上了一課

悠閑歷史
2025-07-25 15:33:41
油價大跌超0.51元/升后,7月29日油價再調(diào)整,油價下跌倒計時!

油價大跌超0.51元/升后,7月29日油價再調(diào)整,油價下跌倒計時!

油價早知道
2025-07-26 01:08:14
TVB女星劉佩玥被男粉摸臀!全場嚇懵,現(xiàn)場畫面曝光

TVB女星劉佩玥被男粉摸臀!全場嚇懵,現(xiàn)場畫面曝光

橙星文娛
2025-07-25 15:23:22
連刷《南京照相館》和《戲臺》,一部超上頭,一部看得昏昏欲睡!

連刷《南京照相館》和《戲臺》,一部超上頭,一部看得昏昏欲睡!

小丸子的娛樂圈
2025-07-24 15:09:55
俄第20近衛(wèi)集團軍嘩變,損失慘重,拒絕執(zhí)行指揮官命令?

俄第20近衛(wèi)集團軍嘩變,損失慘重,拒絕執(zhí)行指揮官命令?

井普椿的獨白
2025-07-25 14:47:48
賴清德尷尬了,臺軍演習再出大意外,美智庫:不值得保護臺島

賴清德尷尬了,臺軍演習再出大意外,美智庫:不值得保護臺島

boss外傳
2025-07-25 00:00:03
俄議員:俄有權(quán)從中國“收回”遼寧艦,中方務(wù)必拆掉武器停止軍用

俄議員:俄有權(quán)從中國“收回”遼寧艦,中方務(wù)必拆掉武器停止軍用

通文知史
2025-05-01 20:00:06
給《戲臺》演員演技排個名,黃渤墊底,陳佩斯第3,第1非他莫屬

給《戲臺》演員演技排個名,黃渤墊底,陳佩斯第3,第1非他莫屬

查爾菲的筆記
2025-07-25 13:07:15
威少重回湖人?昔日MVP能否輔助老詹和東契奇重回奪冠隊列

威少重回湖人?昔日MVP能否輔助老詹和東契奇重回奪冠隊列

湖人侃球師
2025-07-24 23:36:19
周靜華被引渡回國,亞洲地區(qū)“百名紅通人員”清零

周靜華被引渡回國,亞洲地區(qū)“百名紅通人員”清零

界面新聞
2025-07-24 18:02:17
壞消息一個接一個,李嘉誠已經(jīng)沒有回頭路,李氏家族暴虧781億!

壞消息一個接一個,李嘉誠已經(jīng)沒有回頭路,李氏家族暴虧781億!

做一個合格的吃瓜群眾
2025-07-25 16:38:29
洪森統(tǒng)治柬埔寨38年,給窮人帶來了什么樣的生活?

洪森統(tǒng)治柬埔寨38年,給窮人帶來了什么樣的生活?

現(xiàn)代小青青慕慕
2025-07-25 08:53:26
“多生多育”的廣告出現(xiàn)了!南通地鐵站宣傳,3個孩子一份傳承…

“多生多育”的廣告出現(xiàn)了!南通地鐵站宣傳,3個孩子一份傳承…

火山詩話
2025-07-25 09:04:47
江蘇省2025年退休人員基本養(yǎng)老金調(diào)整方案出臺

江蘇省2025年退休人員基本養(yǎng)老金調(diào)整方案出臺

揚子晚報
2025-07-25 09:54:55
2025-07-26 02:04:49
人工智能學家 incentive-icons
人工智能學家
人工智能領(lǐng)域權(quán)威媒體
4046文章數(shù) 37239關(guān)注度
往期回顧 全部

科技要聞

36款熱門車高危智駕場景測試,“團滅”!

頭條要聞

8旬翁下葬前墓地被人埋死狗沿路埋鐵釘暗器 官方介入

頭條要聞

8旬翁下葬前墓地被人埋死狗沿路埋鐵釘暗器 官方介入

體育要聞

3年過去了,她還是歐洲杯上最酷的姐

娛樂要聞

汪蘇瀧不忍了 !張碧晨痛失《年輪》演唱權(quán)

財經(jīng)要聞

劉煜輝:當下重要不是找確定性而是轉(zhuǎn)折點

汽車要聞

李斌一口氣講了近3個小時樂道L90 原因是為啥?

態(tài)度原創(chuàng)

教育
手機
本地
房產(chǎn)
時尚

教育要聞

再獲國際物理奧賽金牌,南師附中學子勇登世界之巔!

手機要聞

真把天璣 9400+ 裝在「充電寶」上了?

本地新聞

換個城市過夏天|風拂鹽湖,躲進格爾木的盛夏清涼

房產(chǎn)要聞

分數(shù)線集體飆漲!海中867分!2025海南中招格局大變!

今年夏天一定要有這件衣服,好看又復古!

無障礙瀏覽 進入關(guān)懷版 主站蜘蛛池模板: 皋兰县| 保靖县| 宜丰县| 太仓市| 青州市| 周至县| 夏河县| 绥德县| 潞城市| 东宁县| 永济市| 南丰县| 湖北省| 德兴市| 锡林浩特市| 武平县| 平顺县| 延长县| 许昌市| 星子县| 七台河市| 芜湖县| 海兴县| 景宁| 元江| 定结县| 汤阴县| 塔河县| 泸州市| 宁明县| 寿光市| 门头沟区| 巴塘县| 潜山县| 遵化市| 璧山县| 喀喇沁旗| 凤翔县| 神池县| 临武县| 孝昌县|