關注吳大爺二三事，一起共同成長

知識分享 丨生活感悟

學習思考，尋找自我。

大家好，我是滿肚子雞湯的吳大爺，一個天天在鍵盤上敲打心靈，喜歡給人講知識講故事的男人。

你有沒有過這種經歷：在所有人都堅定認為你錯的時候，你卻偏偏不信邪，非要咬著牙往下走？

這是杰弗里·辛頓的真實寫照。

一位被譽為“深度學習之父”的人，卻在計算機科學幾乎是小白、數學也不精通的情況下，硬生生地闖出了人工智能的新世界。

這條路，甚至連他自己都說，是所有人都覺得走不通的。

【一】數學不好，還敢搞AI？

你可能不敢相信，辛頓那個讓深度神經網絡重回AI主舞臺的人，居然對數學沒什么興趣，尤其是線性代數這種神經網絡的基本功，對他來說只是個工具而已，沒啥浪漫。

他的數學水平，大概相當于你大學高數翹了大半學期后，糊里糊涂蒙個及格的程度。

這不合理，對吧？

你以為AI大神個個都是戴眼鏡、寫論文、對公式如數家珍的技術狂人。

可辛頓偏偏像個“民科”——不走尋常路，甚至被圈內人視為異類。

但也正因如此，他沒有被舊的知識框架限制住，反而能重新看待被當年棄之如敝履的“神經網絡”理論。

（當年辛頓是不被主流認同的，說是民科也不為過。）

【二】被嘲笑的科學，往往才有未來

上世紀七八十年代，符號主義AI當道，搞神經網絡的像是非主流小眾玩家，連學校項目都申請不到經費。

辛頓在英國那種講究正統和系統的學術文化中，簡直活得像個異鄉人。

（英國院校都不愿意要辛頓的項目，可能覺得太民科了。）

他干脆去了美國，在那個“什么都敢試試”的文化土壤里，繼續研究“沒人看好的玩意兒”，并行分布式處理（PDP）。

（不過1987年之后，辛頓就在加拿大多倫多大學研究人工智能20多年。）

你可能聽說過“感知機”、“連接主義”，這都是PDP的兄弟姐妹，它們有個共同的信仰——模仿人腦。

辛頓雖然知道，神經科學家對大腦的工作機制都一知半解，但他堅信：“生物和人工智能可以互相啟發?！?/p>

這話聽起來像哲學，但背后卻是他幾十年如一日的執拗。

【三】舊思想的新機會

“舊的想法也是新的。”辛頓常說。

這話放在現在看，簡直像是給那些“復古風”站臺。

但他說這話的時候，是在技術圈人人都在嘲笑神經網絡的時候。

在那個時代，連自己的同事都覺得他瘋了，怎么還不放棄“這條死路”？

但辛頓知道，很多科學理論之所以被放棄，不是因為錯了，而是因為當時缺少驗證它們的技術或算力。

而當GPU時代到來，當大數據讓“學習”的成本降下來，辛頓的舊想法一下子變得火熱起來。

【四】自動駕駛也靠“學”，不是靠“寫”

1987年，一個叫波默洛的博士生用辛頓的理論重寫了一套軟件，叫ALVINN。

這套系統不靠人寫規則，而是通過“看人怎么開車”來學習自己開車。

聽起來是不是像現在自動駕駛的邏輯？

是的，今天的特斯拉、Waymo、小鵬，很多都站在當年ALVINN的肩膀上。

而這個博士生，扔掉了原本的一大堆代碼，只保留辛頓和魯梅爾哈特的神經網絡思想。

那時候，這種做法簡直就是“賭命”。

你能想象把一堆寫好的程序都刪掉，然后靠“看別人怎么開車”來訓練AI嗎？

可是，他們做到了。

哪怕是最初級的版本，也證明了這個“人人不信”的方向，有跑通的可能。

最初的自動駕駛是如何的呢？

就是教程序識別各種各樣的交通情況，然后教程序應對各種情況。

程序很多，并且無法應對新的突發情況。

【五】民科精神：不在于學歷，而在于執念

在中文互聯網里，“民科”是個貶義詞，常和“胡說八道”“邏輯混亂”綁定在一起。

但辛頓某種程度上就是個“精英民科”：他不信主流權威，不愛搞數學建模，一心想做點不一樣的事。

但他和鍵盤俠的區別在于，他真的做出來了。

他不是噴人，他是用幾十年時間、一篇篇論文、一代代學生，把自己那點“偏執”，變成了今天深度學習的基礎架構。

【六】美國的“自由”容忍了一個瘋子

辛頓離開英國學術圈，去美國那年，沒有人覺得他會“火”。

但正是美國那個時代對多元研究方向的包容，給了他生存空間。

相比之下，單一文化下的英國學界，很難容忍一個“數學不好”“不務正業”的人來挑戰主流理論。

所以很多時候，我們看不起的“自由美利堅”，反而容得下一個天馬行空的瘋子。

而瘋子有時候，正是改變世界的人。

不過后面辛頓都是在加拿大多倫多，也可能書里認為，加拿大是美國后花園，學術圈也算在美國了。

貌似也沒有太大問題。

結語：致正在走“錯路”的你

如果你現在也在走一條沒人看好的路，如果你也不符合“成功人士”的標準模樣，如果你也常常在心里打鼓，懷疑自己是不是錯了……

那就記住辛頓這句話：“科學家永遠不應該放棄一個想法，除非有人證明它行不通?！?/p>

真正偉大的創新，往往不是一開始就有方向，而是在無數次被否定中，靠執念一點點踩出來的。

每一個走在偏門上的你，別急著回頭。

也許再走一步，就能看到別人看不到的風景。

歡迎點贊、轉發、評論。

我是吳大爺，夜風同學

愿一路陪你共同成長！

吳大爺二三事

吳大爺二三事，分享個人生活和見解，讓世界多一個維度！

488篇原創內容

辛頓是誰？

杰弗里?辛頓（Geoffrey Everest Hinton）是人工智能領域，尤其是神經網絡和深度學習方向的杰出人物，被譽為 “AI教父”“深度學習鼻祖。

2018年，他與楊立昆（Yann LeCun）和約書亞?本吉奧（Yoshua Bengio）共同獲得圖靈獎，以表彰他們在深度學習領域的貢獻。

2024年，杰弗里?辛頓和約翰?霍普菲爾德獲得了諾貝爾物理學獎，以表彰他們為利用人工神經網絡進行機器學習做出的基礎性發現和發明。

核心學術貢獻

l反向傳播算法通過誤差反向傳播優化神經網絡權重，成為深度學習基石。

l玻爾茲曼機引入統計力學原理，實現無監督特征學習，影響后續生成模型設計。

l深度置信網絡（DBN）提出逐層預訓練方法，突破深層網絡訓練瓶頸，推動語音識別、圖像分類等領域突破。

l膠囊網絡2017年提出新型架構，旨在解決卷積神經網絡的局限性。