關注吳大爺二三事，一起共同成長

知識分享 丨生活感悟

學習思考，尋找自我。

大家好，我是滿肚子雞湯的吳大爺，一個天天在鍵盤上敲打心靈，喜歡給人講知識講故事的男人。

“深度學習是信仰，不是算法。”——吳恩達

2004年，神經網絡被當成過時的玩意，甚至學術圈都懶得提這個“失敗技術”。

彼時支持它就像在嘲笑自己。

然而，僅僅十幾年后，這項“舊技術”竟然成為了AI復興的火炬。

點燃這場燎原大火的，不是公司戰略會議的PPT，不是風投大會上砸出來的支票，而是幾個信念堅定的“怪人”。

我們今天要聊的，就是深度學習的復興史。

它不是技術敘事，它是信仰史。

一、被嘲笑的信仰，才叫信仰

1969年，《感知機》出版，馬文·明斯基用數學公式敲響了神經網絡的喪鐘。

他證明了早期的神經網絡難以解決非線性問題。

整個機器模擬神經網絡的領域由熱轉冷，從“革命性”變成“笑話”。

幾十年后，為了紀念明斯基，Google啟動了“馬文計劃（Project Marvin）”，試圖用深度學習復興被他判死刑的技術。

這聽起來像是一種黑色幽默，但吳恩達卻說：“沒有任何諷刺的意思?！?/p>

是的，沒有諷刺。

是尊重。尊重那個早期推倒塔樓的人，也尊重那個一磚一瓦再重建的人。

而神經網絡的“重建”，也從這里開始。

二、谷歌：明明走在前面，卻錯過了方向盤

Google其實是最早看到深度學習潛力的公司之一。

吳恩達帶著他的“貓識別模型”跑去找Google圖像搜索部門，被拒絕了；

找視頻搜索部門，也被拒絕了。

直到找到Jeff Dean，Google最牛的工程師之一——才得以破局。

Jeff Dean是個什么人？

他是那種能“優化物理常數”的程序員。

有人說，光速原本是每小時35英里，直到Jeff Dean花了一個周末優化它。

這個段子當然是玩笑，但背后是事實：Dean曾一個人把Google搜索提速了兩個數量級，他知道怎么讓數百萬臺服務器像一臺機器一樣協同工作。

就這樣吳恩達拉上了Jeff Dean，獲得了資本的青睞，才能推動項目通過“Google X實驗室”，成立了“Google Brain”——谷歌大腦。

然而諷刺的是，即便在谷歌內部，神經網絡依然沒有被重視。

因為第一曲線太強大了。

搜索業務掙錢、成熟、穩定，為何要搞一套不確定的新技術？

創新者的窘境，由此顯現。

第一曲線的成功，正在拖慢第二曲線的起飛。

而后來讓谷歌痛到哭的事也發生了：OpenAI搞出的ChatGPT，用神經網絡架構硬剛搜索業務。微軟直接借刀殺人，New Bing踩著谷歌“親手放棄的機會”，從搜索的根部挖走了用戶。

你以為的穩妥，就是別人瞄準你的機會。

三、GPU、比特幣與神經網絡的暗流涌動

2009年，沒人知道“深度學習”這詞兒有朝一日會風靡全球。

辛頓，楊立昆，本吉奧，三位“神經網絡異端者”，在各自領域默默打磨模型。

辛頓甚至只能以“暑期實習生”的身份混進谷歌做研究，因為谷歌只招博士后和工程師，不收教授。

一個64歲的終身教授，裝成實習生，去為一項被學術界冷落的技術找出路。

與此同時，NVIDIA默默推出GPU顯卡，專為游戲加速而生，《光環》《俠盜獵車手》等游戲畫質突飛猛進。

而辛頓等人眼前一亮：這些芯片也適合做神經網絡訓練！

結果就是，曾經為了玩游戲的顯卡，除了被拿去挖礦比特幣外，還順便推動了人工智能革命。

人類科技發展的路上，總有這種“歪打正著”的神來一筆。

想象一下，一個玄幻小說的橋段：

中本聰穿越而來，發現未來AI統治人類，為了延緩AI的崛起，他設計了比特幣，讓人類瘋狂消耗算力去挖礦，把GPU都拿去搞幣。

成功點歪了科技樹，延后了AI發展的10年。

雖然這只是腦洞，但足以讓我們明白：技術的發展，從來不是線性進化的。

四、深度學習：換個名字，重新上路

“神經網絡”這個詞，實在是太“老”了。

于是，信仰者們給它換個馬甲：深度學習（Deep Learning）。

這就像把“直流電”從冷宮拉出來重用，結果一舉顛覆了高壓輸電的舊秩序。

吳恩達說：“如果它是個好想法，你就繼續做下去二十年。失敗不代表它不對，它只是還沒成功。”

這個世界，不缺聰明人，缺的是相信還值得繼續堅持的人。

結語：在冷門中堅持，在信仰中逆轉

今天我們津津樂道的ChatGPT、Stable Diffusion、MidJourney，背后依然是幾十年前被嫌棄的神經網絡架構。

從幸頓的堅持，到吳恩達的拉攏，到Jeff Dean的系統架構，再到Google錯過的機會、微軟撿漏的奇襲。

這一切不是一場技術競賽，而是一場信仰馬拉松。

人類進步靠的是那些“瘋子”：

在所有人說“不可能”的時候，說“我覺得可以”；

在所有人說“你放棄吧”的時候，說“我再試試”；

在被趕出實驗室后，還愿意偷偷用別人的GPU繼續跑模型。

如果你也正站在一個被冷落的選擇上，如果你在做一件“不被看好”的事情，不要急著放棄。

你不知道，也許再堅持一下，就能從被拒絕的“暑期實習生”，變成創造未來的人。

歡迎點贊、轉發、評論。

我是吳大爺，夜風同學

愿一路陪你共同成長！

吳恩達是誰？

吳恩達（Andrew Ng）1976 年出生于英國倫敦，是美籍華裔，父母為香港移民。

教育背景：吳恩達在香港度過童年和青少年時期，展現出對科學和技術的濃厚興趣，學習成績優異，尤其在數學和物理方面表現突出。高中畢業后，他前往美國深造，1997 年在卡內基梅隆大學獲得計算機科學學士學位，同時主修經濟學和統計學。1998 年，在麻省理工學院獲得電子工程與計算機科學碩士學位。2002 年，在加州大學伯克利分校獲得計算機科學博士學位，師從著名人工智能專家 Michael I. Jordan。

職業生涯：2002 年，吳恩達回到斯坦福大學擔任計算機科學系助理教授，后成為副教授，還擔任人工智能實驗室主任。他在斯坦福大學成立了自己的研究實驗室，專注于機器學習、深度學習等領域研究，開設的機器學習課程深受學生歡迎，培養了眾多優秀 AI 人才。2011 年，他與達芙妮?科勒共同創辦在線教育平臺 Coursera，其講授的 “機器學習” 課程廣受歡迎。同年，他加入谷歌，創建了 Google Brain 項目，帶領團隊利用深度學習技術在圖像識別等領域取得突破性進展。2014 年，吳恩達加入百度，擔任首席科學家，全面負責百度的人工智能研發工作，領導多個核心部門，為百度制定人工智能發展戰略，推動了百度在無人駕駛等領域的發展。2017 年，他離開百度，成立了 Landing AI 和 AI Fund 兩家人工智能相關公司。2024 年 4 月，吳恩達加入亞馬遜公司董事會。

主要成就與榮譽：吳恩達在機器學習和深度學習領域發表大量高質量學術論文，提出許多創新性算法和模型。他 31 歲時獲得斯隆獎，2013 年入選《時代》雜志 “全球最具影響力 100 人” 和《財富》雜志 “40 位 40 歲以下商界精英”。2023 年入選《時代》評選的全球百大 AI 人物名單，還擁有 IEEE Fellow、ACM Fellow 等榮譽稱號。