“如果你為富有創(chuàng)造力的研究人員提供充足的基礎(chǔ)研究經(jīng)費(fèi)，他們實(shí)際上會(huì)更愿意從事基礎(chǔ)科研，而不是去銀行賺大錢。”

　　作者 | Eric Harrington

　　出品丨AI 科技大本營（ID：rgznai100）

　　前段時(shí)間，韓國公共廣播電視臺(tái) KBS 專訪了人工智能領(lǐng)域的泰斗級(jí)人物杰弗里·辛頓（Geoffrey Hinton）教授。作為 2024 年諾貝爾物理學(xué)獎(jiǎng)得主，這位被譽(yù)為“深度學(xué)習(xí)之父”“AI 三教父”的科學(xué)家，深入探討了 AI 技術(shù)的演進(jìn)歷程和未來發(fā)展方向。

　　順帶一提，韓媒給辛頓教授的綽號(hào)是“AI 四大天王”，應(yīng)該是在 Geoffery Hinton、Yoshua Bengio、Yann LeCun 三位圖靈獎(jiǎng)得主的基礎(chǔ)上，又算上了“強(qiáng)化學(xué)習(xí)之父”Rich Sutton。

　　在這場長達(dá) 17 分鐘的對(duì)話中，辛頓教授分享了多個(gè)引人深思的觀點(diǎn)：

　　“長期以來，我們的主要局限是體力。工業(yè)革命消除了這個(gè)局限。而現(xiàn)在，我們的主要局限是智力，而 AI 將消除這個(gè)局限?！?/p>

　　“在北美，每年約有 20 萬人死于誤診。而如果醫(yī)生與 AI 系統(tǒng)合作，正確診斷率可從 40% 提升至 60%?！?/p>

　　“自主致命武器可能在兩到三年內(nèi)出現(xiàn)。所有的 AI 監(jiān)管法規(guī)都有一條：這些規(guī)定不適用于 AI 的軍事用途?！?/p>

　　“如果你為富有創(chuàng)造力的研究人員提供充足的基礎(chǔ)研究經(jīng)費(fèi)，他們實(shí)際上會(huì)更愿意從事基礎(chǔ)科研，而不是去銀行賺大錢?！?/p>

　　在專訪最后，老教授強(qiáng)調(diào)了基礎(chǔ)研究投入的重要性，并用一句格外犀利的話結(jié)尾：“每隔幾年，就會(huì)有人說「神經(jīng)網(wǎng)絡(luò)被高估了，這一切馬上就會(huì)崩潰和停止?！?strong>但他們每次都錯(cuò)了，我認(rèn)為他們還會(huì)繼續(xù)犯這樣的錯(cuò)誤。”

　　以下是采訪全文翻譯（皆為 Hinton 的第一人稱發(fā)言）和中英雙語字幕視頻：

　　深度學(xué)習(xí)之路：從神經(jīng)元到 ChatGPT

　　人類的發(fā)展史上存在兩個(gè)重要的局限：體力和智力。工業(yè)革命突破了人類的體力局限，而如今，人工智能正在突破人類的智力局限。

　　深度學(xué)習(xí)（Deep Learning）的設(shè)計(jì)靈感來自人腦的工作機(jī)制。盡管我們還沒有完全破解大腦的運(yùn)作原理，但已經(jīng)掌握了相當(dāng)多的知識(shí)。人腦中有大量的神經(jīng)元細(xì)胞（Neurons），這些神經(jīng)元之間形成了復(fù)雜的連接網(wǎng)絡(luò)。學(xué)習(xí)的過程，本質(zhì)上就是改變這些連接的強(qiáng)度。

　　神經(jīng)元通過發(fā)出“ping”的信號(hào)與其他神經(jīng)元通信。每個(gè)神經(jīng)元的任務(wù)很簡單：決定何時(shí)發(fā)出“ping”信號(hào)。它通過接收來自其他神經(jīng)元的輸入來做出這個(gè)決定，這些輸入可能來自感知神經(jīng)元，比如視網(wǎng)膜中的神經(jīng)元。當(dāng)輸入達(dá)到一定閾值時(shí)，神經(jīng)元就會(huì)發(fā)出信號(hào)，而達(dá)到閾值的難易程度取決于神經(jīng)元之間連接的權(quán)重（Weight）。如果連接的權(quán)重較小，一個(gè)神經(jīng)元向另一個(gè)神經(jīng)元發(fā)送的信號(hào)影響就??；如果權(quán)重較大，這個(gè)信號(hào)就更可能觸發(fā)接收神經(jīng)元發(fā)出“ping”。

　　學(xué)習(xí)的核心就在于改變這些連接的強(qiáng)度。而關(guān)鍵問題是：大腦用什么原理來調(diào)整這些連接的強(qiáng)度？

　　20 世紀(jì) 80 年代，科學(xué)家們提出了反向傳播（Backpropagation）算法，這是一種決定如何調(diào)整連接強(qiáng)度的方法。當(dāng)時(shí)這種方法效果一般，我們沒有預(yù)見到，只要提供足夠的數(shù)據(jù)和計(jì)算力，它就能發(fā)揮出驚人的效果。如今的大型聊天機(jī)器人正是使用反向傳播來調(diào)整其模擬神經(jīng)網(wǎng)絡(luò)中的連接強(qiáng)度。

　　這就是深度學(xué)習(xí)的基本原理。以識(shí)別鳥類的神經(jīng)網(wǎng)絡(luò)為例：第一層的神經(jīng)元可能負(fù)責(zé)識(shí)別邊緣特征，第二層的神經(jīng)元?jiǎng)t可能識(shí)別特定的邊緣組合，比如以特定角度相交的兩條邊可能代表鳥喙。再往上一層的神經(jīng)元可能會(huì)識(shí)別鳥喙和眼睛的組合特征，如果這些特征的空間關(guān)系正確，網(wǎng)絡(luò)就會(huì)將其判斷為鳥頭。這種層層遞進(jìn)的特征檢測方式最終讓網(wǎng)絡(luò)能夠判斷：如果同時(shí)看到疑似鳥頭、鳥腳和翅膀尖等特征，那么這個(gè)物體很可能就是一只鳥。而所有這些特征檢測所需的權(quán)重，都是神經(jīng)網(wǎng)絡(luò)通過學(xué)習(xí)獲得的。

　　從 20 世紀(jì) 50 年代人工智能誕生之初，就存在兩種不同的研究路線：一種基于邏輯（Logic-based），另一種基于生物學(xué)（Biology-based）?；谏飳W(xué)的方法試圖模擬大腦中的神經(jīng)網(wǎng)絡(luò)，而基于邏輯的方法則嘗試通過模擬邏輯來實(shí)現(xiàn)推理。直到最近，基于生物學(xué)的神經(jīng)網(wǎng)絡(luò)方法才真正超越了邏輯方法。

　　在人工智能發(fā)展的前 50 年，幾乎所有人都相信邏輯方法才是正確的道路，但這條路并沒有取得實(shí)質(zhì)性突破。直到本世紀(jì)，大約在 2009 年左右，模擬生物學(xué)的神經(jīng)網(wǎng)絡(luò)方法突然開始展現(xiàn)出驚人的效果。這個(gè)轉(zhuǎn)變具有劃時(shí)代的意義。2012 年，神經(jīng)網(wǎng)絡(luò)在物體識(shí)別領(lǐng)域取得重大突破，這標(biāo)志著生物學(xué)方法的勝利。

　　神經(jīng)網(wǎng)絡(luò)能夠取得如此顯著的成功，主要得益于三個(gè)關(guān)鍵因素：

　　第一是算力的突破。比如英偉達(dá)（NVIDIA）為游戲開發(fā)的芯片提供了巨大的計(jì)算能力。

　　第二是數(shù)據(jù)量的爆發(fā)?；ヂ?lián)網(wǎng)為我們提供了海量的訓(xùn)練數(shù)據(jù)。

　　第三是技術(shù)的進(jìn)步。例如，2017 年谷歌推出的 Transformer 架構(gòu)大幅提升了語言模型的性能。

　　這些突破引發(fā)了人們對(duì)神經(jīng)網(wǎng)絡(luò)的極大興趣。而當(dāng) ChatGPT 發(fā)布后，人們看到神經(jīng)網(wǎng)絡(luò)真的能夠理解人類的表達(dá)并做出合理的回答，這又掀起了一波更大的關(guān)注熱潮。

　　AI 改變世界的三大領(lǐng)域

　　我認(rèn)為人工智能將在所有行業(yè)領(lǐng)域得到應(yīng)用。在某些領(lǐng)域，比如醫(yī)療保健，AI的影響顯然會(huì)帶來巨大的積極改變。

　　以就醫(yī)為例，目前如果我出現(xiàn)某些癥狀，我會(huì)去看家庭醫(yī)生。但如果我患有某種罕見疾病，我的家庭醫(yī)生可能從未見過類似病例。相比之下，我更愿意去找一位“見過”上億病人的醫(yī)生，這位醫(yī)生不僅了解我的全部基因組信息，還掌握了我完整的病史和所有醫(yī)療檢查結(jié)果。這樣的 AI 醫(yī)生即將成為現(xiàn)實(shí)，它們的診療水平將遠(yuǎn)超普通醫(yī)生。AI 在醫(yī)學(xué)影像讀取方面也將表現(xiàn)出色。

　　AI 能夠利用更全面的信息來輔助診斷?，F(xiàn)有的數(shù)據(jù)顯示，對(duì)于疑難病例，人類醫(yī)生的正確診斷率約為 40%，AI 系統(tǒng)能達(dá)到 50%，而醫(yī)生與 AI 系統(tǒng)合作則能達(dá)到 60% 的正確率。在北美，每年約有 20 萬人死于誤診。因此，AI 的應(yīng)用將挽救大量生命。

　　在教育領(lǐng)域，研究表明，一對(duì)一私教的學(xué)習(xí)效率是課堂教學(xué)的兩倍。有了 AI，每個(gè)孩子都能擁有自己的私教，這將使學(xué)習(xí)效率提高一倍。這必將對(duì)教育產(chǎn)生巨大影響，盡管這對(duì)大學(xué)教育可能不是個(gè)好消息。

　　實(shí)際上，只要有數(shù)據(jù)的地方，AI 就能發(fā)揮作用。讓我舉個(gè)例子：我有一個(gè)鄰居為一家礦業(yè)公司開發(fā)了 AI 系統(tǒng)。這家公司擁有約 100 億個(gè)數(shù)據(jù)點(diǎn)，記錄了在不同情況下完成特定操作（如挖掘特定長度的礦井）所需的時(shí)間。現(xiàn)在這些數(shù)據(jù)被輸入到 AI 系統(tǒng)中，可以快速回答各種問題。

　　比如，如果承包商聲稱能在指定時(shí)間內(nèi)完成某項(xiàng)工作，公司想知道他實(shí)現(xiàn)這一承諾的概率有多大。在過去，要得到這個(gè)答案，公司需要聘請(qǐng)大型咨詢公司撰寫報(bào)告，三周后才能得到結(jié)果。而現(xiàn)在，他的系統(tǒng)只需 4 秒就能給出答案。這只是一個(gè)例子，但在所有擁有大量數(shù)據(jù)的行業(yè)都會(huì)出現(xiàn)類似的情況。企業(yè)將能夠更快速、更有效地利用自己掌握的數(shù)據(jù)。

　　如今當(dāng)我遇到新問題時(shí)，我會(huì)尋求 GPT-4 的幫助。比如有一次，我的度假小屋遭到某種螞蟻的侵?jǐn)_。我向 GPT-4 咨詢，它告訴了我可能是哪些種類的螞蟻，以及相應(yīng)的處理方法。這種體驗(yàn)就像有一個(gè)知識(shí)淵博且極其耐心的朋友。

　　當(dāng)然，我們也注意到了 AI 的“幻覺”（Hallucination）現(xiàn)象，有時(shí)它會(huì)產(chǎn)生錯(cuò)誤的信息。但人類不也是如此嗎？當(dāng)人類出現(xiàn)類似現(xiàn)象時(shí)，我們稱之為“虛構(gòu)”（Confabulation）。人們總是在虛構(gòu)。比如當(dāng)人們回憶很久以前發(fā)生的事情時(shí)，他們往往無法準(zhǔn)確記住細(xì)節(jié)。他們可能很自信，但細(xì)節(jié)卻是錯(cuò)誤的。從這個(gè)角度看，人類和這些大型聊天機(jī)器人很相似，都會(huì)產(chǎn)生虛構(gòu)的內(nèi)容。

　　在技術(shù)快速發(fā)展的時(shí)期，預(yù)測未來是非常困難的。如果你想了解十年后的情況，最好的方法可能是回顧十年前的狀況。十年前，沒有人能預(yù)想到會(huì)出現(xiàn)像 GPT-4 或谷歌的Gemini這樣的大型聊天機(jī)器人。因此，從現(xiàn)在起的十年后，我們將看到許多超出人們預(yù)期的發(fā)展。

　　短期內(nèi)，變化可能不會(huì)太戲劇性。但在十年的跨度上，AI 的能力將發(fā)生巨大的變革。在人類文明史上，AI 革命與之前的技術(shù)革命相比有何意義？讓我們看看工業(yè)革命：在工業(yè)革命中，人類的體力不再那么重要。工業(yè)革命之前，如果要挖一條溝，你需要人力來挖。雖然也有動(dòng)物和風(fēng)車、水車之類的工具，但基本上還是需要人力。工業(yè)革命后，人類體力的重要性大大降低。

　　現(xiàn)在發(fā)生的情況是，人類的智力仍然很重要。但當(dāng) AI 變得比我們更聰明時(shí)，人類的智力將像工業(yè)革命后的體力一樣變得不那么重要。你可以把歷史看作是不斷消除人類局限性的過程。長期以來，我們的主要局限是體力?，F(xiàn)在，我們的主要局限是智力，而 AI 將消除這個(gè)局限。

　　人類與 AI 的未來：機(jī)遇與挑戰(zhàn)

　　如果你問，在歷史上有多少例子表明智力較低的存在能夠控制智力較高的存在？我只知道一個(gè)例子，那就是母親和嬰兒的關(guān)系。進(jìn)化投入了大量工作來確保嬰兒能夠控制母親，這對(duì)物種的生存至關(guān)重要。但即便如此，嬰兒和母親的智力水平其實(shí)也差不多。因此，當(dāng)這些 AI 系統(tǒng)變得比我們更智能時(shí)，我們不確定能否保持對(duì)它們的控制。

　　我的朋友 Yann LeCun 等人認(rèn)為這不會(huì)有問題，因?yàn)檫@些系統(tǒng)是我們創(chuàng)造的，它們會(huì)一直按照我們的指令行事。但我并不這么認(rèn)為。我覺得我們不能對(duì)此太過自信。

　　我相信人類本質(zhì)上是物質(zhì)的存在，人類的任何特質(zhì)都可以在計(jì)算機(jī)中實(shí)現(xiàn)。從長遠(yuǎn)來看，計(jì)算機(jī)可以擁有我們所有的感知能力。我認(rèn)為人類并沒有什么特別之處。我們只是非常非常復(fù)雜的存在，經(jīng)過了漫長的進(jìn)化。對(duì)其他人而言我們很特別，但我們身上沒有什么是機(jī)器無法模擬的。

　　有些人擔(dān)心 AI 會(huì)奪走人類的工作。事實(shí)上，AI 帶來的風(fēng)險(xiǎn)有很多種，我們不應(yīng)該把這些不同的風(fēng)險(xiǎn)混為一談。不同的風(fēng)險(xiǎn)需要不同的解決方案。AI 確實(shí)會(huì)取代很多工作崗位，這是毋庸置疑的。比如法律研究助理（Paralegal），現(xiàn)在 AI 已經(jīng)能更好地完成他們的大部分工作。很多普通的辦公室工作都將需要更少的人力。

　　我有一位親戚在醫(yī)療服務(wù)機(jī)構(gòu)工作，負(fù)責(zé)回復(fù)投訴信。以前她要花 25 分鐘寫一封回復(fù)信，現(xiàn)在她只需要把投訴信輸入 ChatGPT，它就能生成回復(fù)，她檢查一下就可以發(fā)送出去，整個(gè)過程只需要 5 分鐘。這意味著這類工作只需要原來五分之一的人力。這種情況在許多普通辦公崗位中都很典型。

　　有人說 AI 會(huì)創(chuàng)造大量新的工作崗位。這確實(shí)是事實(shí)，但問題在于：新創(chuàng)造的工作崗位是否足以替代那些被 AI 取代的普通辦公職位？這是一個(gè)嚴(yán)重的問題。政府需要認(rèn)真考慮：當(dāng)這些人的工作被 AI 取代后，他們?cè)摵稳ズ螐模?/p>

　　就短期而言，我最擔(dān)心的是網(wǎng)絡(luò)攻擊和生物武器。比如去年，網(wǎng)絡(luò)釣魚（Phishing）攻擊增長了 1200%，這在很大程度上是因?yàn)檫@些聊天機(jī)器人被用于釣魚攻擊。我也擔(dān)心有人利用 AI 開發(fā)新的病原體，目前這方面幾乎沒有任何管控。這是短期的擔(dān)憂。

　　在中期，我非常擔(dān)心就業(yè)問題和自主致命武器（Autonomous Lethal Weapons）。從長遠(yuǎn)來看，我最擔(dān)心這些 AI 系統(tǒng)變得比我們更聰明，最終取代我們。我認(rèn)為在兩到三年內(nèi)，我們可能就會(huì)看到自主致命武器的出現(xiàn)。這將是一個(gè)糟糕的發(fā)展。所有大型國防部門都在試圖開發(fā)這類武器。如果你看看目前的 AI 監(jiān)管法規(guī)，它們都有一個(gè)條款，聲明這些規(guī)定不適用于 AI 的軍事用途。例如，歐盟的法規(guī)就明確規(guī)定不適用于 AI 的軍事應(yīng)用。

　　政府不愿意約束自己。他們正在競相開發(fā)自主致命武器。只有在這些武器被使用并造成可怕后果之后，我們才可能像制定日內(nèi)瓦公約那樣達(dá)成某種協(xié)議，就像我們對(duì)化學(xué)武器所做的那樣。這些公約是有效的，比如在烏克蘭戰(zhàn)爭中就沒有使用化學(xué)武器。但我們是在第一次世界大戰(zhàn)看到了化學(xué)武器的可怕后果之后，才有了這些公約。

　　我們現(xiàn)在需要做的是，在技術(shù)發(fā)展過程中投入更多精力于安全研究。而唯一擁有這些資源的是大型科技公司。因此，我們需要政府強(qiáng)制要求這些大公司在安全方面做出更多努力。

　　顯然，發(fā)展 AI 需要大量的算力，也需要大量的專業(yè)人才。要留住優(yōu)秀的科學(xué)家，就要為他們提供能夠開展研究的環(huán)境。以加拿大為例，按其經(jīng)濟(jì)規(guī)模來看，在 AI 領(lǐng)域表現(xiàn)相當(dāng)出色。這要?dú)w功于其支持基礎(chǔ)科研的政策。像我、Yoshua Bengio 和 Rich Sutton 這樣的頂尖 AI 研究人員之所以來到加拿大，部分原因是這里的社會(huì)制度，但主要是因?yàn)檫@里愿意資助基礎(chǔ)科學(xué)研究。因此，充分資助基礎(chǔ)科學(xué)研究是關(guān)鍵。

　　我對(duì)韓國的建議是：如果你為富有創(chuàng)造力的研究人員提供充足的基礎(chǔ)研究經(jīng)費(fèi)，他們實(shí)際上會(huì)更愿意從事基礎(chǔ)科研，而不是去銀行賺大錢。當(dāng)然，總會(huì)有人選擇去銀行工作賺更多錢，這是無法避免的。但對(duì)基礎(chǔ)科學(xué)研究的良好支持，包括對(duì)計(jì)算資源的支持，才是留住優(yōu)秀研究人員的方式。

　　關(guān)于人形機(jī)器人（Humanoid Robot）的發(fā)展，現(xiàn)在確實(shí)有很多人在研究這個(gè)方向。這是可能實(shí)現(xiàn)的。開發(fā)人形機(jī)器人的一個(gè)原因是，工廠是為人類設(shè)計(jì)的。工廠里的所有機(jī)器都是按照人類操作的需求來設(shè)計(jì)的。因此，與其重新設(shè)計(jì)所有機(jī)器，不如重新設(shè)計(jì)一個(gè)“人”，這樣就可以使用現(xiàn)有的機(jī)器。現(xiàn)在已經(jīng)有人在嘗試這么做了。我不知道這個(gè)方向會(huì)如何發(fā)展。

　　我認(rèn)為我們正處在一個(gè)充滿巨大不確定性的時(shí)期。在這樣的時(shí)期，我們應(yīng)該保持謹(jǐn)慎。人們問是否會(huì)出現(xiàn)調(diào)整期或衰退期。對(duì)此有兩種不同的觀點(diǎn)。我的觀點(diǎn)是 AI 的發(fā)展會(huì)持續(xù)下去。有些人，特別是那些相信傳統(tǒng)的、基于邏輯的 AI 方法，從來就不喜歡神經(jīng)網(wǎng)絡(luò)的人，一直在說這種發(fā)展即將結(jié)束。

　　但多年來，每當(dāng)有人說神經(jīng)網(wǎng)絡(luò)被過分夸大時(shí)，神經(jīng)網(wǎng)絡(luò)都用實(shí)際成果證明了自己。現(xiàn)在它們確實(shí)能做出令人驚嘆的事情。所以我不認(rèn)為這是夸大其詞。每隔幾年，就會(huì)有人說：“嘿，神經(jīng)網(wǎng)絡(luò)被高估了，這一切馬上就會(huì)崩潰和停止?！钡麄兠看味煎e(cuò)了。我認(rèn)為他們還會(huì)繼續(xù)犯這樣的錯(cuò)誤。

　　參考鏈接：https://www.youtube.com/watch?v=SN-BISKo2lE