責(zé)編 |夢(mèng)依丹

出品丨AI 科技大本營(yíng)（ID：rgznai100）

繼去年榮獲諾貝爾物理學(xué)獎(jiǎng)引發(fā)全球關(guān)注后，“AI 教父”杰弗里·辛頓（Geoffrey Hinton），這位深度學(xué)習(xí)領(lǐng)域的奠基人近日在接受最新采訪(fǎng)中坦言：“幾乎所有頂尖研究人員都認(rèn)為 AI 將變得比人類(lèi)更聰明?！彼霸谥Z貝爾獎(jiǎng)的官方采訪(fǎng)中表示：AI 最快 5 年超越人類(lèi)智慧。

具體見(jiàn)

采訪(fǎng)伊始，他用幽默的語(yǔ)氣回憶起領(lǐng)取諾貝爾物理學(xué)獎(jiǎng)時(shí)的趣事：“他們只是假裝我搞的是物理。”

然而，輕松的談笑之后，是他對(duì)未來(lái)的深沉憂(yōu)慮：“我認(rèn)為人類(lèi)面臨的 AI 風(fēng)險(xiǎn)，遠(yuǎn)比我們想象中要嚴(yán)重得多?！备钊瞬毮康氖?，辛頓首次給出了一個(gè)令人不寒而栗的預(yù)測(cè)：AI 導(dǎo)致人類(lèi)滅絕的可能性高達(dá) 10% 至 20%。他直言，我們正處在決定未來(lái)的關(guān)鍵節(jié)點(diǎn)，亟需投入大量資源研究 AI 安全，否則后果不堪設(shè)想。

此外，他還罕見(jiàn)地公開(kāi)批評(píng)了科技巨頭埃隆·馬斯克，認(rèn)為其行為正在損害美國(guó)的科學(xué)根基，這場(chǎng)“教父”與首富的隔空交鋒，也折射出 AI 發(fā)展道路上復(fù)雜的科技、倫理與政治博弈。

以下是采訪(fǎng)的完整內(nèi)容：

主持人（Steve Paikin）：我們本期的嘉賓是被譽(yù)為“ AI 教父”，因其在 AI 領(lǐng)域的開(kāi)創(chuàng)性工作而榮獲諾貝爾物理學(xué)獎(jiǎng)。他也曾讓埃隆·馬斯克感到不快，一會(huì)兒我們問(wèn)問(wèn)他。他就是杰弗里·辛頓，多倫多大學(xué)計(jì)算機(jī)科學(xué)榮休教授。今天他來(lái)到節(jié)目現(xiàn)場(chǎng)，與我們一起探討先進(jìn) AI 的前景與風(fēng)險(xiǎn)。

非常高興你能再次回到我們的演播室。

杰弗里·辛頓：謝謝你們邀請(qǐng)我。

主持人：我們先來(lái)看一小段視頻，我猜這是你人生中最美好的日子之一。

主持人：這是你在斯德哥爾摩領(lǐng)取諾貝爾獎(jiǎng)的畫(huà)面，那份激動(dòng)人心的感覺(jué)多久才會(huì)過(guò)去呢？

杰弗里·辛頓：嗯……等它過(guò)去了我再告訴你。

主持人：意思是現(xiàn)在還沒(méi)過(guò)去嗎？

杰弗里·辛頓：沒(méi)，還沒(méi)有完全消退。

主持人：那天是不是酷斃了？

杰弗里·辛頓：簡(jiǎn)直太棒了。尤其是我根本就不是研究物理學(xué)的，卻拿了個(gè)物理學(xué)諾貝爾獎(jiǎng)。

主持人：你想解釋一下這是怎么回事嗎？

杰弗里·辛頓：我想他們是想表彰 AI 方面所取得的重大進(jìn)展，因?yàn)楝F(xiàn)在科學(xué)界很多令人興奮的點(diǎn)都在 AI 上面，所以他們就“挪用了”物理學(xué)獎(jiǎng)，把它頒給了我，好像我是搞物理一樣。

主持人：你跟他們指出這個(gè)“錯(cuò)誤”了嗎？

杰弗里·辛頓：是的。

主持人：然后呢？“謝謝你們的諾貝爾獎(jiǎng)，但你們知道我不搞物理的?！?你當(dāng)時(shí)就是這么說(shuō)的嗎？

杰弗里·辛頓：我就是這么說(shuō)的。

主持人：那他們是怎么回應(yīng)的？他們是說(shuō)“白送的便宜別不占”還是怎么著？

杰弗里·辛頓：差不多吧。

主持人：你把獎(jiǎng)?wù)路拍膬毫耍?/p>

杰弗里·辛頓：我可不告訴你。

主持人：我又不會(huì)去偷你的獎(jiǎng)?wù)?，杰弗里?/p>

杰弗里·辛頓：你不會(huì)，但別人可能會(huì)。

主持人：哦，好吧。那可是六盎司黃金，價(jià)值大約 15000 美元。看來(lái)你不會(huì)把它熔掉，所以你是不打算告訴我它是放在家里，還是鎖在銀行保險(xiǎn)箱里，或者別的什么地方了？

杰弗里·辛頓：不告訴你。

主持人：也行。下面我來(lái)讀一下你的獲獎(jiǎng)理由：“通過(guò)人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí)的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明”。我知道你肯定被問(wèn)過(guò)無(wú)數(shù)次了，那咱們就再問(wèn)一次。這話(huà)用大白話(huà)怎么說(shuō)？

杰弗里·辛頓：好。我們的大腦里有一堆叫做“神經(jīng)元”的腦細(xì)胞，它們之間是有連接的。當(dāng)你學(xué)到一個(gè)新東西時(shí)，實(shí)際上是這些連接的強(qiáng)度發(fā)生了變化。所以，要搞清楚大腦是怎么工作的，關(guān)鍵就在于弄清楚連接強(qiáng)度是根據(jù)什么規(guī)則來(lái)變化的。這就是全部的核心。

大腦是怎么決定某個(gè)連接應(yīng)該加強(qiáng)還是減弱，從而讓你在做某件事，比如理解我剛剛說(shuō)的話(huà)時(shí)，能表現(xiàn)得更好。

問(wèn)題就在于，它是怎么判斷的？如果我們能模擬這種機(jī)制，構(gòu)建一個(gè)由大量“模擬神經(jīng)元”組成的網(wǎng)絡(luò)會(huì)怎樣？現(xiàn)在我們知道了——它會(huì)變得非常聰明。

主持人：在成千上萬(wàn)個(gè)科研方向中，你為什么選擇了這一個(gè)？

杰弗里·辛頓：這顯然是最有趣的一個(gè)。

主持人：對(duì)你來(lái)說(shuō)？

杰弗里·辛頓：我認(rèn)為它確實(shí)是最有意思的。要想了解人類(lèi)，你必須要了解大腦是如何運(yùn)作的。而實(shí)際上，我們?nèi)匀粵](méi)有完全真正理解大腦的工作機(jī)制。我們比以前有了更多的想法，但距離完全搞懂還有一段距離。這似乎就是一個(gè)巨大的課題。

主持人：在獲得諾貝爾獎(jiǎng)之前，你就已經(jīng)很有名了，而諾獎(jiǎng)又極大地放大了你的影響力。從那時(shí)起，你就開(kāi)始頻繁地警告我們 AI 的危險(xiǎn)。你甚至在幾年前辭去了谷歌的工作，也是出于對(duì) AI 風(fēng)險(xiǎn)的擔(dān)憂(yōu)。那我們來(lái)詳細(xì)拆解一下：在你看來(lái)，當(dāng)前缺乏對(duì) AI 足夠控制的短期風(fēng)險(xiǎn)有哪些？

杰弗里·辛頓：好的，其實(shí)主要有兩種風(fēng)險(xiǎn)。一種是由于“壞人”濫用 AI 而產(chǎn)生的風(fēng)險(xiǎn)。這些是更短期，更迫在眉睫的風(fēng)險(xiǎn)，實(shí)際上已經(jīng)在發(fā)生了。

另一種是完全不同的風(fēng)險(xiǎn)，當(dāng) AI 比人類(lèi)更聰明時(shí)，它會(huì)不會(huì)想要接管一切？它會(huì)不會(huì)想把我們一腳踢開(kāi)然后取而代之？你知道有多少更智能的東西被遠(yuǎn)不如它智能的東西控制的例子？

主持人：沒(méi)多少。

杰弗里·辛頓：我的意思是，我們知道比較聰明的人可能會(huì)被不那么聰明的人控制，但這在智力上差別不大。

主持人：我本來(lái)想圍繞這點(diǎn)開(kāi)個(gè)特朗普的玩笑，但算了，我們繼續(xù)。

杰弗里·辛頓：我也想開(kāi)，但我忍住了，只是暗示了一下。

主持人：好，給我們舉個(gè)例子，說(shuō)說(shuō)你擔(dān)心的“壞人”利用 AI 技術(shù)使壞的具體情景嗎？

杰弗里·辛頓：比如有人獲取了大量關(guān)于民眾的數(shù)據(jù)，然后用偽造的 AI 視頻精準(zhǔn)地推送給這些人，勸說(shuō)他們不要去投票。

主持人：那確實(shí)是個(gè)問(wèn)題。

杰弗里·辛頓：這些就是我們已經(jīng)在面臨的問(wèn)題。比如 網(wǎng)絡(luò)攻擊，在 2023 年到 2024 年間，網(wǎng)絡(luò)釣魚(yú)攻擊增加了 1200%。2024 年的網(wǎng)絡(luò)釣魚(yú)攻擊次數(shù)是2023 年的 12 倍。主要是因?yàn)榇笳Z(yǔ)言模型的出現(xiàn)讓釣魚(yú)攻擊變得更加高效。過(guò)去的釣魚(yú)郵件語(yǔ)法可能有點(diǎn)問(wèn)題，像是從烏克蘭語(yǔ)或其他語(yǔ)言生硬翻譯過(guò)來(lái)。拼寫(xiě)也可能會(huì)有錯(cuò)。所以人們一看就知道是釣魚(yú)郵件。但現(xiàn)在，它們都是地道的英文，非常難以辨別。

主持人：現(xiàn)在騙子的手段確實(shí)高級(jí)起來(lái)了。那關(guān)于你說(shuō)的第二點(diǎn)風(fēng)險(xiǎn)“弱者控制強(qiáng)者”，比如較笨的人控制比較聰明的人，或者智能程度低的事物控制了更聰明的系統(tǒng)，你可以舉些例子嗎？

杰弗里·辛頓：我只知道一個(gè)例子，那就是嬰兒和母親之間的關(guān)系。對(duì)于嬰兒來(lái)說(shuō)，控制母親是非常重要的。所以從進(jìn)化角度來(lái)看，自然花了大量“心思”去優(yōu)化嬰兒的哭聲——讓母親聽(tīng)了以后難以忍受，從而迅速做出反應(yīng)。但這可能是我能想到的唯一一個(gè)例子。

主持人：我們剛才談了短期風(fēng)險(xiǎn)。那從長(zhǎng)期來(lái)看，風(fēng)險(xiǎn)有哪些？

杰弗里·辛頓：長(zhǎng)期來(lái)看，我擔(dān)心 AI 會(huì)變得比我們更聰明。幾乎所有頂尖研究人員認(rèn)為 AI 會(huì)比人類(lèi)更聰明，他們唯一的分歧可能是在“何時(shí)會(huì)發(fā)生這個(gè)點(diǎn)上”。有人認(rèn)為可能還需要 20 年，有些人認(rèn)為只要 3 年，還有少數(shù)人認(rèn)為就 1 年了。

總之，我們都同意 AI 會(huì)比人類(lèi)更聰明。但問(wèn)題是，到那時(shí)會(huì)發(fā)生什么？我們還完全無(wú)法預(yù)料。人們看法不一，但我們目前并沒(méi)有一個(gè)可靠的方式來(lái)衡量這些可能性。

我自己的直覺(jué)是，AI“接管一切”的概率在 10% 到 20% 之間，但這只是粗略猜測(cè)。我唯一可以肯定的是，這個(gè)概率高于 1%，也低于 99%。

主持人：你說(shuō)“AI 接管一切”，其實(shí)我覺(jué)得你說(shuō)得更嚴(yán)重——你曾表示人類(lèi)可能有 10% 到 20% 的概率會(huì)因此滅絕。

杰弗里·辛頓：如果它接管了，那就會(huì)發(fā)生（滅絕）。

主持人：你能給個(gè)時(shí)間范圍嗎？

杰弗里·辛頓：呃，不能，就像我之前說(shuō)的，目前根本無(wú)法預(yù)估這個(gè)時(shí)間點(diǎn)，但如果我們現(xiàn)在不采取行動(dòng)，可能就用不了太久了。

現(xiàn)在，我們正處于這樣的一個(gè)歷史節(jié)點(diǎn)：我們?nèi)杂袡C(jī)會(huì)開(kāi)發(fā)出安全的超級(jí)智能 AI，但我們現(xiàn)在還不知道該怎么做，甚至不知道有沒(méi)有可能做到。

希望是有可能的。如果可以的話(huà)，我們就應(yīng)該努力去研究，投入大量資源去探索這個(gè)方向。

主持人：你能為我們?cè)O(shè)想一下那個(gè)場(chǎng)景嗎？AI 會(huì)如何利用其優(yōu)越性讓人類(lèi)滅絕？

杰弗里·辛頓：如果它們真想這么做，方法太多了，我覺(jué)得沒(méi)什么必要去猜測(cè)具體方式。我認(rèn)為不會(huì)像《終結(jié)者》里那樣。比如說(shuō)，它們可以制造一種病毒把我們?nèi)珰⑺馈?/p>

主持人：聽(tīng)起來(lái)我們得抓緊控制住這個(gè)局面了。我們現(xiàn)在有行動(dòng)嗎？

杰弗里·辛頓：確實(shí)是該行動(dòng)起來(lái)了。目前有一些人正在做 AI 安全研究，也有人關(guān)注它可能帶來(lái)的人類(lèi)生存危機(jī)，但遠(yuǎn)遠(yuǎn)不夠。

現(xiàn)在的大公司更多是被短期利潤(rùn)驅(qū)動(dòng)的。我們需要公眾去督促政府，讓政府要求這些科技巨頭加大在安全研究上的投入，比如至少把三分之一的資源用在這上面。

主持人：進(jìn)展如何？

杰弗里·辛頓：公眾意識(shí)在提高。政界人士也逐漸重視起來(lái)了。最近在美國(guó)出現(xiàn)了一些倒退……

主持人：你是指哪方面？

杰弗里·辛頓： 拜登政府對(duì) AI 安全很感興趣，還專(zhuān)門(mén)發(fā)布過(guò)一項(xiàng)行政命令來(lái)推動(dòng)這方面的工作。但我擔(dān)心，就像拜登以前簽的很多行政命令一樣，特朗普上臺(tái)，可能又會(huì)被一筆勾銷(xiāo)，啥都不剩了。

主持人：也就是說(shuō)，那項(xiàng)行政命令會(huì)被推翻。

杰弗里·辛頓：是的

主持人：我猜這可能跟現(xiàn)在美國(guó)最有錢(qián)、最懂技術(shù)的那幫人都支持現(xiàn)任政府了。你覺(jué)得這么說(shuō)合適嗎？

杰弗里·辛頓：很遺憾，是這樣。

主持人：好吧，很明顯你是希望我們能把局面控制住。但問(wèn)題是，現(xiàn)在好像大家還沒(méi)能就采取什么措施達(dá)成共識(shí)，那我們能做些什么呢？

杰弗里·辛頓：首先要做的是建立共識(shí)，讓大家意識(shí)到這是一個(gè)非常嚴(yán)重的問(wèn)題。這不是科幻小說(shuō)，而是現(xiàn)實(shí)威脅。我們得說(shuō)服那些大公司在 AI 安全方面投入更多精力和研究。這就像氣候變化。這其實(shí)就像應(yīng)對(duì)氣候變化一樣——你必須先讓人們相信氣候變化是真的，而且如果不采取措施，后果會(huì)非常嚴(yán)重，只有這樣，行動(dòng)才有可能開(kāi)始。

現(xiàn)在的行動(dòng)還遠(yuǎn)遠(yuǎn)不夠，但至少有一點(diǎn)動(dòng)靜了。在 AI 這個(gè)問(wèn)題，我們首先需要建立共識(shí)。

不過(guò)有個(gè)好消息，面對(duì) AI 可能帶來(lái)的人類(lèi)生存危機(jī)，不同國(guó)家之間其實(shí)是有合作空間的。我們應(yīng)該能夠和中國(guó)展開(kāi)合作。其實(shí)，說(shuō)實(shí)話(huà)，我現(xiàn)在都不太確定“我們”到底指誰(shuí)了。以前我以為“我們”是指加拿大和美國(guó)，但現(xiàn)在嘛……好像也不是那么回事了。

主持人：確實(shí)不是了，你說(shuō)得對(duì)。

杰弗里·辛頓：但無(wú)論如何，各國(guó)應(yīng)建立合作，因?yàn)闆](méi)人想被滅絕。畢竟，國(guó)家領(lǐng)導(dǎo)人們都不想人類(lèi)被滅絕，所以生存威脅這個(gè)問(wèn)題上，他們有望達(dá)成合作共識(shí)，一起努力。這算一個(gè)小小的好消息。

但壞消息是我們還不知道該怎么做。我們現(xiàn)在迫切需要研究出應(yīng)對(duì)之策。

主持人：那你覺(jué)得，是否有某個(gè)機(jī)構(gòu)能夠在這方面起帶頭作用，推動(dòng)全球合作？

杰弗里·辛頓：確實(shí)有一些組織在做這方面的努力，但還沒(méi)有哪個(gè)機(jī)構(gòu)真正起到主導(dǎo)作用。

主持人：比如說(shuō)，這是不是應(yīng)該歸聯(lián)合國(guó)管呢？還是說(shuō)，應(yīng)該由誰(shuí)來(lái)牽頭？

杰弗里·辛頓：聯(lián)合國(guó)嘛……說(shuō)實(shí)話(huà)，它有點(diǎn)力不從心，難以勝任這項(xiàng)任務(wù)。

主持人：那誰(shuí)能勝任呢？

杰弗里·辛頓：目前來(lái)看，還得是一些大公司，因?yàn)橐?AI 安全研究，你必須能接觸到最前沿、最復(fù)雜的模型。而只有那些科技巨頭，才有足夠的資源去訓(xùn)練和掌控這些模型。

主持人：那我們來(lái)談?wù)勈澜缡赘话Ｂ　ゑR斯克，怎么樣？

杰弗里·辛頓：（笑）如果非談不可的話(huà)，那就聊聊吧。

主持人：（笑）我聽(tīng)說(shuō)你已經(jīng)不在他的圣誕賀卡名單上了。

杰弗里·辛頓：其實(shí)我在很多方面都比較認(rèn)同他的觀(guān)點(diǎn)。比如關(guān)于 AI 的生存風(fēng)險(xiǎn)問(wèn)題，我跟他觀(guān)點(diǎn)是一致的。他確實(shí)很重視這個(gè)問(wèn)題，而且他也確實(shí)做過(guò)不少好事，比如推動(dòng)電動(dòng)車(chē)普及，還有通過(guò)星鏈幫助烏克蘭維持通信，這些我都認(rèn)可。

但現(xiàn)在他所支持的政府在做的很多事情，真的讓我感到震驚。他正在大規(guī)模裁撤政府工作人員，很多人是被隨意砍掉的。這些人其實(shí)都是踏實(shí)工作、品行正直的公務(wù)員。

他把這些人說(shuō)成是腐敗、懶惰、沒(méi)用，然后就把他們掃地出門(mén)。這會(huì)帶來(lái)非常糟糕的后果，會(huì)影響到很多普通人，而他似乎完全不在意。他唯一一次表現(xiàn)出在意，是當(dāng)我公開(kāi)批評(píng)他的時(shí)候，他覺(jué)得我“刻薄”。

主持人：是啊，那我們來(lái)看看你們的那次“交鋒”。你在 X 上發(fā)了條推文：“我認(rèn)為埃隆·馬斯克應(yīng)該被英國(guó)皇家學(xué)會(huì)開(kāi)除，不是因?yàn)樗⒉缄幹\論和行納粹禮，而是因?yàn)樗趯?duì)美國(guó)的科學(xué)機(jī)構(gòu)造成巨大損害?，F(xiàn)在讓我們看看他是否真的信奉言論自由。”

結(jié)果馬斯克就馬上給你回復(fù)了：“只有怯懦、缺乏安全感的傻瓜才在乎獎(jiǎng)項(xiàng)和會(huì)員資格。真正的審判者應(yīng)來(lái)自歷史，永遠(yuǎn)如此。你這條評(píng)論既無(wú)知又刻薄，而不屬實(shí)。話(huà)雖如此，我的哪些具體行為需要糾正？我會(huì)犯錯(cuò)，但我會(huì)努力快速改正。”

你對(duì)他的推文有何反應(yīng)？

杰弗里·辛頓：我覺(jué)得最好不要和埃隆·馬斯克進(jìn)行冗長(zhǎng)的你來(lái)我往，因?yàn)槲疫€想繼續(xù)順利的入境美國(guó)呢（笑）。再說(shuō)了，我的朋友楊立昆（Yann LeCun）已經(jīng)替我回答了那些問(wèn)題。

主持人：我們?cè)谀睦锬芸吹侥切┗卮鹉兀?/p>

杰弗里·辛頓：就在推特上。你可以在那條推文下面的評(píng)論區(qū)發(fā)現(xiàn)，有一串回復(fù)里就有。

主持人：所以那是你和他唯一的直接互動(dòng)？

杰弗里·辛頓：大概在幾年前吧，他讓我打個(gè)電話(huà)給他，說(shuō)是想聊聊“人類(lèi)生存威脅”這個(gè)問(wèn)題。其實(shí)，他是想讓我去擔(dān)任 XAI 公司顧問(wèn)。我們確實(shí)先聊了幾句 AI 的生存威脅，然后他就開(kāi)門(mén)見(jiàn)山問(wèn)我，愿不愿意加入 XAI 當(dāng)顧問(wèn)，我拒絕了。

他以為我可能會(huì)同意，因?yàn)樗蛡蛄宋曳浅：玫囊粋€(gè)學(xué)生在那兒做技術(shù)人員。然后他就開(kāi)始漫無(wú)邊際地瞎扯。

于是我就臨時(shí)編了個(gè)借口，“對(duì)不起埃隆，我還有個(gè)會(huì)，得先走了?！?/p>

主持人：就這樣。

杰弗里·辛頓：對(duì)，就那一次。

主持人：如果我可以把這件事拆開(kāi)來(lái)看——他在一開(kāi)始對(duì)你發(fā)起了相當(dāng)個(gè)人化的攻擊，就像你對(duì)他也有一些評(píng)價(jià)。公平地說(shuō)，并不是所有人都認(rèn)同他在臺(tái)上做的那個(gè)動(dòng)作是納粹禮。他會(huì)辯稱(chēng)他只是在向人群表達(dá)心意。

杰弗里·辛頓：當(dāng)然（他會(huì)這么說(shuō)）。

主持人：你不信這個(gè)說(shuō)法？

杰弗里·辛頓：不信。特別是如果你了解他的過(guò)往，還有他父母的觀(guān)點(diǎn)等等。

主持人：是的，他確實(shí)時(shí)不時(shí)和一些法西斯主義的情況有些接近。但接下來(lái)的部分就比較有建設(shè)性了，他問(wèn)你有什么可以改進(jìn)的地方。

杰弗里·辛頓：是的，但我的好朋友楊立昆回答了，所以我就沒(méi)在參與。

主持人：你是否愿意分享一兩件你認(rèn)為他應(yīng)該做的事情？

杰弗里·辛頓：如果他要做的話(huà)……我的意思是，咱們先弄清楚事情的本質(zhì)。他想要為富人進(jìn)行大規(guī)模減稅，大概 4 萬(wàn)億美元，這就是所要付出的代價(jià)。

為了不大幅增加國(guó)債，他們必須在別的地方削減開(kāi)支?；蛘邔?duì)我們征收關(guān)稅。

他們計(jì)劃做的兩件事是削減政府開(kāi)支和征收關(guān)稅，而關(guān)稅實(shí)際上是對(duì)窮人的打擊。關(guān)稅是一種非累進(jìn)稅。它們會(huì)讓所有商品價(jià)格上漲。

所以普通人最終將為他們購(gòu)買(mǎi)的東西多支付 4 萬(wàn)億美元，來(lái)為富人的減稅買(mǎi)單。這太惡心了。

主持人：這就是美國(guó)現(xiàn)在的政府政策。

杰弗里·辛頓：這很惡心。

主持人：你提到了對(duì)美國(guó)科學(xué)機(jī)構(gòu)的損害。具體來(lái)說(shuō)是指什么？

杰弗里·辛頓：舉個(gè)例子，如果你讓一個(gè)腦子進(jìn)蟲(chóng)子的瘋子來(lái)負(fù)責(zé)來(lái)管整個(gè)國(guó)家的衛(wèi)生系統(tǒng)……

主持人：你說(shuō)的是小羅伯特·F·肯尼迪（RFK Jr.），對(duì)吧？

杰弗里·辛頓：是的。

主持人：你完全不贊同他現(xiàn)在做的任何事嗎？

杰弗里·辛頓：也不能這么說(shuō)。這些事情從來(lái)都不是完全黑白分明。

他提倡人們應(yīng)該健康飲食，這一點(diǎn)是有價(jià)值的。但他極力反對(duì)的某些東西，比如植物油，可能沒(méi)有他說(shuō)的那么糟糕。

但整體來(lái)說(shuō)，健康飲食有助于改善身體狀況這個(gè)觀(guān)點(diǎn)是非常重要的，他多少也推動(dòng)了一下。但他其他大部分的說(shuō)法，基本上是胡說(shuō)八道。

主持人：那你不認(rèn)同他關(guān)于疫苗、制藥公司，或者像自閉癥成因這類(lèi)事情的懷疑態(tài)度？

杰弗里·辛頓：對(duì)，我不認(rèn)同。關(guān)于這些問(wèn)題已經(jīng)有大量的研究了。正是因?yàn)檫@些奇怪的聲音存在，才促使研究人員更加認(rèn)真地去研究這些問(wèn)題。

那些宣揚(yáng)這些陰謀論的人，大多只是想賣(mài)你某種藥品或其他什么產(chǎn)品。他們這么做，是為了吸引注意力，本質(zhì)上是一種營(yíng)銷(xiāo)手段。

他們自己其實(shí)并不相信這些說(shuō)法。就我所知，他自己的孩子都打了疫苗。

主持人：這就很說(shuō)明問(wèn)題了。就像當(dāng)年?？怂剐侣勅旌虿シ欧磳?duì)強(qiáng)制接種疫苗，背地卻讓他們的所有員工都必須接種疫苗。

杰弗里·辛頓：沒(méi)錯(cuò)。

主持人：我們已經(jīng)聊了很多AI帶來(lái)的風(fēng)險(xiǎn)。那你能不能給我們留下一些稍微讓人感到希望的理由？讓人覺(jué)得這事最后也許并沒(méi)有那么糟？

杰弗里·辛頓：當(dāng)然有。AI 之所以還在不斷發(fā)展，而且我們也無(wú)法真正阻止它，很大一個(gè)原因是它確實(shí)能帶來(lái)很多好處。

比如說(shuō)在醫(yī)療領(lǐng)域，它將帶來(lái)巨大變革。未來(lái)你能享受到遠(yuǎn)比現(xiàn)在更好的醫(yī)療服務(wù)。想象一下你擁有一個(gè) AI“家庭醫(yī)生”，它看過(guò)上億病人的病例，了解并記得你和你家人做過(guò)的每一次檢查，能給出更準(zhǔn)確的診斷?，F(xiàn)在，AI和醫(yī)生合作處理復(fù)雜病例時(shí)，錯(cuò)誤率已經(jīng)明顯低于醫(yī)生單獨(dú)判斷。這一切已經(jīng)在發(fā)生，而且還會(huì)繼續(xù)改善。

在教育方面，AI也將帶來(lái)巨大飛躍。我們知道，有私人家教的孩子，學(xué)習(xí)效率可以提升一倍，因?yàn)榧医炭梢约皶r(shí)發(fā)現(xiàn)孩子沒(méi)理解的地方。而未來(lái) 10 年內(nèi)，AI 系統(tǒng)可能就能勝任這個(gè)角色。

當(dāng)一個(gè)孩子在學(xué)習(xí)時(shí)，AI 能精準(zhǔn)識(shí)別孩子的誤解，因?yàn)樗呀?jīng)“看過(guò)”成千上萬(wàn)個(gè)其他孩子的學(xué)習(xí)過(guò)程。它知道孩子是哪里沒(méi)弄懂，也知道該用哪個(gè)例子來(lái)幫助孩子理解。

如果說(shuō)一個(gè)人類(lèi)家教能讓孩子學(xué)得快兩倍，那這些 AI 輔導(dǎo)系統(tǒng)可能讓效率提升三到四倍。對(duì)大學(xué)來(lái)說(shuō)這也許不是什么好消息，但對(duì)真正想學(xué)習(xí)知識(shí)的人來(lái)說(shuō)，那可太棒了。

主持人：對(duì)大學(xué)不是好消息，是因?yàn)椋?/p>

杰弗里·辛頓：也許以后我們就不再需要大學(xué)了。不過(guò)，我認(rèn)為做研究生階段的研究是離不開(kāi)大學(xué)的。我認(rèn)為你大家仍然需要“學(xué)徒制”的方式來(lái)學(xué)習(xí)如何做研究。

因?yàn)榭蒲羞@件事情，無(wú)法靠一套明確的規(guī)則來(lái)教。我們可以告訴你“我會(huì)這樣處理這個(gè)問(wèn)題”，但我們不能制定一個(gè)“做研究就按這套流程來(lái)”的標(biāo)準(zhǔn)。根本不存在這樣的規(guī)則。這就是一種“跟著學(xué)”的過(guò)程——一種學(xué)徒制。

主持人：那是不是意味著，那些認(rèn)為上大學(xué)去學(xué)習(xí)編程或計(jì)算機(jī)科學(xué)是個(gè)好主意的孩子們，他們現(xiàn)在有麻煩了？

杰弗里·辛頓：很可能是的。

主持人：我的意思是計(jì)算機(jī)科學(xué)專(zhuān)業(yè)不止教你怎么編程了，但是……

杰弗里·辛頓：是的。

主持人：人們稱(chēng)你為“AI 教父”，你喜歡這個(gè)頭銜嗎？

杰弗里·辛頓：我挺喜歡的。雖然起初這個(gè)稱(chēng)號(hào)并非出于善意。是在一次會(huì)議之后有人開(kāi)始這么叫我的，那次會(huì)議我有點(diǎn)像是在主持，頻繁打斷別人說(shuō)話(huà)。

主持人：哦，所以他們叫你教父是因?yàn)椤?/p>

杰弗里·辛頓：是吳恩達(dá)（Andrew Ng）帶頭的。那是在英國(guó)溫莎的一次會(huì)議。會(huì)議結(jié)束后，吳恩達(dá)就開(kāi)始叫我教父。

主持人：因?yàn)槟憧偞驍鄤e人說(shuō)話(huà)？

杰弗里·辛頓：因?yàn)槲沂悄抢锬昙o(jì)最大的，而且對(duì)人有點(diǎn)指手畫(huà)腳。

主持人：明白了。你得了諾貝爾獎(jiǎng)金的一半，大概是五十萬(wàn)美元？

杰弗里·辛頓：整個(gè)獎(jiǎng)金大概是一百萬(wàn)美元。我拿了一半就是五十萬(wàn)。

主持人：在這五十萬(wàn)里，你捐了一半給“Water First”組織，對(duì)吧？

杰弗里·辛頓：是的，二十五萬(wàn)美金相當(dāng)于三十五萬(wàn)加幣。

主持人：“Water First”是什么組織？

杰弗里·辛頓：“Water First”是一個(gè)培訓(xùn)居住在原住民社區(qū)的人們掌握水處理技術(shù)的組織。教那些社區(qū)的居民如何讓他們的飲用水變得安全。

主持人：你為什么選擇他們？

杰弗里·辛頓：我在秘魯收養(yǎng)了一個(gè)孩子，并在那里住了兩個(gè)月，那里的自來(lái)水不能喝，簡(jiǎn)直是致命的。所以我體會(huì)過(guò)沒(méi)有安全飲用水是什么滋味。

如果你有個(gè)嬰兒，卻沒(méi)有辦法保證他喝的水是干凈的，這就會(huì)占據(jù)你全部的生活精力，你得時(shí)刻想著怎么讓孩子不要生病。這簡(jiǎn)直是強(qiáng)加給人們的一種瘋狂的生活負(fù)擔(dān)。

而且我覺(jué)得，在加拿大這樣一個(gè)富裕的國(guó)家，竟然有那么多原住民社區(qū)沒(méi)有安全飲用水，這簡(jiǎn)直是一種恥辱。

比如在安大略省，20% 的原住民社區(qū)沒(méi)有安全的飲用水。

主持人：這話(huà)不會(huì)讓感到你滿(mǎn)意，我也不想敷衍你，但現(xiàn)在的情況比十年前要改善一些了。

杰弗里·辛頓：也許吧。

主持人：不，確實(shí)是進(jìn)步了，我們可以這么說(shuō)。

杰弗里·辛頓：可他們本就應(yīng)該有安全的飲用水。

主持人：當(dāng)然，毫無(wú)疑問(wèn)。你接下來(lái)有什么計(jì)劃？

杰弗里·辛頓：我正試著退休呢，但這個(gè)退休計(jì)劃執(zhí)行得一塌糊涂。

主持人：你現(xiàn)在多大？

杰弗里·辛頓：77歲。

主持人：哎呀，這年紀(jì)退休太早了。

杰弗里·辛頓：我原本 75 歲離開(kāi)谷歌的時(shí)候就想著可以退休了。

主持人：你還有大把的時(shí)光呢。

杰弗里·辛頓：也許吧。

主持人：你看起來(lái)真不像77歲，我得說(shuō)。

杰弗里·辛頓：謝謝。

主持人：不，我真覺(jué)得你的人生還至少能寫(xiě)出一兩章新故事，甚至三章都有可能。

杰弗里·辛頓：你看起來(lái)也挺不像 77 歲的。

主持人：好的化妝師能改變一切。非常感謝你今天能抽出時(shí)間過(guò)來(lái)，并回答這些有點(diǎn)尖銳的問(wèn)題。而且，也許你和埃隆會(huì)冰釋前嫌，一起嘗試解決我們正在面臨的難題。

杰弗里·辛頓：我覺(jué)得那不太可能。

主持人：這位是杰弗里·辛頓，多倫多大學(xué)計(jì)算機(jī)科學(xué)榮休教授，諾貝爾物理學(xué)獎(jiǎng)得主。感謝你今晚的節(jié)目。

杰弗里·辛頓：謝謝你們邀請(qǐng)我。

采訪(fǎng)原文：https://www.youtube.com/watch?v=YRQ4d8Rjmwg

推薦活動(dòng)：

PayPal 官方開(kāi)發(fā)者調(diào)研

為促進(jìn) AMD ROCm 開(kāi)發(fā)者技術(shù)交流，探索大模型與開(kāi)源工具的實(shí)踐路徑