機(jī)器之心報道

機(jī)器之心編輯部

大腦是一臺生物計算機(jī)，數(shù)字計算機(jī)又有什么不同呢？

「總有一天，人工智能會完成我們能做的一切事情。不是部分，而是全部。」

6 月 6 日，許久沒有露面的 Ilya Sutskever 出現(xiàn)在了多倫多大學(xué)的校園里，接受母校授予他的榮譽(yù)理學(xué)博士學(xué)位。

自去年宣布離開 OpenAI 之后，Ilya 鮮少出現(xiàn)在公眾視野，社交媒體動態(tài)也很少更新，所以很多人都問「Ilya 去哪兒了」？他創(chuàng)辦的新公司 —— 安全超級智能（safe superintelligence，SSI）也非常神秘，大家只有一個模糊的印象，即該公司業(yè)務(wù)圍繞著開發(fā)一個安全、強(qiáng)大的超級智能系統(tǒng)展開。

回顧 Ilya 的學(xué)生生涯，他于 2005 年以數(shù)學(xué)榮譽(yù)理學(xué)學(xué)士學(xué)位（honours bachelor of science in mathematics）畢業(yè)，隨后繼續(xù)深造，在多倫多大學(xué)先后取得計算機(jī)科學(xué)碩士學(xué)位和博士學(xué)位，師從圖靈獎、諾貝爾物理學(xué)獎得主 Hinton。

這次頒發(fā)的學(xué)位是為了表彰 Ilya 作為計算機(jī)科學(xué)家和人工智能領(lǐng)域先驅(qū)所做的基礎(chǔ)性工作及全球影響力，以及他在倡導(dǎo)安全、負(fù)責(zé)任的人工智能方面作出的杰出貢獻(xiàn)。

儀式之后，Ilya 還在多倫多大學(xué)做了一場演講。他指出，我們正生活在人類歷史上最不尋常的時代 ——AI 時代，AI 最終將能夠完成人類所有的工作，這將帶來人類有史以來最大的挑戰(zhàn)，但也蘊(yùn)含著最大的機(jī)遇，因此我們每個人都需要積極觀察 AI 的發(fā)展，培養(yǎng)對其能力的直覺，并為即將到來的深刻變革做好準(zhǔn)備。因?yàn)闊o論我們是否愿意，AI 都將深刻影響每個人的生活。

雖然演講只有 10 分鐘，但從中，我們能聽到 Ilya 對于未來的擔(dān)憂，他指出了技術(shù)發(fā)展的不可控性和社會適應(yīng)的滯后性，甚至坦言連他自己都「很難在情感層面完全相信」這種劇變會發(fā)生。但要來的終究會來。

以下是 Ilya 的完整演講內(nèi)容。

大家好，很高興來到這里。我想感謝每一個人為此做的安排，為組織這個活動，為給我這個榮譽(yù)學(xué)位。獲得這個榮譽(yù)學(xué)位對我來說意義非常重大。

幾乎就在 20 年前的今天，我在多倫多大學(xué)的這個大廳里獲得了我的學(xué)士學(xué)位。而且實(shí)際上，這將是我從多倫多大學(xué)獲得的第四個學(xué)位。

我在這里度過了非常美好的時光。我總共在這里待了 10 年。我完成了本科學(xué)位，學(xué)到了很多，我也在這里做過研究生，這是很棒的體驗(yàn)。我能夠深入研究我感興趣的任何領(lǐng)域，真正成為一名研究者。能夠跟 Jeff Hinton 教授一起學(xué)習(xí)真的很棒。實(shí)際上，跟隨 Jeff Hinton 做研究是我人生中的一大幸運(yùn)，我對這所大學(xué)充滿感激。

當(dāng)我還是這里的學(xué)生時，多倫多大學(xué)正在做世界上最好的 AI 研究，有最革命性的想法，最令人興奮的工作。我很幸運(yùn)能夠在研究生階段就作為學(xué)生為此做出貢獻(xiàn)。但那是很久以前的事了。

據(jù)我理解，在這次畢業(yè)典禮演講中，應(yīng)該提供一些明智的建議，之后我會稍微講一些，但只是一點(diǎn)點(diǎn)，因?yàn)檫@個演講與以往有些不同。

我首先想說的是好的心態(tài)，會讓一切變得容易得多：接受現(xiàn)實(shí)，不要后悔過去，努力改善現(xiàn)狀。

之所以這么說，是因?yàn)檫@是一種非常難以做到的心態(tài)。我們常常很容易陷入這種想法「過去做錯了什么決定，命運(yùn)不好，事情不公平」之類的。我們很容易陷入這種思維中，浪費(fèi)大量時間去糾結(jié)。

我們應(yīng)該這樣想：「事情都這樣了，下一步該怎么做？」我發(fā)現(xiàn)當(dāng)我這樣做時，一切會變得順利得多。但這很難做到，這是一場與自己情感的持久斗爭。我提這個，是希望你們也能盡量采取這種心態(tài)，也時刻提醒我自己。畢竟，這是一個不斷奮斗的過程。

不過，這段話只是我想分享的一小部分，接下來，我的演講會有點(diǎn)不同，因?yàn)楝F(xiàn)在的時機(jī)非常特殊。

我們正處在一個前所未有的時代。這種說法可能會常常聽到，但我認(rèn)為這次是真的。原因就是 AI 的出現(xiàn)。顯而易見，今天的 AI 已經(jīng)在相當(dāng)大的程度上改變了你們作為學(xué)生的意義，變化是相當(dāng)顯著的。我感覺到，尤其是我認(rèn)為它對我們未來的影響是巨大的。

當(dāng)然，AI 的影響遠(yuǎn)不止于此，它開始以一些未知且無法預(yù)測的方式改變我們從事的工作。有些工作可能很快就會受到影響，有些則可能稍后。如今，通過 AI，我們可以看到很多新的技術(shù)和應(yīng)用，大家也許已經(jīng)在 Twitter 上看到，AI 能夠做很多以前做不到的事情。這時你會開始思考，哪些技能將變得更加重要，哪些又會變得不那么重要。這個問題是顯而易見的。

可以說，當(dāng)前的挑戰(zhàn)是：AI 如何影響我們的工作和職業(yè)生涯。但真正的挑戰(zhàn)在于，AI 將發(fā)生極大的變化，未來的影響將比現(xiàn)在更為深遠(yuǎn)。我們已經(jīng)看到，AI 可以與我們對話，理解我們說的話并用語音回應(yīng)，這在以前是不可想象的。AI 不僅能理解我們的語言，還能編寫代碼，這真是不可思議。然而，它仍有許多不足的地方，做得還不夠好，依然有很多缺陷。所以我們可以說，它在很多方面還需要追趕，但它的潛力是巨大的，值得我們繼續(xù)關(guān)注。

在未來的某個時刻，AI 將不斷進(jìn)步，可能是三年、五年或十年后（雖然具體時間眾說紛紜），但 AI 會逐步變得越來越強(qiáng)大。最終，AI 將能夠完成我們所有能夠做到的事情，而不僅僅是其中的一部分。

任何我能學(xué)到的東西，任何你們中的任何一個人能夠?qū)W到的東西，AI 都能學(xué)會。那么，為什么我這么確信呢？我們怎么知道 AI 將來能做這些事情呢？原因是，我們每個人的大腦都是一個生物計算機(jī)。

我們有大腦，就是因?yàn)樗且粋€生物計算機(jī)。那么，既然人類的生物計算機(jī)能做這些事情，為什么數(shù)字計算機(jī)、也就是數(shù)字大腦不能做同樣的事呢？這就是為什么我認(rèn)為 AI 最終能做到所有我們能做到的事情的原因。

你可以開始思考：當(dāng)計算機(jī)能夠勝任我們所有的工作時，會發(fā)生什么？這些是真正重大的問題，具有戲劇性的意義。現(xiàn)在當(dāng)你開始思考這個問題時，可能會覺得有些震撼。但這還只是冰山一角。

真正的問題是：我們?nèi)祟惣w會希望用這些 AI 來做什么？做更多工作？發(fā)展經(jīng)濟(jì)？進(jìn)行研發(fā)？推進(jìn) AI 研究？如果是這樣，那么技術(shù)進(jìn)步的速度將在一段時間內(nèi)變得極其迅猛。這些都是極端的變化，難以想象的場景。

所以我現(xiàn)在試圖把大家拉入這樣一種思維空間 —— 一個由 AI 創(chuàng)造的極端而激進(jìn)的未來。但這種未來也很難想象，很難真正內(nèi)化，很難在情感層面完全相信。即使是我也在為此而掙扎。然而邏輯似乎表明，這很可能會發(fā)生。

那么在這樣的世界里人應(yīng)該做什么呢？有一句話是這么說的：你可能對政治不感興趣，但政治會對你感興趣。同樣的話適用于 AI，而且是加倍的。

我認(rèn)為，通過使用 AI 并觀察當(dāng)今最先進(jìn)的 AI 能做什么，你會形成一種直覺。隨著 AI 在一年、兩年、三年內(nèi)不斷改進(jìn)，這種直覺會變得更強(qiáng)烈。我們現(xiàn)在討論的許多事情會變得更加真實(shí)，不再那么虛幻。歸根結(jié)底，任何文章和解釋都比不上我們親眼所見的真實(shí)感受。

特別是對于未來那些極其聰明的超級智能 AI，如何確保它們誠實(shí)可信、不會欺騙偽裝，這將是一個極其深刻的問題。我在這里把很多復(fù)雜的概念壓縮到了很短的時間里。但總的來說，通過觀察 AI 的能力，在關(guān)鍵時刻不忽視它的發(fā)展，這將產(chǎn)生我們克服 AI 帶來的巨大挑戰(zhàn)所需的動力。

在某種意義上，AI 帶來的挑戰(zhàn)是人類有史以來最大的挑戰(zhàn)，克服它也將帶來最大的回報。在某種意義上，無論你是否喜歡，你的生活都將在很大程度上受到 AI 的影響。所以觀察它，關(guān)注它，然后凝聚力量解決即將出現(xiàn)的問題 —— 這將是最重要的事情。

我就說到這里。非常感謝。