未經許可不得轉載，務必保留原文出處鏈接和公眾號按鈕

關注本城公眾號并設星標，不錯過最新精彩內容

文：Web3天空之城·城主

對于那些我不認識的人，我叫丹·萊文，是博物館的首席執行官，已經在這里工作了大約六年半。今晚的節目讓我特別興奮，因為它與我們的新使命完美契合，稍后我會詳細介紹。但首先，我想感謝所有的成員、受托人、支持者、志愿者以及組織這些節目的工作人員。沒有你們的支持和幫助，我們無法做到這一切，所以感謝大家。

今天我們這里幾乎座無虛席，并且正在進行在線直播，歡迎遠道而來的觀眾。如果你不知道，博物館大約六年前就制定了它的使命。我們將繼續像所有收藏機構一樣收藏和保存，為子孫后代而努力。但我們也非常關心人類，因為起初人類是計算機的創造者，后來我們發明了計算機?，F在沒有計算機，生命就無法想象。因此，該機構的使命已經演變為解碼技術，解碼計算的過去，從中獲得啟示；數字化的現在，這是一個不斷變化的目標；以及未來對人類狀況的影響。

今晚的節目將從個人角度深入探討這一點。我很高興歡迎李飛飛博士參加今晚的節目。她在《我眼中的世界》一書中的故事在個人層面上非常深刻，以世界級和權威的專業水平講述了計算對人類狀況的影響。我們確實相信所有這些技術都可以用于更大的利益，這也是我們在該機構的目標，即幫助人們認識到并考慮如何最好地利用這些技術來造福社會。

我還要感謝今晚的贊助商帕特里克·J·麥戈文基金會。我們無法大規模開展這類項目，麥戈文基金會一直是一個了不起的支持者。帕特·麥戈文不久前去世了，他是這個博物館的創始董事之一，他的家鄉是波士頓，博物館最初就是在那里建立的，顯然在20多年前搬到了灣區。所以我們要感謝他們對人工智能和人類狀況系列的支持。

事不宜遲，我想你們來這里是因為你們對人工智能和人類狀況了解很多，或者你們有興趣了解更多。讓我先介紹一下李飛飛的背景。她是斯坦福大學的紅杉計算機科學教授，也是斯坦福以人為本的人工智能研究所的Denning聯席主任。她曾擔任斯坦福大學人工智能實驗室主任，休假期間擔任谷歌人工智能和機器學習首席科學家副總裁。在那段時間里，她也做了大量的研究。她還在國會和白宮委托的國家人工智能研究資源工作組任職。所以，請允許我歡迎李博士上臺。

謝謝，丹尼斯。湯姆·哈利爾將主持本次對話。很久以前，我有幸在白宮科學、技術和工程辦公室工作時認識了湯姆。他在技術和政策方面經驗豐富。在奧巴馬政府期間，他曾與克林頓政府和奧巴馬政府合作，在政策領域擁有豐富的經驗，并在國家納米技術計劃和大腦計劃中積極工作。他現在是復興慈善組織的首席執行官，這是一個新組織，專注于考慮這種新的復興。我們正在經歷這種復興，在許多情況下，我們正在社區中創造這種復興。所以我要為此感謝湯姆和feifei。感謝大家參加這個節目，和我一起歡迎他們上臺。

謝謝。好的。每個人都必須沖出去買這本書，也給你的朋友和親戚買一些。這是一本很棒的書。所以飛飛，我們必須看看這個觀眾有多書呆子。那么你們中有多少人可以向別人解釋隨機評級、異議和反向傳播是如何工作的？舉手。好的。

飛飛，你在書中談到的一件事是關于人工智能的歷史。所以，我想知道你是否可以從1956年發生的事情開始？當時的研究人員花了多長時間才意識到他們能夠解決人工智能問題？

好的。首先，謝謝你。謝謝計算機歷史博物館。謝謝Daniel和Tom邀請我。我想對那些慶祝農歷的人說，今天是中秋節快樂。好的?，F在，讓我們回到1956年。那不是達特茅斯研討會，對吧？

是的。

李飛飛：好的。我以為那是1959年。好的。所以，我的記憶已經模糊了。所以，在座的有真正的歷史學家。我知道。1956年，達特茅斯學院一個悶熱的夏天。人工智能的創始人約翰·麥卡錫、馬文·明斯基、克勞德·香農。第四個人是誰？還有一個人。對不起。我們會記住這一點。此外，還召集了一群計算機科學家，我想是在DARPA的一小筆資助下，討論未來的計算。當時，約翰·麥卡錫剛剛開創了這個領域，稱之為人工智能。他們在那個夏天的研討會上撰寫了一份關于人工智能是什么的白皮書，探討了人工智能的功能、解決問題的方法，特別是推理和演繹推理，試圖讓機器像人類一樣思考、回答問題、做出決定。

這是一段相當漫長的旅程，已經有70多年了。我們經歷了起起落落，見證了多次炒作周期。比如在20世紀70年代，關于專家系統的炒作周期，當時開始看到在人工智能中使用一階邏輯和專家系統的實際應用。但后來那個泡沫破滅了，因為它沒有實現。當時有雜志封面談論機器人接管社會，但這并沒有實現。資金真的枯竭了，學術界和工業界的資金都枯竭了。雖然軍事資金或國防資金仍然存在，但一些研究人員實際上避開了這些資金來源?？偟膩碚f，整個領域都萎縮了。

到了20世紀90年代，人工智能領域開始發生一場靜悄悄的革命。雖然公眾仍然將那段時期視為AI冬季，但我個人認為那是初春。David Plylar, Jr.：所以綠芽萌發。沒錯，雪還沒有完全融化。這場革命首先是由統計建模驅動的。統計建模與計算機編程相結合，我們開始稱之為機器學習。人工智能和機器學習領域找到了自己的語言，通過統計和機器學習，開始破解自然語言編程、計算機視覺、語音識別等各個領域。研究人員開始以相當深入的方式研究這些領域。

就我個人而言，我在2000年進入加州理工學院攻讀博士學位，進入人工智能領域。很多公眾仍然認為那是AI冬季，但對我來說，在我攻讀博士學位期間發生了兩件事，這兩件事定義了我這一代人工智能研究人員。一個是統計機器學習。我在研究生院的第一堂課，實際上是我走進的第一堂課，叫做神經網絡和模式識別。我們閱讀了反向傳播的論文，同時也研究了支持向量機、貝葉斯網絡、增強方法和核方法等。這是我們經歷的一部分。我們利用這些工具開始研究計算機視覺等人工智能問題。

然而，我認為在我們的實驗室和學術界之外，互聯網在人工智能的發展中起到了決定性作用。谷歌大約在1999年或2000年成立，互聯網開始為我們提供數據。大約十年后，GPU開始出現，事情逐漸趨于一致。我認為，2010年至2012年左右，人工智能的公共時刻真正到來。至少在硅谷，當谷歌和其他公司試圖收購一家可能甚至沒有名字的小型初創公司時，公眾開始關注它。這家初創公司來自多倫多大學，贏得了ImageNet挑戰賽。從那時起，我們進入了現代人工智能時代，人工智能迎來了重生。

對。你參與的一個項目在改變人們對可能性的看法方面發揮了非常重要的作用，那就是ImageNet。你和同事們創建了一個包含1500萬張照片的數據集，并給它們貼上了標簽。為什么這在幫助啟動現代人工智能浪潮中發揮了如此重要的作用呢？

對。對于那些不知道的人來說，ImageNet是一個數據集項目，始于2006年，花了幾年時間，于2009年發布。它成為人工智能領域最大的一個數據集，由1500萬張互聯網圖像組成，經過人工分類、整理、組織和分類，涵蓋22,000個自然物體類別。在我們發布ImageNet作為開源數據集后，我們立即讓研究界參與了年度ImageNet挑戰賽，邀請全球的機器學習研究人員和計算機視覺研究人員參與這個我們稱之為物體識別的年度挑戰賽。

這項年度挑戰賽始于2010年，并于2012年取得了成果，那一年挑戰賽的第一名就是現在眾所周知的AlexNet。這是多倫多大學研究人員的成果，包括Geoffrey Hinton、Ilya 和Alex 。那一刻對人工智能世界來說具有象征意義，因為現代人工智能的三個基本要素匯聚在一起。其中之一是首次聚合的能力，那就是神經網絡。這就是 Tom 考你反向傳播的原因，因為那是神經網絡的底層數學。所以第一個元素是神經網絡。

第二個元素是使用 ImageNet 的大數據。第三個元素是 GPU 計算。當時，有兩個 GPU。ImageNet 的重要性在于，它在今天看來微不足道。每個人都知道人工智能是由數據驅動的，但在 ImageNet 之前，人們不相信數據。每個人都在研究完全不同的人工智能范式，只使用少量數據，有時甚至沒有數據，就像手工制作的特征工程。

這個非常激進的想法是，從頭開始就擁有了所有這些，在數據模型中使用數據，用數據驅動的方法驅動高容量模型，并推動人工智能的泛化。許多人對此深表懷疑。因此，沒有這種觀點，認為神經網絡是一種通用函數逼近器。如果你給它們足夠多的例子，它們就可以在輸入之間進行映射，學習一個在輸入和輸出之間進行映射的函數。

這不是主流觀點。很多更資深的同事都想知道你為什么這樣做。我認為這是一個很好的例子，如果你相信某件事，有時候你應該堅持做下去，因為它會產生巨大的影響，即使你當時沒有得到同事們的喜愛。

我并不是從消極的角度寫的。我認為這是科學進步，就是受到挑戰，無論是你的前輩、后輩還是你的學生。我不斷受到學生的挑戰。我可能每天都有 99 個愚蠢的想法，也許偶爾會有一個好主意。受到挑戰是件好事，因為這是一個未經檢驗的想法，所以沒關系。

特別是對于年輕人來說，僅僅因為你受到挑戰并不意味著你應該放棄。所以這是這里重要的一課。

那么，從 2012 年到 2024 年，您認為在此期間我們取得了哪些最重要的進展？在人工智能領域，對。信不信由你，2012 年也是 Jennifer 懷疑的同一年，她的同事發現了 CRISPR。2012年是一個重要的年份。當時我與人討論，發現同年出現了兩項重大科學技術突破。從2012年到現在，已經過去了12年，這期間發生了許多重要事件。

在這個領域，尤其是更多的研究領域，我認為Alex和ImageNet的出現是一個重要時刻。它為先驅者打開了大門，包括像谷歌這樣的科技公司，開始加倍投入深度學習。這標志著深度學習時代的開始。

2016年1月，AlphaGo與圍棋大師李世乭對戰并贏得比賽，這是一個公開的時刻。我認為那是公眾第一次意識到機器足夠強大，可以在人類認為只有我們才能完成的任務上挑戰人類。此外，它還引入了一種稱為強化學習的新算法，這種算法位于深度學習之上。

從2016年到2022年，對人工智能、大型科技公司和創業的投資逐漸增加。這段時間也與技術沖突的首次出現相吻合。對于我們很多人來說，技術沖突發生在劍橋分析公司事件之后，也就是2016年大選期間。那時，機器學習偏見被指出，自動駕駛汽車死亡事件也在2017年左右發生。因此，我們開始進行社會對話，在對技術的興奮與對技術的擔憂之間產生緊張關系。

所有這些都積累在2022年10月底，當時ChatGPT出現了。對于我們這些研究人員來說，我們看到了這種情況正在發生。你可能會認為我在虛張聲勢，但我會告訴你為什么。作為斯坦福人類中心研究所聯席主任，我們在2021年成立了世界上第一個基礎模型研究中心，因為我們看到了GPT-2的結果。當時，公眾還沒有意識到，但像我們這樣的研究人員已經意識到這一點。我的同事Persi Leong和Chris Manning也意識到，這種情況將會改變。所以我們立即投入資源組建這個中心。

當ChatGPT出現時，我們很慶幸我們開始了這件事，但我們也對媒體關注度的上升感到震驚。我認為，AlphaGo時刻和ChatGPT時刻在公眾意識方面的差異不僅僅是人數的問題。這是人工智能第一次如此親密地掌握在個人用戶手中。AlphaGo并不在圍棋大師以外的任何用戶手中，但ChatGPT就在你指尖。這是一個覺醒的時刻，不僅對每個人來說如此，對政府來說也是如此。

在ChatGPT之前，我們研究所的部分使命是彌合技術世界和政策世界之間的差距。所以，你在華盛頓，我不會自然而然地一直飛往華盛頓，但我去華盛頓只是為了繼續對話。但在ChatGPT之后，華盛頓就像在召喚我們一樣。就像，發生了什么事？沒錯。所以，我認為這10年真的……我的意思是，公眾將其視為離散的事件點。我們認為這是一個連續的過程，只是越來越多的投資和運動。

研究界是否仍在爭論這些大型語言模型是隨機鸚鵡還是它們有實際的推理在進行？是的。那么，你對這場辯論有什么看法？我理解你為什么使用“隨機鸚鵡”這個詞，因為它來自一篇批評大型語言模型的論文。我認為重要的是要認識到我們確實需要從不同角度批評這些模型，包括其能力、能耗、局限性、偏見等等。

但我不會稱它為“隨機鸚鵡”。從科學的角度來看，我認為重要的是使用更中性的語氣，而不是稱它為上帝或鸚鵡。它確實是一個大型模型，不僅具有模式匹配、模式學習的能力，而且還具有預測能力，并且能夠展示某種程度的推理能力。因為它能夠向你解釋事物是什么。我知道幾天前剛剛發布了一個新版本，我個人還沒有時間測試它。它將推理能力提升到了另一個階段。所以我認為可以說它確實具有模式識別能力，有些人可能稱之為鸚鵡學舌的能力，但它也具有一定程度的推理能力。

作為一名教育工作者，我總是非常小心，不要夸大這種推理是什么，包括一些更夸張的推斷，比如感知或意識。那么，在未來三到五年內，你認為可能會發生什么？你認為目前存在的系統最大的局限性是什么？你認為我們可以更好地利用哪些領域？我們如何才能在提高其性能方面取得真正的進展？

湯姆，我不確定你是在狹義地問語言模型還是在問人工智能。

不，是關于一般的人工智能。

好的。例如，有些人認為，只要購買更多 GPU，我們就能取得令人難以置信的進步，比如購買兩百萬個 GPU 而不是兩個 GPU。還有，更多的數據，更多的合成數據。

我們知道，Transformers 和注意力機制是當前技術的核心。有些人認為，只要擴大現有的技術規模，我們就能取得令人難以置信的進步。還有一些人認為，今天的人工智能版本有根本性的局限性，我們將不得不探索新的方法，比如神經符號方法或類似的東西。那么，你對這場辯論有什么強烈的看法嗎？

嗯，首先，所有的觀點都有其合理性。事實上，我確實認為我們正處于一場真正的人工智能數字革命中。未來三到五年將繼續是技術非常令人興奮的時期，但也會給我們的社會（包括政策）帶來緊張局勢。

您所問的更多是技術方面的問題。首先，我從根本上相信，在人類歷史的每一個階段，技術和科學都是有限的。我們總是可以推動前沿向前發展。就我個人而言，我對空間智能感到非常興奮，這遠遠超出了語言的范疇。如果你看看人類和動物的智能，語言只是智能的一部分。即使我們研究的是高級智能，人類也已經建立了超越語言的文明。從金字塔的建造到第一次工業革命的機器的復雜設計，DNA結構的發現，電影攝影的創造等等，其中很多都是建立在超越語言的空間智能之上的。所以，除了語言之外，肯定還有新的大門打開了。

從技術上講，數據的縮放定律仍然有效。我們仍然看到數據縮放定律的非常健康的證據。但同樣非常有趣的是，我們越來越多地聽到關于我們在何處達到數據極限的消息，尤其是互聯網上基于文本的數據。我們很可能已經到達極限。但就我所處的高等教育領域而言，我還看到，在很多科學發現領域，數據甚至還沒有得到妥善收集。從這些數據的數字化到這些數據的建模，我認為在未來三到五年內，由于人工智能和機器學習，我們將看到不同領域的科學發現蓬勃發展，不僅僅是大型基礎模型的商業化。我們將看到更多的空間智能。我個人參與其中，并對此感到興奮。未來三到五年不僅僅是技術發展的歲月，也是我們如何部署和管理這些模型的關鍵時期。

在加利福尼亞州，正在討論人工智能法案。就我個人而言，我既支持安全措施，也支持政策措施。但我也擔心，即使是善意的法案也可能對科學和開源社區產生意想不到的負面影響。這一切肯定會在未來三到五年內顯現出來。

我想回到政策問題上，但首先請你為觀眾多描述一下你所說的空間智能。計算機能夠看、做和學習意味著什么？我們如何知道我們在空間智能方面是否取得了進展？

你在斯坦福大學的一位同事切爾西·芬恩說，我們距離讓機器人出現在它從未見過的房子里還很遠。那么，比如說，距離吃早餐還有多遠？非常遠。我等不及了，但還很遠。

追溯人類語言的發展，這仍然是一個科學研究領域。人類語言歷史上最早的原始語言大約是在一兩百萬年前被發明的。很多人說我們今天使用的語言是在過去30萬年內發展起來的。

但是，如果追溯到觀察空間、三維世界、了解正在發生的事情，觀察障礙物、觀察食物、了解如何導航和推理的能力，它可以追溯到5.4億年前。那是水下動物世界首次發展出光傳感器的時候。有了這種能力，感知就開始了。動物開始以一種專注的方式移動，而在那之前，它們只是漂浮著。它們可能觸摸了一些東西，因為早期有觸覺傳感器，但那非常非常冷。

一旦你能看到，你就開始發展空間智能。你開始規劃你的生活，開始看到食物，開始躲起來，不成為別人的食物。而智力的進化過程才剛剛開始。

空間智能總結了所有這些能力。用今天的話來說，它是理解、推理、生成和與3D世界互動的能力?，F在，我們同時生活在物理世界和數字世界中，這種空間智能適用于這兩個世界。

如果你想要一個可以到你家做早餐的機器人，機器人需要具備的最重要的能力之一就是空間智能。因為機器人需要知道你的冰箱在哪里，爐子在哪里，雞蛋在哪里，如何打開雞蛋并把它放進鍋里等等。這些都是空間智能的一部分。

關于人工智能的概念有很多討論。我想知道你是否認為這是一個有用的概念。人們通常認為這將是可能的。也許讓我們把機器人放在一邊，因為那有點遙遠。但是，如果你想象一個遠程工作者，你將能夠擁有一個人工智能，它可以做人類所做的每件有用的、經濟上有用的事情，我們就可以用一些AGI來做。

首先，您認為這是一個有用的概念嗎？第二，有些人說，哦，那將在三年內實現。你認為這有點過于樂觀嗎？

這是個好問題。這也是一個硅谷問題。這就是我們現在的處境。有時在我的腦海里，我會與人工智能的先驅約翰·麥卡錫、馬文·明斯基，還有艾倫·圖靈進行對話。他可能不會稱自己為人工智能的先驅，因為當他向人類提出思考機器的問題時，最終轉化為圖靈測試，他還沒有考慮人工智能這個詞。它還沒有被發明出來。

但當我與這些巨頭對話時，我認為他們對人工智能的定義會非常相似。它是智能的一般能力。因此，如果他們這樣稱呼AI，那么作為一名學者，我很難區分AI和AGI，因為我認為它們有很大的重疊。如果你看看AGI這個術語的出現時間，那可能還不到10年。它更多地來自行業，行業營銷世界。這沒有什么不好的。

但從學術、科學、技術研究人員、教育工作者的角度來看，你們中一些讀過我書的人知道我經常使用北極星這個詞。作為一名科學家，我們追逐那些我們一生中可能永遠無法解決的最難問題，但它們激勵著我們。我認為，人工智能領域的北極星始終是那種通用能力。那么，我對AGI（通用人工智能）這個詞有什么看法呢？沒有人問我他們什么時候發明了這個詞。沒關系，但我們熱愛并仍然相信的人工智能領域與這個定義在很大程度上是重疊的。

現在，三年后，我們會實現這一目標嗎？如果我站在風險投資家面前，我當然會說是的。但實際上，你不會這么說。所以我認為我們需要負責任。這意味著什么？機器會在重要任務上超越人類嗎？我們已經在一些任務上做到了。

例如，2006年，DARPA的無人駕駛汽車大挑戰中，我的同事Sebastian Thrun和他的團隊駕駛一輛汽車在內華達州的沙漠中行駛了138英里。這是一種令人難以置信的能力。然后我們有可以翻譯數十種語言的機器，這簡直是超人般的能力。我們在很多任務上已經超越了人類，比如AlphaFold和AlphaGo。即使是ImageNet，也有1,000個神秘的物體類別，比如星鼻鼴鼠和各種種類的狗。這些都是超人的能力。

所以我認為我們已經取得了一些成就，并將繼續取得更多成就。但是，如果沒有明確的定義，我不相信在三年內我們能實現像人類一樣聰明、像人類一樣錯綜復雜的整體性。

那么，讓我們來談談你在斯坦福大學以人為本的人工智能計劃中所做的工作。首先，您所說的以人為本的人工智能是什么意思？這個問題問得很好。我認為，以人為本的人工智能對我來說，是一個思考我的、你的人工智能工作的框架。因為人工智能是由人制造的，由人使用，將影響人們的生活，那么思考這項技術的指導框架是什么呢？

在2018年3月，我還是谷歌的首席科學家時，我寫了一篇《紐約時報》文章，將這一框架稱為以人為本的人工智能，正是因為我在谷歌的工作給了我很大的啟發。我有機會與許多企業進行交流，從日本的個人開發者、使用人工智能的黃瓜種植者，一直到希望利用人工智能徹底改變整個商業模式的財富50強公司。我意識到這項技術比我想象的任何東西都要大。這項技術將以如此深刻的方式影響我們的生活、企業和世界，這種認識實際上讓我不寒而栗。意識到一個工具可以如此強大是令人恐懼的，我們最好考慮一下其中的含義。

對我來說，這種深刻的含義必須植根于人類的意義。當我想到這一點時，我和斯坦福大學的同事們就提出了一個觀點：我們需要用以人為本的框架來處理人工智能。在斯坦福大學 HAI，我們用三個同心圓來思考人工智能對人類的影響：個人、社區和社會。

首先是個人層面。這項技術對每一個人有什么影響或好處？如果你是一名藝術家，你是如何利用它來增強你的創作？還是它剝奪了你的知識產權？如果你是一名病人，這項技術是否讓你在不剝奪你的人格尊嚴的情況下更好地康復？如果你是一名學生，你是如何通過這項技術的幫助學習你感興趣的任何內容的？這些都是對個人的影響。

接下來是社區層面。如何利用人工智能作為工具來幫助資源不足的社區？例如，對于那些無法去醫院就診且醫生不足的社區來說，人工智能加遠程醫療是一個非常好的用例。同時，有偏見的人工智能是否會對一個社區產生比另一個社區更大的影響？我們已經看到了這一點。

最后是社會層面。今天我們不能停止談論人工智能在 11 月的影響。我們的民主進程、人工智能、深度偽造和信息戰將如何改變這一切？我們不能停止談論工作，從軟件工程到卡車司機再到放射科醫生，人工智能正在影響整個社會。

所有這些都是人類的問題。數學是干凈的，但人類世界是混亂的。人工智能已經從擁有干凈數學和編程的世界進入了混亂的人類世界。有人曾經說過，技術很容易，人類很難，尤其是小孩子。

您最期待的人工智能在環境健康等方面的潛在優勢和應用有哪些？謝謝你的提示，因為這是我書的第 10 章。確實，這個領域真的是無邊無際的。就我個人而言，我非常受啟發，因為我的父母病得很重，已經病了幾十年。我在初級保健、急診科、手術室外和門診護理環境中度過了無數個小時，照顧我的母親。這讓我意識到，我們的醫療保健系統充滿了照顧他人的人。然而，這些醫療工作者——從護士到醫生再到看護者——他們沒有足夠的時間和幫助。

因此，醫療保健環境中的環境智能實際上是我和斯坦福醫學院的同事之間合作的產物。我們希望利用技術提供額外的眼睛和耳朵，幫助醫生、護士和看護者確保病人的安全，防止他們的情況迅速惡化。

例如，很多人的家人和朋友都曾摔倒過。這是一種非常痛苦且代價高昂的傷害，尤其是對老年人來說。那么，如何預測這種情況？如何發出警報？如何幫助他們？如何幫助我們的老年人或患者？讓一個人24小時看護很難，但電腦和攝像頭可以提供幫助。環境智能可以幫助監測COPD患者的病情，并在氧氣快速變化或某些情況發生變化時提醒醫生。

這只是人工智能幾乎成為守護天使的一個例子，它可以增強我們的看護者，照顧人們。我們在教育和個性化學習中也看到了令人興奮的用例。人工智能可以成為導師、助教，在不同的學習環境中成為老師的助手。我記得你的一位前研究生安德烈正在研究這個問題，我幾天前才見過他。

不僅如此，農業領域也有很多用例。幾年前，在深度學習革命開始之前，我曾有一個學生與他人共同創辦了一家初創公司，使用計算機視覺技術檢測田地里的雜草，從而讓農作物更健康。我還聽說鮭魚養殖戶使用人工智能來幫助養殖鮭魚。人工智能的積極用途不勝枚舉。

那么，我們如何才能讓更多的人既擁有計算背景，又成為領域專家呢？例如，你的同事Daphne Culler有機器學習背景，但她也學到了很多關于醫療保健和藥物發現的知識。在我看來，那些在計算專業知識和領域專業知識兩個領域都有涉獵的人將能夠幫助識別更多這些引人注目的用例。

這是一個很好的觀點，湯姆。我深信跨學科和多學科方法的重要性。即使你不想獲得交叉領域的博士學位，我個人是在人工智能和計算神經科學的交叉領域，或者人工智能和計算生物學的交叉領域，或者人工智能和政治學的交叉領域獲得的知識。即使你沒有博士學位那么深入，跨學科的知識仍然非常有價值。在你作為學生的整個旅程中，擁抱計算、STEM領域以及你熱愛的領域（無論是生物學、藝術、政策還是化學等等）都具有很大的價值。

對于在校學生來說，無論你是在學校、考慮上大學還是已經在大學，我認為湯姆所說的真正有價值的是擁抱這種跨學科性。

從廣義上講，人工智能是計算的新語言。我曾說過，只要有芯片的地方，就會有或將會出現人工智能。小到裝有芯片的燈泡，大到機器人、汽車等等，都會有人工智能。

鑒于這項技術的重要性，我確實相信要從小教育我們的孩子，教育來自不同背景、各行各業的學生，教育我們的公眾這項技術，至少如果不是編碼，也要知道這是什么。

即使你的熱情不在計算、計算機編程或人工智能的技術細節上，如果你的熱情在藝術上，或者在政治學、法律、醫學上，你也會有一席之地，因為領域專家將使用人工智能在你的領域做出改變。所以不要害怕從你的角度接受它，并用它來做出積極的改變。

人們列出了很多潛在的風險。你已經談到了一些：人們將會失去工作，人們會利用深度偽造來擾亂選舉，現有的偏見會進一步加深。有些人有更多推測性的擔憂，比如工具收斂的想法。如果我們給人工智能系統一個目標函數，即試圖實現某個目標，那么它就會有子目標，想要復制自己并獲得更多的計算能力。

在這些風險中，我最重視的是哪種風險？是的，風險很多。每一項技術，每一項強大的技術都可能造成傷害，被用于傷害，即使是善意的也會產生意想不到的后果。我們必須面對這一點。

但如果你強迫我選擇一個風險，作為一名教育工作者，我會說擁抱人工智能新時代的最大風險是無知。這不僅僅是基本的無知，比如不知道如何拼寫人工智能這個詞。即使是一些學識淵博的人，當他們忽略細節和細微差別，并以夸張的方式傳達人工智能時，也會對社會構成風險。

如果我們對這項技術太無知，我們就會錯過利用它為自己謀利的機會。如果我們對這項技術無知，我們就無法指出或認識到實際風險。如果我們傳播無知的信息，我們也在誤導公眾或政策制定。

這些問題的根源實際上源于缺乏了解，所以我們沒有正確評估風險，或者我們夸張地傳達它，或者我們完全錯過了它。這就是我的意思。

你現在看到哪些例子，人們說的話你認為完全不著邊際？

好吧。

我認為，任何說人工智能都是好的人，就好像在說技術都是好的，它只會帶來好處，永遠不會做壞事。我認為這是對過去的無知。回顧人類使用工具的歷史，每一種工具都被用于有害的地方。因此，我們必須認識到，如果你的數據集有偏差，那么在公平性方面，你會受到非常嚴重的下游影響。如果你不知道人工智能在哪里、如何制造，那么你可能真的太無知了，在不知情的情況下使用深度偽造。這些都不好。

但還有另一個轉折點，那就是，這是一個惡魔，它的存在危機，它會自我擴散、自我復制，關閉電網等等。此外，我認為這是夸張的，它忽略了人工智能不是一個抽象的概念，它實際上存在于物理系統中。即使它是虛擬軟件、數字程序，它也存在于物理系統中，它存在于數據中心，它存在于電網中，它存在于人類社會中。有太多的東西是相互聯系和情境化的。

但是，提出這些更具推測性的擔憂的人中，有些人是像杰弗里·辛頓（Jeffrey Hinton）這樣的人，他們大概了解這項技術。那么，你為什么認為，過去幾年，那些深入參與這項技術的人變得更加擔憂？

首先，杰夫，我非常非常尊重杰夫。我從讀研究生的時候就認識杰夫了。實際上，去年我在多倫多，我和杰夫·辛頓就這個問題進行了公開討論，視頻在 YouTube 上。我認為這是杰夫和我，或者杰夫和任何人就這個問題進行公開討論的極少數幾次之一。如果你仔細聽他說話，你會發現他很擔心。他還指出了潛在的風險。

但是，他的擔憂還有一層放大。我們必須分開。我完全尊重與 Jeff 的討論。我同意他的觀點。不負責任地使用這項技術將會導致非常可怕的后果。他對不負責任的使用有自己的看法。我有自己不負責任的使用版本。我還認為，我尊重每個人以自己的方式呼吁這些風險。但我也想成為一名負責任的傳播者和教育者。我想讓公眾知道，駕馭和管理這項技術仍然是我們人類集體的責任。對，而且絕對有，不僅僅是時間。絕對有時間。還有，你知道，我們所做的一切都是在我們手中。我們不應該放棄。

對，所以你談到了治理。您在將國家研究云的想法納入政治議程方面發揮了非常重要的作用。如果您確實有機會向下任總統做簡報，而他們問您，feifei，我該怎么辦？關于美國最重要的事情，您會給下一任總統什么建議？政府可以做些什么來努力促進利益，同時也了解和管理風險？

對，我可能會說去年6月和今年早些時候我對拜登總統說的話。我在國情咨文演講中遇到他時，我相信我們的國家需要一個非常健康的人工智能生態系統。當我說它是一個生態系統時，它包括公共部門、學術界和企業家精神。我們現在稱小科技和大科技為技術。

我們的國家是一個非常強大的民主國家。我們相信這種民主的價值。我相信擁有健康的人工智能生態系統可以發揮我們的優勢，并且可以發揮非常積極的作用。但是，我們可以做些什么來嘗試？公共投資。是的，公共投資。公共投資真的非常重要。

現在我部分在私營部門工作，這讓我更加確信私營部門投資和公共部門對人工智能的投資之間的差異是如此巨大，對吧？就像我的斯坦福……我與其他幾位教員共享的斯坦福計算機視覺實驗室沒有H100。它也沒有A100。我們仍在使用A6000和其他較舊的芯片。然而，正如你所說，大型科技公司擁有數十萬和數百萬個芯片。

我認為公共部門投資是思想花園和鮮花盛開的地方。如果不是公共部門，我們今天就不會在這里，我也不會在這里。還有，Jeffrey Hinton 是什么時候開始研究人工神經網絡的？幾十年前？是的，他在CMU工作過，甚至可能更早，對吧？ImageNet來自公共部門，你知道，未來三到五年，我們談論的是科學發現。我們將看到令人興奮的事情出現，其中很多將來自公共部門。而且來自公共部門、學術界的最好的東西，你猜怎么著？我們的人民，就是這樣。所以我們需要投資公共部門。

是的，太好了。好吧，我們的聽眾非常聰明，所以我相信你已經提出了很多非常好的問題。讓我們看看其中一個關于你新公司的問題。你將如何收集足夠的數據來構建一個支持實時定位的世界空間地圖？顯然，數據是關鍵，沒有數據，你將無法在空間智能方面取得進展。也許你可以解決這個問題。

我們尚未公開討論細節，因為我們還沒有準備好。當我們準備好時，我們會的。我覺得有趣的是，有人已經知道我們在做什么了。那是他們的故事版本，我對此不做評論。但你說得對，人工智能是由數據驅動的，這很重要。我們公司的空間智能絕對是基于像素的，因此，大量像素數據將推動這項技術的發展。

這是艾米提出的一個很好的問題，這和你從事的一項工作有關，即全民人工智能。她說：“我是一個12歲的中學生。我們可以做些什么來鼓勵更多的女孩學習人工智能，更好地為人工智能時代做好準備？”這是個好問題。我認為應該鼓勵每個12歲的孩子接受這一點。不管你是女孩還是男孩，不管你住在農村還是硅谷，如果你喜歡它，就接受它。

對于艾米來說，我12歲的時候還沒有人工智能，至少我不知道有人工智能。我喜歡數學和物理。今天，我感激父母和老師對我做的一件事，我會告訴艾米和所有的學生，那就是追隨你的激情，追隨你的好奇心，保持堅韌。如果有負面的聲音，就忽略它。有很多人，從你的父母到你的老師，從你的朋友到你的榜樣，都在支持你。繼續做下去，繼續前進。

除了做早餐之外，用空間智能解決的最重要的人類問題是什么？午餐？不，只是開玩笑?？臻g智能真的可以為很多事情提供動力，從創造到設計。你們中有多少人只想要一個應用程序，可以想象所有的家具重新布置，機器人、AR、VR，到特定領域，無論是教學、學習、醫療保健、工廠、制造業等等。所以它真的是一種非常普遍的橫向技術，可以影響所有這些領域。

我們還有一個關于小模型和AR眼鏡結合的問題。這是你考慮過的事情嗎？我對新媒體感到非常興奮。我知道現在還為時過早，對吧？就像我們又回到了硅谷一樣。

我相信你們中的許多人都熬夜購買了 Vision Pro，所以我非常興奮。實際上，蘋果稱之為空間計算，因為當時我已經考慮空間智能很多年了。我認為，空間計算需要空間智能。雖然目前的形式可能只是眼鏡或耳機，但我真的相信眼鏡，可能是耳機，但眼鏡對我來說非常令人興奮。

邊緣計算或小模型也非常令人興奮。小模型不僅對眼鏡和耳機有用，它對邊緣計算非常強大，無論是智能設備、機器人，尤其是家用機器人。你不能在后備箱里攜帶服務器，對吧？所以小模型有很多用處。

我對多模態模型和智能眼鏡在勞動力發展方面可能發揮的作用非常感興趣。我們沒有足夠的電工，所以你可以想象那種耳塞、人工智能和智能眼鏡，能夠提供某種及時的培訓，作為學徒計劃的一部分，提供足夠的培訓。

我們能做什么？研究界能做什么？公司能做些什么來解決除英語以外的其他語言代表性不足的問題？這是一個很好的問題。這涉及到數據偏見和所有這些。首先，我確實認為，每個國家都應該有公共部門在人工智能方面的投資。這本身與當地文化、當地語言有關。

從這個角度來看，個人研究人員的關注很重要，但能夠部署大量資源的政府和大型組織也應該關注這一點。英語確實占主導地位，我們應該意識到這一點。這又回到了我關于公共部門投資的觀點。即使在這個國家，我相信我們也有出色的研究人員和學生在思考其他語言，但現在他們缺乏數據集和計算資源。我們需要解決這個問題。

觀眾提出了一些哲學問題。我想知道，您是否可以談談您為吸引斯坦福人文和社會科學人才而做出的努力。作為一名計算機科學家，他們能夠提供哪些讓您感興趣的見解？

實際上，這是我過去五年建立和共同運營這個研究所最有趣的部分，真正影響了整個校園。斯坦福大學有大約八所學院，從法學院、商學院、醫學院，到現在的可持續發展學院、人文和自然科學學院、工程學院，與同事交談，接觸校園里的學生、研究人員和學者，非常有趣和富有啟發性。### 我學到了什么？

例如，與人文學科的同事交談確實開闊了我對人類表達和創造力的理解。

我們如何看待人工智能與具有深度創造力的人的關系？尤其是當 ChatGPT 和 Sora 問世時，從好萊塢的編劇罷工，到對聲音、藝術家、個人版權的關注，再到那些走在擁抱這一工具前沿的藝術家，這一切都顯得非常復雜。

我沒有受過正規教育，甚至無法完全理解這些復雜性，但他們教會了我如何思考。我確實學到了一件事，再次與在座的各位交談，可能是非常技術性的。我認為技術人員傾聽并接觸人文主義者和社會科學家非常重要。在您的工作環境中，這可能涉及法律、產品、營銷等許多不同的功能。因為技術不是存在于真空中的，需要復雜的人類努力才能使技術變得仁慈和善良。帶著謙卑和尊重的態度，給予對方應有的尊嚴，是我們能做的最根本的事情，以建立這些橋梁。

您認為我們在可解釋和可解讀的人工智能等領域取得進展有多重要？這是一個很好的問題。我認為總的來說，這很重要。但同樣，我們必須進行一些細微的探討。例如，即使是可解釋性也具有不同的層次。

例如，每個人都知道泰諾可以緩解發燒和頭痛。但如果讓我解釋泰諾的分子途徑，事實上，即使在今天，科學家也不知道所有的細節。然而，你永遠不會說泰諾是一種無法解釋的藥物。這是因為圍繞藥物開發、監管措施、批準過程有一個完整的系統，這個系統有足夠的解釋讓你或大多數公眾信服并感到信任。

另一種可解釋性是，例如，你從拉斐特開車到山景城，谷歌地圖會給你選擇。這條路線需要付費，但快了四分鐘；這條路線風景優美。雖然這并沒有向你解釋從 A 點到 B 點的算法，但作為人類用戶，你會覺得你的選擇有足夠的可解釋性。

再說回醫學，我們這些不是醫生的人幾乎都不了解治療。然而，你的醫生用某種人類語言向你解釋這種治療是什么。我用這個例子來和你分享，思考案例和用例非常重要。思考可解釋性的定義也同樣重要。特定用例的特定定義確實需要匹配。有時我們不需要機械分子通路級別的可解釋性，有時我們需要不同層次的可解釋性。所以，回答你的問題，這很重要，但這取決于具體的用例。它在不同的情況下有不同的重要性。

我們有很多觀眾想了解你為世界實驗室制定的商業計劃的細節，但我們會跳過這些問題。他們是觀眾席中的風投。有一個問題是，你提到除了研究人工智能，你還研究神經科學。有些人對這個問題很感興趣：人工智能能從神經科學中學到什么？

卷積神經網絡至少在某種程度上受到了人類視覺系統工作方式的啟發。人們研究過多巴胺獎勵回路，這是強化學習的靈感來源。你認為神經科學和人工智能之間在其他領域有潛在的合作嗎？顯然，大自然已經解決了低功耗計算的一些問題，因為我們的大腦只使用20瓦。

當我們成立斯坦福HAI時，三大研究支柱之一就是神經科學。對我來說，神經科學和人工智能之間的跨學科合作是我們領域發展的基礎，也是兩個領域未來發展的基礎。我非常幸運能夠與Surya Ganguly、Mike Frank和Noah Goodman這樣的同事一起工作。斯坦福大學的許多同事都處于這項跨學科研究的前沿。

例如，幼兒的發展，在早期，孩子們會進行大量的好奇心驅動的學習。這如何轉化為人工智能系統？這是一個靈感。我們還知道，反向傳播是對我們大腦中兩個神經元之間發生的事情的一種非常簡單的翻譯。除了突觸連接外，還有許多樹突連接實際上與大腦有著深厚的聯系。我們有非常電氣、化學和非常微妙的東西，今天的機器學習算法還沒有結合這些復雜、新穎、有趣的突觸和神經元通訊渠道。

另一方面，我們的神經科學家同事，無論他們使用動物模型還是細胞模型，都在收集大量數據，并使用這些數據進行研究。這就是為什么機器學習或人工智能是一種幫助他們發現科學的迷人方式。最后但并非最不重要的一點是，即使是我的實驗室，我們現在也正在與心理學家合作。使用來自人類的非侵入性電腦電波來驅動機器人，這令人著迷。這是一種完全非侵入性的方式。關鍵在于，這兩個領域有很多交叉融合，對我來說，這是跨學科研究最令人興奮的領域之一。

飛飛，我們有足夠的問題讓你在這里待到10點。但請和我一起感謝飛飛的精彩采訪。謝謝。記住，我看到的世界。是的，這是肯定的。非常感謝你們倆。再次，這是一個很棒的交流，我個人有很多收獲。

我認為公眾支持確實是一個非常、非常根本的因素。湯姆，你在政府中為這些事情做了很多工作。如果沒有公眾支持，我們就會不知所措。在這個階段，很多事情都與社會影響有關。

你要找的人，第四個人……哦，是的，出席達特茅斯會議的是納撒尼爾·羅切斯特 (Nathaniel Rochester)。當時他在 IBM 工作。我想告訴所有最近沒有參觀過展覽的人，樓下有一臺霍勒里斯機器，這是赫爾曼·霍勒里斯 (Herman Hollerith) 在解決美國面臨的一個問題后建造的機器。政府曾試圖將 1890 年的人口普查編纂成法典。因為人口增長導致人口增加，因此采用的技術無法及時進行人口普查。通過公眾號召和私人倡議的結合，他發明了一種基于打孔卡的機器，這種機器是為工業革命時期的提花織機設計和制造的，用于存儲所有這些織物和窗簾的圖案。

所以我們回到話題，無論是 DARPA 的資助還是其他什么，都需要社會對此的呼吁。如果不是現在，我不知道什么時候。你在臺上為大家闡述了一些很棒的想法。我想再次感謝你們兩位。請