來源:芯東西‘ 作者:黃仁勛
6月17日消息,英偉達創始人兼CEO黃仁勛周五在加州理工學院第130屆畢業典禮上發表演講,鼓勵畢業生們以奉獻精神和堅韌不拔的精神追求自己的事業,并將挫折視為新的機遇。
黃仁勛表示:英偉達在十多年前還是一家小公司時,就押注深度學習,投入數十億美元和多年的工程資源來重塑每個計算層。
“沒有人知道深度學習的規模有多大,如果我們不去構建它,我們永遠不會知道。
英偉達還多次遇到挫折,曾被AMD、英特爾、高通接連“踢出市場”。
“世界可能不公平,會給你發爛牌,趕快擺脫它吧,”他打趣道,“還有另一個機會——或者創造一個機會。
以下為黃仁勛演講精華內容:
行業終于意識到
加速計算的驚人有效性
我相信我是當今世界上任職時間最長的科技CEO。在31年的工作中,我沒有破產,沒有厭倦,沒被炒魷魚。
因此,我很榮幸享受了很多人生經歷,從創建英偉達至今,所以我談到了創建CUDA的漫長之路。CUDA是我們花了20多年才發明出來的編程模型,它在當今的計算領域掀起了一場革命。
我鼓勵畢業生們參與我們這個時代最重要的技術——人工智能(AI)。
有些是令人失望的,有些是令人驚訝的。但你必須享受它,你必須參與其中,因為它發展得如此之快。這是我所知道的唯一一個同時在多個有利方向發展的技術。
技術變化得非常非常快。我建議臺灣大學的學生跑起來,不要走,參與AI革命。一年后,它發生了不可思議的變化。
今天我想做的是從我的角度來分享對你們即將畢業的一些重要事情的觀點。
計算機行業正在從基礎設施開始轉型,確切說從螺柱開始,一切都在發生變化,穿過每一層面,很快,每個行業都將發生變革。
原因很明顯,如今計算機是最重要的知識工具,是每個科學領域每個行業的基礎。如果我們深刻地改變計算機,它當然會影響到每一個行業。我會稍微談到這一點。當你進入這個行業,了解正在發生的事情是很重要的。
我們這一代人參與的工業革命見證了世界上前所未有的大規模生產,看不見的、易復制的東西的大規模生產,軟件的大規模生產。它催生了一個價值3萬億美元的產業。
當我坐在你們這個位置上時,IT行業還很小,賣軟件賺錢的概念只是幻想。今天,軟件是我們行業生產的最重要的技術和產品創造之一。
然而,登納德縮放、晶體管縮放和指令集并行性的限制降低了CPU性能。CPU性能放緩正發生在計算需求與計算機之間的差距呈指數級增長的時候。如果不解決,計算的能耗和成本,膨脹最終會扼殺所有行業。我們可以清楚看到計算膨脹的跡象。
經過二十年的發展,英偉達的CUDA、英偉達的加速計算為我們指明前路。這就是我來這里的原因。行業終于意識到加速計算的驚人有效性,就在我們目睹幾十年后計算膨脹之時。
通過將耗時的算法卸載到專門用于并行處理的GPU上,我們通常會實現10倍、100倍甚至是1000倍的速度提升,從而節省資金、成本和能源。
我們加速了計算機圖形、光線追蹤、基因測序、科學計算、天文學、量子電路模擬、SQL數據處理,甚至Pandas數據科學。加速計算達到了一個臨界點。這是我們對計算機行業、對社會的第一個貢獻。
我們提供了一條通往可持續計算的道路,隨著計算需求的持續增長,成本將繼續下降。加速計算帶來100倍、1000倍的時間、成本或能源節省,肯定會在其他地方引起新的發展。
十多年前的一家小公司,
為何要為AI投入數十億美元?
直到深度學習進入我們的意識,我們才知道它是什么。
一個全新的計算機世界出現了。杰夫·辛頓(Geoffrey Hinton),亞歷克斯·克羅舍夫斯基(Alex Krizhevsky)、伊爾亞·蘇茨克維(Ilya Sutskever)使用英偉達CUDA GPU訓練AlexNet,并贏得了2012年ImageNet挑戰賽,震驚了計算機視覺界。
這是一個重要時刻,深度學習的大爆炸,一個標志著AI革命開始的關鍵時刻。
當時也存在挑戰。這是2012年剛過不久,如果不構建這些龐大的GPU集群,我們如何探索深度學習的極限?當時我們還是一家小公司,構建龐大的GPU集群可能要花費數億美元,但如果我們不這樣做,就不能保證擴大規模后會有效。
然而,沒有人知道深度學習可以擴展到什么程度,如果我們不去構建它,我們永遠不會知道。這是其中之一,如果你構建它,它會來嗎?我們的邏輯是,如果我們不構建,它們就來不了。
我們根據第一原則相信和分析致力于此,我們相信這是非常有效的,當公司相信某件事的時候,我們應采取行動。因此我們深入研究深度學習,并在接下來的十年里系統地重新發明了一切,重塑了每個計算層,從GPU本身開始。
現代GPU的發明與過去我們最初發明的GPU截然不同,我們繼續發明了互連、系統、網絡,當然還有軟件。我們在未知領域投入了數十億美元,十年來,成千上萬的工程師研究深度學習,在不知道技術能走多遠的情況下前進。我們設計并制造了超級計算機,以探索深度學習和AI的學習極限。
2016年,我們發布了DGX-1,我們的第一臺AI超級計算機。我把第一臺交給了舊金山的一家名不見經傳的初創公司,叫作OpenAI。我的一群朋友正在研究AI。
2022年,AlexNet問世十年后,計算能力提高了一百萬倍。想象一下如果你的筆記本電腦是現在的一百萬倍,會是什么樣子?
一百萬倍之后,OpenAI推出了ChatGPT,AI成為了主流。在這十年中,英偉達從一家顯卡公司轉型,你們中的許多人可能第一次知道我們是構建GPU,到現在一家構建大型數據中心級超級計算機的AI公司。
我們徹底改變了公司,我們徹底改變了計算,今天的計算方式已經發生了根本性的變化。現在的計算機堆棧使用GPU來處理在超級計算機上訓練的大語言模型,而不是處理程序員編寫的CPU指令。
我們現在正在創建能夠完成十年前人類無法想象的事情的軟件。
計算機現在是意圖驅動的,而不是指令驅動的。告訴計算機你想要什么,它會算出來的,它會找到方法的。像人類一樣,AI應用程序將理解任務、原因、規劃和協調一個大語言模型團隊來執行任務。
將來的應用程序所做的和執行的都會與我們做事的方式相似,組建專家團隊,使用工具、推理、計劃和執行我們的任務。
軟件和軟件的功能已經完全改變了。甚至我們的行業也在改變和轉型中創造了另一個行業,一個前所未見的行業。
一個行業正在我們眼前形成,AI的輸入和輸出是token。對在座的所有工程師來說,你們都明白我的意思,這些是嵌入智能的浮點數。
公司現在正在建立一個前所未有的新型數據中心,專門生成智能token,本質上是AI工廠。就像過去工業革命中尼古拉·特斯拉(Nicola Tesla)發明的交流發電機,現在我們有了AI token生成器,它們將是新工業革命的工廠。
這里有生產能源、電力的大型工業。我們有一個龐大的產業生產軟件。在不久的將來,我們將擁有生產、制造智能token的行業——AI生成器。一種新的計算模式和一個新的產業已經出現了。這都是因為我們從第一原則出發,形成了我們對未來的相信,并付諸行動。
AI的下一波浪潮是機器人技術。除了語言模型外,AI還有物理世界模型。我們與數百家公司合作,制造機器人、自動駕駛車輛、搬運機械臂、人形機器人,甚至整個巨大的機器人倉庫。
曾被AMD、英特爾、高通踢出局,
轉向尋找尚未開發的“0億美元市場”
但與我們的AI工廠戰略和我們在那里的經驗不同,AI工廠戰略是通過推理和深思熟慮的行動形成的,而我們的機器人之旅源自一系列挫折。
你們都知道英偉達發明了GPU,這是在我們發明AI工廠之前。
我們對計算機產業的第一個偉大貢獻是通過可編程著色器重新發明了計算機圖形。我們希望將GPU集成到每臺計算機中,因此我們開始把GPU和主板結合起來。
當時我們推出了一款很棒的適用于AMD CPU的集成顯卡芯片,我們的芯片業務立刻獲得了巨大的成功,幾乎一夜之間就賺了十億美元。
AMD想要控制PC(個人電腦)中的所有技術,而我們想保持獨立,所以他們收購了ATI,不再需要我們。
我們轉向了英特爾。這可能不是個好主意。但我們轉向英特爾并協商了一個連接到英特爾CPU的許可。
蘋果對我們正在開發的產品很感興趣,邀請我們和他們合作開發一款新電腦,這就是第一款MacBook Air。英特爾看到這種情況后不想讓我們再這么做,終止了我們的協議。
我們又轉變方向。這次我們去拿了Arm的許可,制造了一個低功耗SoC,一個移動SoC。世界上第一個SoC本質上是一臺功能齊全的電腦,簡直不可思議。我們的芯片令谷歌很興奮,他們邀請我們開發一種新設備,后來發現就是安卓手機設備。
但高通決定不讓我們這么做。他們不希望我們連接到他們的調制解調器上,而如果不連接到調制解調器上,就很難制造一款移動設備。當時也沒有其他先進的調制解調器公司,所以我們不得不退出移動設備市場。
這種情況幾乎一年發生一次。我們會創造一些東西,它會取得巨大的成功,引起極大轟動,然而一年后,我們被踢出這些市場。
由于沒有更多的市場可供選擇,我們決定建立一個我們確信不會有客戶的地方。因為有一件事你一定能肯定,那就是沒有客戶的地方,也就沒有競爭對手。沒人關注你。
所以我們選擇一個沒有客戶的市場,一個0億美元市場。
機器人就是那樣的市場。我們構建了世界上第一臺機器人計算機,處理一種當時沒人理解的算法,即深度學習。這是十多年前的事了。十年后,我對我們所創造的一切和有機會創造下一波AI浪潮感到無比高興。
更重要的是,我們培養了敏捷性和韌性文化。
一次又一次,我們擺脫了挫折,抓住下一個機會。每一次我們都獲得了技能和增強了性格。我們增強了我們的企業性格。我們公司很難分心,很難氣餒。這些日子我們遇到的任何挫折都不像是機會。
諷刺的是,我們今天制造的機器人計算機甚至不需要圖形,這就是我們的旅程開始的原因。
所以我們今天所處的位置告訴了我們一些事情,也教會了我們一些東西。
正如理查德·費曼所說的那樣,世界可能不公平,給你發爛牌,趕快擺脫它吧。顯然你把很多注意力放在書本上了。趕快擺脫它。來吧。
這很聰明。我讓自己笑了。
還有另一個機會——或者創造一個機會。
迎難而上,找到自己的GPU!
讓我再告訴你一個故事。
我過去每年夏天都會在我們的一個國際站點工作一個月。當我們的孩子十幾歲時,我們在日本過暑假。在一個周末,我們參觀了京都和銀閣寺。如果你還沒有機會去,你一定要去。它以精致的苔蘚花園而聞名。
那是一個典型的夏日,悶熱潮濕又粘稠。
我注意到一位孤獨的園丁,蹲在那兒,小心地用一根竹鑷子摘青苔,然后把它放進竹籃里。籃子看起來是空的。有那么一刻,我還以為他在從一堆假想的死苔蘚中摘選想象的苔蘚。
于是我走到他面前,問他:“你在做什么?”
他用英語說:“我在摘死苔蘚,我在照料我的花園。”
我說:“但你的花園如此大。”
他回答說:“我照料我的花園已經25年了。我有充足的時間。”
那是我人生中最深刻的感悟之一,它真的教會了我一些東西。這位花匠專心于他的手藝,做著他畢生的事業。當你這樣做的時候,你就有充足的時間。
我每天早上都要以同樣的方式開始做事,我每天早上都從最重要的工作開始,我有一個非常明確的優先級列表,我從優先級最高的工作開始。
在我開始工作之前,我的一天就已經成功了。我已經完成了我最重要的工作,并且可以把我的一天奉獻給幫助別人。當人們為打斷我而道歉時,我總是說,我有足夠的時間。我確實是的。
2024屆的畢業生們,我很難想象會有誰比你們更能對未來做好準備。
我希望你們相信一些東西,一些非傳統的、未被探索過的東西。但要讓它變得明智、合理,并致力于實現它。你們可能會找到自己的GPU,你們可能會找到自己的CUDA,你們可能會找到自己的生成式AI,你們可能會找到自己的英偉達。
我希望你們把挫折看作是新的機會。痛苦和磨難會錘煉你的性格,韌性和敏捷性,它們是終極的超能力。
在我最珍視的能力中,智力不是最重要的。我忍受痛苦和磨難的能力,我長時間工作的能力,我應對挫折的能力和看到即將到來的機會的能力,我認為這些是我的超能力,我希望它們也是你的。
我希望你能找到一門技藝,第一天就決定并不重要,很快做出決定并不重要。但我希望你能找到一門技藝,你想用一生去完善它,磨練技能,讓它成為你一生的事業。
最后,優先考慮你的生活。有很多事要做。但優先安排你的生活,你就會有充足的時間去做重要的事情。
恭喜,2024屆畢業生們,去找到它們!
聯系我們:txm176(值班微信)廣告及商務合作:電話18660411611投稿及采訪約談:郵箱447377407@qq.com
版權聲明:制造界除發布原創文章外,亦致力于優秀文章的交流分享。轉載須注明文章來源和作者;申請轉載授權請在文末或后臺留言。版權所有,違者必究。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.