新智元報道

　　編輯：KingHZ

　　【新智元導讀】軟件3.0，不止Vibe Coding！Karpathy重磅演講，揭示軟件深刻重構——已從「寫代碼」走向「說人話就能編程」的新時代。

　　Karpathy的演講刷屏了！

　　基于在斯坦福大學、OpenAI和特斯拉的工作經(jīng)驗，Karpathy觀察到軟件變革正在悄然發(fā)生——軟件正在再次進化。

　　他認為我們已進入「軟件3.0」時代，自然語言成為新的編程接口，而模型則完成剩余工作：

　　大語言模型LLM=可編程神經(jīng)網(wǎng)絡

　　軟件一直在變，但在過去的70年里在根本層面上并沒有太大變化，而在過去幾年中卻快速變化了兩次。

　　因此，他認為：「未來還有大量軟件需要重寫、重構。」

　　在YC放出的軟件3.0的完整視頻，Karpathy深入探討了這種轉變對開發(fā)者、用戶及軟件設計本身的意義：

　　我們不僅在使用新工具，更是在構建一種新型計算機。

　　軟件3.0：盡情說出你的需求

　　從2023年以來，Karpathy就把下列推文置頂：

　　最火的新編程語言是英語。

　　他還發(fā)明了「Vibe Coding」（氛圍編程）這一詞匯，來描述直接用自然語言編程的情景。

　　Karpathy認為這是軟件工程領域的未來。這從開源代碼就能看出來。

　　「GitHub地圖」展示了所有已經(jīng)被編寫的軟件，也就是計算機在數(shù)字空間中執(zhí)行任務的指令。放大來看，包含了不同類型的代碼倉庫，也就是編寫的所有代碼。

　　幾年前，他注意到軟件正在發(fā)生變化，出現(xiàn)了新型的軟件，當時稱之為「軟件2.0」。

　　基本的想法是：

　　軟件1.0是程序員親自為計算機編寫的代碼。

　　軟件2.0則是神經(jīng)網(wǎng)絡的權重參數(shù)。不再直接編寫這些代碼，而是更多地在調整數(shù)據(jù)集，并運行優(yōu)化器來生成神經(jīng)網(wǎng)絡的參數(shù)。

　　當時神經(jīng)網(wǎng)絡只是被當作另一種分類器，比如決策樹之類，所以這個框架在當時還是很有意義的。

　　現(xiàn)在有了「軟件2.0」版GitHub平臺，比如HuggingFace就是軟件2.0世界中的GitHub。而Model Atlas也可以可視化這些模型全部參數(shù)的「代碼」。

　　所以，總結一下：

　　軟件1.0：編程計算機的傳統(tǒng)代碼。

　　軟件2.0：用來編程神經(jīng)網(wǎng)絡的權重。

　　軟件3.0：現(xiàn)在我們有了可編程的神經(jīng)網(wǎng)絡——大語言模型（LLM），而提示詞（prompt）成了「編程語言」，而且這些提示詞直接用人類語言寫的！

　　比如你要做情感分類，可以：

　　寫Python代碼（軟件1.0）；

　　訓練神經(jīng)網(wǎng)絡（軟件2.0）；

　　直接提示大語言模型（軟件3.0）。

　　現(xiàn)在GitHub上的代碼已經(jīng)不僅僅是代碼了，而是摻雜著大量英文，自然語言變成了新的「代碼」。

　　這是根本性的轉變：過去程序要把人類需求翻譯為「機器語言」，現(xiàn)在直接把需求輸入到LLM即可。

　　如果用語音模式，這就是「軟件3.0」的「言出法隨」：真正做到了用嘴編程！

　　人人都是程序員？

　　不僅擁有新的編程方式（用自然語言），而且每個人都能成為程序員。

　　因為大家都會用語言表達想法，忽然之間都有了編程能力。

　　這前所未有，也令人振奮。

　　過去，想要在軟件行業(yè)做點什么，通常需要花5到10年的時間學習編程語言、工具鏈、工程實踐等等。但現(xiàn)在，不再是這樣了。

　　現(xiàn)在，小孩子都做到Vibe Coding。

　　Karpathy認為，這會成為下一代「走進軟件開發(fā)」的入門方式，就像「網(wǎng)球王子」讓人愛上網(wǎng)球一樣。

　　Vibe Coding真的很有趣。特別是當想快速做一個非常定制化的小項目，市面上又沒有現(xiàn)成產(chǎn)品時，Vibe Coding非常合適。

　　Karpathy做了一個iOS應用Menu Gen雖然他并不懂需要的編程語言。

　　不是「電力」，而是新操作系統(tǒng)

　　吳恩達曾經(jīng)說過：「AI是新的電力。」

　　Karpathy覺得LLM現(xiàn)在確實表現(xiàn)出了「基礎設施」的一些特性，但更貼切的類比也許是：LLM更像是新的操作系統(tǒng)。

　　不僅僅是像水電一樣的商品，AI是日益復雜的軟件生態(tài)系統(tǒng)。

　　這和過去的操作系統(tǒng)生態(tài)有些相似：有閉源的操作系統(tǒng)，比如Windows或macOS，同時也有Linux之類的開源系統(tǒng)。

　　在LLM領域，也看到了這種格局：幾個主流的閉源模型（如GPT、Claude等），再加上開源的LLaMA等。

　　不僅僅是LLM本身的能力在提升，還包括它們使用工具的方式、多模態(tài)能力的擴展等等。這一切構成了一個真正復雜的軟件生態(tài)系統(tǒng)。

　　在他看來，AI就像新型計算機，LLM像新的「CPU」：

　　上下文窗口相當于內存；

　　而整個LLM則負責在這些資源之間協(xié)調內存與計算，以解決問題。

　　從這個角度看，它確實非常像一個操作系統(tǒng)。

　　今天可以在GPT、Claude、Gemini上運行同一個「LLM應用」，就像過去的軟件一樣。

　　另一個讓他產(chǎn)生共鳴的類比是：現(xiàn)在的AI處于「1960年代的計算機時代」。

　　目前LLM的計算成本仍然非常高，必須集中在云端運行，用戶就像是當年的「啞終端」，通過網(wǎng)絡與交互，占用云端運行批處理任務中的一個維度。

　　這正對應早期計算時代的操作系統(tǒng)模型：一切都在云端處理，通過網(wǎng)絡傳輸，進行批量運行。

　　「個人化AI計算機」尚未真正到來，也尚不清楚未來會是什么樣子——或許在座的你們就將定義它。

　　另一個他喜歡的類比是：「當與ChatGPT利用文本交談時，我就像是在用終端和操作系統(tǒng)對話。」這是文字輸入，是最直接的操作系統(tǒng)訪問方式。

　　但目前還沒有真正意義上的「通用GUI」（圖形界面）來與這些模型交互，沒有一個統(tǒng)一的GUI適用于所有任務。

　　這就是一個巨大的空白。

　　當然，LLM在一些方面也和傳統(tǒng)操作系統(tǒng)或早期計算設備截然不同。LLM與傳統(tǒng)技術擴散路徑之間，存在關鍵差異：它們顛覆了技術擴散的方向。

　　回顧歷史，我們會發(fā)現(xiàn)很多變革性的技術，比如電力、密碼學、計算、飛行、互聯(lián)網(wǎng)、GPS等，最初都是由政府或大型企業(yè)首先使用的——因為這些技術昂貴且復雜，普通人無法早期接觸。

　　而LLM剛好相反，完全顛覆了以往「從上至下」的技術擴散模型。

　　這也讓大家反思未來該如何定義這些工具的用途、產(chǎn)品設計和早期應用場景。

　　「偽人」：人類隨機模擬器

　　LLM到底是什么?

　　Karpathy喜歡從「心理學」的角度來看待LLM。

　　他認為LLM就像「人類精神」的模擬體——它們是人類的「隨機模擬器」。

　　底層是「自回歸Transformer」（auto-regressive transformer），也就是神經(jīng)網(wǎng)絡，逐個token預測，每個token的處理耗費計算量基本一致。

　　我們使用全網(wǎng)的文本數(shù)據(jù)訓練這個模型權重，因此這個模擬器具備了某種「人類心理」的涌現(xiàn)能力。

　　比如：

　　優(yōu)點：LLM擁有百科全書般的知識與記憶能力，遠遠超過任何單一人類個體。它們可以輕松記住Git SHA哈希值、各種信息、文件結構等內容。就像電影《雨人》里的「自閉癥天才」，能一字不差地背下電話簿。

　　缺點：LLM同時也存在很多「認知缺陷」，比如容易幻覺（hallucination），胡編亂造，缺乏對自身知識狀態(tài)的良好感知。

　　智能參差不齊：它們在某些任務上表現(xiàn)超人，但有時卻會犯一些基本錯誤，比如說「9.11大于9.9」。這種「鋸齒形智能」現(xiàn)象很獨特。

　　前向性遺忘：LLM不具備持久學習的能力。

　　還有一個重要方面是：安全問題。

　　LLM非常容易受騙，容易受到「提示注入攻擊」（prompt injection），可能會泄露數(shù)據(jù)。

　　總而言之，我們面對的是超人般強大、同時也存在顯著認知缺陷的AI系統(tǒng)。

　　這場變革不僅重塑工具形態(tài)，更改變了軟件設計的哲學。

　　AI新時代，編程的價值

　　我們必須一邊利用它的超能力，一邊繞過它的弱點，學會如何與它協(xié)作、如何編程。

　　如果你正在開發(fā)一個產(chǎn)品或服務，要思考：

　　LLM能否像人類看到一切內容？

　　LLM能否像人類一樣操作一切？

　　人類能否保持在控制、監(jiān)督LLM行為？

　　因為這些AI系統(tǒng)并非完美，它們會犯錯。

　　在LLM應用中還有一點往往被忽視，那就是：

　　我們正在與AI合作——AI負責生成，人類負責驗證。

　　我們需要盡可能地加快這個生成—驗證的循環(huán)，這樣才能真正提高效率。

　　有兩個主要策略可以實現(xiàn)這個目標：

　　加快驗證速度。GUI非常關鍵。視覺界面能調動人類大腦「圖像識別GPU」，而閱讀文本費力又不直觀。圖形界面是直通大腦的高速通道。

　　牢牢地把AI控制在手上。很多人現(xiàn)在對「AI智能體」（agent）過于興奮。但實際上，如果AI給軟件repo提交了10,000行代碼，那人類審查員就是最大瓶頸：還得逐行確保沒有引入bug，沒有安全問題等等。

　　在實際工作中，Karpathy總是害怕AI一次性給出太大改動。他追求的是高速、可控的協(xié)作循環(huán)。

　　最近，他讀到了「與LLM合作的最佳實踐」，認為很不錯：

　　它強調「明確的提示語」（prompt）很關鍵；

　　如果提示太模糊，AI可能偏離預期，導致驗證失敗；

　　一旦驗證失敗，就要不斷試錯、反復循環(huán)；

　　所以花點時間寫更明確、清晰的prompt，其實是提高效率的關鍵。

　　「AI戰(zhàn)衣」：10年致富路

　　Karpathy非常喜歡鋼鐵俠的設定，它在許多方面都對技術的發(fā)展方向做了準確的預言。

　　他喜歡鋼鐵俠戰(zhàn)衣的一點在于：

　　它既是一種增強（augmentation），主人可以親自操控；

　　它也可以作為智能體（agent），在某些時候中它可以自己飛來找主人，自動完成任務。

　　這就體現(xiàn)了「自治滑塊」(Autonomy Slider)：我們可以構建「增強型工具」（像戰(zhàn)衣），也可以構建「自主代理」（像戰(zhàn)衣自己飛行）。

　　我們想做的是「兩者兼?zhèn)?/strong>」。比如，在LLM應用Cursor中，可以選擇：

　　只用代碼補全（全權掌控）；

　　選擇某段代碼，按Command+K改動一小部分；

　　修改整個文件（Command+L）；

　　或者放手讓AI自由操作整個項目（Command+I）——這就是「全自治」模式。

　　再舉一個成功的例子：Perplexity，具備Cursor類似的特性：匯總大量信息、在后臺協(xié)調多個LLM、提供可供用戶「審核」的GUI等。

　　它也有自治滑塊：可以進行快速搜索、普通研究，或者更深入的研究，十分鐘后返回結果。這些選項代表賦予工具的不同程度的自治權。

　　但目前，面對尚不完美的LLM，Karpathy更傾向于「鋼鐵俠戰(zhàn)衣」式的AI系統(tǒng)：

　　少一些「獨立運行的機器人」，多一些「增強型工具」；

　　少一些花哨但不可控的自動化演示，多一些實用、可審核的「部分自治」產(chǎn)品。

　　這些產(chǎn)品應該擁有專屬的GUI和交互設計（UI/UX），確保人類可以快速生成與驗證結果。

　　產(chǎn)品設計中應包含「自治滑塊」，并思考如何逐步右移它，讓產(chǎn)品變得越來越自主。

　　這將是未來十年巨大的機會所在。

　　互聯(lián)網(wǎng)上的鬼魂

　　大致來說，他認為我們正在迎來一個新的數(shù)字信息消費者與操作者的時代。

　　過去，數(shù)字系統(tǒng)的用戶只有兩類：

　　終端用戶通過GUI（圖形界面）與系統(tǒng)互動；

　　程序通過API直接調用系統(tǒng)。

　　而現(xiàn)在，迎來了第三種實體：AI智能體（Agents）。

　　它們是計算機，但行為類似人類。它們就像「互聯(lián)網(wǎng)的靈魂」，需要與軟件基礎設施交互。

　　那我們能不能為它們構建專屬支持？

　　目前大量的文檔都是為「人類」寫的，里面包含各種列表、加粗、圖片……這對LLM來說很難直接理解。

　　但Karpathy看到一些公司，比如Vercel和Stripe，已經(jīng)開始提供專為LLM優(yōu)化的markdown文檔。

　　只要文檔對AI友好，LLM就能真正變成「超級助教」甚至「自動操作員」。

　　當然，僅僅把文檔變成markdown還不夠。我們還得改變文檔本身的寫法。

　　比如Vercel就正在做這件事：把文檔中所有「點擊」操作，替換成相應的curl命令，這樣LLM就可以自動化處理。還有像Anthropic的Model Context Protocol，提供了與代理溝通的一種標準化協(xié)議。這是一個值得關注的方向。

　　總之，我們需要讓軟件更易于被AI理解和操控。

　　雖然未來LLM也許能點擊、能導航，但現(xiàn)在這些操作還成本高、效率低。我們應該主動迎合它們，以最低成本獲得最大效益。

　　最后總結一下：

　　現(xiàn)在是進入軟件行業(yè)的絕佳時機；

　　我們需要重寫大量代碼，也需要寫適配AI的新代碼；

　　LLM是新「操作系統(tǒng)」，就像1960年代的計算機；

　　大模型是「有缺陷的超級智能」，我們要學會與之合作；

　　在構建AI應用時，我們需要工具、范式和流程來高效協(xié)作；

　　我們也應該構建適合智能體直接使用的軟件接口和文檔結構。

　　軟件3.0是趨勢，更是機會。準備好與AI并肩作戰(zhàn)了嗎？

　　參考資料：

　　https://www.youtube.com/watch?v=LCEmiRjPEtQ