來源：學術頭條

整理：小瑜

他是新晉諾獎得主，讀博期間因「無法被物理學吸引」而選擇輟學。在從一名物理學家轉行成為計算生物學家后，他借助人工智能（AI）技術解決了困擾科學界數十年的「蛋白質折疊」難題。

他就是John Jumper，現任 Google DeepMind 杰出科學家。幾個月前，他與 AlphaGo 之父、該公司的聯合創始人兼 CEO Demis Hassabis 因“在蛋白質結構預測方面的貢獻”共同獲得了 2024 年諾貝爾化學獎。

日前，在Y Combinator 于舊金山舉辦的 AI Startup School 活動上，他分享了 AlphaFold 從最初的創意萌芽，到在CASP 競賽中嶄露頭角，再到迭代升級為AlphaFold 2 并實現原子級精度預測的全過程，以及徹底改變生物學領域。

他闡述了蛋白質折疊背后的科學難題、關鍵算法突破，以及將數百萬種蛋白質結構向全球研究人員開放所帶來的深遠影響。

學術頭條在不改變原文大意的前提下，對訪談內容做了適當的精編和刪減。如下：

我曾在 AI4Science 領域做過一些工作，我相信我們可以利用人工智能（AI）系統改變世界，加速科學進展，催生新的發現。這真的很棒，我們有機會運用這些工具、這些想法，思考如何建立合適的 AI 系統，從而使病人痊愈，離開醫院。

從物理學家，到計算生物學家

我經歷了一段非常精彩的旅程。我最初是學物理學的，曾想成為一位研究宇宙定律的物理學家。如果運氣足夠好，我的工作可能還會在某本教科書中占一行字。后來，我還選擇攻讀了物理學博士學位。然而，我做的那些研究并沒有真正吸引我，我感覺它不像是我想做的事情。

所以，我選擇了輟學。我沒有像許多人那樣創辦一家初創公司，本來這似乎很適合我，而是去了一個從事計算生物學的公司，研究“如何讓計算機對生物學作出聰明的判斷”，我熱愛這項工作，不僅因為它很有趣，更因為它能讓我做自己擅長的事情：編寫代碼、推導公式、深思熟慮地探討世界的本質，并且將這些應用到一個非常實際的目的上：最終，我們希望能研發出藥物，或者幫助其他人研發出藥物。

后來，我離開了這家公司，重返學校、攻讀生物物理學和化學，逐漸成為了一名生物學家和機器學習研究者。我無法像之前（在企業）那樣使用強大的計算硬件，于是開始深入學習并對統計學、機器學習產生興趣。那家公司擁有專用于模擬蛋白質動態定制的專用集成電路（ASIC）。失去這些資源后，我仍然想研究同樣的問題，但我不想用更少的算力做同樣的事。當時，我們并沒有把它稱作AI，甚至連“機器學習”這個詞也沒那么常見，我們稱自己為統計物理學的研究者。但關鍵問題是：我們如何開發算法？如何從數據中學習，而不是依賴巨大的計算資源？

結果我發現，除了大量計算，AI 是解決新問題的關鍵。后來，我加入了 Google DeepMind，一家想要探討如何利用這些技術以及想法推動科學進步、拓展科學邊界的公司。

工業界的節奏飛快，我很幸運能與一些非常聰明的人合作，并擁有強大的計算資源。這一直非常有趣，而我現在站在這里，意味著我們確實取得了一些進展。對于我而言，最重要的指導原則是：我們做這項工作的最終目標是，構建一些能使科學家們做出新發現的工具。

關于AlphaFold的一切

最讓我感到欣慰的，是 AlphaFold 至今已有大約 35000 次引用。而在這些引用中，有成千上萬的例子是科學家們使用我們的工具做出的發現，這些是我個人無法做到的工作，但它們正被用來做出發現——無論是疫苗，藥物開發，還是研究身體如何運作。我覺得這非常令人興奮。

今天我想和大家分享的，就是關于這個項目的故事，尤其是機器學習研究在其中發揮的作用——這并不是簡單的現成機器學習工具。我還想告訴大家，創造出一個偉大的工具后會發生什么，它是如何被使用的，以及它將如何影響世界。

1細胞與蛋白質的復雜性

我們先來上一堂世界上最簡短的生物學課程。細胞是復雜的。對于僅在高中或大學學過生物學的人來說，可能會認為細胞是由幾個附有標簽的簡單部分組成，但實際上它的構造要復雜得多。它是密集且復雜的，且充滿了巨大的復雜性。

人類大約有 20000 種不同類型的蛋白質，它們組合在一起，執行細胞中幾乎所有的功能。

人們常說 DNA 是生命的說明書，它會告訴你如何構建一個蛋白質。生物體已經進化出一種機制，它能夠利用原子來構建它所需要的機器，也就是字面意義上的納米機器。DNA 是一維的線狀分子，而蛋白質在某種意義上也是如此。它就像一串珠子，發出指令，將不同種類的氨基酸串聯起來。

你可能會想，DNA 是一個線性結構，但顯然不是一維的。那么，這之間會發生什么呢？答案是，在構建這個蛋白質并一塊一塊地組裝完成后，它會自發地折疊成一個形狀。就像你買了一個宜家書架一樣，不用去做任何難的工作，它就自動組裝完成，最終得到一個非常復雜的結構。你可以看到一個典型的蛋白質，如激酶（對于生物學家應該很熟悉），你可以看到其中的復雜原子排列，而這個排列是有功能性的，讓你身體中的大多數蛋白質都能發揮作用。

2蛋白質結構測定的挑戰

事實上，絕大多數蛋白質都會經歷自我折疊的過程，而這個過程是極其微小的——光線的尺寸只有幾百納米，而蛋白質則僅有幾納米。這意味著，它們無法通過光學顯微鏡被觀察到，你根本看不見它們。長期以來，科學家們一直想要了解這種結構，來預測蛋白質結構變化如何影響疾病。這關乎蛋白質如何工作，以及整個生命科學如何運轉。通常來說，藥物的研發就是為了中斷或改變某種特定蛋白質的功能。

科學家們已經通過大量聰明的辦法弄清楚了很多蛋白質的結構，但這依然是一項異常困難的任務。這不像我們想象的那樣，只要打開實驗手冊，按照蛋白質結構測定的實驗步驟做就行了。這需要絕對的智慧，創新的觀念，以及探索解決問題的途徑。

接下來，我要描述的就是一種通過實驗確定蛋白質結構的預測方法，或者說蛋白質結構的實驗測定。首先你需要讓這些龐大而不規則的分子形成一個規則的晶體，就像食鹽一樣。這個過程非常復雜，所以科學家們要嘗試許多方法，不斷進行創新，就像許多科學探索一樣，過程漫長而艱難，很容易失敗。

為了讓大家直觀體會這項工作的難度，我隨便找了一篇論文。在實驗方法部分寫道：“經過一年多的努力，晶體開始形成。”這意味著科學家們不僅要完成所有困難的實驗，還必須耐心等待一年時間，才能知道自己的努力是否有效。而在等待的一年里，他們可能已經嘗試了另外上千種無效的方法。

一旦成功獲取晶體，就可以將這個樣本送進同步加速器。你可以看到，這臺儀器之大，甚至需要圍繞它開車。你用它產生的高強度X 射線照射晶體，拍攝它的衍射圖譜，然后解析出蛋白質結構，并將其存放在 PDB（蛋白質數據庫）中。我們的研究工作之所以能夠取得突破，得益于 50 年前科學家們將這些蛋白質結構都集中存放在這里，讓我們后來能夠獲取。PDB 收集了科學界幾乎所有的學術蛋白質結構，供每個人使用。

以下是我們基于這個數據庫所做的研究。目前，大約有 200000 個蛋白質結構，每年大約增加 12000 個，但這與實際需求相比還遠遠不夠。獲取關于蛋白質的源頭信息，也就是 DNA 序列，遠遠比蛋白質結構的獲取容易得多。當前蛋白質序列的發現速度比解析蛋白質結構的速度快了大概 3000 倍。

3構建AlphaFold

以上是一些科學背景。接下來，我想和大家談談我們所做的工作，我們先看一下這張示意圖。

我們想要建立一個 AI 系統，實際上，我們并不關心它是否是一個 AI 系統。這是做 AI4Science 工作中的一個好處——我們專注于解決問題本身，而不在乎如何解決問題。我們的目標是找到一種方法，無論它是一個計算機程序，還是其他任何形式，從左側代表蛋白質氨基酸序列的部分出發，我們想通過中間的部分，也就是 AlphaFold，最終得到右側的 3D 結構，你會在圖中看到兩個結構，藍色的是我們的預測結果，綠色的是通過實驗獲得的真實結構。后者往往需要耗費科學家一至兩年的時間，以及約 10 萬美元的研究成本。

你可以看到我們做到了這一點，我想告訴你們，我們是如何做到的。實際上，要解決這個問題，或者任何一個機器學習的難題，有三個主要的要素：數據、算力、算法。我覺得我們強調的大多是前兩個，而對第三個——算法的研究講得還不夠。

在數據方面，我們擁有 200000 個蛋白質結構，在算力方面，我們用的并不是LLM（大語言模型）規模的計算，最終的模型基于 128 個 TPU V3 核心，大致相當于 128 塊GPU，計算了大約兩周的時間，這完全在學術界可以承受的范圍內。但值得一提的是，算力的大部分成本并不是最終模型的計算成本，而是那些嘗試了各種方案卻未能奏效的過程，所有你必須經歷的失敗嘗試。

最后，關于算法研究，我想說的是，這項工作的關鍵在于，大部分研究可能只有兩個人參與，真正做這項工作的是一個小團隊。因此，當你看到這些機器學習的重大突破時，背后參與的人員可能遠比你想象的要少。實際上，這就是我們與眾不同的地方。我們提出了一系列新的想法，如何將機器學習帶入蛋白質結構預測的問題。

可以說，早期的系統，主要基于卷積神經網絡（CNN），取得了一些進展，確實有所改善。但如果你把它替換成一個 transformer，說實話，效果差不多。如果你將 transformer 的想法與大量的實驗和更多的創新結合，你才能看到真正的變化。在幾乎所有今天看到的所有頂尖的AI 系統中，都包含了大量的研究和創新，這些是中等規模的創新的集合。

4.AlphaFold的突破與公開數據

這些突破不僅僅是頭條新聞中的“transformer”“大規模擴展”“測試時推理”等。這些固然重要，但它們只是一個非常強大系統的眾多元素之一。事實上，我們甚至可以量化我們研究的價值。例如，AlphaFold 2 是這個系統的一個重要改進版本，AlphaFold 1 是當時最先進的系統。

然而，AlQuraishi 的科學家們做了一個非常嚴謹的實驗，結果顯示，AlphaFold 2 只用 1% 的數據訓練時，其準確度就與 AlphaFold 1 相當甚至更高。所以，可以清楚地看出，算法研究所產生的效益要比數據的價值高得多，約為數據的 100 倍。

我認為這非常重要。當你們在思考初創公司或正在考慮創業時，一定要考慮到：想法、研究和發現是如何放大數據和算力的。我們當然希望利用更多數據、更多算力，但在做機器學習研究時，創新和思想是至關重要的，它們能夠幫助我們真正改變世界。

此外，我們可以回過頭來做一些細致的分析，看看哪些部分在我們的系統中起到了關鍵作用。不要太過于關注細節，我們從論文中提取了一些數據，你可以看到這與基準模型的差異。

如上圖，我們可以看到，每去掉一個系統中的組成部分，都會影響到最終結果的準確性。有一些創新的想法，很多在當時是非常流行的研究方向。例如，關于等變性（equivariance）的研究，人們說“等變性就是解決問題的關鍵，AlphaFold 正是一個等變性系統，它太棒了，接下來我們一定要繼續研究等變性，以便獲得更強的系統”。然而，我對這個想法感到困惑，因為第六行展示的“IPA 不變點注意力”（IPA-Invariant Point Attention），實際上去除了系統中的所有等變性，雖然會稍微影響系統，但影響卻很小。實際上，AlphaFold 2 在 GDT 上比 AlphaFold 1 的準確性提高了約 30 個百分點，而等變性只解釋了其中的兩三個百分點。它并不是依靠一個單一的想法，而是通過多個中等規模的創新疊加起來，形成了一個革命性的系統。

當你在構建這些系統時，必須牢記生物學的相關性。我們有一些創新的想法，能夠將我們的系統優化提升。我們的系統逐步變得更好，越來越精確，最終我們達到了一個閾值，足以讓那些不關心機器學習的實驗生物學家也信賴并采納。但我們必須通過大量努力，而一旦我們做到了，它將帶來令人難以置信的變革。

我們可以借助這項評估來進行衡量。其中，深藍色代表AlphaFold 的結果，其余顏色則對應當時的其他系統。在蛋白質結構預測領域，由于存在“盲測”評估機制，它在某些方面要遠遠領先于 LLM 和通用機器學習領域。自 1994 年開始，有一項名為 CASP 的盲測競賽每兩年舉辦一次。所有熱衷于蛋白質結構預測的團隊都會參與其中，對大約 100 個剛被解析但還未發表的蛋白質結構進行預測。正因為答案是未知的，所以這種方式能夠真實地檢驗出哪種方法才是真正有效的。

在此次競賽中，我們的預測誤差大約僅為其他所有團隊平均誤差的三分之一。這一點意義重大，因為只有在面對答案未知的問題時，才能真正評判一個系統的好壞。你會發現，很多系統在真實場景的檢驗中表現并不理想，這是因為我們很容易把自己的思路“過擬合”到已知的基準測試數據集上。實際上，現實世界中的問題幾乎總是比訓練時遇到的問題更具挑戰性。畢竟，你需要從海量數據中總結規律，再將這些規律應用到某個至關重要、且獨一無二的新問題上。所以，無論是在系統開發階段，還是用戶決定是否采用該系統時，建立可靠的衡量標準都極為關鍵。而外部基準測試對于區分真正有效的解決方案、并推動世界發展而言，更是必不可少的存在。

5AlphaFold更易于獲取

同樣值得一提的是，我們深知這個工具的重要價值，在經過大量評估后，決定通過兩種方式向所有人開放。一方面，我們將代碼進行了開源；另一方面，在代碼開源大約一周后，我們發布了一個規模龐大的預測數據庫，初期包含 30 萬個蛋白質結構，后續又擴展到 2 億個，基本覆蓋了所有已測序物種的全部蛋白質。這一舉措帶來了翻天覆地的變化。

這里有個有趣的社會學現象：當我們僅發布代碼時，反響主要集中在專家圈子里；而當我們以數據庫的形式將成果直接呈現給全球用戶后，引發的轟動效應則完全不同。觀察這種反應的過程十分有意思，當時我們每天都會在 Twitter 上刷新動態，關注大家的討論內容。即便在 CASP 競賽結束后，結構預測領域的專家們已經認可這是一項重大突破，但那些我們真正希望使用該工具的普通生物學家，他們專注于用蛋白質開展實驗，并不關心結構預測本身，并且仍對此心存疑慮，甚至會想：“或許這次 CASP 的題目比較簡單吧。”直到數據庫發布后，人們的好奇心才被徹底激發。這種信任的建立在某種程度上帶有社會性，其深度令人難以想象。甚至有人會驚訝地問：“DeepMind 是怎么獲取到我還未發表的蛋白質結構的？”

當他們開始相信這個數據庫時，真正的轉折點就出現了。每個人心中都有一個自己始終未能解析的關注蛋白質，或者可以拿朋友未發表的結構悄悄進行比對。這種開放性和易用性，讓所有人都能親手嘗試并親自驗證它的可靠性，而口碑傳播正是建立信任的關鍵所在。

我們看到了一些用戶的評價：“我曾花三四個月攻克這個難題，今天早上用 AlphaFold 預測后，結果好得讓人難以置信。真希望早點用上它，挽回那些浪費的時間！”當面對一個耗費一年時間都無法成功表達和純化的蛋白質時——這意味著研究者一整年都無法獲得開展下一步實驗的材料，AlphaFold 的價值就充分顯現出來了。這些評價意義重大，因為當你解決了真正的問題、創造了適用的工具，就能改變世界，改變那些在你成果基礎上繼續探索的不同領域研究者的生活。

看到這些用戶反饋并與無數人交流，這種感覺非常美妙。而讓我真正意識到這個工具重要性的，是在它發布幾個月后：Science 雜志推出了關于“核孔復合體”（Nuclear Pore Complex）的專刊，這是一個由數百種蛋白質組成的超大復合體。令我們意外的是，專刊中的四篇重磅論文中，有三篇都深度運用了 AlphaFold，整本雜志中“AlphaFold”這個詞出現了一百多次。而我們對此完全不知情，也沒有與這些研究人員合作，這完全是科學家們在我們的工具的基礎上進行的新科學研究，而這是最令人興奮的時刻。

6實際應用與成功案例

更有趣的是，用戶常常用出一些我們完全沒有預料到的方式使用 AlphaFold。如下圖，Yoshika Morowaki 在 AlphaFold 的代碼發布兩天后發的一條推文。

我們當時預測了各個蛋白質的結構，本來計劃要構建一個系統來預測蛋白質如何相互結合。然而，這位研究人員說，“既然我有 AlphaFold，為什么不把兩種蛋白質組合起來，看看會發生什么？”你可以把這種嘗試理解為一種蛋白質的“提示工程”（prompt engineering）。然后他們發現，這居然是世界上最好的蛋白質相互作用預測。

AlphaFold 可以處理我們未曾預料到的問題。這顯示了當你訓練出一個強大的系統時，它能在某些方面展現出我們沒有預料到的“涌現”技能。人們開始發現許多以前從未想到的用法，而這還只是開始。我們看到越來越多的科學家在利用 AlphaFold 進行蛋白質設計，或是嘗試解決其它新問題。

一個非常重要的應用是，人們開始學習如何用它來設計和改造大型蛋白質，或者在部分研究中利用它。我想講這個故事有兩個原因：第一，它是一個非常酷的應用；第二，它實際上揭示了科學工作范式的改變。很多人總說，科學的本質是實驗和驗證。大家會覺得，既然你已經有了這么多 AlphaFold 預測的結果，那現在我們只需要用傳統的方法解析所有蛋白質的結構，告訴我們這些預測是對的還是錯的。

這是對的，科學的確是要依賴實驗。然而，他們錯的地方是，科學不僅僅是通過去解決某個特定蛋白質的結構來做實驗，而是通過提出假設并加以驗證。在這個例子中，科學家們關注的問題是如何利用 AlphaFold 預測的蛋白質結構來設計一個新的蛋白質，進而用它做新的藥物遞送。為了這個目的，他們選擇了一個名為收縮性注射系統（Contractile Injection System，簡稱CIS）的蛋白質，這個蛋白質在許多細菌中發揮作用，幫助它們將毒素或效應分子注射到宿主細胞中。這種系統在基因編輯和靶向藥物遞送領域具有巨大潛力。

MIT 的 Jang Lab 提出了一個有價值的問題：我們能否借助這種蛋白質實現靶向藥物遞送？能否用它將 Cas9 這類基因編輯工具輸送到特定細胞中？他們嘗試了 100 多種方法來改造這種蛋白質，但當時他們并沒有掌握該蛋白質的結構。

以上是依據模型渲染出的效果示意圖。他們希望改變這種蛋白質的識別對象。原本，這種蛋白質參與植物防御等功能，但科學家們并不清楚該從何處著手改造。在運行 AlphaFold 后，他們獲得了一個預測模型。說實話，這個模型本身并非完美無缺。不過，他們幾乎立刻從中發現了關鍵信息：模型底部的“支架”結構，揭示了它識別并附著到目標細胞的方式。既然如此，我們為何不直接用人工設計的蛋白質來替換它們呢？在使用 AlphaFold 進行預測后，他們設計了一個新的蛋白質（見圖中的紅色部分），替換掉原本的接合部分，從而改變了蛋白質的識別特性，使其能夠靶向特定的細胞。結果表明，這個新設計的蛋白質成功地將目標細胞中的熒光蛋白標記出來，這項發現有助于開發新型的靶向藥物遞送系統。

我們還能看到更多這樣的例子。越來越多的科學家開始運用這一工具，探索成千上萬種分子間的相互作用，以此確定哪些可能具有重要意義。研究人員通過 AlphaFold 預測發現了精子與卵細胞結合的新的機制，這個發現深刻改變了我們對生殖過程的理解。類似的應用幾乎無窮無盡，許多以 AlphaFold 為基礎的新發現層出不窮，推動著科學界不斷向前發展。

通用AIAI4Science未來

我個人認為，AlphaFold 將整個結構生物學領域，即研究生物大分子結構的領域的發展速度，提升了 5%-10%。這個數字看似不起眼，但它對世界產生的影響卻十分深遠。

我相信，我們未來會見證更多由此引發的科學突破。我認為，歸根結底，結構預測乃至更廣泛意義上的AI4Science，都應被視為一種強大的能力，能夠為實驗研究者的工作提供助力。我們從這些零散的觀察結果、這些自然數據出發——相當于互聯網上所有的文字信息。我相信，我們會不斷看到這種模式，而且它會變得越來越通用。我們會找到合適的基礎數據源來實現這一點。

另外，這種方法的一個重要特點是，從已有數據入手，進而探尋它所能解決的問題。這種方式有望推動各個科學領域取得重大突破。這些模型具備強大的能力，能理解細胞內的相互作用。這些都是從這些預測結果中提取科學內涵后所帶來的成果，而且模型所遵循的規則還能被調整應用于新的目標。

我認為，這正是 AlphaFold 這類專用系統展現其“基礎模型”潛力的核心所在。事實上，我相信我們會開始在更通用的系統（無論是 LLM，還是其他類型的系統）中看到這種趨勢。我們會在這些系統中融入越來越多的科學知識，并將它們應用于至關重要的領域。這才是未來真正的發展方向。

在 AI4Science 研究中，最令人興奮的問題是：它的通用性會達到何種程度？我們是只能在少數幾個特定領域取得顛覆性成就，還是能擁有更具通用性的強大系統？我的預測是，隨著我們不斷深入研究，后者終將會實現。

視頻鏈接：

https://www.youtube.com/watch?v=2Yguz5U-Nic&ab_channel=YCombinator

閱讀最新前沿科技趨勢報告，請訪問歐米伽研究所的“未來知識庫”

https://wx.zsxq.com/group/454854145828

未來知識庫是“ 歐米伽 未來研究所”建立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。

截止到3月31日 ”未來知識庫”精選的百部前沿科技趨勢報告

（加入未來知識庫，全部資料免費閱讀和下載）