文：Web3天空之城| 未經許可不得轉載

在最近的YC現場講座中，谷歌DeepMind的約翰·朱佩詳細闡述了其從物理學到計算生物學的個人歷程，并深入剖析了革命性AI系統AlphaFold的誕生。他強調，真正的突破源于新穎的研究思路，而不僅僅是數據和計算能力的堆砌。AlphaFold的成功不僅在于解決了長達50年的“蛋白質折疊問題”，更在于通過開源和建立公共數據庫，極大地賦能了全球科學界，催生了藥物研發、疫苗設計等領域的無數新發現，展現了AI作為科學研究放大器的巨大潛力。

核心觀點

? 研究的價值被低估 ：在AI開發中，新穎的研究思路和算法思想是核心驅動力，其價值可能遠超單純的數據規模或計算資源。

? 組合創新的力量 ：AlphaFold的成功并非依賴單一的革命性技術，而是源于眾多中等規模想法的巧妙組合與系統性集成。

? 開放與可及性的催化作用 ：將復雜的AI工具（如AlphaFold）以易于訪問的形式（代碼開源、公共數據庫）提供給科學界，是引爆其應用潛力和建立信任的關鍵。

? AI作為科學的放大器 ：AI工具的核心價值在于增強和加速實驗科學家的工作，通過提供高質量的預測和假設，使其能更快地進行驗證和創新，而非取代實驗本身。

從物理學到人工智能：一段探索之旅

約翰·朱佩: 這真是個令人愉快的改變。我做過很多科學講座，但當我上臺時，沒有人會鼓掌歡呼。通常情況下，即使我上臺也不會。這真的很令人興奮，很高興能來到這里。我想我應該從假設這個巨大的禮堂里并非所有人都認識我開始。我是誰？我是從事人工智能科學研究的人，我堅信我們可以利用人工智能系統、這些技術、這些想法，以一種非常具體的方式改變世界，使科學發展得更快，從而實現新的發現。

我認為這真的，真的非常棒。我們有機會利用這些工具、這些想法，并將它們瞄準一個問題，即我們如何構建正確的人_智能系統，以便病人能夠康復并從醫院回家。對我來說，最終走到這里，這是一段非常精彩且曲折的旅程。我最初接受的訓練是物理學。我曾經以為我會成為一個研究宇宙定律的物理學家。如果我非常、非常幸運，我所做的事情最終可能會出現在教科書中的一句話里。我學了物理，然后實際上去攻讀了物理學博士。后來我所研究的東西并沒有真正吸引我。我只是覺得，那不是我想要做的事情。我退學了。我沒有創辦一家初創公司，那會非常符合本次活動的主題。但我輟學了，最終在一家從事計算生物學的公司工作。我們如何讓計算機對生物學說出一些聰明的東西？

我喜歡它。我喜歡它，不僅僅是因為它很有趣，而且它能讓我做我認為自己擅長的事情，編寫代碼，操作方程式，認真思考世界的本質，并將其用于這個非常實際的目的。最終，我們想要制造藥物。我們想要使其他人能夠制造藥物。我真的有點成了生物學家和機器學習者，實際上是機器學習者，因為我離開了那份工作，然后回到生物物理學和化學的研究生院。我不再能獲得我在之前工作時擁有的那些令人難以置信的計算機硬件。事實上，他們有定制的專用集成電路（ASIC），用于模擬蛋白質（我將要談論的你身體的這部分）的運動方式。

既然我不再擁有那些了，但我仍然想研究同樣的問題，好吧，我不想僅僅用更少的計算能力做同樣的事情。我開始學習，并且對統計學和機器學習非常感興趣。那時我們不稱之為人工智能。事實上，我們甚至不稱之為機器學習。那有點不體面。我說我在做統計物理。但是我們將如何開發算法？我們將如何從數據中學習，并用它來代替非常大的計算量？我想事實證明，就人工智能而言，除了非常大的計算量，還需要解決新的問題。

在這之后，我加入了谷歌DeepMind，真正加入了一家想要表明如何利用這些強大的技術和所有這些想法的公司。它們正變得非常、非常明顯，這些技術是多么強大，尤其是在游戲，以及數據中心和其他方面都有應用。我們要如何利用這些技術來推動科學發展，真正地推進科學前沿？我們如何在工業環境中以極快的速度，與一些非常聰明的人一起，利用強大的計算機資源來做到這一點？有了這一切，你最好能取得一些進展。這真的，真的很有趣。我能站在這里就表明我們取得了一些進展。

AlphaFold的誕生：直面生物學的核心挑戰

約翰·朱佩: 我認為對我來說，真正的指導原則是，當我們做這項工作時，最終，我們正在構建能夠使科學家們做出發現的工具。我認為我們所做的工作中最令人鼓舞的是，以及真正觸動我內心深處的部分是，AlphaFold大約有35000次引用，但其中有成千上萬的例子，人們正在使用我們的工具來進行我個人無法完成的科學研究，而是利用它來進行發現，無論是疫苗、藥物開發，還是身體的運作方式。我認為這真的，真的非常令人興奮。今天我想和大家分享的部分以及我想講述的故事是關于問題本身，關于我們如何解決問題，以及特別是研究和機器學習研究的作用，以及它不僅僅是現成的機器學習。然后我想告訴大家，當你創造出偉大的事物時會發生什么，人們如何使用它，以及它對世界有什么作用。

我將從世界上最短的生物學課程開始。細胞是復雜的。對于那些只在高中或大學學過生物學的人來說，你們可能會認為細胞只有幾個帶有標簽的部分，而且很簡單，但實際上它看起來更像你在屏幕上看到的那樣。它是密集的。它是復雜的。就擁擠程度而言，它就像7月4日的游泳池，充滿了巨大的復雜性。人類大約有20000種不同類型的蛋白質。這些是你在屏幕上看到的一些斑點。它們聚集在一起，幾乎可以執行你細胞中的所有功能。你可以看到那種綠色的尾巴是大腸桿菌的纖毛。大腸桿菌。這就是它移動的方式，而且實際上你可以看到它是如何移動的。你可以看到那個看起來像在轉動的東西，實際上，它轉動并驅動這個馬達。所有這些都是由蛋白質構成的。

當人們說DNA是生命的說明書時，實際上，它是在告訴你如何做。它在告訴你如何構建這些微小的機器，而且生物學已經進化出一種令人難以置信的機制來構建它所需要的機器，字面意義上的納米機器，并用原子來構建它們，所以你的DNA會給你指令說，構建一種蛋白質。現在，你可能會說你的DNA是一條線，而且在某種意義上蛋白質也是。它是關于如何一個接一個地連接珠子的指令，其中每個珠子都是一種特定的原子分子排列。你應該想知道，如果我的DNA是一條線，而我絕不是一維的，那么中間發生了什么？答案是，在你制造出這種蛋白質并一次組裝好一個部件后，它會自發地折疊成一種形狀，就像你打開了你的宜家書架，而且你不用做任何辛苦的工作，它就能自行構建。你會得到這種相當復雜的結構。你可以看到非常典型的蛋白質，一種激酶，在場的生物學家們應該很熟悉。你可以看到這種非常復雜的原子排列，而且這種排列是具有功能的。你身體里的大部分蛋白質，并非所有，都會經歷這種轉變，而這才是發揮功能的方式。而且它非常小。所以，光本身只有幾百納米大小，而這個只有幾納米大小，所以它比你在顯微鏡下能看到的還要小。

長期以來，科學家們一直想了解這種結構，因為他們可以用它來預測蛋白質的變化可能如何影響疾病。這是如何運作的？生物學是如何運作的？通常，如果你制造一種藥物，它是為了中斷某種蛋白質的功能，就像這種蛋白質一樣。現在，科學家們通過大量的聰明才智，弄清楚了許多蛋白質的結構，而且直到今天，這仍然是極其困難的，對吧？你不應該把它想象成，我想確定一種蛋白質的結構，所以我應該打開蛋白質結構測定的實驗室規程，然后按照步驟進行。它包含著聰明才
智、想法，以及找到許多方法，在這種情況下，我描述的是一種蛋白質結構預測，或者說是蛋白質結構（抱歉），測定，實驗測量的方法，在這種方法中，你要說服我剛才給你們看的那種又大又丑的分子形成規則的晶體，有點像食鹽。沒有人有簡單的配方，所以他們嘗試了很多方法，他們有想法，而且這極其困難，充滿了失敗，就像科學中的許多事情一樣。

你實際上看到的是，可以這么說，了解這件事有多困難的一種方式，只是我們正在使用的一種普通的論文。我翻到背面，上面寫著，你知道，在他們的規程中，經過一年多的時間，晶體開始形成，對吧？所以他們不僅做了所有這些困難的實驗，而且還必須等待大約一年才能知道它是否有效，而且可能那一年不是用來等待的，而是嘗試了其他一千種同樣無效的方法。一旦你完成了那一步，你就可以把它送到同步加速器，一個適度的設備，你可以看到汽車環繞著這個儀器的外部，這樣你就可以用極其明亮的X射線照射它，并獲得所謂的衍射圖樣。而且你可以解出它，你可以將它存放在所謂的PDB，或蛋白質數據庫中。讓我們能夠完成這項工作的原因之一是，50年前的科學家們有遠見卓識，他們認為這些數據很重要，它們很難獲取，我們應該把它們都收集在一個地方。因此，有一個數據集，基本上代表了該領域所有關于蛋白質結構的學術成果，并且對所有人開放。所以我們的工作是基于非常公開的數據。

大約有20萬個已知的蛋白質結構。它們通常以每年大約12000個的速度增加。但是，這比需求要小得多得多。獲得輸入信息，即告訴你關于蛋白質的DNA，要容易得多得多得多得多得多。因此，數十億的蛋白質序列正在被發現。大約快3000倍的是我們學習蛋白質序列的速度，而不是蛋白質結構。好的，這些都是科學內容，但我應該和你們談談我們做的小事，它有這樣一種示意圖。我們想構建一個人工智能系統。事實上，我們甚至不在乎它是否是一個人工智能系統。這就是在人工智能領域做科學研究的好處之一，你不在乎你如何解決它。如果最終它是一個計算機程序，如果最終它是其他任何東西，我們想要找到某種方法從左邊開始，其中每個字母代表蛋白質的一個特定構建塊，按順序考慮，我們想把一些東西放入AlphaFold，然后我們想要在右邊得到一些東西。如果你仔細看，你會看到那兒有兩個結構，藍色的是我們的預測，綠色的是實驗結構，它花了某人一兩年時間的努力。如果你想給它賦予一個經濟價值，大約在10萬美元的量級。你可以看到我們能夠做到這一點，我想告訴你我們是如何做到的。

解構AlphaFold：數據、計算與研究的力量

約翰·朱佩: 做這件事，或者做任何機器學習問題，實際上有三個組成部分。你可以說你擁有數據，擁有計算能力，并且擁有研究。我覺得我們過多地講述了前兩者，而對后者講述得不夠。在數據方面，我們有20萬個蛋白質結構。每個人都有相同的數據。在計算方面，這屬于大型語言模型（LLM）的規模。最終的模型本身使用了128個TPUv3核心，大約相當于每個核心配備一個GPU，持續運行了兩周。這再次說明，這仍然在學術資源的范圍內。但值得注意的是，實際上，當你考慮需要多少計算能力時，不要被最終模型的數字分散注意力。真正的計算成本是那些沒有奏效的想法的成本。你為了達到目標所必須做的一切。

然后最終是，研究。我想說，參與這項研究的人員大約只有兩個。最終完成這項工作的是一小群人。所以實際上，當你看到這些機器學習的突破時，參與的人數可能比你想象的要少。實際上，這才是我們工作的不同之處。我們提出了一套關于如何將機器學習應用于這個問題的新想法。我可以說，早期的系統，主要基于卷積神經網絡，表現尚可。它們當然取得了一些進展。如果你用Transformer取代它，說實話，結果差不多。如果你采用Transformer的思想，并進行大量的實驗和更多的想法，那么你就會開始獲得真正的改變。并且在今天你幾乎能看到的所有人工智能系統中，都涉及到大量的研究和想法，以及我所謂的中間規模的想法。這不僅僅是人們會說的頭條新聞，例如Transformer，你知道的，擴展，測試時間推理。這些都很重要，但它們只是一個真正強大的系統中眾多要素之一。

事實上，我們可以衡量我們的研究價值多少。比如，AlphaFold2是一個非常著名的系統，也是一個相當大的改進。AlphaFold1是當時世界上最好的。但是，Al Qureshi實驗室做了一個非常細致的實驗，他們采用了AlphaFold2的架構，并用1%的可用數據對其進行了訓練。他們可以證明，用1%的數據訓練的AlphaFold2與AlphaFold1一樣準確或更準確，而AlphaFold1是之前的最先進的系統。因此，有一個非常明確的結論，即這些要素中的第三個要素，即研究，其價值是這些要素中的第一個要素，即數據的100倍。我認為這通常非常非常重要。當你們都在思考，當你們都在創業公司或者考慮創業公司的時候，要考慮想法、研究、發現，對數據和計算的放大作用有多大。他們與它協同工作。我們不希望使用比我們擁有的更少的數據。我們不希望使用比我們可用的更少的計算資源。但當你在進行機器學習研究時，想法是核心組成部分，它們確實有助于改變世界。

我們甚至可以回去，我們可以做消融實驗，我們可以說哪些部分是重要的。不要太關注細節。我們從論文中提取了這些。你可以在這里看到，這是與基線的差異。你可以采用其中任何一種。你可以看到，你可能從我們的最終系統中移除的每一個想法，都是某種離散的可識別的想法，其中一些是該領域內非常受歡迎的研究領域。就像這項工作出現時，其中一部分是等變性的。人們會說，等變性！這就是答案。AlphaFold是一個等變系統，它很棒。我們必須對等變性進行更多的研究，以獲得更棒的系統。嗯，我對此感到非常困惑，因為那里的第六行，沒有IPA，不變點注意力，它移除了AlphaFold中的所有等變性。這有點損害，但只是一點點。AlphaFold本身在這個GDT尺度上，你可以在左邊的圖表中看到，AlphaFold 2比AlphaFold 1好大約30個GDT。而等變性解釋了其中的兩到三個。這不是關于一個想法。而是關于許多中等規模的想法，它們加起來構成了一個變革性的系統。

超越預測：AlphaFold的顛覆性影響與未來展望

約翰·朱佩: 當你構建這些系統時，非常非常重要的是要思考我們在這個背景下稱之為的生物學相關性。我們本可以有更好的想法。我們讓我們的系統每次改進1%。但真正重要的是，當我們超過了對不關心機器學習的實驗生物學家來說很重要的準確度時。你必須通過大量的工作和努力才能達到那個水平。當你這樣做時，它會帶來難以置信的轉變。我們可以沿著這個軸進行衡量。我們是深藍色軸。當時可用的其他系統，并且經過評估，蛋白質結構預測在某些方面遠遠領先于大型語言模型或通用機器學習領域。并且自1994年以來，每兩年進行一次盲測，所有對預測蛋白質結構感興趣的人都會聚集在一起，預測100種蛋白質的結構，這些蛋白質的答案除了剛剛解決它的研究小組之外，無人知曉，尚未發表。所以你真的知道什么有效。在這次評估中，我們的誤差約為其他任何小組的三分之一。但這很重要，因為一旦你處理不知道答案的問題，你就可以真正衡量事情有多好。而且你會發現，在他們的研究過程中，許多系統都達不到人們所期望的水平。并且因為即使你有一個基準，我們都會過度擬合我們對基準的看法，除非你保留了數據。事實上，你在現實世界中遇到的問題幾乎總是比你訓練時遇到的問題更難，因為你必須從大量數據中學習。你將其應用于非常重要的獨特問題。所以，衡量標準非常非常重要，無論是在你開發時，還是在人們試圖決定是否應該使用你的系統時。外部基準對于弄清楚什么有效至關重要。這才是真正推動世界前進的動力。這里有一些我們典型的性能的精彩例子。這些是盲預測。你可以看到它們非常出色。

同樣重要的是，我們使其可用。我們認為它是。我們做了很多評估。但我們認為以兩種方式提供它是非常重要的。一是我們開源了代碼。實際上，我們在發布預測數據庫大約一周前就開源了代碼，最初從30萬個預測開始，后來增加到2億個，基本上是來自基因組已被測序的生物體的每一種蛋白質。這產生了巨大的影響。其中一個最有趣的社會學現象是，當我們發布一段專家可以使用的代碼時，我們獲得了一些信息；然后當我們向全世界提供它時，這兩者之間存在著巨大的差異。以這種數據庫形式，這真的很有趣，你知道，你發布了一些東西，每天你都會查看Twitter或查看X，以了解發生了什么。我們真正看到的是，即使在CASP評估之后，我也會說，結構預測者確信這顯然是解決這個問題的巨大進步。但一般的生物學家，我們希望使用它的人，那些不關心結構預測，而是關心蛋白質以進行實驗的人。他們不太確定。他們說，好吧，也許CASP很簡單。我不知道。然后這個數據庫出現了，人們開始好奇，然后點擊進入。這種證明具有的社會性程度是非同尋常的，人們會看并說，DeepMind是如何訪問到我未發表的結構的？你知道，在這一刻，他們真的相信了，每個人要么有一個他們尚未解決的蛋白質，要么有一個朋友擁有一個未發表的蛋白質，并且他們可以進行比較。而這才是真正起作用的。擁有這個數據庫，這種可訪問性，這種便利性，讓每個人都嘗試并弄清楚它是如何工作的。口口相傳才是建立這種信任的真正方式。

你可以看看其中的一些證明，對吧？我掙扎了3到4個月，試圖完成這項科學任務。你知道嗎，今天早上我得到一個AlphaFold預測，現在它好多了。我想要回我的時間，對吧？你知道，當你用AlphaFold運行一個蛋白質時，你會真正欣賞它，這個蛋白質在一年的時間里一直拒絕表達和純化，這意味著一年來他們甚至無法獲得材料來開始實驗。這些真的很重要。當你構建了正確的工具，當你解決了正確的問題，它就很重要，它改變了那些正在做事的人的生活，不是說你會去做，而是建立在你的工作之上。而且我認為看到這些真是非同尋常。我和很多人聊過，我真正意識到這個工具很重要。事實上，該工具發布幾個月后，科學雜志上有一期關于核孔復合體的特刊。這期特刊全是關于這個特殊的非常大的，由幾百個蛋白質組成的系統。其中科學雜志上關于這個的四篇論文中有三篇大量使用了AlphaFold。我想我在科學領域統計了超過100次提到AlphaFold這個詞，但我們與它毫無關系。我們不知道這件事正在發生。我們沒有合作。僅僅是人們在我們構建的工具之上進行新的科學研究，這是世界上最棒的感覺。

事實上，用戶會做最出人意料的事情。他們會以你不知道的方式使用工具。左邊來自森脅良隆的推文在我們代碼可用后的兩天就發布了。我們已經預測了單個蛋白質的結構，但我們正在構建一個可以預測蛋白質如何結合在一起的系統。但這位研究人員說，好吧，我有AlphaFold。為什么我不把兩個蛋白質放在一起，然后在它們之間放一些東西呢？你可以把它看作是提示工程，但對象是蛋白質。然后突然，他們發現這是世界上最好的蛋白質相互作用預測，對吧？當你用這些訓練一個非常非常強大的系統時，它將具有額外的，在某種意義上來說，涌現出來的技能，只要它們是對齊的。人們開始發現AlphaFold可以解決我們沒有預料到的各種各樣的問題。實時觀察科學領域對這些工具的反應，發現它們的局限性，發現它們的可能性，這非常有趣。這種情況還在繼續。人們在蛋白質設計和其他方面，基于我們的想法和我們構建的系統，做了各種令人興奮的工作。

我想講這個故事有兩個原因。一是我認為這是一個非常酷的應用。但第二個是它如何真正改變科學的工作。人們常常會說科學就是關于實驗和驗證。所以，你有所有這些AlphaFold預測非常好。現在我們所要做的就是以經典的方式解決所有蛋白質的問題，這樣我們才能知道你的預測是對還是錯。他們說對了一件事。科學是關于實驗的。科學是關于做這些實驗的。但他們說錯了另一件事。科學是關于提出假設并檢驗它們，而不是關于特定蛋白質的結構。在這種情況下，問題是，他們取了左邊這種叫做收縮注射系統的蛋白質。但這太拗口了。他們喜歡稱之為分子注射器。它的作用是附著到細胞上，并將蛋白質注入其中。麻省理工學院姜實驗室的科學家們在說，那么，我們能否利用這種蛋白質進行靶向藥物遞送？我們能否利用它將像Cas9這樣的基因編輯器導入細胞？他們嘗試了100多種方法來弄清楚如何利用這種蛋白質，而他們并沒有這種蛋白質的結構。這只是事后的一種演繹。然后說，我們如何改變它識別的東西？我認為它最初與植物防御有關或其他類似的東西。他們不知道該怎么做。他們運行了一個AlphaFold預測。你可以看到左邊的那個。我甚至不會說這是一個很棒的AlphaFold預測。但幾乎立刻，他們看到了那個并說，等一下。底部的那些腿一定是它識別并附著到細胞的方式。為什么我們不直接用一個設計的蛋白質來替換它們呢？所以幾乎立刻，一旦他們得到了AlphaFold預測，他們就重新設計，添加了你在紅色中看到的這個設計蛋白質，以靶向一種新型細胞。他們采用了這個系統。然后他們證明，事實上，他們可以選擇小鼠體內的細胞。而且他們可以注射蛋白質，在這種情況下，是熒光蛋白質。所以在那里你會看到顏色。而且他們可以靶向小鼠大腦中他們想要的細胞。因此，他們正在利用這個來開發一種新型的靶向藥物發現系統。

我們看到了更多這樣的例子。我們看到一些科學家正在使用這個工具嘗試成千上萬次的互動，以找出哪些互動最有可能發生。事實上，發現了一個關于卵子和精子如何在受精中結合的新成分。許多，許多這樣的發現都建立在這個基礎上。我喜歡認為我們的工作使整個被稱為結構生物學的領域，即處理結構的生物學，快了 5% 或 10%。但這對世界的影響是巨大的。我們將會有更多這樣的發現。而且我認為，最終，結構預測和更廣泛的科學人工智能應該被視為一種令人難以置信的能力，可以作為實驗工作者的放大器。我們從這些零散的觀察結果，這些自然數據開始。這相當于我們擁有互聯網上的所有詞語。然后我們訓練一個通用模型，它可以理解其底層的規則，并可以填充圖片的其余部分。而且我認為我們將繼續看到這種模式。它會變得更加通用。我們將找到正確的基礎數據來源來做到這一點。而且我認為真正成為一個屬性的另一件事是，你從擁有數據的地方開始，然后找到它可以應用于哪些問題。因此，我們發現巨大的進步，巨大的能力來理解其他方面發生的交互，這些交互是提取這些預測的科學內容之后的下游。然后，他們使用的規則可以適應新的目的。我認為這正是我們看到AlphaFold或其他狹義系統作為基礎模型之處。事實上，我認為我們將開始在更通用的系統上看到這一點，無論是大型語言模型還是其他系統，我們都會在其中發現越來越多的科學知識。我們將把它們用于重要的目的。我認為這正是發展方向。我認為人工智能在科學領域中最令人興奮的問題是它能有多通用？我們會發現幾個狹窄的領域，并在其中產生變革性的影響嗎？還是我們會擁有非常、非常廣泛的系統？我預計最終會是后者，當我們弄清楚的時候。謝謝。