[城主說]這次最新的超長篇訪談深入探討了人工智能的前沿領域。谷歌DeepMind的領導者德米斯哈薩比斯與Lex弗里德曼討論了他關于自然模式可學習性的猜想、AI在模擬物理世界（如流體動力學）和創造交互式游戲世界中的巨大潛力。對話還涵蓋了通往通用人工智能（AGI）的路徑、其定義與測試方法，以及AI對科學、能源、經濟和人類未來的深遠影響。

核心觀點

? 任何在自然界中可以進化或生成的模式，原則上都可以被經典的機器學習算法有效發現和建模。

? AI在模擬物理現象（如視頻生成模型VEO）和創造動態、個性化的開放世界游戲方面展現出驚人潛力。

? 實現AGI不僅需要計算規模的擴展，還可能需要類似AlphaGo的“第37步”那樣的研究突破，并需解決“研究品味”等難題。

? AI將成為解決能源、氣候、疾病等重大挑戰的終極工具，可能帶領人類進入一個資源極大豐富的后稀缺時代。

? AGI的開發必須以謹慎的樂觀態度進行，合作與安全是確保這項強大技術造福全人類的關鍵。

引言：可學習的宇宙

Lex: 我們人類很難對高度非線性的動力系統做出任何清晰的預測。但再次回到你的觀點，我們可能會對經典學習系統在流體方面所能做的事情感到非常驚訝。

德米斯: 是的，沒錯。我的意思是，流體動力學、納維-斯托克斯方程，這些傳統上被認為是經典系統上非常、非常困難、棘手的問題。它們需要大量的計算，例如天氣預測系統，你知道的，這些都涉及流體動力學計算。但同樣，如果你看看像VEO這樣的東西，我們的視頻生成模型，它可以很好地模擬液體，出奇地好，以及材料、鏡面反射光照。我喜歡那些有人生成視頻，其中有透明液體通過液壓機，然后被擠出來的視頻。我早期在游戲領域編寫過物理引擎和圖形引擎，我知道構建能夠做到這一點的程序是多么費力。然而，不知何故，這些系統正在通過觀看YouTube視頻進行逆向工程。因此，推測發生的情況是，它正在提取這些材料行為方式的一些底層結構。因此，如果我們真正完全理解了內部發生的事情，也許存在某種可以學習的低維流形。也許，你知道，這可能對大多數現實都是如此。

Lex: 以下是與德米斯哈薩比斯（Demis Hassabis）的對話，這是他第二次參加播客節目。他是谷歌DeepMind的領導者，現在是諾貝爾獎獲得者。德米斯是當今世界上最聰明、最迷人的人才之一，致力于理解和構建智能，并探索我們宇宙的重大謎團。能夠邀請他參加節目，我感到非常榮幸。

在您的諾貝爾獎演講中，您提出了我認為非常有趣的猜想，即“自然界中可以生成或發現的任何模式都可以通過經典的機器學習算法有效地發現和建模”。其中可能包含哪些類型的模式或系統？生物學、化學、物理學，或許是宇宙學、神經科學，我們在談論什么？

德米斯: 當然。嗯，你看，我覺得諾貝爾獎的演講有點像是傳統，我認為，你應該有點挑釁意味，我想遵循這個傳統。我在那里談論的是，如果你退一步，看看我們所做的所有工作，特別是 Alpha X 項目，所以我想到的是 Alpha Go，當然還有 Alpha Fold，它們真正的意義在于，我們正在構建非常組合性高維空間的模型，如果你試圖強行找到解決方案，比如在圍棋中找到最佳著法，或者找到蛋白質的精確形狀，如果你列舉所有可能性，宇宙的時間都不夠用。所以你必須做一些更聰明的事情。在這兩種情況下，我們所做的都是構建這些環境的模型，從而以一種聰明的方式引導搜索，使其變得易于處理。

所以如果你考慮蛋白質折疊，這顯然是一個自然系統，為什么這會成為可能？物理學是如何做到這一點的？蛋白質在我們體內以毫秒級的速度折疊，所以物理學以某種方式解決了這個問題，而我們現在也通過計算解決了這個問題。我認為之所以成為可能，是因為在自然界中，自然系統具有結構，因為它們受到塑造它們的進化過程的影響。如果這是真的，那么你也許可以了解這種結構是什么。

Lex: 所以我認為，這個視角確實非常有趣。你已經暗示過了，粗略地說，任何可以進化的事物都可以被高效地建模。認為這有道理嗎？

德米斯: 是的，我有時稱它為“最穩定者的生存”或類似的東西，因為當然存在生命、生物的進化，但是，如果你考慮到地質時間，比如山脈的形狀，那是經過數千年的風化過程塑造的，然后你甚至可以將其推廣到宇宙學，行星的軌道，小行星的形狀，這些都經歷了某種生存過程，這些過程在它們身上發生了無數次。所以如果這是真的，那么應該存在某種模式，你可以逆向學習，并且實際上存在一種流形，可以幫助你搜索到正確的解決方案，正確的形狀，并且實際上允許你以有效的方式預測有關它的信息，因為它不是隨機模式，對嗎？

所以對于人造事物或抽象事物（例如分解大數）來說，這可能是不可能的，因為除非數字空間中存在模式，這可能存在，但如果沒有并且它是均勻的，那么就沒有要學習的模式。沒有可以學習的模型來幫助你搜索。你必須使用蠻力。所以在這種情況下，你可能需要一臺量子計算機，或者類似的東西。但是我們感興趣的大多數自然事物并非如此。它們擁有因某種原因而進化并在時間中幸存下來的結構。如果這是真的，我認為這可能可以通過神經網絡學習。

Lex: 就像大自然在進行一個搜索過程，令人著迷的是，在這個搜索過程中，它創造了可以被有效建模的系統。

德米斯: 是的，沒錯。是啊。真有趣。所以它們可以被有效地重新發現或恢復，因為自然不是隨機的，對吧？這些，我們周圍看到的一切，包括更穩定的元素，所有這些東西，都受到某種選擇過程、壓力的影響。

模擬現實：從物理到計算

Lex: 你認為，因為你也是理論計算機科學和復雜性的愛好者，你認為我們可以提出一種復雜性類別，比如一種復雜性動物園類型的類別，也許是可學習系統集合，可學習的自然系統集合，L和S？這是一類新的系統，實際上可以通過這種方式被經典系統學習，是可以被有效建模的自然系統。

德米斯: 是的。我的意思是，我一直對P=NP問題著迷，以及經典系統可以建模什么，即非量子系統，你知道，實際上是圖靈機。這正是我實際上在用一些空閑時間和一些同事一起研究的內容，關于是否應該存在，你知道，可能有一種新型的問題，可以通過這種類型的神經網絡過程解決，并映射到這些自然系統上。所以，你知道，存在于物理學中并具有結構的事物。所以我認為這可能是一種非常有趣的新思考方式。這在某種程度上符合我思考物理學的方式，也就是說，你知道，我認為信息是首要的。信息是宇宙中最基本的一個單位，比能量和物質更基本。所以我認為它們都可以相互轉化。但我認為宇宙是一種信息系統。所以當你把宇宙看作一個信息系統時，那么P=NP問題就是一個物理學問題。

Lex: 因此，當你把宇宙看作一個信息系統時，那么P=NP問題就是一個物理問題。

德米斯: 沒錯。

Lex: 而且這個問題實際上可以幫助我們解決目前正在發生的整個事件。

德米斯: 是的，我認為這實際上是最根本的問題之一，如果你認為物理學是信息性的。我認為這個問題的答案將會非常具有啟發性。

Lex: 更具體地說是關于P與NP問題。再次聲明，我們現在所說的一些東西可能有點瘋狂。就像克里斯蒂安阿特金森的諾貝爾獎獲獎感言一樣，他說了一些有爭議的事情，聽起來很瘋狂。然后你和約翰 jumper一起憑借這個獲得了諾貝爾獎，解決了這個問題。所以，讓我回到P等于NP的問題。你認為我們正在討論的這個問題中是否存在一些東西可以被證明，如果你能做到類似多項式時間或常數時間，提前計算，并構建這個巨大的模型，那么你就可以用一種理論計算機科學的方式來解決這些極其困難的問題嗎？

德米斯: 是的，我認為實際上有很大一類問題可以用這種方式來解決，就像我們做AlphaGo和AlphaFold的方式一樣，你知道，你可以建模系統的動態特性、系統的屬性以及你試圖理解的環境。然后，這使得尋找解決方案或預測下一步變得高效，基本上是多項式時間。所以對于經典系統來說是可以處理的，而神經網絡就是一個經典系統，它在普通的計算機上運行，對吧？經典計算機，實際上就是圖靈機。

我認為這是目前最有趣的問題之一，那就是這種范式能走多遠？你知道，我認為我們已經證明了，整個AI社區也證明了，經典系統，圖靈機，可以比我們之前認為的走得更遠。你知道，它們可以做一些事情，比如模擬蛋白質的結構，以及在圍棋方面比世界冠軍水平更高。而且，你知道，很多人可能在10、20年前會認為，這還需要幾十年，或者可能需要某種量子機器或量子系統才能做像蛋白質折疊這樣的事情。所以我認為，我們甚至還沒有真正觸及所謂的經典系統能夠做什么的皮毛。當然，建立在神經網絡系統之上，建立在經典計算機之上的AGI，將是這種表達的終極體現。我認為這個限制，你知道，這種系統的界限，它能做什么，這是一個非常有趣的問題，直接關系到P等于NP問題。

Lex: 你覺得，再次假設，什么可能會超出這個范圍，也許是涌現現象？比如你看看元胞自動機，一些，你擁有極其簡單的系統，然后一些復雜性涌現出來。也許那會超出范圍，或者你甚至會猜測，即使是那樣，也可能可以通過經典機器進行高效建模？

德米斯: 是的，我認為這些系統正處于邊界上，對吧？所以我認為大多數涌現系統，元胞自動機，諸如此類的東西，都可以用經典系統建模。你只需對它進行正向模擬，而且可能足夠高效。當然，存在諸如混沌系統之類的問題，其中初始條件至關重要，然后你得到一些，你知道，不相關的最終狀態。現在這些可能很難建模。所以我認為這些都是開放性問題，但我覺得當你退一步，看看我們用這些系統所做的事情，以及我們所解決的問題，然后你再看看像VEO3這樣的視頻生成，比如渲染物理和光照等，你知道，真正物理學中的核心基本要素，那就非常有趣了。我認為這在告訴我一些關于宇宙如何被構建的非常根本的東西。所以，你知道，在某種程度上，這就是我想構建通用人工智能（AGI）的原因，是為了幫助我們作為科學家回答像P=NP這樣的問題。是的，我認為我們可能會對經典計算機可以建模的東西不斷感到驚訝。

Lex: 我的意思是，AlphaFold 3 在交互方面令人驚訝，你可以在那個方向上取得任何進展。Alpha Genome 令人驚訝，你可以將基因代碼映射到功能。有點像在玩涌現現象，你認為有如此多的組合選項，但結果卻出乎意料。你可以找到可以有效建模的內核。

德米斯: 是的，因為有一些結構，有一些景觀，你知道，在能量景觀或其他什么中，你可以遵循，一些梯度你可以遵循。當然，神經網絡非常擅長跟蹤梯度。因此，如果有一個可以遵循的梯度，并且你可以正確指定目標函數，你知道，你就不必處理所有這些復雜性，我認為這也許是我們幾十年來天真地思考這些問題的方式。如果你只是列舉所有可能性，它看起來完全是難以處理的。那里有非常非常多的類似問題。然后你會想，嗯，就像10的300次方種可能的蛋白質結構，10的170次方種可能的圍棋局面。所有這些都遠遠超過了宇宙中的原子數量。那么，人們怎么可能找到正確的解決方案或預測下一步呢？而且，但事實證明這是可能的。當然，自然界的現實確實做到了，對吧？蛋白質確實會折疊。所以這讓你有信心，一定有，如果我們理解了物理學在某種意義上是如何做到這一點的，那么，如果我們能夠模仿這個過程，模擬這個過程，那么在我們經典的系統上也是可以實現的，這基本上就是這個猜想的內容。

Lex: 當然還有非線性動力系統，高度非線性的動力系統，所有涉及流體的東西。是的，沒錯。你知道，我最近和陶哲軒進行了一次談話，他在數學上研究了具有一些奇點的系統的非常困難的方面，這些奇點破壞了數學。對于我們人類來說，對高度非線性動力系統做出任何清晰的預測都很難。但再次，正如你所說，我們可能會對經典學習系統在流體方面所能做的事情感到非常驚訝。

德米斯: 是的，完全正確。我的意思是，流體動力學、納維-斯托克斯方程，這些傳統上被認為是經典系統上非常、非常困難、棘手的問題。它們需要大量的計算，你知道，天氣預報系統，你知道，這些東西都涉及到流體動力學計算。而且，但是再次，如果你看看像VEO這樣的東西，我們的視頻生成模型，它可以很好地模擬液體，出奇地好，還有材料，鏡面反射。我喜歡那些有人生成視頻，里面有透明液體通過液壓機，然后被擠壓出來的視頻。我早年在游戲行業時，曾編寫過物理引擎和圖形引擎。我知道構建能夠做到這一點的程序是多么令人費力。然而，不知何故，這些系統正在通過觀看YouTube視頻進行逆向工程。因此，推測發生的情況是，它正在提取關于這些材料如何表現的一些底層結構。因此，也許存在某種低維流形，如果我們真正完全理解了內部發生的事情，就可以學習它。也許這適用于大多數現實。

Lex: 是的，我一直被VEO 3的這個方面所吸引。我認為很多人強調不同的方面，包括喜劇和刻薄以及所有類似的東西，然后是超現實的能力，以一種引人注目并感覺接近現實的方式捕捉人類。然后將其與原生音頻結合起來。所有這些都是VEO 3的奇妙之處，但正是您提到的物理特性。是的。它并不完美，但已經相當不錯了。然后，真正有趣的科學問題是，它理解了我們世界的什么才能做到這一點？由于對擴散模型的憤世嫉俗的看法，它不可能理解任何東西。但看起來，我的意思是，我認為不理解就無法生成那樣的視頻。然后我們自己對理解的哲學概念就被提到了表面。你認為VEO 3在多大程度上理解我們的世界？

德米斯: 我認為，如果它能以連貫的方式預測接下來的幀，那就是一種理解，對吧？不是擬人化的版本，不是對正在發生的事情的某種深刻的哲學理解。我認為這些系統不具備那種理解。但它們肯定已經對足夠多的動態進行了建模，這么說吧，它們可以相當準確地生成任何東西，8秒鐘的連貫視頻，至少乍一看，很難區分問題是什么。想象一下，再過兩三年，這就是我在考慮的事情，鑒于我們已經取得的進展，以及一兩年前的早期版本，這將是多么不可思議。因此，進展的速度是驚人的。

我想我和你一樣，很多人喜歡所有的單口喜劇演員，實際上這很好地捕捉了很多人類動態和肢體語言。但實際上，我印象最深刻、最著迷的是物理行為，光照、材質和液體。并且它能做到這一點，這非常了不起。我認為這表明它至少對直覺物理學有一些概念，對吧？事物應該如何憑直覺運作，也許像一個孩子理解物理學的方式，對吧，而不是一個博士生真正能夠拆解所有的方程式。這更像是一種直覺上的物理學理解。

Lex: 好的，這種直覺上的物理學理解，那是基礎層。那是人們有時稱之為常識的東西。它確實理解了一些東西。我認為這真的讓很多人感到驚訝。這讓我震驚，我之前竟然認為不理解就無法生成那種程度的真實感。有一種觀念認為，你只能通過擁有一個具身人工智能系統，一個與世界互動的機器人，來理解物理世界。這是構建對世界理解的唯一途徑。但VEO3似乎直接挑戰了這一點。

德米斯: 是的。這非常有趣，即使你5年或10年前問我，即使我當時沉浸在所有這些之中，我也會說，是的，你可能需要理解直覺物理學。比如，如果我把這個玻璃杯從桌子上推下去，它可能會摔碎，液體會濺出來，對吧？所以我們都知道這些事情。但我當時認為，你知道，神經科學中有很多理論，叫做行動中的感知，即你需要在世界中行動才能真正地以深刻的方式感知它。并且有很多關于你需要具身智能或機器人技術或其他東西，或者至少是模擬行動的理論，這樣你才能理解諸如直覺物理學之類的事情。但看起來你可以通過被動觀察來理解它，這對我來說非常令人驚訝。

而且，我認為這再次暗示了關于現實本質的某些深層東西，在我看來，不僅僅是它生成的那些酷炫視頻。當然，下一個階段可能是讓這些視頻具有互動性。這樣人們就可以真正地進入它們并在其中移動，這將是真正令人震驚的，特別是考慮到我的游戲背景。所以你可以想象。然后我認為，你知道，我們開始接近我所說的世界模型，一個關于世界如何運作、世界的機制、世界的物理學以及世界中事物運作的模型。當然，這對于真正的通用人工智能（AGI）系統來說是必需的。

游戲的未來：AI驅動的開放世界

Lex: 我必須和你談談電子游戲。所以你有點在釣魚。我認為你在推特（現在的X）上越來越開心了，很高興看到這一點。所以有個叫吉米阿普爾斯的人發推文說，讓我玩一個基于我的VEO3視頻的電子游戲吧。谷歌做得如此出色，可玩的世界模型何時推出，拼寫為H-E-N，問號。然后你轉發了那條推文，還配文說，那豈不是一件很棒的事情？那么用人工智能構建游戲世界有多難？也許，你能展望一下視頻游戲的未來，5年，10年后嗎？

德米斯: 你覺得會是什么樣的？嗯，游戲實際上是我的初戀，為游戲開發人工智能是我青少年時期第一份專業工作，也是我構建的第一個大型人工智能系統。而且我一直想，我想有一天能止癢，然后回到那個領域。所以，你知道，我會做的，我想。而且我想我會夢想著，如果我在90年代就能接觸到我們今天擁有的人工智能系統，我會做些什么？而且我認為你可以構建出絕對令人震驚的游戲。

我認為下一個階段是，我一直喜歡制作，我制作的所有游戲都是開放世界游戲。所以它們是這樣一種游戲：其中有一個模擬，然后有AI角色，然后玩家與該模擬互動，而模擬會適應玩家的玩法。我一直覺得它們是最酷的游戲，比如我參與制作的《主題公園》之類的游戲，每個人的游戲體驗對他們來說都是獨一無二的，因為你實際上是在共同創造游戲，對吧？我們設置參數，我們設置初始條件，然后你作為玩家沉浸其中，然后你與模擬共同創造它。

但當然，編程開放世界游戲非常困難。你必須能夠創造內容，無論玩家朝哪個方向前進，而且你希望無論玩家選擇什么，它都引人入勝。因此，實際上很難構建像細胞自動機這樣的東西，即創建某種涌現行為的經典系統。但它們總是有點脆弱，有點局限性。現在，我們可能在未來幾年，5到10年內，即將擁有能夠真正圍繞你的想象力進行創作的AI系統，現在可以動態地改變故事，圍繞敘事進行講述，并使其無論你最終選擇什么都充滿戲劇性。所以這就像終極的“選擇你自己的冒險”式游戲。我認為也許我們觸手可及，如果你想到一種互動版本的VEO，然后將其向前推進5到10年，想象一下它會有多好。

Lex: 是的，你剛才說了很多非常有趣的東西。首先，其中內置的開放世界是一種深度個性化，正如你所描述的那樣。所以不僅僅是開放世界，比如你可以打開任何一扇門，然后里面會有東西。而是以一種不受約束的方式選擇你打開哪扇門，定義了你所看到的世界。

所以有些游戲試圖這樣做，它們給你選擇，但實際上只是一種選擇的幻覺，就像《史丹利的寓言》（Stanley Parable）一樣，這是我本打算玩的游戲。實際上，只有幾扇門，它只是把你帶入一個敘事中。《史丹利的寓言》是一個很棒的電子游戲，我推薦大家玩，它以一種元方式嘲弄了選擇的幻覺，并且存在關于自由意志的哲學概念等等。但我確實喜歡我最喜歡的游戲之一，《上古卷軸》（Felder Scrolls），《匕首雨》（Daggerfall），我相信，他們真的玩弄了一種，比如隨機生成地牢的方式。是的。如果你能介入，他們會給你一種開放世界的感覺。而且，你提到了互動性，你不需要互動，這是第一步，因為你不需要互動那么多，只是當你打開門時，你所看到的一切都是為你隨機生成的。這已經是一種難以置信的體驗了，因為你可能是唯一一個看到它的人。

德米斯: 是的，完全正確。所以，但你想要的可能比僅僅是某種隨機生成要好一點，對吧？所以你希望，而且比簡單的A、B硬編碼選擇要好，對吧？那不是真正的開放世界，對吧？正如你所說，那只是給你一種選擇的錯覺。你想能夠做到的是在這個游戲環境中潛在地做任何事情。而且我認為實現這一點的唯一方法是擁有生成系統，即能夠動態生成內容的系統。當然，你不能創造無限數量的游戲資產，對吧？如今3A游戲的制作成本已經非常高昂了。

而且早在90年代，當我制作所有這些游戲時，這對我們來說是很明顯的。我認為《黑與白》可能是我早期參與制作的游戲，它可能仍然擁有最好的AI，即學習型AI。這是一個早期的強化學習系統，你負責照看這個神話般的生物，并讓它成長和被培養。根據你對待它的方式，它會以同樣的方式對待那個世界的村民。所以如果你對它很刻薄，它也會很刻薄。如果你很友善，它就會有保護欲。所以它實際上是你玩游戲方式的一種反映。所以實際上，在我職業生涯的初期，我一直在通過游戲媒介研究模擬和AI。實際上，我今天所做的一切仍然是從早期那些更硬編碼的AI方法，到現在的完全通用的學習系統的一個延續，它們都在試圖實現同樣的目標。

Lex: 是的，看到你和埃隆顯然都渴望創造游戲真是既有趣又滑稽，而且很有意思，因為你們都是游戲玩家。而你在如此多的科學領域，比如嚴肅的成人事務方面取得令人難以置信的成功，其中一個令人難過的方面是你可能沒有時間真正創造一款游戲。你最終可能會創造出其他人用來創造游戲的工具。你不得不看著別人創造出你一直夢想的東西。你認為你是否有可能在極其繁忙的日程中抽出時間來創造像《黑與白》這樣的東西，一個真正的電子游戲，在那里你可以讓童年的夢想成為現實？

德米斯: 嗯，當我想到這件事時，有兩個想法，也許隨著氛圍編碼技術的改進，有可能在你的空閑時間里做到這一點。所以我對此感到非常興奮。如果我有時間做一些氛圍編碼，那將是我的項目。我實際上很想這樣做。還有一件事是，也許在AGI（通用人工智能）被安全地管理并交付到世界之后，可以休個學術假。你知道，然后研究我的物理理論，正如我們在開始時談到的那樣，這將是我的兩個后AGI項目。就這么稱呼它吧。

Lex: 我很想看看后通用人工智能時代你會選擇哪個，解決一些人類歷史上最聰明的人都在爭論的問題。所以P是否等于NP，或者創造一個酷炫的視頻。

德米斯: 是的，好吧，但在我的世界里，它們會是相關的，因為它會是一個盡可能逼真的開放世界模擬游戲。所以，你知道，宇宙是什么？這就是在探討同一個問題，對吧？以及P是否等于NP。我認為所有這些事情都是相關的，至少在我看來是這樣。

Lex: 我的意思是，非常嚴肅地說，我認為電子游戲有時會受到一些貶低。那只是一個有趣的副業活動。但尤其是在人工智能完成越來越多困難、乏味的任務時，我們現代世界稱之為工作的那些事，電子游戲可能是我們找到意義所在，找到如何利用時間的方式。你可以創造極其豐富、有意義的體驗。就像那是人類的生活一樣。然后在電子游戲中，你可以創造更復雜、更多樣化的生活方式。是的，我是這么認為的。

德米斯: 我的意思是，我們這些熱愛游戲的人，而且我現在仍然熱愛，你知道，它幾乎可以讓你的想象力自由馳騁。對吧？我曾經非常熱愛游戲和開發游戲，因為它是一種融合，尤其是在90年代和2000年代初，那個黃金時代，也許是游戲行業的80年代。一切都在被發現。新的游戲類型不斷涌現。我們不僅僅是在制作游戲。我們覺得我們正在創造一種前所未有的全新娛樂媒介，尤其是在這些開放世界游戲和模擬游戲中，玩家可以共同創造故事。沒有其他媒體，沒有其他娛樂媒體能讓你做到這一點，讓作為觀眾的你實際參與共同創造故事。當然，現在有了多人游戲，這也可以成為一種非常具有社交性的活動，并可以在其中探索各種有趣的世界。

但另一方面，你知道，享受和體驗現實世界也非常重要。但問題是，你知道，我認為我們將不得不再次面對關于現實的本質是什么的問題？這些日益逼真的模擬、多人游戲以及涌現的（emergent）事物與我們在現實世界中所做的事情之間，區別將是什么？

Lex: 是的，體驗真實世界的自然風光顯然具有巨大的價值。親身體驗他人，就像我們今天坐在這里一樣，也具有巨大的價值。但是我們需要真正科學地、嚴格地回答這個問題，為什么？以及其中哪些方面可以映射到虛擬世界中？沒錯。而且僅僅說，是啊，你應該去接觸草地，在自然中閑逛，這還不夠。這就像，那樣做究竟為什么有價值？

德米斯: 是的，我想這也許就是從我職業生涯一開始就一直困擾我、讓我著迷的事情。如果你考慮我所做的所有不同的事情，它們都以那種方式相關聯。模擬，現實的本質，以及可以被建模的范圍的界限是什么？

進化與創造：AI的自我超越

Lex: 抱歉問一個荒謬的問題，但到目前為止，有史以來最偉大的電子游戲是什么？

德米斯: 那里有什么？嗯，我一直以來最喜歡的游戲是《文明》，我不得不說。那是《文明I》和《文明II》，我一直以來最喜歡的游戲。

Lex: 我只能認為你避開了最新的一部，因為它可能會，那會是你的學術休假。這樣你就會消失。

德米斯: 是的，完全正確。這些《文明》游戲會占用大量時間。所以我必須小心對待它們。

Lex: 有趣的問題。你和埃隆似乎都是資深玩家。擅長游戲和成為人工智能公司的偉大領導者之間是否存在某種聯系？

德米斯: 我不知道。這是個有趣的問題。我的意思是，我們都熱愛游戲，而且有趣的是，他最初也是通過編寫游戲起家的。這很可能，尤其是在我成長的年代，80年代末和90年代家用電腦剛剛興起的時候，尤其是在英國。我有一臺Spectrum，然后是Commodore Amiga 500，這是我最喜歡的電腦。這就是我學習所有編程的原因。當然，編程是一件非常有趣的事情，尤其是游戲編程。所以我認為這是一種學習編程的好方法，可能現在仍然是。然后，當然，我立即將它引向了人工智能和模擬的方向，所以我能夠同時表達我對游戲和我更廣泛的科學興趣。

我認為游戲的最后一個偉大之處在于，它將藝術設計、美術與最前沿的編程融合在一起。所以同樣，在90年代，所有最有趣的技術進步都發生在游戲領域，無論是人工智能、圖形、物理引擎、硬件，甚至是GPU，當然，最初都是為游戲設計的。因此，90年代推動計算機技術進步的一切都歸功于游戲。所以有趣的是，那是研究的前沿領域。而它是藝術、圖形以及音樂的不可思議的融合，以及全新的敘事媒體。我喜歡那樣。對我來說，這種多學科的努力又是我一生都在享受的事情。

Lex: 我得問你，我幾乎忘記了最近發生的眾多事情中的一件，我認為也是最不可思議的事情之一，不知何故，這件事還沒有得到足夠的關注，那就是Alpha Evolve。我們稍微談到了進化，但它是谷歌DeepMind的系統，可以進化算法。像這種類似進化的技術，作為未來超級智能系統的組成部分，有希望嗎？所以對于那些不了解的人來說，可以這么說，我不知道這么說是否公平，它是LLM引導的進化搜索。所以進化算法在進行搜索，而LLM告訴你搜索的方向。

德米斯: 是的，完全正確。所以LLM有點像提出一些可能的解決方案，然后你在此基礎上使用進化計算來找到搜索空間中的一些新穎部分。所以實際上，我認為這是一個非常有希望的方向的例子，你可以將LLM或基礎模型與其他計算技術相結合。進化方法是一種，但你也可以想象蒙特卡洛樹搜索，基本上許多類型的搜索算法或推理算法都建立在或使用基礎模型作為基礎。所以我實際上認為，通過這些混合系統（我們這樣稱呼它們），可能會發現很多有趣的東西。

Lex: 但不要把進化浪漫化。是的。我只是個普通人，但你認為無論那種機制是什么，都有其價值嗎？因為我們已經談論過自然系統了。你是否認為，在理解、建模和模擬進化方面，有很多唾手可得的成果，然后利用我們所理解的關于自然啟發機制的一切，從而使搜索做得越來越好？

德米斯: 因此，如果你再次考慮將我們構建的系統分解為真正基本的核心，你會得到系統底層動態的模型。然后，如果你想發現一些新的、以前從未見過的東西，那么你需要某種搜索過程來把你帶到搜索空間的一個新的區域。你可以通過多種方式做到這一點。進化計算就是其中之一。有了AlphaGo，我們只是使用了蒙特卡洛樹搜索，對吧？這就是找到第37步的原因，圍棋中前所未見的全新策略。這就是你如何超越可能已知的范圍。所以這個模型可以模擬你目前所知道的一切，對吧？所有你目前擁有的數據，但是你如何超越它呢？這就開始談到創造力的概念。這些系統如何創造新的事物，發現新的事物？顯然，這與科學發現或推動科學和醫學進步超級相關，而這正是我們想用這些系統做的事情。實際上，你可以在這些模型之上附加一些相當簡單的搜索系統，并將你帶入一個全新的空間區域。當然，你還必須確保你沒有完全隨機地搜索那個空間。那樣會太大了。所以你必須有一個你試圖優化的目標函數，并且朝著它進行爬山算法，從而指導搜索。

Lex: 但是有一些有趣的進化機制，可能在程序的空間中，而程序的空間是一個極其重要的空間，因為你可能可以將其推廣到所有事物。但例如，突變。所以它不僅僅是蒙特卡洛樹搜索，而像是一種搜索。你可以偶爾——組合事物，是的。組合事物，比如事物的組成部分。所以進化真正擅長的不僅僅是自然選擇，還在于組合事物并構建日益復雜的層級系統。所以那個組成部分非常有趣，特別是像Alpha Evolve在程序空間中的應用。

德米斯: 是的，沒錯。因此，你可以從進化系統中獲得一些額外的屬性，即可能會出現一些新的涌現能力。當然，就像生命發生的那樣。有趣的是，使用不含大型語言模型和現代人工智能的樸素的傳統進化計算方法，它們的問題在于，在90年代和2000年代初得到了很好的研究，并取得了一些有希望的結果。但問題是，他們始終無法弄清楚如何進化出新的屬性，新的涌現屬性。你總是擁有你放入系統中的屬性的某種子集。但也許如果我們把它們和這些基礎模型結合起來，也許我們可以克服這個限制。

顯然，自然進化確實做到了，因為它確實進化出了新的能力，對吧？從細菌進化到我們現在這樣。因此，很明顯，進化系統必須能夠生成新的模式，回到我們談到的第一件事，以及新的能力和涌現屬性。也許我們正處于發現如何做到這一點的風口浪尖。

Lex: 是的，聽著，“阿爾法進化”是我見過的最酷的東西之一。我在家里的辦公桌上，大部分時間都花在那臺電腦上，只是編程。在三個屏幕旁邊是一個提塔利克魚的頭骨，它是早期從水中爬到陸地上的生物之一。我只是看著那個小家伙。這就像，無論進化的計算機制是什么，它都非常不可思議。真是，真是不可思議。現在，這是否正是我們需要用來進行搜索的方法，但永遠不要忽視自然的力量及其在此所做的事情。

德米斯: 是的。令人驚嘆的是，這實際上是一個相對簡單的算法，對吧。它可以產生所有這些巨大的復雜性。顯然，它是在超過40億年的時間里運行而產生的。但是，你可以再次將其視為一個搜索過程，該過程在宇宙的物理基質上運行了很長的計算時間。但隨后它產生了所有這些令人難以置信的、豐富的多樣性。

科學的品味：AI能提出偉大的猜想嗎

Lex: 所以，我有很多問題想問你。所以首先，你確實有一個夢想。你想嘗試建模的自然系統之一是細胞。這是一個美麗的夢想。我可以問你關于那個的問題。還有，就為此目的而言，在人工智能科學家方面，只是泛泛地說。所以丹尼爾科卡塔格里奧、斯科特亞歷山大和其他人寫了一篇文章，概述了通往人工智能超智能的步驟。它有很多有趣的觀點，其中之一是包括一個超人類程序員和一個超人類人工智能研究員。在那篇文章中，有一個“研究品味”的術語非常有趣。所以在你所看到的一切中，你認為人工智能系統有可能擁有研究品味嗎？能夠像人工智能合作科學家那樣幫助你，幫助引導人類，人類杰出的科學家，然后可能靠自己弄清楚你想在哪些方向上產生真正新穎的想法？因為這似乎是做好偉大科學的一個非常重要的組成部分。

德米斯: 是的，我認為品味或判斷力這個概念將是最難模仿或建模的事情之一。我認為這就是偉大科學家和優秀科學家的區別所在。像所有專業的科學家在技術上都很好，否則他們不會在學術界等方面取得如此大的成就。但是你是否有品味去嗅出正確的方向是什么，正確的實驗是什么，正確的問題是什么。所以選擇正確的問題是科學中最難的部分，以及提出正確的假設。這也是今天的系統絕對無法做到的。

所以我經常說，提出一個猜想，一個真正好的猜想，比解決它更難。所以我們可能很快就會有能夠解決相當困難的猜想的系統。你知道，我參與了數學奧林匹克競賽的問題，我們，你知道，去年的 Alpha Proof，我們的系統在那次競賽中獲得了銀牌，題目非常難。也許最終我們能夠解決一個千禧難題。但是一個系統能否提出一個值得研究的猜想，讓像陶哲軒這樣的人會說，你知道嗎，這是一個關于數學本質、數字本質或物理本質的非常深刻的問題。那是一種更難的創造力。我們現在真的不知道，今天的系統顯然做不到這一點。而且我們不太確定那種機制會是什么，這種想象力的飛躍，就像愛因斯坦在提出狹義相對論，然后根據他當時的知識提出廣義相對論時所擁有的。

Lex: 對于猜想，你想要提出一個有趣的東西，它易于證明。是的。所以，很容易提出一個極其困難的東西。很容易提出一個極其容易的東西，但就在那個邊緣。那個最佳點，對吧？

德米斯: 基本上是推進科學發展，并將假設空間理想地分成兩部分，對嗎？無論它是真是假，你都學到了一些非常有用的東西。那很難。并且制造出一些可證偽的東西，并在你目前可用的技術范圍內。所以這實際上是一個非常有創造性的過程，一個高度創造性的過程，我認為僅僅在模型之上進行一種幼稚的搜索是不夠的。

Lex: 好的，將假設空間分成兩部分的想法非常有趣。所以我聽你說過，基本上不存在失敗，或者如果問題構建得當，實驗構建得當，設計得當，那么失敗就非常有價值，也就是說，失敗或成功都是有用的。所以也許因為它將假設空間分成兩部分，就像一個二分搜索。

德米斯: 沒錯。所以當你做真正的藍天研究時，實際上并不存在失敗，只要你選擇的實驗和假設能夠有意義地分割假設空間。所以，你知道，如果你學到了一些東西，你可以從一個不成功的實驗中學到同樣有價值的東西。這應該能告訴你實驗設計是否合理，以及你的假設是否有趣，它應該能告訴你接下來該往哪個方向走。然后你實際上是在做一個搜索過程，并以非常有用的方式利用這些信息。

藍圖：模擬細胞與生命起源

Lex: 所以要實現你建模細胞的夢想，我們未來會面臨哪些重大挑戰？我們或許應該強調一下AlphaFold，我的意思是，這里面有很多飛躍。所以，如果說AlphaFold解決了蛋白質折疊問題，這是很公平的，而且有很多令人難以置信的事情可以討論，包括開源、你發布的一切。AlphaFold 3正在進行蛋白質、RNA、DNA的相互作用，這非常復雜且引人入勝。它適合建模。AlphaGenome預測了微小的基因變化，比如如果我們考慮單點突變，它們如何與實際功能聯系起來。所以，這看起來進展緩慢。從復雜到像細胞這樣更復雜的東西，但是細胞有很多非常復雜的組成部分。

德米斯: 是的，所以我整個職業生涯都在嘗試做的事情就是，我有一些非常宏偉的夢想。然后我嘗試，正如你注意到的，然后我嘗試分解，但我嘗試分解它們。任何，你知道，擁有一個瘋狂的雄心勃勃的夢想很容易，但訣竅在于如何將其分解為可管理的、可實現的、有意義且有用的中間步驟。因此，虛擬細胞，我這樣稱呼模擬細胞的項目，你知道，我一直想做這件事，可能已經超過25年了。

我過去經常和保羅納斯交談，他是我在生物學方面的一位導師。他負責，你知道，創立了克里克研究所，并在2001年獲得了諾貝爾獎。我們一直在談論這件事，你知道，在90年代之前。我過去每五年回來一次，就像，你需要什么來模擬細胞的完整內部結構，以便你可以在虛擬細胞上做實驗，以及那些實驗，你知道，在計算機上，并且這些預測對你來說是有用的，可以為你節省大量的濕實驗室時間，對吧？那將是夢想。也許你可以通過在計算機上完成大部分工作，在計算機上進行搜索，然后你在濕實驗室中進行驗證步驟，從而將實驗速度提高100倍。那會是，那是夢想。

所以，但也許現在終于，所以我試圖構建這些組件，AlphaFold只是其中之一，它最終能讓你模擬完整的互動，一個細胞的完整模擬。我可能會從酵母細胞開始，部分原因是保羅納斯研究過酵母細胞，因為酵母細胞就像一個完整的單細胞生物，對吧？所以它是最簡單的單細胞生物。所以它不僅僅是一個細胞，它是一個完整的生物體。而且人們對酵母的了解非常透徹。所以這將是進行完整模擬模型的一個好選擇。

現在，AlphaFold是解決蛋白質靜態圖像的方案，即3D結構蛋白看起來是什么樣子的，它是靜態圖像。但是我們知道生物學中，所有有趣的事情都發生在動態、互動中。而AlphaFold3是朝著模擬這些互動邁出的第一步。所以首先，成對地，你知道，蛋白質與蛋白質，蛋白質與RNA和DNA。但在那之后的下一步可能是建模整個通路，可能像參與癌癥的TOR通路或類似的東西。然后最終你也許能夠建模，你知道，整個細胞。

Lex: 此外，這里還有另一個復雜性，細胞中的物質發生在不同的時間尺度上。那很棘手嗎？這就像，你知道，蛋白質折疊是，你知道，超級快。我不了解所有的生物機制，但其中一些需要很長時間。是的。所以這是一個層次。因此，交互的層次具有不同的時間尺度，你必須能夠對其進行建模。

德米斯: 所以那會很難。所以你可能需要幾個模擬系統，它們可以在這些不同的時間動態中相互作用，或者至少可能像一個分層系統。所以你可以上下跳躍于不同的時間階段。

Lex: 所以你能否避免，我的意思是，這里的一個挑戰是不避免模擬，例如，任何這些的量子力學方面，對吧？你想要避免過度建模。你可以跳過，直接建模真正高層次的東西，從而讓你對即將發生的事情有一個非常好的估計。

德米斯: 是的，所以你在建模任何自然系統時必須做出決定，你要建模的粒度截止水平是什么，然后它捕獲你感興趣的動態。所以可能對于一個細胞來說，我希望那會是蛋白質水平，而且不必下降到原子水平。所以，你知道，當然，這就是AlphaFold大顯身手的地方。所以這將是基礎，然后你將構建這些更高層次的模擬，將這些作為構建塊，然后你得到涌現行為。

Lex: 提前為接下來可能很傻的問題道歉，但你認為我們能夠模擬一個關于生命起源的模型嗎？所以能夠模擬第一個，從非生物有機體到生物有機體的誕生。

德米斯: 我認為這是其中一個，當然，是最深刻和最引人入勝的問題之一。我喜歡生物學的那個領域。你知道，有些人像，尼克萊恩寫了一本很棒的書，他是這個領域的頂級專家之一，書名叫《進化的10大偉大發明》。我覺得這本書太棒了，它也說明了偉大的過濾器可能是什么，但是，你知道，它們是在我們之前還是在我們之后？如果你讀過那本書，我認為它們很可能存在于過去，書中講述了生命出現的可能性有多小，然后從單細胞到多細胞似乎是一個難以置信的巨大飛躍，我認為這在地球上花費了大約10億年的時間才完成，對吧？所以它告訴你這有多么困難，對吧？

Lex: 細菌在很長一段時間里都非常快樂。

德米斯: 在它們以某種方式捕獲線粒體之前，經歷了非常長的一段時間，對吧？我看不出為什么不，為什么人工智能不能在這方面提供幫助，某種模擬。再次強調，這又是一個在組合空間中進行搜索的過程。這是所有的，你知道的，化學湯，你開始的地方，原始湯，你知道的，也許它在地球上，在這些熱噴口附近。這是是一些初始條件。你能產生一些看起來像細胞的東西嗎？所以或許虛擬細胞項目之后的下一個階段是，好吧，你實際上如何能讓類似的東西從化學湯中涌現出來？

Lex: 嗯，如果生命起源有第37步就好了。我認為這是那種偉大的謎團之一。我認為最終我們會弄清楚它們是連續的，不存在非生命和生命之間的界限。但如果我們能使之嚴謹。是的。從大爆炸到今天，整個過程都是一樣的。如果我們能夠打破我們頭腦中構建的從非生命到生命的實際起源的壁壘，并且它不是一條線，而是一個連接物理、化學和生物學的連續體。是的，沒有界限。

德米斯: 我的意思是，這就是我一生致力于人工智能和通用人工智能的全部原因，因為我認為它可以成為幫助我們回答這類問題的終極工具。我不太明白為什么普通人不會更擔心這些事情。例如，我們怎么能沒有對生命、非生命和無生命、時間的本質，更不用說意識、引力以及所有這些事物有一個好的定義呢。還有，量子力學的怪異之處。對我來說，我一直有這種在我面前尖叫的感覺。整個，我需要那個，它變得越來越響。你知道，就像，怎么回事，這里發生了什么？我指的是最深刻的意義，比如現實的本質，這必須是能夠回答所有這些問題的終極問題。如果你仔細想想，這有點瘋狂。我們可以互相凝視，也可以一直觀察所有這些生物，我們可以在顯微鏡下檢查它們，幾乎可以將它們分解到原子層面。然而，我們仍然無法用一種簡單的方式清楚地回答這個問題：你如何定義生命？這有點令人驚奇。

Lex: 對于生命，你可以通過某種方式避免思考它，但就像意識一樣，我們顯然有這種主觀的意識體驗。就像我們處于自己世界的中心，并且感覺像是某種東西。然后，你怎能不對這一切的神秘感到驚呼呢？我的意思是，但實際上，人類一直在與周圍世界的神秘作斗爭，已經很久很久了，存在著許多謎團。比如太陽和雨是怎么回事？這是怎么回事？比如去年我們有很多雨，而今年我們沒有雨。我們究竟做錯了什么？人類已經問這個問題很久了。

德米斯: 所以我們相當，我想我們已經發展出許多機制來應對這些，這些我們無法完全理解的深刻奧秘，我們能看到，但我們無法完全理解。我們必須繼續日常生活。我們讓自己保持忙碌，對吧？在某種程度上，我們是否讓自己分心了？

Lex: 我的意思是，天氣是人類歷史上最重要的問題之一。我們仍然，天氣是首選的閑聊話題。是的，尤其是在英國。然后就是，眾所周知，這是一個極其難以建模的系統。即使是那個系統，谷歌DeepMind也取得了進展。

德米斯: 是的，我們有。我們已經創造了世界上最好的天氣預測系統，它們比通常在大型超級計算機上計算的傳統流體動力學系統更好，后者需要幾天時間來計算。我們已經設法用神經網絡系統，用我們的WeatherNet系統，模擬了許多天氣動態。而且，有趣的是，即使這些動態非常復雜，在某些情況下幾乎接近混沌系統，但它們仍然可以被建模。很多有趣的方面都可以通過這些神經網絡系統來建模，包括最近我們做的，關于颶風部分可能走向的颶風預測，當然，這對世界來說非常有用，非常重要。而且非常及時、非常快速以及非常準確地做到這一點至關重要。我認為這是一個非常有前景的方向，可以用來模擬，這樣你就可以對非常復雜的現實世界系統進行前瞻性預測和模擬。

Lex: 我應該提一下，我在德克薩斯州有機會遇到一個被稱為“追風者”的群體。是的。關于他們真正令人難以置信的是，我需要和他們多聊聊，他們對技術非常精通，因為他們必須使用模型來預測風暴的位置。所以這是一種奇妙的結合，既要足夠瘋狂去進入風暴眼，又要為了保護你的生命并預測極端事件將發生在哪里，他們必須擁有越來越精密的 weather 模型。是的，這是一種美妙的平衡，既要像生物體一樣身處其中，又要掌握最前沿的科學。所以他們實際上可能會使用 DeepMind 系統。所以那是...

德米斯: 是的，希望他們正在使用。而且我很想加入他們的追逐行動。它們看起來很棒，對吧？真正體驗一次。

Lex: 沒錯。而且還能體驗到正確的預測，知道某事將發生在哪里以及它將如何演變。這太不可思議了。是的。

通往AGI之路：定義、測試與挑戰

Lex: 你估計我們將在2030年實現通用人工智能（AGI）。所以圍繞這一點存在著有趣的問題。我們如何才能真正知道我們已經達到了目標？通用人工智能的第37步棋可能是什么？

德米斯: 我的估計是在未來五年內有大約50%的幾率。所以，你知道，比如說，到2030年。所以我認為很有可能發生這種情況。其中一部分取決于你對通用人工智能的定義是什么？當然，人們現在正在爭論這個問題。而我的標準一直很高，比如，我們能否匹配大腦所擁有的認知功能？所以我們知道我們的大腦幾乎是通用的圖靈機，近似的。當然，我們用我們的頭腦創造了令人難以置信的現代文明。這也說明了大腦的普遍性。

為了知道我們是否擁有真正的人工通用智能（AGI），我們必須確保它擁有所有這些能力。它不是一種參差不齊的智能，在某些方面，比如今天的系統，它非常擅長，但在其他方面，它又存在缺陷。這就是我們目前通過今天的系統所擁有的。它們不一致。所以你會希望在各個方面都保持這種智能的一致性。然后我們還有一些缺失的能力，我認為，比如我們之前談到的真正的發明能力和創造力。所以你會希望看到這些。

如何測試呢？我認為你只需要測試它。一種方法是對數以萬計的人類可以做的認知任務進行某種程度的暴力測試，并且可能讓世界頂尖的數百位專家，即各個學科領域的泰倫斯陶，使用這個系統，看看他們是否能找到明顯的缺陷，比如給他們一兩個月的時間看看他們能不能找到。如果他們找不到，那么我認為你就可以相當自信地說我們擁有一個完全通用的系統。

Lex: 也許稍微反駁一下，似乎人類在所有領域都隨著智力的提高而變得非常不可思議，以至于認為這是理所當然的。就像你提到的泰倫斯陶，這些杰出的專家，他們可能會在短短幾周內迅速將它能做的所有不可思議的事情視為理所當然，然后專注于“啊哈，就在那里”。你知道，首先，我認為自己是人類。我把自己定義為人類。你知道，有些人聽我說話，他們會覺得，那家伙不擅長說話，結結巴巴的，你知道的。所以即使是人類，即使在數學和物理學等等領域之外，也有明顯的跨領域局限性。我想知道是否需要像第37步這樣的舉動，從積極的方面來說，而不是像10000個認知任務的狂轟濫炸，在這10000個任務中，可能有一兩個任務讓人覺得，我的天，這太特別了。

德米斯: 沒錯，所以我認為既要進行全面測試，以確保一致性，也要關注像圍棋37手那樣的燈塔時刻。其中一個就是像愛因斯坦那樣，提出關于物理學的新猜想或新假設。所以也許你可以非常嚴格地對它進行回溯測試，比如設置1900年的知識截止點，然后給系統提供1900年之前的所有文獻，看看它是否能提出狹義相對論和廣義相對論，對吧？就像愛因斯坦做的那樣。那將會是一個有趣的測試。另一個是，它能否發明一種像圍棋一樣的游戲？ 不僅僅是提出圍棋37手，一種新的策略，而是能否發明一種像圍棋一樣深刻、具有美感和優雅的游戲？這些是我會關注的事情，而且可能需要一個系統能夠完成其中幾件事，對吧，才能使其非常通用，而不僅僅局限于一個領域。所以我認為這些跡象，至少是我會尋找的跡象，表明我們擁有一個達到通用人工智能（AGI）水平的系統。然后也許為了完善它，你還會檢查一致性，確保系統中也沒有漏洞。

Lex: 是的，類似新的猜想或科學發現。那會是一種很酷的感覺。

德米斯: 是的，那會非常棒。所以它不僅僅是幫助我們做到這一點，而且實際上是在提出全新的東西。

Lex: 而你也會參與其中。這樣的話，可能要在宣布之前兩到三個月。而你只會坐在那里，努力不發推特。

德米斯: 諸如此類，沒錯。這就像，這個驚人的新物理學想法是什么？然后我們可能會與該領域的全球專家核實，對吧？并驗證它，并仔細檢查它的運作方式。我想這也包括解釋它的運作方式。是的，那將是一個了不起的時刻。

Lex: 您是否擔心我們人類，甚至是像您這樣的專家，可能會錯過它？

德米斯: 嗯，它可能非常復雜。所以可能是，我給出的類比是，我認為對于最優秀的人類科學家來說，它不會完全神秘，但可能有點像，例如，在國際象棋中，如果我和加里卡斯帕羅夫或馬格努斯卡爾森交談并和他們下棋，他們走了一步妙棋，我可能想不出那一步棋，但之后他們可以解釋為什么那一步棋有意義。我們可以在某種程度上理解它。達不到他們的水平，但如果他們善于解釋，這實際上也是智力的一部分，即能夠用簡單的方式解釋你在想什么。我認為對于最優秀的人類科學家來說，這非常有可能。

Lex: 但我在想，也許您可以在圍棋方面給我一些指導。我想知道，馬格努斯或加里是否有某些棋步，他們起初會認為這是臭棋。

德米斯: 是啊，當然。有可能。但之后他們會憑直覺弄明白為什么這樣有效。然后從經驗上來說，游戲的好處之一是，游戲最棒的地方之一是你可以把它當作一種科學測試。你能贏得游戲嗎？還是不能？然后它會告訴你，好吧，最終這一步走得很好。這個策略是好的。然后你可以回過頭來分析它，甚至向自己更多地解釋為什么，并圍繞它進行探索。象棋分析和類似的事情就是這樣運作的。所以也許這就是為什么我的大腦會這樣運作，因為我從四歲起就開始這樣做了。而且你接受過訓練，從某種程度上來說，那是種硬核訓練。

Lex: 但即使是現在，比如當我生成代碼時，也會出現這種細微的、引人入勝的爭論，我一開始可能會認為一組生成的代碼在某些有趣的細微之處是不正確的。但我總是不得不問這個問題，這里面是否隱藏著更深層的見解，而實際上是我自己錯了？隨著系統變得越來越智能，你將不得不面對這個問題。這就像，什么，什么，你，這是你提出的一個漏洞還是一個特性？

德米斯: 是的，而且它們將會非常復雜，但當然，你可以想象也會有AI系統生成那些代碼或其他什么。然后人類程序員會查看它，但也會借助AI工具的幫助。所以這將會是一種有趣的，你知道，也許不同的AI工具，和那些監控工具比起來，它們更像是生成工具。

Lex: 所以如果我們看一個AGI系統，抱歉又提起來了，但Alpha Evolve，超級酷。因此，Alpha Evolve 在編程方面實現了遞歸式自我改進之類的可能性。如果我們能想象那個通用人工智能系統，也許不是第一個版本，而是之后的幾個版本，它實際上會是什么樣子？你認為它會很簡單嗎？你認為它會像是簡單的自我改進程序嗎？

德米斯: 我的意思是，這有可能是可行的，我會這么說。我不確定這是否是人們所期望的，因為這有點像是硬起飛 （情景），但是像Alpha Evolve這樣的當前系統，你知道，它們有人工參與來決定各種事情。它們是獨立的混合系統，彼此交互。人們可以想象最終實現端到端。我不明白為什么這不可能，但現在，你知道，我認為這些系統還不夠好，無法在提出代碼架構方面做到這一點。

并且，它與提出新的推測性假設的想法有些重新連接。就像，如果你給他們關于你試圖做什么的非常具體的指示，他們就做得很好，但是如果你給他們非常模糊的高級指示，目前這是行不通的。比如，我認為這與發明一款像圍棋一樣好的游戲有關，對吧？想象一下，這就是提示。這就太不明確了。所以我認為，目前的系統不知道該如何處理，如何將其縮小到可處理的范圍。而且我認為也有類似的，比如，只是做一個更好的自己。這太不受約束了。

但是我們已經做到了，你知道，正如你所知，通過Alpha Evolve，比如更快的矩陣乘法。所以當你把它磨練成你想要的非常具體的東西時，它非常擅長逐步改進它。但目前，這些更像是漸進式的改進，有點像小的迭代。然而，你知道，如果你想要在理解上取得巨大的飛躍，你需要一個更大的進步。

Lex: 是的，但它也可能是為了反擊硬著陸情景。它可能只是一系列漸進式的改進，比如矩陣乘法。就像它必須在那里坐幾天，思考如何逐步改進一件事。并且它是以遞歸的方式進行的。并且隨著你做越來越多的改進，你的速度會減慢。對。就像，就像通往通用人工智能的道路不會是，它會是隨著時間的推移而逐漸改進。

德米斯: 是的。如果只是漸進式的改進，那它看起來就會是那樣。所以問題是，它能否提出一個新的飛躍，就像Transformer架構？是的。就像，它能否在2017年做到這一點，你知道，當我們和Brain做到這一點時？并且這些系統，像Alpha Evolve這樣的東西，是否能夠做出如此大的飛躍，這一點尚不清楚。所以可以肯定的是，這些系統很好。我認為，我們擁有可以進行增量爬坡的系統。這就引出了一個更大的問題，那就是從現在開始，是否只需要這些就夠了？或者我們是否真的需要一兩個更大的突破？

Lex: 同樣的系統也能提供突破嗎？所以把它做成一堆S型曲線。比如漸進式改進，但也時不時地有飛躍。

德米斯: 是的。我認為沒有人擁有可以明確展示這些巨大飛躍的系統。對吧？我們有很多系統可以進行你當前所處的S型曲線的爬坡。

Lex: 是的。那應該是第37步，是嗎？

德米斯: 是的。我認為會是一個跳躍，類似那樣的。

計算、能源與文明的未來

Lex: 你認為縮放定律在預訓練、后訓練、測試時間和計算方面都保持強勁嗎？反過來說，你是否預計人工智能的進展會遇到瓶頸？

德米斯: 我們當然覺得在擴展方面還有很大的空間。所以實際上是所有步驟，預訓練、后訓練和推理時間。所以有三種擴展同時發生。我們再次強調，這取決于你有多大的創新能力。我們為自己擁有最廣泛和最深入的研究團隊而感到自豪。我們擁有杰出、令人難以置信的研究人員，比如諾姆沙澤爾，他提出了Transformer模型，還有戴維席爾瓦，他領導了AlphaGo項目等等。這種研究基礎意味著，如果需要像AlphaGo或Transformer這樣的新突破，我會支持我們成為實現突破的地方。

所以實際上我非常喜歡地形變得更加困難，對吧？因為這樣它就更多地從單純的工程轉向真正的研究，或者研究加上工程。那是我們的優勢所在。而且我認為這更難。發明東西比快速跟進更難。因此，我們不知道，我想說這有點像五五開，是否需要新的東西，或者擴展現有東西是否就足夠了。所以以一種真正的經驗主義的方式，我們正在盡可能地推動這兩方面。全新的藍天創意，也許我們大約一半的資源都投入在其中。然后擴展到最大限度，即當前的能力。

Lex: 我們仍然看到 Gemini 的每個不同版本都取得了令人驚嘆的進展。你用深度儲備來描述它的方式很有意思，如果通往 AGI（通用人工智能）的進展不僅僅是擴展計算能力，還包括問題的工程方面，并且更多地是科學方面，需要突破，那么你是否認為 DeepMind，或者說 Google DeepMind，也同樣有能力在該領域大展拳腳。

德米斯: 嗯，我的意思是，如果你回顧過去十年或十五年的歷史，也許，我不知道，支撐當今現代人工智能領域的 80%、90% 的突破最初都來自 Google Brain、Google Research 和 DeepMind。所以，是的，我希望并支持這種情況繼續下去。

Lex: 那么在數據方面，您是否擔心高質量數據，尤其是高質量的人類數據會耗盡？

德米斯: 我不太擔心，部分原因是我認為有足夠的數據，而且已經證明這些數據足以讓系統變得相當好。這又回到了模擬。如果你有足夠的數據來進行模擬，這樣你就可以創建更多來自正確分布的合成數據。顯然，這是關鍵。因此，你需要足夠的真實世界數據，才能創建那些類型的數據生成器。我認為我們目前正處于那個階段。

Lex: 是的，你在科學和生物學方面做了很多了不起的事情，用不多的數據做了很多。是的。我是說，數據仍然很多，但我猜足以起飛。

德米斯: 讓它運轉起來，沒錯。的確如此。

Lex: 計算規模的擴大對于構建AGI有多么關鍵？ 這是一個工程問題。這幾乎是一個地緣政治問題，因為它也融入了供應鏈和能源，這是你非常關心的問題，即潛在的核聚變。也在能源方面進行創新。你認為我們會繼續擴大計算規模嗎？

德米斯: 我也這么認為。有幾個原因。我認為計算方面，存在用于訓練的計算量的問題。通常需要將它們放置在同一地點。所以實際上，即使是數據中心之間的帶寬限制也會影響這一點。所以即使在那方面也有額外的限制。這對訓練來說很重要，顯然可以訓練出最大的模型。而且，由于現在人工智能系統已應用于產品中，并被全球數十億人使用，因此現在需要大量的推理計算。除此之外，還有思考系統，這是去年出現的新范式，即在測試時給予它們越長的推理時間，它們就會變得越聰明。

所以所有這些都需要大量的計算。我真的沒看到這種趨勢會放緩。隨著人工智能系統變得更好，它們將變得更有用，對它們的需求也會更大。因此，無論是從訓練方面來說，訓練方面實際上只是其中的一部分，甚至可能成為總體計算需求中較小的一部分。

Lex: 是的，這有點像一個迷因梗，就像VEO3的成功和令人難以置信之處。人們會拿這個開玩笑，比如，它越成功，服務器就越辛苦。是的，完全正確。為了進行推理。

德米斯: 是的，是的，完全正確。我們做了一個小視頻，關于服務器煎雞蛋之類的，沒錯。我們必須想辦法解決這個問題。我們有很多有趣的硬件創新要做。正如你所知，我們有自己的TPU產品線，并且正在研究諸如僅推理事物、僅推理芯片以及如何提高效率的問題。我們也非常有興趣構建人工智能系統，并且已經在能源使用方面提供了幫助。例如，幫助數據中心節能，像冷卻系統那樣提高效率，優化電網，最終還有幫助等離子體約束聚變反應堆之類的事情。我們與聯邦聚變公司在這方面做了很多工作，而且人們可以想象反應堆設計，我認為材料設計是最令人興奮的。新型太陽能材料、太陽能電池板材料、超棒的室溫超導體一直是我夢想突破和優化電池的清單上的項目。而且我認為，任何一個問題的解決方案都將對氣候和能源使用產生絕對性的革命。而且我們可能已經接近了，并且在未來5年內將擁有能夠切實幫助解決這些問題的人工智能系統。

Lex: 如果你要下注，很抱歉這個問題很荒謬，但在20、30、40年后，主要的能源來源會是什么？你認為會是核聚變嗎？

德米斯: 我認為聚變和太陽能是我會押注的兩種能源。太陽，我的意思是，當然，它是天空中的聚變反應堆。而且我認為真正的問題在于電池和傳輸。因此，除了更高效、越來越高效的太陽能材料之外，或許最終會在太空，類似于戴森球類型的想法。而聚變，我認為絕對是可行的，看起來，如果我們有正確設計的反應堆，并且能夠足夠快地控制等離子體等等。而且我認為這兩件事實際上都會得到解決。所以我們可能至少會擁有，那些可能是可再生、清潔、幾乎免費，或者可能免費能源的兩個主要來源。

Lex: 真是個美好的時代。如果我與你一起穿越到100年后的未來，如果我們已經超越了1型卡爾達肖夫文明，你會感到多么驚訝？

德米斯: 如果從現在開始有大約100年的時間尺度，我不會感到那么驚訝。我的意思是，我認為很明顯，如果我們以我們剛才討論的其中一種方式解決了能源問題，即聚變或非常高效的太陽能，那么如果能源是某種程度上免費、可再生且清潔的，那么這將解決一大堆其他問題。舉例來說，用水問題就消失了，因為你可以直接使用海水淡化。我們有這項技術，只是太貴了。所以只有像新加坡和以色列等相當富裕的國家才會實際使用它。但如果它很便宜，那么所有有海岸線的國家都可以使用。而且你還會擁有無限的火箭燃料。你可以用能量將海水分離成氫和氧，那就是火箭燃料。再加上埃隆令人驚嘆的自著陸火箭，那就可能像太空巴士服務一樣。這就開啟了令人難以置信的新資源和領域。我認為小行星采礦將會成為現實，并將人類的繁榮推向星辰。這也是我夢想的，就像卡爾薩根的那種將意識帶到宇宙，喚醒宇宙的想法。而且我認為如果我們正確地使用人工智能并解決它帶來的一些問題，人類文明將在完整的時間意義上做到這一點。

Lex: 是的，我想知道，如果你只是一個在太空中飛行的游客，那會是什么樣子，你可能會注意到地球，因為如果你解決了能源問題，你可能會看到很多太空火箭。所以這就像倫敦的交通一樣，只是在太空中，有很多火箭。然后你可能會看到漂浮在太空中的某種能源，比如太陽能。所以地球表面看起來會更加科技化。然后你將利用這種能量的力量來保護自然，比如熱帶雨林和所有類似的東西。

德米斯: 因為在人類歷史上，我們第一次不會受到資源限制。而且我認為那可能是人類一個了不起的新時代，不再是零和博弈，對吧？我擁有這片土地，而你沒有。或者如果老虎擁有它們的森林，那么當地村民就不能，他們該怎么辦？我認為這會有很大幫助。不，它不會解決所有問題，因為仍然存在其他人類弱點，但至少會消除一個，我認為是其中一個主要因素，即資源的稀缺，包括土地和更多的材料和能源。我們應該像一些人所說的那樣，進入另一種關于這種徹底富足時代的學派，在這個時代里有充足的資源可以分配。當然，下一個大問題是確保公平分配，并且社會中的每個人都能從中受益。

人性的游戲：沖突、意義與合作

Lex: 所以關于人性，我總覺得，就像《波拉特》里一樣，像我的鄰居，就像你挑起事端，我們確實會引發沖突。這就是為什么游戲一直以來，正如我實際上越來越多地了解到的那樣，即使在古代歷史上，也起到了使人們遠離戰爭，實際上是熱戰的目的。所以也許我們可以設計出越來越復雜的電子游戲，來滿足我們的那種沖動，那種類似于沖突的渴望，無論那是什么關于我們，關于人性的東西，然后避免實際的熱戰，因為隨著日益精密的技術，我們早已過了我們所能創造的武器實際上可以摧毀所有人類文明的階段。所以，再也不能用與鄰居開戰的方式來挑起事端了。最好是下盤棋。

德米斯: 或者踢足球。或者足球，是的。我認為這就是我的現代運動。我喜歡足球，喜歡觀看。我只是覺得，而且我過去也經常踢足球。它非常發自內心，而且具有部落性。我認為它確實將很多能量導入到一個，我認為這是一種人類需要歸屬于某個群體的需求。但是進入一個有趣的方式，一個健康的方式，和一個非破壞性的方式，一種建設性的事物。

而且我認為再次回到游戲，我認為最初它們之所以如此偉大，比如讓孩子們玩象棋，是因為它們是很好的小規模世界模擬。它們也是世界的模擬。它們是某些現實世界情況的簡化版本，無論是撲克、圍棋還是象棋，現實世界的不同方面或者外交的不同方面。它也允許你練習這些。而且，你知道，你一生中有多少次機會練習一個重大的決策時刻？你知道，該選擇什么工作？該去哪所大學？你知道，你也許會，我不知道，一個人大概需要做出十幾個左右的關鍵決定。而且你必須盡可能地把這些決定做好。游戲是一種安全的環境，可重復的環境，在那里你可以提高你的決策過程。并且它可能還有這個額外的好處，可以將一些精力引導到更具創造性和建設性的追求中。

Lex: 嗯，我認為練習失敗和獲勝也非常重要。對。比如失敗真的是，你知道，這就是為什么我喜歡游戲。這就是為什么我喜歡巴西柔術之類的東西，在那里你可以在安全的環境中一次又一次地被打敗。它提醒你關于方式、關于物理學、關于世界運作的方式，關于有時你輸，有時你贏。你仍然可以和每個人成為朋友。是的。那種失敗的感覺。我的意思是，對于我們人類來說，真正理解它是一件很奇怪的事情。就像那是生活的一部分。失敗是生活的一個基本組成部分。

德米斯: 是的。而且我認為在武術中，正如我所理解的那樣，但在像輕量級國際象棋這樣的事情中，至少我所理解的方式是，它與自我提升、自我認知有很多關系，你知道，好吧。所以我做了這件事。這與真正超越另一個人無關。這是關于最大化你自己的潛力。如果你以一種健康的方式去做，你就會學會如何利用勝利和失敗。不要被勝利沖昏頭腦，認為你就是世界上最棒的。失敗讓你保持謙遜，并且始終明白總有更多東西需要學習。總有更資深的專家可以指導你。你知道，我想你會學到這些。我很確定在武術中是這樣。我認為這也是至少我接受國際象棋訓練的方式。因此，以同樣的方式，它可以非常硬核，非常重要。當然，你想要贏，但你也需要學習如何以一種健康的方式處理挫折，并將你失去某些東西時的那種感覺轉化為建設性的東西，例如下次我要改進這一點，對吧？或者在這方面做得更好。

Lex: 有些東西是幸福的源泉，是意義的源泉，它改進了這種狀況。這與輸贏無關。

德米斯: 是的，精通。在某種程度上，沒有什么比“哇，這件我以前做不到的事情”更令人滿足的了。現在我可以了。再次，游戲、體育運動和腦力運動都是衡量的方式。它們很棒，因為你可以衡量這種進步。

Lex: 是的。我的意思是，有些東西，我想這就是我喜歡角色扮演游戲的原因，比如技能樹上的數字在增長。就像字面意義上那樣，那是我們人類意義的來源。

德米斯: 無論我們如何——是的，我們非常沉迷于這種，是的，這些數字不斷增長，也許這就是我們制作此類游戲的原因，因為很明顯，這是我們自己也在進行爬山算法的系統，對吧？

Lex: 是的，如果我們沒有任何機制，那將是非常可悲的。彩色腰帶，我們到處都這么做，對吧？在那里我們只是擁有這樣一件很棒的事情。而且我不想否定這一點。那是我們人類深刻意義的來源。

領導力與創新：重塑谷歌AI

Lex: 所以在商業和領導力方面，最令人難以置信的故事之一是谷歌過去一年所做的事情。所以我認為可以公平地說，一年前，谷歌在LLM產品方面因Gemini 1.5而失利，而現在憑借Gemini 2.5而獲勝，你掌舵并領導了這項工作。在一年之內，從所謂的“失敗”到所謂的“獲勝”，需要付出什么？

德米斯: 是的，首先，我們的團隊絕對是令人難以置信的，你知道，由科里、杰夫迪恩和奧里爾以及我們在 Gemini 上的出色團隊領導。絕對是世界一流的。所以，沒有最優秀的人才，你做不到。當然，你知道，我們也有大量的強大計算能力，但更重要的是我們創造的研究文化，對吧？基本上是將谷歌的不同團隊聚集在一起，你知道，有世界一流的谷歌大腦團隊，然后是之前的 DeepMind，匯集所有最優秀的人才和最佳的想法，齊心協力打造我們所能做到的最偉大的系統。

這很困難，但我們都非常有競爭力，而且，你知道，我們熱愛研究。做這件事太有趣了。而且，你知道，很高興看到我們的發展軌跡。這并非理所當然，但我們對我們目前所處的位置以及進步的速度感到非常滿意，這是最重要的事情。所以，如果你看看我們從兩年前到現在，再到一年前到現在的發展歷程，你知道，我認為我們的，我們稱之為“沿著持續不斷的進步方向持續交付”的做法非常成功。而且，你知道，整個領域，整個 AI 領域，競爭異常激烈，世界上一些最偉大的企業家、領導者和公司都在參與競爭，因為每個人都意識到 AI 有多么重要。而且看到這種進步，我們感到非常高興。

Lex: 你知道，谷歌是一家龐大的公司。你能談談在這種情況下自然發生的事情嗎，比如出現的官僚主義。比如，你想要小心，你知道，就像那種自然的，會有會議，會有經理，像這樣，從領導力的角度來看，突破這些挑戰是什么，以便像你說的，交付，就像過去一年交付的與Gemini相關的產品數量簡直是瘋了。

德米斯: 對，確實是。是的，沒錯。這就是堅持不懈的樣子。我認為這是一個問題，就像任何大公司一樣，最終都會有很多管理層級之類的事情，這在某種程度上是其運作方式的本質。但我仍然以創業公司的狀態運營，我一直以老DeepMind作為一家創業公司來運營。規模很大，但仍然是一家創業公司。這也是我們今天仍然像對待谷歌DeepMind那樣行事的方式，以果斷的決心和從最佳小型組織中獲得的活力行事。

我們試圖兼得兩全，既擁有數十億用戶、界面和令人難以置信的產品，我們可以用人工智能和我們的研究來增強它們。這太棒了。而且你知道，世界上很少有地方能讓你一方面進行令人難以置信的世界級研究，另一方面又能將其應用并改善數十億人的生活。這真是一個了不起的結合。我們不斷地奮斗并削減官僚主義，以允許研究文化和堅持不懈的交付文化蓬勃發展。我認為我們已經取得了相當好的平衡，同時對此負責，你知道，作為一個大公司，你必須這樣做，而且擁有大量的、你知道的、巨大的產品界面。

Lex: 所以你說的關于十億級用戶界面的事情很有趣，我和一位名叫歐文芬克爾的家伙聊過，他是大英博物館一位杰出的家伙。他是楔形文字的世界級專家，楔形文字是古代寫在泥板上的文字。他不了解ChatGPT或Gemini。他甚至不認識任何人工智能，但他第一次接觸到人工智能是在谷歌上的AI模式。是的。他說，這就是你所說的這種人工智能模式嗎？然后，你知道，這只是提醒我們，世界上還有很大一部分人并不了解人工智能這件事。

德米斯: 是的，我知道這很滑稽。因為如果你生活在X和Twitter上，我的意思是，至少在我的訂閱源里，全部都是人工智能。而且在某些地方，你知道，在硅谷和某些區域，每個人都在思考人工智能。但是很多普通人還沒有接觸過它。

Lex: 但是他們的第一次互動肩負著重大的責任。是的。廣闊的印度農村或世界任何地方的規模。對，對。

德米斯: 我們希望它盡可能好。在很多情況下，它只是在后臺驅動，使地圖或搜索等功能運行得更好。理想情況下，對很多人來說，這應該是無縫銜接的。這只是一種新技術，它讓他們的生活更有成效，并幫助他們。

Lex: Gemini產品和工程團隊中的很多人都對你的另一個維度評價很高，這幾乎出乎我的意料。因為我有點把你當作深奧的科學家，關心這些重大的研究科學問題。但他們也說你是個很棒的產品人，比如如何創造一款很多人會使用并樂于使用的產品。那么你能談談創造一款很多人會樂于使用的基于人工智能的產品需要什么嗎？

德米斯: 是的，嗯，我的意思是，這又回到了我游戲設計的日子，那時我過去為數百萬游戲玩家設計游戲。人們會忘記這一點。我在產品中使用尖端技術方面有經驗。這就是九十年代游戲的樣子。所以我真的很喜歡尖端研究與產品應用以及為全新體驗提供支持的結合。因此，我認為這實際上是同一種技能，即設身處地地想象使用它的感受，并且如先前所說，擁有良好的品味。我認為，在科學中有用的東西，在產品設計中也同樣有用。

我一直是一個跨領域的人。所以我真的看不到藝術和科學、產品和研究之間的界限。對我來說，這是一個連續統一體。我的意思是，我只從事尖端產品的研發，我喜歡這樣做。我需要引擎蓋下的尖端技術。如果它們只是普通的常規產品，我就不會對它們感到興奮。因此，這需要發明創造能力。

人機交互的未來：從聊天框到心靈感應

Lex: 當您在LLM方面與Gemini互動時，您具體學到了一些什么？比如，您覺得布局、界面、或者延遲之間的權衡，例如如何呈現給用戶，等待多久，以及如何展示這種等待，或者推理能力。這里有一些有趣的東西，因為就像你說的，它非常前沿。我們不知道如何正確地呈現它。那么你學到了一些具體的東西嗎？

德米斯: 我的意思是，這是一個快速發展的領域。我們一直在評估這些，但我們目前的觀點是，你想要不斷地簡化事物，無論是界面還是你在模型之上構建的東西。你想擺脫模型的束縛。模型列車正沿著軌道駛來，而且正在以令人難以置信的速度改進。我們之前談到的這種 relentless 進步，你看看 2.5 版本與 1.5 版本，這簡直是一個巨大的改進。而且我們期望未來版本也能如此。因此，這些模型正變得更加強大。

所以，在當今世界，關于AI優先產品的設計空間，有趣之處在于，你所設計的不是針對該事物今天能做什么，或者今天的技術能做什么，而是針對一年后。所以你實際上必須是一個非常懂技術的產品人員，因為你必須對以下情況有很好的直覺和感覺：好的，我現在夢想的東西今天無法實現，但研究路線圖是否按計劃在六個月或一年內基本實現這一目標？因此，你必須掌握這項高度變化的技術的發展方向，以及不斷涌現的新功能，你以前沒有意識到這些新功能，但它們可以使深度研究發揮作用，或者現在我們有了視頻生成，我們該如何利用它？

這個多模態的東西，我有一個問題是，它真的會是我們今天擁有的當前用戶界面嗎？一旦你考慮到這些超級多模態系統，這些文本框聊天似乎不太可能，它不應該更像是《少數派報告》中的東西，你在某種協作方式中與之產生共鳴，對嗎？今天看來非常受限制。我認為我們回顧今天的界面、產品和系統，可能會覺得它們在短短幾年內就相當過時了。所以我認為在產品方面以及研究方面實際上都有很大的創新空間。

Lex: 然后我們在私下討論這個鍵盤的問題，未決的問題是，我們會在何時、以何種程度轉向以音頻作為與周圍機器交互的主要方式，而不是打字？

德米斯: 是的，我的意思是，即使你打字速度很快，打字也是一種帶寬非常低的交互方式。我認為我們將不得不開始利用其他設備，無論是智能眼鏡、音頻、耳塞，最終可能是一些神經設備，以便我們可以將輸入和輸出帶寬提高到現在的100倍。

Lex: 我認為被低估的藝術形式是界面設計。但我認為，如果沒有合適的界面，你就無法釋放一個系統的智能力量。界面實際上是你釋放其力量的方式。如何做到這一點是一個非常有趣的問題。你會認為不礙事才是真正的藝術形式。

德米斯: 是的，這有點像我想史蒂夫喬布斯總是談論的那樣，對吧？我們想要的是簡潔、美觀和優雅，對吧？而且我們還沒到那一步，依我之見，還沒人達到那一步。這就是我希望我們達到的目標。再次，這有點像再次出發，對吧？作為一款游戲，最優雅、最精美的游戲。你能做出一個像那樣的精美界面嗎？實際上，我認為我們將進入一個由人工智能生成的界面時代，這些界面可能是為你量身定制的。因此，它符合你的方式、你的審美、你的感覺以及你的大腦運作方式。人工智能會根據任務來生成這些，你知道，感覺這可能就是我們將要發展的方向。

Lex: 是的，因為有些人是高級用戶，他們希望屏幕上顯示每一個參數，一切都基于此，比如我，使用基于鍵盤的導航。我希望一切都有快捷方式。而且有些人喜歡極簡主義。只是隱藏所有這些復雜性，是的，沒錯。嗯，我很高興你也有史蒂夫喬布斯模式，這太棒了。愛因斯坦模式，史蒂夫喬布斯模式。

AGI競賽與全球合作

Lex: 好了，讓我試著引誘你回答一個問題。Gemini 3 什么時候發布？它是在 DTS 6 之前還是之后？世界都在等待這兩者。從 2.5 到 3.0 需要什么？因為似乎已經發布了很多 2.5 的版本，它們在性能上已經有了飛躍。那么，升級到新版本到底意味著什么呢？是關于性能嗎？還是關于一種完全不同的體驗？

德米斯: 是的，嗯，所以我們不同的版本號運作方式是，我們，你知道，我們嘗試收集，所以可能需要，你知道，大約6個月或類似的時間來完成一次新的完整運行和新版本的完整產品化。在此期間，會出現許多新的有趣的研究迭代和想法。我們將它們收集在一起，你知道，你可以想象過去6個月在架構方面產生的所有有趣的想法。也許是在數據方面，就像許多不同的可能性。我們收集這些，將其打包在一起，測試哪些可能對下一次迭代有用，然后將所有這些捆綁在一起。然后我們開始新的，你知道，巨大的英雄訓練運行，對吧？然后當然會對其進行監控。

然后在預訓練結束時，還有所有的后訓練，有很多不同的方法可以做到這一點，不同的修補方法。所以那里有一個完整的實驗階段，你也可以從中獲得很多收益。這就是你通常看到的版本號指的是基礎模型，預訓練模型的地方。然后是2.5的中間版本，你知道，以及不同的尺寸和不同的小補充，它們通常是補丁或后訓練的想法，可以在相同的基本架構上之后完成。當然，最重要的是，我們還有不同的尺寸，Pro和Flash以及Flashlight，它們通常是從最大的那些中提煉出來的，你知道，Flash模型來自Pro模型。這意味著如果我們是開發者，我們有一系列不同的選擇，你想優先考慮性能還是速度，對吧？還有成本。我們喜歡把這看作是帕累托前沿，你知道，一方面，Y軸是，你知道，像性能一樣，然后X軸是，你知道，成本或延遲和速度，基本上。我們有完全定義前沿的模型。所以無論你作為個人用戶或開發者想要什么樣的權衡，你都應該找到一個我們的模型來滿足這個約束。

Lex: 所以在轉移性改變的背后，有一場大型的英雄行動。是的。然后就是產品化過程中瘋狂的復雜性。然后是對沿著帕累托前沿不同規模的提煉。然后隨著你采取的每一步，你意識到可能會有一個很棒的產品。還有支線任務。

德米斯: 是的，完全正確。

Lex: 但是，而且你也不想接受太多的支線任務，因為那樣你就會有一百萬個版本的一百萬個產品。是的， .這非常不清楚，但你也會超級興奮，因為它超級酷。比如怎么會，你看VEO，非常酷。它如何融入更大的事物中？

德米斯: 沒錯，沒錯。然后你不斷地進行這個向上游收斂的過程，我們稱之為，你知道，來自產品表面的想法，或者來自訓練后，甚至更下游的想法，你將這些向上游輸送到核心模型訓練中，用于下一次運行，對吧？這樣，主模型，主要的 Gemini 軌道變得越來越通用。

Lex: 最終，你知道，通用人工智能。一次一次的英雄運行。

德米斯: 是的，沒錯。幾次英雄運行之后。

Lex: 是的。所以有時當你發布這些新版本，或者實際上是每個版本時，基準測試對于展示模型的性能是有益的還是適得其反的？

德米斯: 你需要它們。我敢打賭，重要的是你不要過度擬合它們。對吧？所以不應該有一個一勞永逸的結局。于是就有了LM競技場，或者過去被稱為Alemsis。那是其中之一，它以一種有機的方式成為了人們測試這些系統（至少是聊天機器人）的主要方式之一。顯然，有大量的學術基準，用于測試數學和編碼能力、通用語言能力、科學能力等等。然后我們有我們自己關心的內部基準。這是一種多目標，你知道的，優化問題，對吧？你不想只擅長一件事。我們正試圖構建在各個方面都表現良好的通用系統。

而且你試圖做出不會后悔的改進。比如你在編碼方面有所提高，但它不會降低你在其他領域的表現。對吧？這就是困難的部分，因為你當然可以投入更多的編碼數據，或者你可以投入更多的，我不知道，游戲數據，但這樣做會不會讓你的語言系統或翻譯系統以及你關心的其他方面變得更糟？所以你必須不斷地監控這套越來越龐大的基準測試。而且，當你把這些模型應用到產品中時，你也會關心直接的使用情況、直接的統計數據以及你從最終用戶那里獲得的信號，無論是程序員還是使用聊天界面的普通人。

Lex: 是的，因為最終你想衡量其有用性，但很難將其轉化為一個數字。對。這實際上是基于大量用戶的氛圍型基準測試，很難知道。對我來說，擁有一個更聰明的模型，但它只是某種基于氛圍的東西，這將是令人恐懼的。它不太管用。這太可怕了，而且你剛才說的一切，它必須在如此多的領域都既聰明又有用。所以你會非常興奮，因為它突然解決了你以前從未解決過的編程問題，但現在它卻寫出糟糕的詩歌之類的東西。我不知道，這是一種壓力，這種平衡太難把握了。而且因為你不能真正信任基準測試，所以你真的必須信任最終用戶。

德米斯: 然后，其他更深奧的東西也會發揮作用，比如，你知道的，系統的角色風格，你知道的，它是冗長的嗎？它是簡潔的嗎？它是幽默的嗎？你知道，不同的人喜歡不同的東西。所以，你知道，這非常有趣。這幾乎就像心理學研究或人格研究的前沿部分。你知道，我過去在我的博士研究中做過這個，比如五因素人格。我們實際上希望我們的系統是什么樣的？不同的人也會喜歡不同的東西。所以這些都是產品領域中一些新的問題，我認為以前從未真正被解決過，但我們現在將不得不迅速處理。

Lex: 我認為這是一個超級迷人的領域，發展事物的特性。這樣做，也如同在照鏡子觀己。我們喜歡哪些事物？因為提示詞工程允許你控制很多這些元素，但是產品能否讓你更容易地控制這些體驗的不同風味，以及你與之互動的不同角色？

德米斯: 是的，完全正確。

Lex: 那么谷歌DeepMind獲勝的概率是多少？

德米斯: 嗯，我不認為這是某種獲勝。我的意思是，考慮到我們正在構建的東西是如此重要和意義重大，我認為用“獲勝”來衡量是錯誤的方式。很有趣的是，我盡量不把它看作一場游戲或競賽，即使這在很大程度上是我的心態。在我看來，重要的是，我們所有人，那些處于領先地位的人，都有責任管理這項令人難以置信的技術，它既可以用于令人難以置信的善事，但也存在風險，為了人類的利益，安全地將其引入世界。那一直是我夢寐以求的，也是我們一直努力去做的。我希望最終社群，或許是國際社群，能夠團結起來，當越來越接近通用人工智能(AGI)時，人們會明顯地意識到這是必需的。

Lex: 我同意你的觀點。我認為你說得非常好。你曾說過你與其中一些實驗室的負責人交談甚歡，關系良好。隨著競爭的加劇，維持這些關系有多難？

德米斯: 到目前為止還算可以。我一直以善于合作為榮。我是一個具有合作精神的人。研究是一項合作的事業。科學是一項合作事業，對吧？如果你治愈了可怕的疾病，并且提出了一個令人難以置信的療法，那么最終一切都對人類有好處。這對人類來說是凈勝。能源也是如此，所有我感興趣的用人工智能幫助解決的問題。所以我只是希望這項技術存在于世上，并被用于正確的事情。以及由此帶來的好處，這種生產力上的好處應該被分享，以造福所有人。

所以我努力與所有領先實驗室的人保持良好的關系。他們中的許多人都有非常有趣的性格，正如你可能預料到的那樣。但是，是的，我與他們幾乎所有人都保持著良好的關系，我希望如此。而且我認為，當情況變得比現在更加嚴重時，保持這些溝通渠道將會非常重要。如果需要合作或協作，尤其是在安全等方面，這將有助于促進合作或協作。

Lex: 是的，我希望在一些風險較低的事情上能有一些合作。這樣做也可以作為一種維持友誼和關系的機制。所以舉例來說，我認為如果你和埃隆能在合作開發一個視頻游戲上有所合作，互聯網會很喜歡，諸如此類的事情。我認為這能促進良好關系下的友情。而且你們兩個都是真正的游戲玩家，所以創造一些東西會很有趣。

德米斯: 是的，那太棒了。我們過去也談論過這件事，這可能是我們可以做的一件很酷的事情。我同意你的看法，如果能有一些副業項目，從而讓人能夠專注于合作方面，那就太好了。這對雙方來說都是雙贏的。這也有助于建立那種協作能力。

Lex: 我將科學事業視為人類的那種副業項目。我認為谷歌DeepMind一直在大力推動這一點。我很希望看到其他實驗室做更多的科學研究，然后進行合作，因為在重大的科學問題上進行合作似乎更容易。

德米斯: 我同意，我很希望看到很多人，很多其他的實驗室談論科學，但我認為我們是唯一一個將其用于科學并做到這一點的。這就是為什么像AlphaFold這樣的項目對我來說如此重要。而且我認為我們的使命是展示如何以一種非常具體的方式，清晰地利用人工智能來造福人類。此外，我們還從AlphaFold中衍生出了像Isomorphic這樣的公司來進行藥物發現。目前進展順利，并且正在構建某種可以被認為是構建額外的AlphaFold類型系統，以進入化學領域，幫助加速藥物設計的東西。我認為我們需要展示的例子，以及社會需要理解的是，人工智能可以在哪些方面帶來巨大的好處。

人性的特殊性與意識之謎

Lex: 發自內心，感謝您以嚴謹、樂趣和謙遜的態度推動科學事業的發展，感謝所有的一切。我就是喜歡看到這種景象。還在討論P等于NP，我的意思是，這太不可思議了。所以我喜歡這樣。似乎一直存在一場人才爭奪戰。有些只是梗，我不知道。你怎么看待meta用巨額薪水收購人才，以及這場人才爭奪戰愈演愈烈？我應該說，我認為很多人都將DeepMind視為一個進行前沿研究的絕佳場所，原因正如你所概述的那樣。比如，這里有充滿活力的科學文化。

德米斯: 是的，好吧，你看，當然，meta現在正在采取一種策略。我認為，至少從我的角度來看，那些真正相信通用人工智能使命及其作用的人，并且理解由此產生的真正后果，無論是好的還是壞的，以及這種責任所包含的意義。我認為他們這樣做主要是為了像我一樣，站在研究的前沿。這樣他們就可以幫助影響研究的方向，并安全地將這項技術引入世界。而meta目前并不在前沿。或許他們能設法重回前沿。從他們的角度來看，他們這樣做可能是合理的，因為他們落后了，需要做些什么。

但我認為還有比金錢更重要的東西。當然，必須按照市場價格支付員工工資，所有這些事情，而且還在持續上漲。但正如，我預料到這一點，因為越來越多的人終于意識到，公司領導者，我30多年來一直都知道的事情，那就是通用人工智能（AGI）可能是將要被發明的最重要的技術。所以從某種意義上說，這樣做是合理的。但我也認為存在一個更大的問題。我的意思是，現在人工智能領域的人們薪水非常高。我記得2010年我們剛起步的時候，有幾年我甚至沒給自己發工資，因為錢不夠。我們沒法籌集到任何資金。而現在，實習生的工資相當于我們最初種子輪融資的全部金額。所以這很有趣。我還記得那些日子，我過去不得不免費工作，甚至幾乎要自己掏錢去做實習，對吧？現在一切都反過來了，但這就是現狀。這是新的世界。

而且，我認為我們一直在討論像通用人工智能（AGI）之后會發生什么，以及能源系統得到解決等等。金錢又會意味著什么呢？所以我認為，你知道，在經濟方面，我們將會有更大的問題需要解決，以及在這種世界里經濟和公司如何運作？所以我認為，你知道，今天談論薪水之類的事情有點像是次要問題。

Lex: 是的，當你面對如此巨大的后果和巨大而引人入勝的科學問題時。

德米斯: 這可能只有幾年時間了，所以。

Lex: 所以從實際的、務實的角度來看，如果我們聚焦于工作，我們可以看看程序員，因為人工智能系統目前在編程方面做得非常出色，而且越來越出色。所以很多靠編程為生并熱愛編程的人擔心他們會失去工作。你認為他們應該有多擔心？以及以何種正確的方式來適應新的現實，并確保你作為人類在編程世界中生存和繁榮？

德米斯: 嗯，有趣的是，編程，再次，這與我們幾年前的想法相反，也許我們認為的一些更難的技能，由于各種原因，結果可能更容易。但是，你知道，編碼和數學，因為你可以創建大量的合成數據，并驗證這些數據是否正確。因此，由于這種性質，更容易制作諸如合成數據之類的事物來進行訓練。當然，這也是我們都感興趣的領域，因為作為程序員，它能幫助我們更快、更高效地工作。

所以我認為在下一個時代，比如未來的5到10年，我們會發現那些擁抱這些技術，并幾乎與它們融為一體的人，無論是在創意產業還是技術產業，都會變得具有超人的生產力，我認為。所以優秀的程序員將會變得更加優秀，甚至比他們今天還要優秀10倍。因為在那里，你將能夠利用他們的技能，最大限度地利用這些工具，最大限度地發揮它們的作用。所以我認為這就是我們將在下一個領域看到的情況。

所以這會引起相當大的變化，對吧？所以那即將到來。很多人會從中受益。所以我認為這方面的一個例子是，如果編程變得更容易，那么更多的創意人員就可以更容易地進行創作。但我認為，頂尖的程序員仍然會擁有巨大的優勢，例如在規范方面，回到規范架構應該是什么，問題應該是如何以一種有用的方式指導這些編碼助手，檢查他們生成的代碼是否良好。所以我認為在可預見的未來幾年里，還有很大的發展空間。

Lex: 所以我認為這里面有幾個有趣的事情。一是必須不斷地、持續地改進這些工具的使用。所以他們是在借助不斷改進的模型，而不是與它們競爭。但可悲的是，這就是地球上生命的本質。在某些前沿的編程領域可能存在巨大的價值，而在其他領域則價值較低。例如，前端網頁設計可能更容易，正如你提到的，通過人工智能系統生成。也許，例如，游戲引擎設計或類似的東西，或后端設計，或在高性能情況下指導系統，高性能編程類型的設計決策，這可能非常有價值。但這將改變人類最需要的領域，這對人們來說是可怕的調整。

德米斯: 我認為那是對的。任何時候，只要有大量的顛覆和變化，你知道，我們已經經歷過這種情況，不僅僅是這一次，我們在人類歷史上經歷過很多次，比如互聯網、移動設備，但在那之前是工業革命。這將是充滿變革的時代之一。我認為會出現我們今天甚至無法想象的新工作，就像互聯網創造的一樣。然后，那些擁有正確技能組合來駕馭這股浪潮的人將變得非常有價值，對吧，那些技能。但也許人們將不得不重新學習或稍微調整他們目前的技能。

這次更難應對的是，我認為我們將看到的影響可能相當于工業革命的10倍，但速度也快了10倍，對吧？所以不是100年，而是10年。這就會使它，你知道，就像影響和速度加起來是100倍。所以 我認為這會使社會更難應對。這里有很多需要思考的東西。我認為我們現在就需要討論這些。我鼓勵世界頂級的經濟學家和哲學家開始思考，社會將如何受到這方面的影響，以及我們應該怎么做，包括諸如普遍基本供應之類的措施，即把大部分提高的生產力分享和分配給社會，也許以服務和其他形式，如果你想要更多，你仍然可以去獲取一些非常稀有的技能等等，讓自己變得獨一無二。但會提供一種基本的供應。

Lex: 如果你把政府看作一種技術，那么就會出現一些有趣的問題，不僅僅是經濟方面，還有政治方面。你如何設計一個能夠應對快速變化的時代，從而代表不同群體的人們所感受到的不同痛苦的系統？你又該如何以一種能夠解決這些痛苦，并代表不同人群的希望、痛苦和恐懼，同時又不會導致分裂的方式重新分配資源？因為政客們通常非常擅長煽動分裂，并利用這一點來贏得選舉。另一種是定義“他者”，然后說“他者”是壞的。基于此，我認為這通常不利于利用快速變化的技術來幫助世界繁榮發展。所以如果我們將政治體系視為一種技術，我們也幾乎需要迅速改進我們的政治體系。

德米斯: 當然，我認為我們需要新的治理結構，可能還需要新的機構來幫助完成這種轉變。所以我認為政治哲學和政治學將是其中的關鍵。但我認為最重要的事情，首先是要創造更多的資源，對吧？然后是，所以這是最重要的事情，提高生產力，獲取更多資源，也許最終擺脫零和博弈的局面。那么第二個問題是如何使用這些資源以及分配這些資源。但是，是的，如果沒有首先擁有這種富足，你就無法做到這一點。

Lex: 你向我提到了本杰明利貝圖的《狂人》這本書，一本關于你，首先是關于你的書，有一本關于你的傳記。奇怪，是的。不清楚，是的，當然。目前尚不清楚有多少是虛構，有多少是現實。但我認為約翰馮諾伊曼這個中心人物，我不得不說，是對瘋狂和天才的一種令人難忘且優美的探索。且讓我們說說發現的雙刃劍。

對于不了解的人，約翰馮諾伊曼是一位極具傳奇色彩的人物。他為量子力學做出了貢獻。他曾參與曼哈頓計劃。他被廣泛認為是現代計算機和人工智能之父，或是在此領域做出了開創性貢獻的人，等等。所以正如許多人所說，他是有史以來最聰明的人之一，這太令人著迷了。同樣令人著迷的是，作為一個見證了核科學和物理學演變成原子彈的人，因此他得以親眼目睹了想法變成對世界產生巨大影響的事物，他也預見到了計算領域也會發生同樣的事情。這就是這本書中，再次出現的，一些美好而又令人難忘的方面。然后向前邁進一步，看看這件事，至少從某種程度上來說，AlphaGo、AlphaZero的重大時刻，也許約翰馮諾伊曼的思想被帶入了現實。所以我想問題是，如果你現在能和約翰馮諾伊曼一起閑逛，你認為他會對正在發生的事情說些什么？

德米斯: 嗯，那將會是一次很棒的經歷。你知道，他是一個了不起的人。而且我也很喜歡他在普林斯頓高等研究院度過大量時間的方式，那是一個非常適合思考的特別的地方。他在眾多他幫助發明的事物中所展現出的博學令人驚嘆，當然，這包括所有現代計算機都基于的馮諾伊曼架構。而且他有驚人的遠見。我想他會喜歡我們今天的成就，而且他會，我想他會非常喜歡AlphaGo，你知道，他還研究過博弈論。我認為他預見了很多關于學習機器系統將會發生的事情，這些系統是成長起來的，我認為他稱之為成長，而不是被編程出來的。我不確定他會有多驚訝，也許他甚至不會感到驚訝，因為這是我認為他在20世紀50年代就已經預見到的成果。我想知道他會給出什么建議。

Lex: 他有機會在曼哈頓計劃中親眼見證原子彈的建造。我相信那里有很多有趣的事情可能沒有被充分談論，也許是一些官僚主義方面，也許是政治家的影響，也許是沒有充分地拿起電話與那些被政治家稱為敵人的人交談。也許存在著某種深刻的智慧，而我們實際上可能已經從那個時代失去了。

德米斯: 是的，我確信有。我的意思是，我也讀過很多那個時代的書，編年史時代，也了解了一些參與其中的杰出人士，但我同意你的觀點。我認為也許需要更多的對話和理解。我希望我們能從那些時代中學習。我認為這里的區別在于人工智能有很多用途，它是一種多用途技術。顯然，我們正在努力做一些事情，比如解決所有疾病，幫助解決能源和稀缺問題，這些都是令人難以置信的事情。這就是我們所有人，包括我自己，在30多年前開始這段旅程的原因。但當然，也存在風險。而且可能馮諾伊曼也預見到了這兩點，我猜是這樣。我認為他好像說過，我想他對他的妻子說過，電腦在世界上的影響會更大。正如我們剛才討論的，我認為這是正確的。我認為它至少會是工業革命的10倍。所以我認為他是對的。所以我想他會對我們現在的處境感到著迷，我猜想。

Lex: 我認為這本書的要點之一，也許你可以糾正我，是理性，正如書中所說，“理性的瘋狂夢想”，對于指導人類構建這些超級強大的技術是不夠的，還需要其他的東西。我的意思是，還有一種宗教成分。無論上帝，無論宗教給予什么，它都能在我們人類精神中喚起一些純粹、冷酷的理性所不能給予的東西。

德米斯: 我同意這一點。我認為我們需要用任何你想稱呼它的東西來對待它，精神層面或人文層面，不一定非得與宗教有關，對吧？但靈魂的這種概念，讓我們成為人的東西，我們擁有的這種火花，也許它與我們最終理解的意識有關。我認為這必須是努力的核心。而技術，我一直將技術視為賦能者，對吧？這些工具使我們能夠蓬勃發展，并更多地了解世界。

在這一點上，我有點贊同費曼的觀點，他過去總是說科學和藝術是伴侶，對吧？你可以從兩個方面理解它，一朵花的美麗，它是多么美麗，并且也可以理解為什么花的顏色會這樣進化，對吧？這只會讓它更美麗，花朵的內在美。我一直都是這樣看待它的。也許在文藝復興時期，當時的偉大發現者，像達芬奇這樣的人，我不認為他看到了科學、藝術，甚至宗教之間的任何區別，對吧？一切都是，這只是作為人類的一部分，并受到我們周圍世界的啟發。這就是我試圖秉持的哲學。

我最喜歡的哲學家之一是斯賓諾莎。我認為他很好地結合了所有這些，即試圖理解宇宙和理解我們在宇宙中的位置的理念。那是他理解宗教的方式。我認為這非常美好。對我來說，所有這些事情都是相關的，相互關聯的，技術以及成為人類的意義。我認為非常重要的是，當我們沉浸在技術和研究中時，我們要記住這一點。我認為我看到的我們領域的許多研究人員都有些狹隘，只了解技術。我認為這也是為什么讓整個社會來辯論這個問題很重要。我非常支持人工智能峰會之類的活動，以及各國政府對它的理解。我認為聊天機器人時代和人工智能產品時代的一件好事是，普通人實際上可以感受到并與最前沿的人工智能互動，并親身體驗它。

Lex: 是的，因為他們迫使技術人員進行人際交流。是的，當然。這是其中充滿希望的一面。就像你說的，這是一種雙重用途技術，我們正通過關于人工智能的討論，強行將整個人類融入其中，因為最終人工智能、通用人工智能將被用于國家利用技術人員做的事情，也就是沖突等等。通過與人們交流，我們越多地將人類融入到這幅圖景中，我們就越能引導。

德米斯: 是的，能夠適應社會，你就能適應這些技術。就像我們過去對待我們發明的那些不可思議的技術一樣。

Lex: 你認為會發生類似于曼哈頓計劃的事情嗎？即這項技術的威力會不斷升級，各國仍然會以舊思維方式試圖將其用作武器技術，從而引發這種升級？

德米斯: 我希望不會。我認為那樣做會非常危險。而且我認為，你知道，也存在技術使用不當的問題。我希望我們最終能有更多，如果需要的話，能有更協作的東西，比如更像一個歐洲核子研究中心（CERN）的項目，你知道，專注于研究，世界上的頂尖人才聚集在一起，認真地完成最后的步驟，并確保在負責任地完成之后，再將其部署到世界各地。我們拭目以待。我的意思是，在當前的地緣政治氣候下，我認為很難看到合作，但情況可能會改變。而且我認為，至少在科學層面上，研究人員保持聯系，至少在這些議題上彼此保持密切聯系是很重要的。

Lex: 是的，我個人認為，在教育和移民方面，如果東西方的人們能互相流動，那將是很好的。我的意思是，這里面包含著家庭和人際關系的因素，人們只是相互融合。是的。這樣一來，這些聯系就會變得牢固，所以你就不能用這種老套的思維方式來分裂彼此。因此，由多元文化、多學科的研究團隊來研究科學問題，這就是希望。不要讓那些好戰的領導人分裂我們。我認為科學是最終極的美好連接者。

德米斯: 是的，我認為科學一直以來都是一項非常協作的努力。科學家們知道這也是一項集體努力，我們可以互相學習。所以，也許它可以成為促進一些合作的途徑。

Lex: 你的，這個問題很荒謬，你的“末日概率”（P-Doom）是多少？也就是人類文明自我毀滅的概率。

德米斯: 呃，聽著，我沒有“末日概率”這個數字。我沒有的原因是因為我認為那會暗示一種并不存在的精確程度。所以，我不知道人們是怎么得到他們的“末日概率”數字的。我認為這有點荒謬，因為我想說的是，它絕對不是零，而且可能不可忽略。因此，這本身就相當令人清醒。

而我的看法是，這件事具有巨大的不確定性，對吧？這些技術將能夠做什么，它們會以多快的速度起飛，它們的可控性如何。有些事情可能會變得，而且希望是，比我們想象的要容易得多，對吧？但也可能存在一些非常棘手的問題，比我們今天猜測的還要困難。我認為我們不能肯定地知道這一點。所以在充滿不確定性但雙方利害攸關的條件下。一方面，我們可以解決所有疾病、能源問題、稀缺問題，然后進行星際旅行，探索星辰的意識，實現人類的最大繁榮。另一方面是這種存在風險的末日情景。

鑒于圍繞它的不確定性和它的重要性，對我來說，唯一理性的明智方法是以謹慎的樂觀態度前進。因此，我們當然希望獲得好處，以及人工智能可以帶來的所有令人驚嘆的事物。而且事實上，如果考慮到我們面臨的其他挑戰，如氣候、老齡化、資源等等，如果我不知道像人工智能這樣的技術正在發展，我會非常擔心人類的未來，對吧？我們該如何解決所有其他問題呢？我認為這很困難。所以 我認為它可能會帶來驚人的積極轉變。但另一方面，我們也知道存在一些風險，但我們無法完全量化這些風險。因此，最好的方法是使用科學方法進行更多研究，嘗試更精確地定義這些風險，當然也要解決這些風險。我認為我們正在這樣做。我認為在這方面需要投入的精力可能要比現在多10倍，因為我們越來越接近通用人工智能（AGI）的臨界點。

Lex: 對你來說，主要的擔憂來源是什么？是人為造成的，還是人工智能，通用人工智能造成的？是的。人類濫用該技術，而不是通過你所說的機制（這很吸引人）——欺騙或諸如此類的東西——的AGI本身。是的。秘密地變得越來越好，然后逃脫。

德米斯: 我認為它們在不同的時間尺度上運作，并且同樣需要解決。所以就存在常見的，或者說各種各樣的，像不良行為者使用新技術，在這種情況下，是通用技術，并將其重新用于有害目的。這是一個巨大的風險。我認為這有很多復雜性，因為總的來說，我非常贊成開放科學和開源。事實上，為了科學界的利益，我們用所有的科學項目，比如AlphaFold以及所有這些東西，都這樣做了。但是，如何限制不良行為者（無論是個人還是流氓國家）訪問這些強大的系統，同時又能讓良好行為者訪問，以便最大限度地在其基礎上進行構建呢？這是一個相當棘手的問題，我還沒有聽到明確的解決方案。所以存在不良行為者使用案例問題。還有，顯然，隨著系統變得更加通用，更接近通用人工智能（AGI），以及更加自主，我們如何確保防護欄，以及它們堅持我們希望它們做的事情，并在我們的控制之下？

Lex: 是的，我傾向于，也許我的思維有限，更擔心人類，那些不良行為者。在這方面，部分問題在于，如何不將破壞性技術置于不良行為者之手？但另一方面，從地緣政治技術的角度來看，如何減少世界上的不良行為者數量？這也是一個有趣的人類問題。

德米斯: 是的，這是一個難題。我的意思是，看，我們或許也可以利用技術本身來幫助對一些不良行為者的用例進行早期預警，對吧？無論是生物、核武器或其他什么，人工智能都可能在這方面有所幫助，只要你使用的人工智能本身是可靠的，對吧？所以這是一個相互關聯的問題，這使得它非常棘手。再次，這可能需要在國際上達成一些協議，至少在中國和美國之間，就一些基本標準達成一致，對吧？

Lex: 我必須問你關于《瘋子》這本書的事。這里有一個，上帝之手時刻，李世乭的第78步棋，也許那是人類最后一次做出某種純粹的人類天才之舉，擊敗了AlphaGo，或者說，擊潰了它的算法。是的。很抱歉擬人化，但這是一個有趣的時刻，因為我認為在很多領域它會不斷發生。

德米斯: 是的，這是一個特殊的時刻，對李世乭來說非常棒。我認為在某種程度上，他們是在互相激勵。我們作為一個團隊，受到了李世乭的才華和高尚品格的鼓舞。然后也許他受到了AlphaGo所作所為的啟發，從而構想出這個令人難以置信的鼓舞人心的時刻。這一切都在關于它的紀錄片中得到了很好的捕捉。而且我認為這種情況會在許多領域持續下去，在這些領域里，至少在可預見的未來，人類會發揮他們的聰明才智，提出正確的問題，然后以某種方式利用這些工具來解決問題。

Lex: 是的，隨著人工智能變得越來越智能，我們可以問自己的一個有趣的問題是，是什么使人類變得特別？我覺得，也許我有些偏見，我們人類是非常特別的。我不知道這是否是我們的智力。可能是其他的東西，是理性瘋狂夢想之外的其他東西。

德米斯: 我想這就是我小時候，剛開始這段旅程時一直想象的，當然，我著迷于諸如意識之類的事情，做了神經科學博士來研究大腦是如何工作的，尤其是想象力和記憶。我專注于海馬體，這會很有趣。我一直認為最好的方法，當然，人們可以進行哲學思考，進行思想實驗，甚至可以像你在神經科學中對真實大腦所做的那樣進行實際實驗。但最終，我一直認為，構建人工智能，一種智能人造物，然后將其與人類思維進行比較，看看兩者之間的差異，將是揭示人類思維特殊之處的最佳方法，如果確實有什么特殊之處的話。而且我懷疑可能確實存在，但很難定義。我認為我們正在進行的這段旅程將幫助我們理解并定義這一點。

當碳基底質（我們）和硅基底質處理信息時，可能存在差異。我最喜歡的意識定義之一是，當我們處理信息時，信息所感覺到的方式。可能是。我的意思是，這不是一個非常有幫助的科學解釋，但我認為這是一個有趣的直覺性解釋。因此，在這段旅程中，我們正在進行的這段科學旅程將有助于揭開那個謎團。

Lex: 是的，我無法創造的，我就不理解。那是您非常敬佩的人，理查德費曼，就像您提到的。您也追求維格納關于普遍性的夢想，他曾在受限領域看到這種普遍性，而且還在廣泛地、普遍地在數學等領域看到。您在許多方面都在努力推進，不是為了在最后惹麻煩，而是為了羅杰彭羅斯。好的。那么，您認為意識，存在這個意識的難題，即信息是如何被感知的。首先，您認為意識是一種計算嗎？如果是，如果它是信息處理，就像您說的，一切都是，那么它是否可以被經典計算機建模？是的。或者它本質上是量子力學的？

德米斯: 聽著，彭羅斯是一位了不起的思想家，是現代最偉大的人物之一。我們已經就此進行了很多討論。當然，我們友好地持有不同意見，你知道，我覺得，我是說，他與許多優秀的神經科學家合作，看看他是否能找到大腦中量子力學行為的機制。據我所知，他們還沒有找到任何令人信服的東西。所以，我打賭這主要只是大腦中發生的經典計算，這表明所有現象都可以通過經典計算機建模或模仿。但我們會看到的，你知道，可能存在關于意識感覺，即感受質，這些哲學家爭論的、基質獨有的最終神秘事物。

當我們做像腦機接口這樣的事情，并將神經接口連接到人工智能系統時，我們甚至可能會開始理解，我認為我們最終可能會這樣做，也許是為了跟上人工智能系統的步伐，我們可能真的能夠親身感受到在硅上計算是什么感覺，對吧？所以，也許這會告訴我們。所以，我認為這將會很有趣。我曾經和已故的丹尼爾丹尼特就我們為什么認為彼此是有意識的進行過辯論，好嗎？所以，這有兩個原因。一個是你表現出和我一樣的行為。所以，這是一件事。從行為上來說，如果你是我，你看起來就像一個有意識的生物。但經常被忽視的第二件事是，我們在相同的基質上運行。所以，如果你以相同的方式行事，并且我們在相同的基質上運行，那么最簡約的假設是你正在感受和我一樣的體驗。但是對于在硅上運行的AI，即使它表現出第一部分，即行為看起來像一個有意識的生物的行為，我們也無法依賴第二部分。它甚至可能會聲稱它是有意識的。但我們不會知道它實際上感覺如何。而且它可能無法知道我們的感受，至少在最初階段是這樣。也許當我們達到超級智能以及構建它的技術時，或許我們能夠彌合這一點。

Lex: 不，我的意思是，這是對激進同理心的一項巨大考驗，即對不同的基質產生共情。

德米斯: 對，完全正確。我們以前從未面對過這種情況。

Lex: 是的，所以也許通過腦機接口，能夠真正地體會到作為一臺計算機的感覺。

德米斯: 好吧，為了讓信息被計算，而不是在碳基系統上。

Lex: 我的意思是，這很深刻，我是說，有些人會用植物、其他生命形式來思考這個問題，它們是不同的。

德米斯: 是的，有可能，完全正確。

Lex: 相似的基質，但在進化樹上足夠遙遠，以至于需要激進的同理心，但要對計算機這樣做。

德米斯: 我的意思是，不，我們某種程度上，有這方面的動物研究，比如，當然，像虎鯨、海豚、狗和猴子這樣的高等動物，它們有一些，還有大象，它們肯定有一些意識方面的特征，即使它們在智商意義上可能不那么聰明。所以我們已經可以對此產生共情。也許有一天我們的一些系統，比如我們構建了一個叫做“海豚格瑪”（Dolphin Gemma）的東西，你知道，我們系統的一個版本是用海豚和鯨魚的聲音訓練的，也許在某個時候我們能夠構建一個解釋器或翻譯器。應該會很酷。

Lex: 是什么讓你對人類文明的未來充滿希望？

德米斯: 嗯，讓我充滿希望的是，我認為首先是我們幾乎無限的創造力。我認為我們中最優秀的人和最優秀的人類大腦是不可思議的。而且，你知道，我喜歡，你知道，認識和觀看任何在其領域達到頂峰的人，無論是體育、科學還是藝術，你知道，沒有什么比這更美妙的了，看到他們在自己的領域中處于心流狀態。我認為這是幾乎無限的。你知道，我們的大腦是通用系統，智能系統。所以 我認為我們用它們能做的事情幾乎是無限的。

還有另一件事是我們的極強適應性。我認為情況會好的，雖然會有很多變化，但看看我們現在，實際上我們還擁有狩獵采集者的思維。我們是如何，你知道，我們是如何適應現代世界的，對吧？乘坐飛機，制作播客，你知道，玩電腦游戲和虛擬模擬。我的意思是，考慮到我們的頭腦是為了在苔原上獵捕野牛而開發的，這已經令人震驚了。所以我認為這只是下一步。實際上，看看社會如何已經適應了我們今天擁有的這種令人震驚的AI技術，這很有趣。這有點像，哦，我和聊天機器人聊天，完全沒問題。

Lex: 而且很可能這個我正在參與的播客活動，會被AI完全取代。我非常容易被取代，并且我正在等待它發生。

德米斯: 不到你能做到的那種程度，Lex，我不這么認為。

Lex: 好的，謝謝你。這就是我們人類彼此所做的事情，我們互相贊美。好的，我非常感激我們人類擁有這種對好奇心、適應性的無限能力，就像你說的，還有同情心和愛的能力。

德米斯: 沒錯。所有這些屬于人類的東西。所有那些深刻的人性。

Lex: 嗯，這真是莫大的榮幸。德米斯，你是世界上真正特別的人之一。非常感謝你所做的一切，以及今天與我交談。

德米斯: 嗯，非常感謝你，Lex。