文: Web3天空之城| 未經許可不得轉載

城主說本次最新訪談中, Anthropic CEO Dario Amodei 深入探討了對人工智能未來的看法。Amodei 詳細闡述了他對AI能力呈指數級增長的堅定信念，并解釋了這為何讓他產生強烈的緊迫感。他回應了外界對他“末日論者”的批評，并以其個人經歷強調，他對AI風險的關切源于對技術巨大潛力的深刻理解。訪談還覆蓋了Anthropic的商業(yè)模式、與科技巨頭的競爭、人才策略以及開源AI的真正影響。Amodei 最終強調，在推動技術進步的同時，必須以嚴肅和誠實的態(tài)度來平衡其巨大的利益與風險，倡導一場關于AI安全的“競優(yōu)”。

需要指出的是, Amodei偉光正的表達背后, 其實有很多商業(yè)化的考量,包括粗暴中斷Windsurf的API供應, 更不用說對東大Claude用戶的封堵. 所以各位可以帶著自己的思考看待他的談話.

核心觀點

? 指數增長是現實 ：Amodei 認為AI正處在一條指數增長曲線上，其能力和經濟影響的爆發(fā)可能比大多數人預期的要快得多，這是他所有行動和警告的根本出發(fā)點。

? 商業(yè)模式驅動模型優(yōu)化 ：Anthropic 專注于企業(yè)級應用，因為商業(yè)客戶的需求（如在生物化學等專業(yè)領域）能為提升模型核心智能提供更強的激勵，這比面向普通消費者的應用更能推動技術突破。

? 安全與能力不可分割 ：Amodei 反駁了將其描繪成阻礙發(fā)展的“末日論者”的說法。他認為，AI的安全研究與能力發(fā)展緊密相連，投資安全是為了確保能夠繼續(xù)安全地加速發(fā)展，而不是為了減速或控制行業(yè)。

? 個人經歷塑造使命感 ：父親因一種后來可治愈的疾病去世的經歷，深刻影響了Amodei。這讓他切身感受到技術進步的緊迫性，也讓他對管理潛在風險懷有強烈的道德責任感。

? 倡導“競優(yōu)”而非“競劣” ：面對行業(yè)競爭，Amodei 提倡一種“競優(yōu)”模式，即通過樹立更高的安全和責任標準來引領整個領域，而不是在無視風險的情況下競相發(fā)布產品。他認為，當涉及到強大的AI時，一個參與者的失敗就是所有人的失敗。

直面爭議：AI浪潮中的緊迫感

Dario Amodei: 當人們叫我末日論者時，我非常生氣。當，當有人說這家伙是個末日論者，他想拖慢事情的進展。你聽到了我剛才說的，就像，你知道的，我的父親因為，你知道的，本可以在幾年后出現的療法而去世。我理解這項技術的好處。

主持人: 我相信你已經聽過像黃仁勛這樣的人的批評，他們說，好吧，Dario認為他是唯一一個能安全地構建它的人，因此想控制整個行業(yè)。

Dario Amodei: 我從來沒有說過，我從來沒有說過類似的話。那是個無恥的謊言。那是我聽過的最無恥的謊言。

主持人: Anthropic的首席執(zhí)行官Dario Amodei加入我們，討論人工智能的未來發(fā)展方向，生成式人工智能是否是一項好生意，并回擊那些稱他為末日論者的人。他和我們一起在舊金山Anthropic總部的工作室。Dario，很高興再次見到你。歡迎來到節(jié)目。

Dario Amodei: 謝謝你邀請我。

主持人: 那么，讓我們回顧一下您過去幾個月的情況。您說人工智能可能會消滅一半的入門級白領工作。當您得知OpenAI將要收購Windsurf時，您切斷了Windsurf對Anthropic頂級模型的使用權限。您向政府要求出口管制，并惹惱了英偉達首席執(zhí)行官黃仁勛。你怎么了？

Dario Amodei: 我認為，我認為Anthropic，我自己和Anthropic，總是專注于努力去做和說我們相信的事情。而且我認為，隨著我們越來越接近更強大的人工智能系統(tǒng)，我想更強烈、更公開地表達這些事情，以使觀點更清晰。我多年來一直說，我們有這些，我們可以詳細討論它們，但是我們有這些縮放定律，人工智能系統(tǒng)變得越來越強大。它們正從幾年前的水平發(fā)展而來，當時它們幾乎沒有連貫性。現在，幾年前，它們還只是聰明的優(yōu)秀高中生的水平。現在我們已經達到了聰明的大學生、博士生的水平，而且它們開始，它們開始應用到整個經濟領域。

所以我想所有與人工智能相關的問題，從國家安全問題到經濟問題，都開始變得非常接近，接近于我們，接近于我們實際上要面對它們的時候。所以，所以我認為隨著這些問題越來越近，我，即使，在某種程度上，Anthropic一直在說這些事情，但我認為這些事情的緊迫性已經上升。而且，而且，而且，我想確保我們，我想確保我們說出我們相信的東西，并且警告世界可能存在的弊端。

即使，沒有人能說會發(fā)生什么。我們，我們正在說我們，我們認為可能發(fā)生的事情，我們認為很可能發(fā)生的事情。我們盡我們所能地支持盡管它通常是對未來的推斷，沒有人，沒有人能確定。但是，我認為我們，我們認為自己有義務，有義務警告世界將會發(fā)生什么。

這并不是說，我認為人工智能有大量的積極應用，對吧？我一直在繼續(xù)談論這件事。我讀過這個，我寫過這篇文章，《充滿愛意的機器》。事實上，我覺得我和Anthropic經常能夠比一些自稱為樂觀主義者或加速主義者的人更好地闡明人工智能的好處。所以我認為我們可能比任何人都更欣賞這些好處。但正是因為如此，因為如果我們把一切都做對，我們就能擁有一個如此美好的世界，所以我感到有義務警告大家注意風險。

指數增長的信念：為何AI發(fā)展比想象中更快

主持人: 所以這一切都來自你的時間線。基本上，你，似乎你的時間線比大多數人都要短。所以你感到一種緊迫感，想要走出去，因為你認為這是迫在眉睫的。

Dario Amodei: 我不確定。我認為這很難預測，尤其是在社會層面。所以如果你說，人們什么時候會部署人工智能？或者公司什么時候會使用，X美元的人工智能支出？或者，人工智能什么時候，人工智能什么時候會被用于這些應用？或者它什么時候會推動這些醫(yī)學療法？這有點難以說清。我認為底層技術更具可預測性，但仍然不確定，仍然沒有人知道。

但我認為在底層技術方面，我開始變得更有信心。這并非毫無不確定性。我認為我們所處的指數增長可能會，可能會逐漸減弱，可能會完全停止。我認為可能有，我不知道，20%或25%的幾率，在未來兩年內的某個時候，這些模型會因為我們不理解的原因，或者可能因為我們理解的原因，比如，數據或計算資源的可用性，而停止變得更好。然后我所說的一切都，都顯得，顯得完全愚蠢。大家都嘲笑我發(fā)出的所有警告。而且，而且，我只是，我只是完全接受這一點，考慮到，考慮到我所看到的分布。

主持人: 所以我應該說，這是其中一部分，我們的談話是我正在撰寫的一篇關于你的簡介的一部分。我已經和二十多位與你共事過、了解你、與你競爭過的人交談過。我會在節(jié)目說明中鏈接它。如果有人想讀可以免費閱讀。但我與所有人交談后得出的一個主題是，在所有主要的實驗室負責人中，你的時間表最短。你剛才，就在剛才提到了它。那么，你為什么有這么短的時間表？我們?yōu)槭裁匆嘈拍愕臅r間表？

Dario Amodei: 這真的取決于你所說的時間線是什么意思。那么有一件事，而且，這些年來我一直堅持這一點，在人工智能領域里有一些術語，比如通用人工智能（AGI）和超人工智能。比如，你會聽到一些公司的領導人說，我們已經實現了通用人工智能，我們正在轉向超人工智能。或者說，某人停止研究通用人工智能，開始研究超人工智能，這真是令人興奮。所以我認為這些術語完全沒有意義。我不知道什么是通用人工智能。我不知道什么是超人工智能。聽起來像一個，聽起來像一個營銷術語。

主持人: 這就是營銷。

Dario Amodei: 聽起來像是，某種，某種旨在激活人們的多巴胺的東西。所以你在公開場合會看到，我從不使用那些術語。而且，我實際上，很謹慎地批評那些術語的使用。但我認為，我認為盡管如此，我的確是最看好人工智能能力快速提升的人之一。

我認為真實存在，并且我一遍又一遍說過的是指數增長。也就是說，每隔幾個月，我們就能得到一個比之前的AI模型更好的AI模型，而且我們通過在AI模型中投入更多的計算資源、更多的數據、更多新型訓練模型來獲得它。最初，這是通過所謂的預訓練完成的，也就是你只是把互聯網上的一堆數據輸入到模型中。現在我們有了第二階段，那就是強化學習，或者測試時計算，或者推理，或者你想怎么稱呼它都可以。我認為它是涉及強化學習的第二階段。現在，正如我們在自己的模型中所看到的，以及我們在其他公司的模型中所看到的，這兩個階段都在同步擴大規(guī)模。我沒有看到任何阻礙即進一步擴大規(guī)模的因素。關于如何擴展強化學習（RL）方面的任務，有一些東西。我們在數學和代碼方面看到了更多的進展，這些模型正接近于高專業(yè)水平，但在更主觀的任務方面進展較少。但我認為這僅僅是一個暫時的障礙。

所以當我看到它時，我看到了這種指數增長，然后我說，你看，人們不太擅長理解指數增長，對吧？比如，如果某件事每六個月翻一番，那么，在它發(fā)生前兩年，看起來它只完成了1/16。而且，而且，我們現在正處于2025年中期。而且這些模型在經濟方面真的開始爆發(fā)式增長，對吧？如果你看看模型的能力，它們開始飽和所有的基準測試。如果你看看收入，Anthropx每年的收入都增長了10倍。每年我們都比較保守，然后說，它不可能增長10倍。這次，我，我從不，我從不假設任何事情，而且實際上總是非常保守地說，我認為業(yè)務方面將會放緩。但我們在2023年從零增長到1億。我們在2024年從1億增長到10億。而且，今年，在今年上半年，我們已經從10億增長到，我認為截至今天而言，它已經遠遠超過40億，可能達到45億。

所以如果你考慮一下，假設這種指數增長持續(xù)了兩年。我不是說它會這樣，但假設它持續(xù)了兩年，你就會進入數千億的級別。我不是說會發(fā)生那種情況。我是說現在的情況是，當你處于指數增長時，你真的會被它欺騙。距離指數增長完全失控還有兩年，它看起來好像才剛剛開始。所以這就是基本的動態(tài)。

我們在90年代的網絡上看到了這一點，對吧？就像，網絡速度和計算機的底層速度變得越來越快。幾年后，在所有這些之上建立一個數字全球通信網絡成為可能，而幾年前這是不可能的。幾乎沒有人，除了一些人之外，真正看到了其中的影響以及它發(fā)生的速度。這就是我的觀點來源。這就是我的想法。現在，我不知道，如果一大堆衛(wèi)星墜毀，也許互聯網的發(fā)展會花費更長的時間。如果發(fā)生經濟崩潰，也許會花費更長的時間。所以我們無法確定確切的時間表。但我認為人們被指數增長所迷惑，沒有意識到它可能有多快，我認為它可能會有多快，雖然我不確定。

技術前沿：克服學習瓶頸與規(guī)模化挑戰(zhàn)

主持人: 人工智能行業(yè)的很多人都在談論規(guī)模化帶來的收益遞減。這與你剛才描繪的愿景不太相符。他們錯了嗎？

Dario Amodei: 就我們所見，我只能談論Anthropic的模型。但就我在Anthropic的模型方面所看到的，如果我們看看，我們以編碼為例。編碼是一個領域，我認為Anthropic的模型進展非常迅速。采用速度非常快。我們不僅僅是一家編碼公司。我們計劃擴展到許多領域。但是如果你看看編碼，我們發(fā)布了3.5 SONNET，一個我們稱之為3.5 SonNET v2的模型，我們把它叫做3.6 SONNET，3.7 SONNET，然后是4.0 SONNET和4.0 OPUS。而且，那一系列的四到五個模型，每一個在編碼方面都比上一個有了顯著的提升。

如果你想看基準測試，你可以看看SWEBENCH，我認為從18個月前，它還在3%左右，一直增長到，72%到80%，取決于你如何衡量。并且實際使用量也呈指數級增長，我們正朝著自主方向發(fā)展，你可以直接使用這些模型。我認為在Anthropic編寫的代碼，實際上大部分都是，目前是由或至少是在一個模型參與下編寫的。你和其他一些公司也發(fā)表了類似的聲明。因此，我們認為進展非常快，指數增長仍在繼續(xù)，我們沒有看到任何收益遞減。

主持人: 但似乎大型語言模型存在一些缺陷。例如，持續(xù)學習。幾周前，我們請了Dwarkesh來。這是他的說法，他也在他的Substack上寫了關于這件事的文章。缺乏持續(xù)學習是一個巨大的問題。在許多測試中，大型語言模型（LLM）的基線可能高于普通人，但你只能使用開箱即用的能力。所以，你只需要制造模型，就這樣。它不會學習。這似乎是一個明顯的缺陷。你對此怎么看？

Dario Amodei: 首先，我想說，即使我們從未解決持續(xù)學習問題，即使我們從未解決持續(xù)學習和記憶問題，我認為大型語言模型在經濟規(guī)模上產生影響的潛力仍然非常高，對吧？如果我想到我曾經從事的生物學和醫(yī)學領域，比如，假設我有一位非常聰明的諾貝爾獎獲得者，我說，好的，你發(fā)現了所有這些東西，你擁有如此聰明的頭腦，但是，你不能閱讀新的教科書或吸收任何新的信息。我的意思是，那會很困難，但是，如果你有1000萬個這樣的人，他們仍然會在生物學上取得很多突破。就像，他們會受到限制，他們能夠做一些人類無法做的事情，并且有些事情人類可以做，而他們卻不能做。但即使那樣，即使我們將其作為上限，那也相當令人印象深刻和具有變革性，即使我說你永遠無法解決這個問題，我認為，人們低估了它的影響。

但是，你看，上下文窗口越來越長，而且模型實際上會在上下文窗口中學習，對吧？所以，正如我，你知道的，在上下文窗口中與模型對話，我進行了一次對話，它吸收了信息，模型底層的權重可能沒有改變，但是，你知道的，就像我在這里和你說話一樣，我們在進行對話，我聽你所說的事情，并且我，你知道的，思考，并且我，比如，回應它們，模型也能夠做到這一點。而且從機器學習的角度來看，從人工智能的角度來看，沒有理由我們今天不能把上下文長度做到1億個單詞，對吧？這大致相當于人類一生所聽到的內容。我們沒有理由不能做到這一點。這實際上是推理支持。因此，再次強調，即使這樣也填補了許多空白。不是全部空白，但它填補了許多空白。

然后還有很多事情，比如學習和記憶，它們確實允許我們更新權重。所以，有很多事情，比如，各種類型的強化學習、學習訓練，很多年前，我們曾經談論過內循環(huán)和外循環(huán)，對吧？內循環(huán)就像是，我經歷了一些事情，并且在這些事情中學習到了一些東西，然后我試圖針對這些事情的生命周期進行優(yōu)化。而外循環(huán)則是在各個事件中，智能體的學習。所以我認為，也許這種內循環(huán)、外循環(huán)的結構是一種學習持續(xù)學習的方式。我們在人工智能領域學到的一件事是，每當感覺存在一些根本性的障礙時，比如兩年前，我們認為在推理方面存在一個根本性的障礙，結果發(fā)現這只是強化學習（RL）。你只需要用強化學習進行訓練，然后讓模型寫下一些東西，讓模型寫下東西來嘗試解決客觀的數學問題。在不太具體的情況下，我認為，我們可能已經有一些，一些，一些證據表明，這是另一個不像看起來那么困難的問題。我們會因規(guī)模效應而成功，再加上稍微不同的思考方式。

主持人: 你是否認為你對規(guī)模的癡迷可能會讓你對一些新技術視而不見，就像德米斯·哈薩比斯所說的那樣，為了達到通用人工智能（AGI），或者你可以稱之為超強人工智能，或者任何其他名稱，我們都在談論人類水平的智能。我們可能需要一些新技術才能實現這一點。

Dario Amodei: 所以，我們正在開發(fā)新技術，我們每天都在開發(fā)新技術。

主持人: 好的。克勞德非常擅長代碼，而且我們，我們并沒有在外部過多談論為什么克勞德如此擅長代碼。

Dario Amodei: 為什么它如此擅長代碼？就像我說的，我們不在外部談論這個。

主持人: 我必須問一下。

Dario Amodei: 所以，我們制作的每個新版本的克勞德都，對架構進行了改進，對我們輸入的數據進行了改進，對我們用來訓練它的方法進行了改進。所以我們一直在開發(fā)新技術。新技術是我們構建的每個，模型的一部分，而且，這就是為什么我們，我說過這些關于，比如，我們正在盡力優(yōu)化，比如，人才密度，盡可能地優(yōu)化。比如，你需要那種人才密度才能發(fā)明新技術。

萬億賽道的商業(yè)邏輯：Anthropic的生存與發(fā)展之道

主持人: 有一件事一直懸而未決，那就是也許Anthropic是擁有正確想法但資源不足的公司。因為你看看XAI和meta內部發(fā)生的事情，埃隆在那里建立了他的龐大集群。馬克·扎克伯格正在建設這個5吉瓦的數據中心，他們投入了大量資源來擴大規(guī)模。有可能嗎？我的意思是，Anthropic顯然已經籌集了數十億美元，但這些都是萬億美元級別的公司。

Dario Amodei: 所以我們已經籌集了，我想，到目前為止，略低于200億美元。這還不錯。這可不是小數目。我還要說，如果你看看我們正在與亞馬遜一起建設的數據中心的規(guī)模，我不認為我們的數據中心規(guī)模擴張比該領域的任何其他公司小很多。在很多情況下，這些事情受到能源的限制，也受到資本化的限制。當人們談論這些大筆資金時，他們說的是幾年時間內的事情，對吧？當你聽到這些聲明時，有時它們還沒有得到資金支持。我們已經看到了人們正在建設的數據中心的規(guī)模，而且我們實際上非常有信心，我們將在他們建設的數據中心的規(guī)模的粗略范圍內。

主持人: 你提到了人才密度。你怎么看待馬克·扎克伯格在人才密度方面所做的事情？我的意思是，將它與這些龐大的數據中心結合起來，似乎他將能夠參與競爭。

Dario Amodei: 所以這實際上非常有趣，因為，我們注意到的一件事是，相對于其他公司，我認為Anthropic的人被挖走的要少得多。這不是因為他們沒有嘗試。我和很多人談過，他們在Anthropic收到了這些offer，但他們拒絕了，他們甚至不和馬克·扎克伯格談話，他們說，不，我要留在Anthropic。我們對此的普遍回應是，我在公司的整個Slack頻道上發(fā)布了一些東西，我說，聽著，我們不愿意為了單獨回應這些offer而妥協(xié)我們的薪酬原則，我們的公平原則。

在Anthropic，事情的運作方式是有一系列的級別。當一個候選人進來時，他們會被分配一個級別，我們不會就這個級別進行談判，因為我們認為這不公平。我們希望有一種系統(tǒng)化的方法。如果，如果馬克·扎克伯格，朝著飛鏢靶扔飛鏢并且擊中了你的名字，那并不意味著你應該比你旁邊那位，和你有同樣技能，同樣天賦的人多拿10倍的薪水。

我對情況的看法是，你真正會被這件事傷害的唯一方式是，如果你允許它通過恐慌，通過不公平地對待員工以試圖捍衛(wèi)公司，來摧毀你的公司文化。我認為實際上這對公司來說是一個團結的時刻，我們沒有屈服。我們拒絕妥協(xié)我們的原則，因為我們有信心，人們在Anthropic是因為他們真正相信這個使命。而且，我認為這有點說明了我如何看待這件事。我認為他們所做的，是試圖購買一些無法被購買的東西。那就是與使命的一致性。

而且，我認為這里存在選擇效應。比如，他們得到的是那些最熱情、與使命最一致、最興奮的人嗎？

主持人: 但他們有人才和GPU。你沒有低估他們嗎？

Dario Amodei: 我會看看事情如何發(fā)展。我對他們試圖做的事情相當悲觀。

成本與價值：揭秘生成式AI的商業(yè)模式

主持人: 那么讓我們來談談你的業(yè)務，因為很多人一直在想，生成式人工智能的業(yè)務是真的嗎？我也很好奇。我一直都有問題。你談到了你籌集了多少錢，接近200億美元。你從谷歌籌集了30億美元，從亞馬遜籌集了80億美元，從由光速創(chuàng)投領投的新一輪融資中籌集了35億美元，我和他們談過。你的游說是怎樣的？因為你不是大型科技公司的一部分，你是在獨自發(fā)展。你只是提出規(guī)模法則，然后說，能給我一些錢嗎？

Dario Amodei: 所以我對這件事的看法一直是，人才是最重要的。所以，如果你回到三年前，我們當時的處境是，我們只籌集到了區(qū)區(qū)數億美元。OpenAI已經從微軟籌集了130億美元。大型超大規(guī)模科技公司坐擁1000億美元、2000億美元。基本上，我們當時的推銷是，我們知道如何比其他人更好地改進這些模型。可能存在一個曲線。可能存在一個關于縮放定律的曲線。但是你看，如果我們能用1億美元做到別人用10億美元才能做到的事情，并且我們能用100億美元做到他們用1000億美元才能做到的事情，那么投資于Anthropic的資本效率是投資于其他公司的10倍。

你更愿意以10倍的成本做任何事情，還是從一大筆錢開始？如果你能以10倍的成本做事情，那么資金只是一個你可以彌補的暫時缺陷。如果你擁有這種內在能力，能以相同的價格，比其他任何人更好，或者與其他人一樣好，但價格低得多地構建東西，那么投資者不是白癡，或者至少他們不總是白癡。

主持人: 這取決于你去哪一個。

Dario Amodei: 我不打算指名道姓。但他們基本上理解了資本效率的概念。所以3年前，我們所處的境地是這些差異就像1000倍。現在你在說，擁有200億美元，你能與1000億美元競爭嗎？我的回答基本上是肯定的，因為人才密度。我之前說過，但在它目前的規(guī)模上，熵增實際上是歷史上增長最快的軟件公司。所以我們在2023年從零增長到1億美元，2024年從1億美元增長到10億美元。今年，我們已經從10億美元增長到，我想我之前說過，45億。所以每年增長10倍，我的意思是，每年，我懷疑我們將以這個規(guī)模增長。并且每年，我?guī)缀醪桓夜_說出來，因為我會想，不，這不可能再次發(fā)生。所以我認為，那種規(guī)模的增長，就我們與大型公司競爭的能力而言，已經不言自明了。

主持人: 好的。那么CNBC表示，Entropic公司60%到75%的銷售額是通過API實現的。這是根據內部文件得出的。

Dario Amodei: 這個說法現在還準確嗎？

主持人: 我不會給出確切的數字，但大多數的確是通過API實現的，盡管我們也有一個蓬勃發(fā)展的應用程序業(yè)務。而且我認為最近，Max層級（高級用戶使用）以及云代碼（程序員使用）。所以我認為我們有一個蓬勃發(fā)展且快速增長的應用程序業(yè)務。

Dario Amodei: 但是，大多數是通過API實現的。

主持人: 所以你是在這項技術上下了最純粹的賭注。就像OpenAI可能在賭聊天GPT，而谷歌可能在賭無論技術發(fā)展到什么地步，它都可以集成到Gmail和日歷中。那么，你為什么要在這種純粹的技術本身上下注呢？

Dario Amodei: 我的意思是，我會說，我不會完全那樣表達。我認為我會將其更多地描述為我們押注于該模型的商業(yè)用例，而不是押注于API本身。只是該模型的首批商業(yè)用例是通過API實現的。正如你提到的，OpenAI非常關注消費者端。谷歌非常關注谷歌現有的產品。我們的觀點是，如果有什么不同的話，人工智能的企業(yè)應用甚至會比人工智能的消費者應用更大。我應該說是商業(yè)應用，因為它包括企業(yè)、初創(chuàng)公司、開發(fā)者，以及使用該模型提高生產力的超級用戶。

我也認為，成為一家專注于商業(yè)用例的公司，實際上能給我們更好的激勵，以改進模型。我認為值得進行的一個思想實驗是，假設我有一個模型，它和生物化學專業(yè)的本科生一樣優(yōu)秀。然后我改進它和生物化學專業(yè)的博士生一樣優(yōu)秀。如果我面向消費者，對吧，如果我給他們聊天機器人，然后我說，好消息，我已經把這個模型在生物化學方面的水平從本科生提高到了研究生。也許，我不知道，只有1%的消費者會在意這個。99%的人只會覺得，反正我也搞不懂。但是，假設我現在去找輝瑞，我說，我已經把這個模型在生物化學方面的水平從本科生提高到了研究生。這將會是世界上最重要的事情。他們可能會為此付出10倍的價格。這對他們來說可能有10倍的價值。

因此，讓模型解決世界難題，使其更加智能，并且能夠帶來許多積極的應用，就像我在《充滿愛意的機器》一書中寫到的那樣，解決生物醫(yī)學問題，解決地緣政治問題，解決經濟發(fā)展問題，以及更平凡的事情，比如金融、法律、生產力或保險，這都是總體的目標。我認為這為盡可能地開發(fā)模型提供了更好的激勵。而且我認為在許多方面，這甚至可能是一項更積極的業(yè)務。我會說，我們是在押注人工智能的商業(yè)用途，因為它與指數級增長最吻合。

主持人: 好的，那么簡單說一下，你們是如何決定采用編碼這一用例的？

Dario Amodei: 所以最初，就像大多數事情一樣，我們試圖優(yōu)化模型，使其在很多方面都表現得更好。而編碼尤其在價值方面脫穎而出。我曾與數千名工程師合作過。大約在一年前到一年半前，我曾合作過的最優(yōu)秀的工程師之一說，以前所有的編碼模型對我來說都毫無用處。而這個模型最終能夠做一些我做不到的事情。然后在我們發(fā)布之后，它開始迅速被采納。大約在這個時候，許多編碼公司，如Cursor、Windsurf、GitHub、Augment Code開始迅速流行起來。然后，當我們看到它如此受歡迎時，我們就加倍投入。我的觀點是，編程特別有趣，因為A，它的普及速度很快。并且B，通過模型更好地掌握編程實際上有助于你開發(fā)下一個模型。所以它有很多，我想說，優(yōu)勢。

主持人: 現在你通過Cloud Code銷售你的AI編程。但非常有趣的是，定價模型讓一些人感到困惑。你可以花費每月200美元來獲得同等價值。我和一位開發(fā)者談過。他們從你的API獲得了相當于每月6000美元的價值。埃德·齊特隆指出，你的模型越受歡迎，如果人們是這項技術的超級用戶，你就會損失更多的錢。那么這怎么說得通呢？

Dario Amodei: 所以實際上，定價方案和速率限制出人意料地復雜。所以其中一些基本上是我們在最大層級發(fā)布Cloud Code的結果，我們最終將其聯系在一起，實際上并沒有完全理解人們使用這些模型的方式以及他們實際能夠獲得的收益所帶來的影響。所以在過去幾天，截至本次采訪時，我們已經對此進行了調整，尤其是在像Opus這樣的大型模型上。我認為現在不可能用200美元的訂閱費花費那么多了。而且未來可能會有更多變化。

但我們始終會有大量使用的用戶和少量使用的用戶。這并不一定意味著我們在賠錢，有些用戶，如果通過API積分來衡量，他們通過消費者訂閱獲得的優(yōu)惠比通過API產品獲得的要好。對吧？這里有很多假設。我可以告訴你，其中一些是錯誤的。

主持人: 事實上，我們并沒有賠錢。但我想還有一個問題是，你是否能繼續(xù)服務于這些用例而不提高價格。僅舉幾個例子，有些開發(fā)者感到不滿，因為使用Anthropic的新模型和游標花費了他們比以往更多的錢。我交談過的一些初創(chuàng)公司表示，Anthropic的情況不太好，因為他們無法獲得GPU。至少他們認為是這樣。而且我最近在Repl.it采訪了Amjad Massad，我們將在下周播出，他說有一段時間，每個token的價格，使用這些模型的價格，都在下降。然后停止下降了。那么發(fā)生了什么，導致這些模型的運行成本對于Anthropic來說如此昂貴，以至于它遇到了自己的瓶頸？

Dario Amodei: 再次說明，我認為你在這里做出了一些假設。

主持人: 所以我才問CEO。

Dario Amodei: 我思考這個問題的方式是，我們從這些模型創(chuàng)造了多少價值的角度來考慮。對吧？所以隨著模型變得越來越好，我考慮它們創(chuàng)造了多少價值。還有一個單獨的問題是，價值如何在模型制造者、芯片制造者和底層應用程序制造者之間分配。所以再說一次，在不透露太多細節(jié)的情況下，我認為你的問題中存在一些不一定正確的假設。

主持人: 你能告訴我哪些嗎？

Dario Amodei: 我要這么說。我預計提供特定水平智能的價格會下降。我預計提供前沿智能的價格，它將提供某種不斷增長的經濟價值，可能會上升也可能會下降。我猜它可能會保持在現在的水平。但同樣，所創(chuàng)造的價值會大幅上升。所以兩年后，我猜我們會擁有成本與今天大致相同的模型，但它們將能夠更自主、更廣泛地完成工作，比今天的能力更強。

主持人: Amjad提到的事情之一是，他認為更大的模型，考慮到它們的規(guī)模，運行起來不會那么密集，或者更密集，因為架構和我們談到的一些技術，它們只點亮了模型的某些部分。所以他的想法，我希望我能如實地傳達這一點，是Anthropic可以運行這些模型，而后端不會有太多的負擔，但仍然保持這些價格不變。我認為我要在此劃清界限的是，為了達到軟件利潤率，有一些報告表明Anthropic略低于軟件毛利率，你將不得不為這些模型收取更高的費用。

Dario Amodei: 所以，再次聲明，我認為更大的模型比更小的模型運行成本更高。

主持人: 好的。

Dario Amodei: 我認為你提到的技術可能指的是混合專家模型之類的。所以無論你的模型是否是混合專家模型，比如混合專家模型是一種更廉價地運行模型的方式，它們擁有給定的參數數量，這是一種訓練模型的方式。但如果你沒有使用該技術，那么不使用該技術的更大的模型比不使用該技術的更小的模型運行成本更高。如果你使用了該技術，那么使用該技術的更大的模型，比使用該技術的更小的模型運行成本更高。所以我認為這有點扭曲了情況。

主持人: 基本上，我只是在猜測，并且我試圖從你這里找到真相。

Dario Amodei: 聽著，所以，就模型的成本而言，有一件事你會感到驚訝，人們，人們會將這件事歸咎于，哦，天哪，將利潤率從x百分比提高到y(tǒng)百分比將非常困難。我們一直在進行改進，使模型比以前的效率提高50%。我們僅僅處于優(yōu)化推理的開端。推理能力從幾年前到現在有了巨大的提升。這就是價格下降的原因。

主持人: 那么，多久才能實現盈利呢？因為我認為今年的損失將達到約30億。這是他們的預測。

Dario Amodei: 所以我會區(qū)分不同的事物。運行模型的成本，對吧？因此，模型每賺一美元，就需要花費一定的成本。這實際上已經相當有利可圖了。還有一些獨立的事項。有支付人員工資和類似建筑物的成本。實際上，在整個大局中，這并不算太大。最大的成本是訓練下一個模型的成本。

我認為這種公司虧損且不盈利的說法有點誤導性。當你查看縮放定律時，你會開始更好地理解它。因此，作為一個思想實驗，這些數字對于Entropic來說并不精確，甚至相差甚遠。讓我們假設在2023年，你訓練一個耗資1億美元的模型。然后在2024年，你部署2023年的模型，它創(chuàng)造了2億美元的收入。但你花費10億美元在2024年訓練一個新模型。然后在2025年，這個耗資10億美元的模型創(chuàng)造了20億美元的收入，你花費100億美元來訓練下一個模型。因此，該公司每年都是不盈利的。它在2024年損失了8億美元。然后在2025年，它損失了80億美元。所以，這看起來像是一個非常沒有盈利能力的企業(yè)。

但是，如果我換個角度，考慮的是每個模型是否盈利，對吧？把每個模型都想象成一個風險投資。我在這個模型上投資了1億美元，然后在第二年從這個模型中獲得了2億美元。所以那個模型有50%的利潤率，而且，像這樣給我賺了1億美元。第二年，公司投資了10億美元，賺了20億美元，或者抱歉，下一個模型，公司投資了10億美元，并且創(chuàng)造了。所以每個模型都是盈利的，但公司每年都是虧損的。

我不是，這是一種風格，我不是聲稱這些數字適用于Anthropic，也不是聲稱這些事實，但這是一種普遍現象。

主持人: 對于Anthropic來說是這樣嗎？

Dario Amodei: 這種普遍的動態(tài)，總體而言，是對正在發(fā)生的事情的解釋。所以，在任何時候，如果模型不再變得更好，或者如果一家公司停止投資于下一個模型，你可能會，你可能會用現有的模型擁有一項可行的業(yè)務，但每個人都在投資于下一個模型。所以最終它會達到某種規(guī)模。但我們花費更多來投資下一個模型這一事實表明，明年業(yè)務的規(guī)模將比前一年更大。可能發(fā)生的情況是，模型停止變得更好，并且存在這種一次性的成本，就像是浪費金錢一樣，我們花了一大筆錢，但隨后這些公司，這個行業(yè)將會回到這種，回到這個平臺期，回到這個盈利水平，或者指數增長可以繼續(xù)下去。所以我認為這是一種冗長的方式來說明，我認為這真的不是思考問題的正確方式。

主持人: 對。但是開源呢？因為如果你停止了，假設你停止投資模型，而開源趕上來了，那么人們就可以換成開源。現在，我很想聽聽你對此的看法，因為當涉及到Anthropic的業(yè)務時，人們和我談論的一件事是，最終存在這種風險，即開源變得足夠好，你可以把Anthropic拿走，然后放入開源。

Dario Amodei: 所以，人們有，我認為這個行業(yè)的一個特點是，我早期就看到了，我在人工智能的歷史早期就看到了。人工智能經歷的每一個社群，都有一套關于事物如何運作的啟發(fā)式方法。就像我回到，2014年的人工智能時，就有一個現有的人工智能和機器學習研究社區(qū)，他們以某種方式思考問題，并且認為，這只是一種時尚，這是一種新事物，這行不通，這無法擴展。然后由于指數效應，所有這些事情都被證明是錯誤的。然后類似的事情發(fā)生在公司內部將人工智能部署到各種應用上的人們身上。然后在創(chuàng)業(yè)生態(tài)系統(tǒng)中也出現了同樣的想法。

我認為現在我們正處于這樣一個階段：世界上的商業(yè)領袖，比如投資者和企業(yè)，他們有一整套關于商品化、護城河的詞匯，價值會歸于哪一層，價值會累積到哪一層。開源是一種你可以看到所有正在發(fā)生的事情的想法，它具有重要意義，它在某種程度上破壞了，它破壞商業(yè)的想法。而且我發(fā)現，作為一個完全不來自那個世界的人，一個從未使用過那種詞匯的人，這是一種不知道任何事情反而經常讓你做出比那些用上一代技術思維方式思考問題的人更好的預測的情況。

而且，我想，這一切都只是在用冗長的方式說，我認為開源在人工智能領域的工作方式與在其他領域不同，主要是因為對于開源，你可以看到，你可以看到模型的源代碼。在這里，我們無法看到模型內部。人們經常稱之為開放權重，而不是開源，以此來區(qū)分。但是很多好處，比如很多人可以一起工作，它是累加性的，這些都不能以同樣的方式運作。所以，我實際上一直把它看作是一種轉移注意力的東西。

當我看到它時，當我看到一個新的模型出現時，我不在乎它是開源的還是非開源的。比如，如果我們談論DeepSeek，我不認為DeepSeek是開源的這件事很重要。我認為我會問，它是一個好模型嗎？對。它比我們在你知道的那些事情上做得更好嗎？這才是我在意的唯一事情。實際上哪種方式都無關緊-要。因為最終，你必須將其托管在云端。在云端托管它的人會進行推理。這些都是大型模型。它們很難進行推理。相反，你看到權重時可以做的很多事情，我們越來越多地在云端提供這些功能，你可以在云端微調模型。你可以，我們甚至在研究，用什么方法來，來，以某種方式，研究模型的激活，作為一種可解釋性接口的一部分。上次我們在引導方面做了一些小事情。所以我認為，從競爭的角度來看，這是一個錯誤的思考方向，我考慮的是哪些模型擅長我們所做的任務。我認為開源實際上是一個轉移視線的手段。

主持人: 但如果它的運行是免費且廉價的。

Dario Amodei: 它不是免費的。你必須，你必須，你必須，你必須在推理上運行而且有人，必須有人讓它在推理上變得快速。

影響力的根源：個人經歷與使命驅動

主持人: 好的。所以我想更多地了解達里奧這個人。我們還有一些時間。所以我有一些關于你早年生活以及你如何成為現在的你的問題。那么在舊金山長大是什么感覺？

Dario Amodei: 這座城市，當我剛在這里長大時，還沒有真正，還沒有真正高檔化太多。當我長大時，科技繁榮還沒有，還沒有發(fā)生。它當時還沒有發(fā)生。它發(fā)生在我讀高中的時候，實際上我對它沒有興趣。它完全，它完全讓我感到無聊。我當時想成為一名科學家。我對物理和數學感興趣。而且，像寫一些網站之類的想法，實際上我一點興趣都沒有，比如創(chuàng)辦一家公司。那些根本不是我感興趣的事情。我當時對發(fā)現基本的科學真理感興趣。我對如何做一些能讓世界變得更好的事情感興趣。所以，這才是更，而且，我眼睜睜地看著科技繁榮在我周圍發(fā)生，但我感覺，我本可以從中學習到各種各樣現在會有幫助的東西，但我實際上沒有關注，也沒有興趣，即使我身處其中。

主持人: 所以你是一位猶太母親和一位意大利父親的兒子。

Dario Amodei: 沒錯。

主持人: 在我來自的長島，我們稱之為披薩百吉餅。

Dario Amodei: 披薩百吉餅。我從未，我從未聽過這個詞。

主持人: 那么你和父母的關系怎么樣？

Dario Amodei: 我的意思是，我一直，我一直，我一直和他們很親近。我覺得他們給了我一種，一種是非觀以及世界上什么才是重要的。我覺得，灌輸一種強烈的責任感，這也許是我記憶最深刻的事情。他們總是那些有責任感的人，并且，想要，想要讓世界，想要讓世界變得更好。我覺得，這是我，我從他們身上學到的主要事情之一。它一直是一個非常，非常，非常充滿愛的家庭，一個非常關愛的家庭。我和我的妹妹丹妮拉非常親近，她當然成為了我的，成為了我的，成為了我的聯合創(chuàng)始人。而且，我想我們很早就決定，我們想以某種，某種方式一起工作。我不知道我們是否想象過它會以如此大的規(guī)模發(fā)生。但是，我想，我想它真的，那是我們很早就決定要做的事情。

主持人: 這些年來，與你相識的人告訴我，你父親的疾病對你產生了很大的影響。你能分享一些關于這件事的信息嗎？

Dario Amodei: 他病了很長時間，最終在2006年去世。所以，這實際上是促使我做某事的原因之一，我不認為我們在這段采訪中提到過，但在我進入人工智能之前，我進入了生物學。所以，我去了，我出現在，我出現在普林斯頓大學，想要成為一名理論物理學家。而且，我在那里的最初幾個月里，在宇宙學方面做了一些工作。而且，那段時間正好是我父親去世的時候。而且，這件事確實對我產生了影響，并且是說服我進入生物學的原因之一，試圖解決人類疾病和生物學問題。

因此，我開始與我在普林斯頓大學所在的系的生物物理學和計算神經科學方面的一些人員交談。這就是導致我轉向生物學和計算神經科學的原因。然后，在那之后，我最終，我最終進入了人工智能領域。我進入人工智能領域的原因實際上是這種動機的延續(xù)，也就是說，當我在生物學領域花費多年時間后，我意識到生物學中潛在問題的復雜性感覺超出了人類的尺度。為了理解這一切，你需要成百上千的，人類研究人員。而且，他們經常難以協(xié)作或分享他們的，結合他們的，他們的知識和人工智能，當時我才剛開始看到人工智能的發(fā)現，但我覺得它是唯一一種可以彌合這種差距的技術，可以將我們帶到超越人類的規(guī)模，從而，充分理解和解決生物學的問題。所以，這里有一條貫穿的線索。

主持人: 對。我可能理解錯了，但我聽到的一件事是，當他患病時，他的疾病基本上是無法治愈的。而且已經有一些進展，您可以分享更多嗎？

Dario Amodei: 現在的一些進展已經使它變得更容易控制了。

主持人:

Dario Amodei: 那，那是真的。實際上，實際上僅僅在，也許在他去世后的三四年里，他所患疾病的治愈率從50%上升到大約95%。

主持人: 我的意思是，父親因為一種本來可以治愈的疾病而被奪走生命，這一定讓人感到非常不公平。

Dario Amodei: 當然。但它也告訴你們解決相關問題的緊迫性，對吧。那，那，那，那，曾經有個人致力于治療這種疾病，而且，成功治愈了它并拯救了很多人的生命，但是，如果他們，如果，他們設法在他們實際發(fā)現這種療法之前幾年找到本可以拯救更多人的生命。

我認為這是，這是這里存在的緊張關系之一，對吧。那，我認為人工智能具有所有這些好處。而且，我希望每個人都能盡快獲得這些好處。我可能比幾乎任何人更了解這些好處有多么緊迫。所以，當我談論人工智能存在這些風險，并且我擔心這些風險時，我真的明白利害攸關，當人們稱我為末日預言家時，我非常生氣。當，當，當有人說，這家伙是個末日預言家，他想減慢事情的進展時，我真的很生氣。你聽到了我剛才說的話，我的，我的父親去世是因為，本可以在幾年后出現的療法。我理解這項技術的好處。

當我坐下來，坐下來，坐下來寫《充滿愛意的機器》時，我寫出了數十億人可以通過這項技術改善生活的各種方式。這些人中的一些人，這些在推特上為加速歡呼的人，我認為他們對這項技術的好處缺乏人文主義的認識。他們的，他們的大腦里充滿了腎上腺素，他們就像，他們想為某些事情歡呼，他們想加速。我感覺不到他們在乎。所以，當這些人稱我為末日論者時，我認為，我認為他們完全，完全缺乏這樣做的道德信譽。這真的讓我對他們失去了尊重。

主持人: 我一直在想“影響”這個詞是什么意思，因為它出現的頻率太高了，以至于那些在你身邊的人都說你特別癡迷于產生影響。

Dario Amodei: 事實上，我和一個很了解你的人談過，他說你不會看《權力的游戲》，因為它與影響無關，那是浪費時間，而你想專注于產生影響。

主持人: 實際上，這不太對。我不會看因為它是一個如此負和的游戲。人們在玩，玩得如此消極，就好像這些人一開始，部分是由于情境，部分是因為他們就是些糟糕的人。他們喜歡創(chuàng)造一種情境，在這種情境下，到最后，每個人都比以前更糟。我真的很，我真的很興奮能創(chuàng)造出正和的局面。

Dario Amodei: 好吧，我推薦你看看。這是一個很棒，很棒的節(jié)目。

主持人: 但我聽到了你的抱怨。有些部分我非常不情愿，并且很長時間都沒看。讓我們回到影響上來。

Dario Amodei: 好的，讓我們回到影響上來。

主持人: 所以這就是影響力，實際上你的職業(yè)生涯一直是這樣，我，為了實現影響力而進行的探索，如果我說得太遠了，請告訴我，是為了防止其他人陷入類似的情況。

Dario Amodei: 我，我認為，我認為，我認為那是其中的一部分。我的意思是，我，我已經看到了，許多，許多幫助人們的嘗試。而且，其中一些比其他的更有效。而且，我認為，我認為我一直試圖，它背后應該有策略，背后應該有智慧，試圖，試圖幫助人們，這通常意味著實現它需要很長的道路，對吧？它可以貫穿一家公司，而且，許多活動是技術性的，并沒有直接與你試圖產生的那種影響相關聯。但是，這個，這個，這個弧線是，我總是試圖將弧線彎向那個方向。我認為，我認為那是我的，那是我的理解。

那是我，那真的是我，那真的是我進入這一行的原因，對吧？我認為，類似于進入人工智能領域的原因是，我，我認為生物學的問題，如果沒有幾乎是難以解決的，或者至少進展太慢了。我認為我創(chuàng)辦公司的理由是，我曾在其他公司工作過，而我，我，我只是覺得那些公司的運營方式，并不是真正地以，你知道的，努力，努力，努力地產生那種影響力為導向。有一個圍繞它的故事，經常被用于招聘，但這些年來，我越來越清楚地意識到，這個故事并不真誠。

安全與責任：駁斥“末日論”與“競優(yōu)”哲學

主持人: 我要稍微繞一下，因為很明顯你指的是OpenAI。據我所知，你擁有OpenAI 50%的計算能力。我的意思是，你負責運行GPT-3項目。所以，如果有人會專注于影響力和安全性，那不應該是你嗎？

Dario Amodei: 我，我知道，有一段時間，在那段時間里，那是真的。但這并非一直如此。例如，當我們擴展GPT-3時，所以，我，當我在OpenAI的時候，我和我的許多同事，包括那些，你知道的，最終，最終創(chuàng)立了Anthropic的人們，The Pandas。

主持人: 熊貓們。那是你給它們起的名字。

Dario Amodei: 不，不，那不是我給它們起的名字。

主持人: 它們自己取的名字。

Dario Amodei: 那也不是它們自己取的名字。那是其他人叫它們的名字。

主持人: 我，我，也許那是其他人叫它們的名字。那不是我曾經用來稱呼我的團隊的名字。

Dario Amodei: 好的。抱歉。

主持人: 請繼續(xù)。

Dario Amodei: 很好的澄清。

主持人: 謝謝。

Dario Amodei: 所以，我們參與了這些模型的擴展。實際上，構建GPT-2和GPT-3的最初原因是我們在進行的那種AI對齊工作的延伸，對吧？在那里，我和保羅·克里斯蒂亞諾以及一些Anthropic的聯合創(chuàng)始人發(fā)明了一種叫做基于人類反饋的強化學習（RLHF）的技術。它的設計目的是幫助引導模型朝著一個方向發(fā)展，以遵循人類意圖。實際上，它是另一種名為可擴展監(jiān)督的方法的先驅，我認為它在多年后才剛剛開始發(fā)揮作用，以幫助模型更符合某種可擴展的人類意圖。但我們發(fā)現，即使使用更原始的技術，即基于人類反饋的強化學習（RLHF），它也無法與小型語言模型（例如我們應用于GPT-1的模型，該模型由OpenAI的其他人構建）一起使用。因此，為了研究這些技術，為了大規(guī)模地應用基于人類反饋的強化學習（RLHF），我們才對GPT-2和GPT-3進行了擴展。

這引出了一個問題，我認為在這個領域，人工智能系統(tǒng)的對齊和人工智能系統(tǒng)的能力以一種方式交織在一起，這種方式總是比我們想象的更加緊密和相互關聯。實際上，這件事讓我意識到，很難將人工智能系統(tǒng)的安全性和人工智能系統(tǒng)的能力分開處理。很難只關注其中一個而不關注另一個。我實際上認為，以更積極的方式影響這個領域的價值和方式來自于組織層面的決策，何時發(fā)布，何時在內部研究，在系統(tǒng)上做什么樣的工作。這也是促使我和其他一些人成為Anthropic創(chuàng)始人的原因之一，讓我們用自己的方式去做。

主持人: 但再說一次，就像如果你在駕駛，如果你認為語言、如果你認為能力和安全是相互關聯的，并且你是在OpenAI內部驅動前沿模型的人，如果你離開了，他們仍然會是一家在做這些事情的公司。

Dario Amodei: 沒錯。

主持人: 看起來如果你在驅動能力，你就會坐在駕駛座上，以你想要的方式幫助它變得安全。

Dario Amodei: 再次，我會說，如果有一個關于發(fā)布模型的決定，如果有一個關于公司治理的決定，如果有一個關于公司人員如何運作的決定，關于公司如何在外部展示自己的決定，公司在部署方面做出的決定，以及它在對社會運作方式方面所做的聲明。這些事情中的很多都不是你僅僅通過訓練模型就能控制的。而且，我認為信任非常重要。我認為公司的領導者必須是值得信賴的人。他們必須是動機真誠的人。無論你如何在技術上推動公司前進，如果你為動機不真誠、不誠實、不真正想讓世界變得更好的人工作，那都不會奏效。你只是在助紂為虐。

主持人: 所以，我確信你聽過像黃仁勛這樣的人的批評，他們說，嗯，Dario認為他是唯一能安全構建這個的人。因此，說到“控制”這個詞，他想控制整個行業(yè)。

Dario Amodei: 我從來沒有說過類似的話。這是一個無恥的謊言。這是我聽過的最無恥的謊言。

主持人: 順便說一句，如果我錯誤地引用了黃仁勛的話，我很抱歉，但是……

Dario Amodei: 不，不，不。這些話是正確的。

主持人: 好的。

Dario Amodei: 他所說的是……但是這些言辭令人憤慨。事實上，我已經多次說過，而且我認為Anthropic的行動也表明了這一點，我們正致力于我們稱之為“競優(yōu)”的目標。這些年來我曾在播客中說過，而且我認為Anthropic的行動也表明了這一點，在競劣中，每個人都在競相盡快推出產品。所以我說，當你們進行競劣時，誰贏并不重要，重要的是每個人都輸了，對吧？因為你制造的不安全系統(tǒng)會幫助你的對手，或者造成經濟問題，或者從對齊的角度來看是不安全的。

我思考競優(yōu)的方式是，誰贏并不重要，重要的是每個人都贏了，對吧？所以競優(yōu)的方式是，你為這個領域的工作方式樹立榜樣。你說，我們將參與這種實踐。因此，這方面的一個關鍵例子是負責任的擴展政策。我們是第一個提出負責任的擴展策略的人。我們沒有說，其他人都應該這樣做，否則你們就是壞人。我們沒有試圖利用它作為優(yōu)勢。我們把它發(fā)布出來，然后我們鼓勵其他人也這樣做。然后我們在隨后的幾個月里發(fā)現，其他公司內部有人試圖提出負責任的擴展策略。但我們已經做過這件事的事實，允許了、賦予了那些人權限，對吧？某種程度上使這些人能夠向領導層提出論點，嘿，Anthropic正在這樣做，所以我們也應該這樣做。

投資于可解釋性也是如此。我們向所有人發(fā)布我們的可解釋性研究，并允許其他公司復制即使我們已經看到它有時具有商業(yè)優(yōu)勢。憲法人工智能也是如此。對我們系統(tǒng)的危險性進行測量，即危險能力評估，也是如此。所以我們正試圖為這個領域樹立一個榜樣。但存在一種相互作用，成為強大的商業(yè)競爭對手會有所幫助。我從未說過任何近似于這家公司應該是唯一一家構建這項技術的想法。我不知道任何人怎么可能從我說過的任何話中得出這個結論。這簡直是一種令人難以置信的、惡意的歪曲。

主持人: 好的。讓我們看看在我們問你最后一個問題之前，是否可以像閃電般快速地過一兩個問題，最后一個問題我們有5分鐘的時間。SPF發(fā)生了什么事？SPF發(fā)生了什么事？我的意思是，他是其中之一——請說。

Dario Amodei: 我無法告訴你。

主持人: 你沒回答什么？

Dario Amodei: 我可能見過那家伙四五次。好的。所以我對山姆·班克曼-弗里德的心理，或者他為何會做出如此愚蠢或不道德的事情，沒有深刻的見解。我認為我事先唯一了解到的關于山姆·班克曼-弗里德的事情是，有人向我提到他很難合作，他有點像那種“快速行動，打破常規(guī)”的人。我當時想，好吧，這樣的人有很多——歡迎來到硅谷。

主持人: 歡迎來到硅谷。

Dario Amodei: 所以我記得我說過，好吧，我要給這家伙無投票權的股份。我不會讓他進入董事會。聽起來他像是個每天打交道都很糟糕的人。但他對人工智能很感興趣。他對人工智能安全很感興趣。他看好人工智能。而且他對人工智能安全感興趣。看起來這似乎是明智之舉。就像現在回想起來，快速行動，打破常規(guī)的做法比我曾經想象的要極端、糟糕得多得多。

在希望與風險之間：引領AI走向負責任的未來

主持人: 好的，我們今天就到這里吧。那么你找到了你的影響力。我的意思是，你現在幾乎是在實現夢想。想想人工智能可以用于生物學的各種方式，就從這開始。你也說過這是一種危險的技術。我很好奇，你對影響力的渴望是否會推動你加速這項技術的發(fā)展，同時可能低估了控制它可能不可行的可能性。

Dario Amodei: 所以我認為，比起這個行業(yè)里的任何其他人，我更早就已經對這項技術的危險性發(fā)出了警告，對吧？我們剛剛花了10到20分鐘討論了那些令人恐懼的事情，那些運營著價值萬億美元的公司的人們批評我談論這些技術的危險性，對吧？我有美國政府官員。我有管理著4萬億美元公司的人批評我談論這項技術的危險性，對吧？將所有這些奇怪的動機歸咎于我，這些動機與我曾經說過的任何話都沒有關系，也沒有任何我做過的事情可以支持。然而，我將繼續(xù)這樣做。

我實際上認為，隨著收入的增長，隨著人工智能的經濟業(yè)務呈指數級增長，如果我是對的，幾年后，它將成為世界上最大的收入來源，對吧？它將成為世界上最大的產業(yè)。經營公司的人已經這樣認為了。所以我們實際上面臨著這種可怕的局面：數千億到數萬億，我說，也許20萬億美元的資本站在盡快加速人工智能的一邊。我們有一家公司，按絕對值計算非常有價值，但與此相比顯得非常小，對吧？600億美元。而且我一直在發(fā)聲，即使這讓人們感到不快，并且已經出現了這些文章。例如，美國政府中的一些人對我們感到不滿，因為我們反對暫停人工智能監(jiān)管，支持對華芯片出口管制，以及談論人工智能的經濟影響。每次我這樣做，都會受到許多同行的攻擊。

主持人: 對，但你仍然假設我們可以控制它。這就是我所指出的。

Dario Amodei: 但我只是想告訴你，有多少努力，有多少堅持，有多少不顧一切的堆砌，不顧所有的危險，不顧對公司造成的風險，我仍然愿意發(fā)聲。這就是我所說的，聽著，如果我認為沒有辦法控制這項技術，對吧？如果我這樣認為，即使我認為這只是一場賭博，對吧？有些人會說，哦，你認為人工智能有5%或10%的概率會出錯。你只是在擲骰子。我不是這樣看待它的。這是一個多步驟游戲，對吧？你走一步，你構建下一步更強大的模型。你有一個更密集的測試機制。隨著我們越來越接近更強大的模型，我越來越多地發(fā)聲。而且我采取了越來越激烈的行動，因為我擔心人工智能的風險越來越近。我們正在努力解決這些問題。我們已經取得了一定的進展。

但是，當我擔心我們在風險方面取得的進展沒有達到技術發(fā)展速度所需的速度時，我就會更大聲地說話。所以你在問，你在采訪開始時說，你怎么了？你為什么在談論這些？這是因為指數增長已達到某種程度，我擔心我們可能會面臨這樣一種情況：我們處理風險的能力跟不上技術發(fā)展的速度。這就是我對此的回應。

如果我相信沒有任何辦法可以控制這項技術，但我絕對沒有看到任何證據支持這種說法。我們在控制模型方面做得越來越好，每次發(fā)布新模型都是如此，對吧？所有這些事情都會出錯，但你真的必須對模型進行非常嚴格的壓力測試。這并不意味著不會出現突發(fā)的糟糕行為。而且我認為，如果我們使用現在擁有的對齊技術來構建更強大的模型，我會非常擔心。那么我就會站出來說，每個人都應該停止構建這些東西。甚至中國也應該停止構建這些。我認為他們不會聽我的，這也是我認為出口管制是一個更好措施的原因之一。但如果我們在模型上領先幾年，卻只有今天這樣的對齊和引導技術，那我肯定會主張我們大幅減速。

我之所以警告這種風險，是為了我們不必減速。為了我們可以投資于安全技術，并能繼續(xù)該領域的進步。這將是一項巨大的經濟努力。即使有一家公司愿意放慢技術發(fā)展速度，也無法阻止所有其他公司。這也無法阻止我們的地緣政治對手，對他們來說這是一場為了生存而進行的你死我活的斗爭。所以這里的余地很小。我們被這項技術的所有好處、加速發(fā)展的競賽以及這是一場多方參與的競賽這一事實所困擾。所以我正在盡我所能做最好的事情，那就是投資于安全技術，以加速安全方面的進展。我寫過關于可解釋性重要性的文章，以及安全方面的各種方向有多么重要。我們公開我們所有的安全工作，因為我們認為那是公共利益。那是每個人都需要分享的東西。

所以，如果你有更好的策略來平衡利益、技術的必然性和它所面臨的風險，我非常樂意聽取。因為我每天晚上都在思考這個問題才入睡。因為我對利益、它能做什么以及它能拯救的生命等方面的利害關系有著深刻的理解。我親身經歷過。我也親身經歷了風險。我們已經看到模型出錯的情況。我們有布羅克的例子可以說明這一點。人們對此不屑一-顧，但當模型采取行動、進行制造以及負責醫(yī)療干預時，他們就不會再笑了。當模型只是在說話時，人們可以嘲笑這些風險。但我認為這非常嚴重。所以我認為這種情況需要對風險和收益進行非常嚴肅的理解。這些都是高風險的決策。需要以嚴肅的態(tài)度來對待。

我認為讓我非常擔憂的是，一方面，我們有一批末日論者。有人叫我末日論者。我不是。但確實存在末日論者，他們說他們知道沒有辦法安全地構建這個。我已經研究過他們的論點。他們都是胡說八道。這些模型存在危險，包括對整個人類的危險，這種想法對我來說是有道理的。我們能夠以某種方式從邏輯上證明沒有辦法使它們安全，這種想法在我看來是無稽之談。因此，我認為這是在智力和道德上對我們所處境況的一種不嚴肅的回應。

我也認為，對于那些掌握著20萬億美元資本，并且因為他們的激勵機制相同而一起合作，眼里只有金錢的人來說，坐在那里說我們不應該在10年內監(jiān)管這項技術，這在智力和道德上也是不嚴肅的。任何說我們應該擔心這些模型安全性的人，都只是想自己控制這項技術。這是個無恥的說法。并且這是一個在道德上不嚴肅的說法。

我們坐在這里，做了所有可能的研究。當我們認為這樣做是合適的時候，我們會發(fā)聲。我們已經嘗試后退。當我們聲稱人工智能的經濟影響時，我們有一個經濟研究委員會，我們有一個經濟指數，我們用它來實時跟蹤模型，而且我們正在為人們提供資助，以了解這項技術的經濟影響。我認為，對于那些在經濟上比我更投入于這項技術成功的人來說，只是輕松地進行人身攻擊，我認為這在理智和道德上都和末日論者的立場一樣不嚴肅。我認為我們現在需要的是更多的深思熟慮。我們需要更多的誠實。我們需要更多人愿意違背自己的利益，愿意不參與輕松的推特爭吵和激烈的評論。我們需要人們真正投入精力去理解情況，真正去做工作，真正發(fā)布研究，并真正為我們所處的情況增添一些光明和見解。我正在努力做到這一點。我不認為我做得完美，因為沒有人能做到完美。我正在盡我所能地去做。如果有其他人也嘗試做同樣的事情，那將會非常有幫助。

主持人: 好的，達里奧，我曾在鏡頭外說過，但我想在節(jié)目結束時確保也把它說出來。我很欣賞Anthropic公司發(fā)布了如此多的信息。我們從這些實驗中學到了很多，從對模型進行紅隊測試到自動售貨機克勞德，我們今天沒有機會談論它。但我認為世界會因為聽到這里發(fā)生的一切而變得更好。鑒于此，感謝你和我一起坐下來，花這么多時間在一起。

Dario Amodei: 謝謝你邀請我。