郝珂靈（Karen Hao）是全世界最早報(bào)道OpenAI的記者。2019年8月7日，當(dāng)她抵達(dá)OpenAI辦公室時(shí)，OpenAI還只是一家名不見經(jīng)傳、但處于快速變化中的公司。那時(shí)她是MIT Technology Review報(bào)道人工智能領(lǐng)域的資深記者，具有MIT工科學(xué)位和硅谷工程師工作背景。

報(bào)道過程經(jīng)歷了一系列波折。通過在OpenAI的公司受限制地蹲點(diǎn)三天，以及對(duì)該公司前員工和現(xiàn)員工、合作伙伴、朋友和其他領(lǐng)域?qū)＜医尾稍L，她觀察到的是OpenAI的野心如何使其偏離了最初的使命。這篇深度報(bào)道后，OpenAI顯然并不滿意，此后三年再也沒有接受過她的采訪。

今年4月，在這本書面世之前，Sam Altman在社交媒體上發(fā)帖聲稱將會(huì)有人出書抹黑他和OpenAI, 并強(qiáng)調(diào)那本書的作者并未采訪他。郝珂靈回應(yīng)道：我就是“那個(gè)人”，我在寫書的過程中一直尋求OpenAI可以出來接受采訪，他們說了幾個(gè)月“快了快了”，但始終沒有（接受采訪）。

5月，郝珂靈在持續(xù)的業(yè)內(nèi)采訪基礎(chǔ)上出版了新書Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI（《AI帝國(guó)：薩姆·奧特曼的OpenAI的夢(mèng)想與噩夢(mèng)》），深入探討了這家引發(fā)AI軍備競(jìng)賽的公司，以及這場(chǎng)競(jìng)賽對(duì)我們所有人意味著什么。6月24日晚，她在香港的線下文化空間“過濾氣泡工作室”做了一場(chǎng)新書分享，主持人是香港中文大學(xué)新聞與傳播學(xué)院助理教授方可成。以下是分享會(huì)的文字整理，我們將英文表述翻譯成了中文，并對(duì)口語(yǔ)表達(dá)做了適當(dāng)?shù)木庉嫛１疚慕?jīng)講者審訂。

6月24日，《AI帝國(guó)》作者郝珂靈（Karen Hao）在香港與香港中文大學(xué)新聞與傳播學(xué)院助理教授方可成做新書分享。過濾氣泡工作室 供圖

OpenAI選擇“大力出奇跡”的發(fā)展路徑，為了最快搶占先機(jī)

方可成：我想先請(qǐng)Karen來跟我們介紹一下Empire of AI這本書里面一個(gè)非常核心的觀點(diǎn)，那就是：你對(duì)于OpenAI、對(duì)于Sam Altman發(fā)展AI產(chǎn)業(yè)的路徑持非常批判的態(tài)度。所以，Sam Altman的策略，他發(fā)展AI的方式，問題究竟在哪里？OpenAI這個(gè)公司真的很糟糕嗎？如何幫我們理解這個(gè)問題？

郝珂靈：很多人第一次接觸人工智能就是因?yàn)镃hatGPT，所以很多人以為ChatGPT就是全部的人工智能技術(shù)。但其實(shí)人工智能是一個(gè)總稱，涵蓋了很多種不同的技術(shù)。ChatGPT這種生成式AI技術(shù)采用的是大規(guī)模AI模型開發(fā)的方法，最重要的特點(diǎn)是：在訓(xùn)練這種模型的時(shí)候，要用很多數(shù)據(jù)、很多能源、很多資源來開發(fā)這種人工智能。

方可成：所以之前大家并不是用這種方式去做的？

郝珂靈：以前的AI模型都是用在數(shù)據(jù)、計(jì)算、能源方面都更加高效率的方法。但Sam Altman和其他高管——前首席科學(xué)家Ilya Sutskever、Greg Brockman，還有Elon Musk——?jiǎng)傞_始創(chuàng)辦OpenAI的時(shí)候，他們選擇了這個(gè)特定的發(fā)展軌道。他們當(dāng)時(shí)認(rèn)為，最快在AI發(fā)展方面達(dá)到第一的方法，就是采用規(guī)模化的方法，用很大的規(guī)模來訓(xùn)練更好的模型。一旦他們選擇了這種規(guī)模化方法，就必須用很多能源、很多資源來做人工智能。

方可成：所以就是“大力出奇跡”。他們其實(shí)也并不知道到底發(fā)生了什么，但就是要用更多的數(shù)據(jù)和能源。

郝珂靈：是的，這是一種非常暴力的方法，沒有什么技術(shù)上的創(chuàng)新性。當(dāng)時(shí)OpenAI剛開始的時(shí)候，這種方法其實(shí)被很多比較有名的科學(xué)家看不起，因?yàn)樗麄冇X得這不是真正在探索新的技術(shù)來發(fā)展人工智能，而是用已有的技術(shù)來暴力突破，只是加更多數(shù)據(jù)、更多資源和能源，把規(guī)模擴(kuò)大。

雖然當(dāng)時(shí)那些科學(xué)家看不起這種方法，但后來OpenAI獲得了巨大成功，所以現(xiàn)在很多人都忘記了以前那種輕視的觀點(diǎn)，反而很羨慕OpenAI這種方法。我寫這本書，有一個(gè)原因就是想描述這段歷史，因?yàn)楹芏嗳艘呀?jīng)忘記了以前人工智能領(lǐng)域有非常多樣化的觀點(diǎn)。但現(xiàn)在，所有的大公司，特別是美國(guó)的所有大公司，在發(fā)展人工智能時(shí)，都在用這種大規(guī)模模型開發(fā)的方法。

方可成：有人可能聽說過一些相關(guān)的術(shù)語(yǔ)，比如神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)之類。這些是屬于OpenAI的方法還是屬于更高效的方法？

郝珂靈：深度學(xué)習(xí)既包括OpenAI的方法，用很大的數(shù)據(jù)集，也可以用比較小的數(shù)據(jù)集，它們都是深度學(xué)習(xí)。OpenAI當(dāng)時(shí)就是用的這個(gè)技術(shù)，但他們改變了規(guī)模的數(shù)量級(jí)。

Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI書封

方可成：你剛才說這是四個(gè)人的共同決定。

郝珂靈：也可以說不只是這四個(gè)人，但是這四個(gè)人每個(gè)人對(duì)于為什么要用規(guī)模化的方法去做，都有不同的觀點(diǎn)。對(duì)于Ilya Sutskever來說，他是一個(gè)科學(xué)家，他的整個(gè)職業(yè)生涯都在做反主流的事情。當(dāng)時(shí)這種大規(guī)模的方法被認(rèn)為不足以開發(fā)AI，但他就想要這么去做。作為四人團(tuán)隊(duì)中唯一的科學(xué)家，他就自己做決定說，我們要追求這個(gè)方法。

至于Sam Altman、Greg Brockman和Elon Musk，他們都是硅谷企業(yè)家，喜歡閃電式擴(kuò)張、創(chuàng)造壟斷的公司，所以他們也喜歡這種規(guī)模化方法。雖然他們沒有科學(xué)背景，但他們懂得如何籌款，如何聚集所有資源來建造超級(jí)計(jì)算機(jī)。所以，這種方法對(duì)Sam Altman來說特別合適，因?yàn)檫@符合他擅長(zhǎng)的東西。

方可成：他最擅長(zhǎng)什么？

郝珂靈：他最干的就是能講故事，講未來的故事，他可以想象未來是什么樣子，然后創(chuàng)造一個(gè)非常引人入勝的故事，讓投資人、科學(xué)家、別的企業(yè)家都想加入他的使命，來構(gòu)建他想象的未來。

但是他也是一個(gè)很有爭(zhēng)議的人，因?yàn)樗o不同的人講的故事會(huì)不一樣，所以有時(shí)候他會(huì)說我們應(yīng)該這樣做，因?yàn)槿斯ぶ悄芴貏e好，如果我們能更快地開發(fā)這個(gè)技術(shù)，它會(huì)把我們帶到烏托邦。有時(shí)候會(huì)跟別人說人工智能是一個(gè)很可怕的技術(shù)，所以我們要拼命去開發(fā)人工智能，然后控制這個(gè)發(fā)展，不要分享給別人，讓我們自己留著，慢慢地訓(xùn)練出一個(gè)更好的版本。

所以有人認(rèn)為他是這一代的喬布斯，但另一些人認(rèn)為他是一個(gè)特別喜歡撒謊的人，會(huì)慢慢地不太信任他。但是因?yàn)樗v故事講得特別強(qiáng)，就很能籌錢。籌錢這方面，他真的很擅長(zhǎng)。

方可成：所以他們組成了這個(gè)團(tuán)隊(duì)，有了一個(gè)其實(shí)當(dāng)時(shí)堅(jiān)信這樣一種方法的科學(xué)家，然后有這些企業(yè)家支持，特別是有一個(gè)非常會(huì)拿錢的人，因?yàn)檫@個(gè)方法顯然需要非常多的金錢投入才可以，所以這些才促成了OpenAI開發(fā)ChatGPT以及之后的所有這些模型。

你實(shí)際上是在2019年就已經(jīng)去過OpenAI采訪，對(duì)吧？那個(gè)時(shí)候就已經(jīng)是這個(gè)樣子了嗎？

郝珂靈：OpenAI是2015年底創(chuàng)立的，當(dāng)時(shí)是一個(gè)非營(yíng)利組織，他們說我們要做基礎(chǔ)AI研究，我們不要做什么商業(yè)產(chǎn)品，也不要賣什么東西，要用一個(gè)完全非營(yíng)利的環(huán)境慢慢地去探索人工智能，去發(fā)展這項(xiàng)科技。因?yàn)镋lon Musk特別擔(dān)心，他覺得如果在一個(gè)營(yíng)利的環(huán)境下發(fā)展人工智能的話，事情會(huì)變得很糟糕——而他覺得糟糕的意思是：AI會(huì)發(fā)展出意識(shí)，會(huì)發(fā)展出情感，會(huì)失控并且殺死世界上的每一個(gè)人。

但是到了2017年，就是一年半之后，他們就開始確定這個(gè)規(guī)模化方法。他們開始討論要從非營(yíng)利轉(zhuǎn)成營(yíng)利，因?yàn)樗麄円X，非營(yíng)利如果想籌集那么大筆錢是不可能的事情。但是當(dāng)他們開始討論營(yíng)利的時(shí)候，Elon Musk和Sam Altman都想當(dāng)這個(gè)營(yíng)利機(jī)構(gòu)的CEO。當(dāng)時(shí)其他兩位傾向于Elon Musk，因?yàn)樗麄冇X得Musk會(huì)把公司做得更成功。但是，Sam Altman就慢慢地開始跟Greg和Ilya說，你是不是覺得Musk有點(diǎn)太不可靠了？如果我們把這個(gè)公司交給他，人工智能以后發(fā)展的環(huán)境會(huì)不會(huì)不那么好？所以慢慢地就說服了Ilya Sutskever和Greg Brockman選他當(dāng)CEO，而Musk就離開了。

所以我2019年去OpenAI的時(shí)候，他們其實(shí)已經(jīng)偷偷地開始做這個(gè)規(guī)模化方法，但是還沒有跟別人說。他們當(dāng)時(shí)沒有完全轉(zhuǎn)成一個(gè)營(yíng)利機(jī)構(gòu)，而是在非營(yíng)利組織里邊創(chuàng)建了一個(gè)營(yíng)利部門。今天OpenAI還是那種結(jié)構(gòu)，既有非營(yíng)利也有營(yíng)利。當(dāng)時(shí)他們就跟我說，這種方法最好，因?yàn)槲覀兇_實(shí)要籌集很大一筆錢，但是我們還是想保持我們以前這個(gè)非營(yíng)利使命，所以做了一個(gè)比較奇怪的結(jié)構(gòu)來制衡自己。雖然我們確實(shí)會(huì)以后可能要討論怎么樣去做產(chǎn)品，怎么樣去商業(yè)化，但會(huì)被非營(yíng)利的使命所管理。

方可成：那你在2019年采訪的時(shí)候，當(dāng)時(shí)有沒有預(yù)料到后面這一系列從ChatGPT發(fā)布開始的轟動(dòng)和發(fā)展？你當(dāng)時(shí)覺得能看到未來的一些端倪嗎？

郝珂靈：完全沒有看到，因?yàn)楫?dāng)時(shí)我覺得他們的技術(shù)沒有那么有意思。當(dāng)時(shí)就是GPT-2，比ChatGPT早兩代。GPT-2可以說可以寫，但是寫得也不好。這個(gè)模型本質(zhì)上就是統(tǒng)計(jì)學(xué)，它講的這些話雖然可以看起來有點(diǎn)像我們寫的、說的，但它不是從同樣的內(nèi)在意義產(chǎn)生這些話。所以，我當(dāng)時(shí)就沒有意識(shí)到有了ChatGPT以后會(huì)那么轟動(dòng)。

2024年8月，谷歌在烏拉圭卡內(nèi)洛內(nèi)斯建立新的數(shù)據(jù)中心。圖源：谷歌博客

機(jī)器要“喝”干凈的水，人要“洗”臟數(shù)據(jù)

方可成：你剛才說到了這種規(guī)模化的方法所消耗的資源是非常夸張的，可不可以給大家一些比較直觀的例子，說明一下它是有多么夸張？

郝珂靈：好的。最近麥肯錫的一份顯示，在5年之內(nèi)，如果我們要繼續(xù)維持超級(jí)計(jì)算機(jī)的發(fā)展來支持這種AI開發(fā)方式，我們必須在全球電網(wǎng)中增加相當(dāng)于加利福尼亞州（世界第五大經(jīng)濟(jì)體）每年消耗能源的2到6倍的電力。而且，其中大部分必須來自化石燃料，因?yàn)檫@些數(shù)據(jù)中心不能只靠可再生能源來訓(xùn)練這些模型，也不能只靠可再生能源來部署這些模型。所以，我們實(shí)際上正在單方面逆轉(zhuǎn)過去十年在氣候方面取得的許多進(jìn)展。

方可成：所以就是因?yàn)榇笳Z(yǔ)言模型的這個(gè)技術(shù)，所以我們不得不又重新使用很多化石能源。

郝珂靈：沒錯(cuò)。另外，目前這些工具的開發(fā)還需要大量純凈水來冷卻數(shù)據(jù)中心。而且必須是純凈水，因?yàn)槠渌愋偷乃畷?huì)導(dǎo)致細(xì)菌滋生并腐蝕設(shè)備。彭博社最近有一篇說，三分之二的這些數(shù)據(jù)中心已經(jīng)進(jìn)入了面臨水資源短缺問題的社區(qū)，所以訓(xùn)練這些模型實(shí)際上是在與社區(qū)的水資源競(jìng)爭(zhēng)。

我在書里描述了南美洲的一個(gè)社區(qū)。我去的時(shí)候，他們正在經(jīng)歷一場(chǎng)歷史性的旱災(zāi)。就在那次旱災(zāi)期間，市政府不得不開始將有毒的水混入公共供水系統(tǒng)，因?yàn)樗麄儧]有足夠的公共用水。所以很窮的人就在喝有毒的水，而且當(dāng)時(shí)有很多懷孕的女性，她們的流產(chǎn)率更高，因?yàn)樗齻冊(cè)诤冗@種水。

方可成：而與此同時(shí)，機(jī)器卻要喝干凈的水。

郝珂靈：那時(shí)，谷歌提議在那個(gè)城市的中心建造一個(gè)數(shù)據(jù)中心，這將消耗大量的純凈水資源。

方可成：為什么會(huì)是這些地方呢？明明知道這些地方缺水，為什么還會(huì)去這些地方提議要建數(shù)據(jù)中心呢？

郝珂靈：因?yàn)楝F(xiàn)在基本上沒有那么多地方不缺水了，這是一場(chǎng)全球氣候危機(jī)。其實(shí)基本上就是沒有足夠的地方來滿足這些數(shù)據(jù)中心的需求了。隨著AI對(duì)資源需求的增加，氣候危機(jī)也在加速。我們看到這兩個(gè)軌跡的碰撞，所有這些數(shù)據(jù)中心現(xiàn)在都建在已經(jīng)受到氣候危機(jī)影響的地方。

方可成：你剛才介紹了環(huán)境資源上的代價(jià)，你在書里也提到了勞工方面的代價(jià)，這方面能不能給大家展開介紹一下？

郝珂靈：好的。OpenAI當(dāng)時(shí)選擇去訓(xùn)練這些大規(guī)模模型的時(shí)候，他們也做了另一個(gè)選擇，就是為了滿足大規(guī)模AI的數(shù)據(jù)需求，你必須從使用“干凈的數(shù)據(jù)”轉(zhuǎn)向使用“被污染的數(shù)據(jù)”，因?yàn)闆]有足夠的干凈數(shù)據(jù)。

方可成：什么是干凈的和被污染的數(shù)據(jù)？

郝珂靈：干凈數(shù)據(jù)指的就是，當(dāng)你建一個(gè)數(shù)據(jù)集的時(shí)候，你知道里面是什么，因?yàn)槟切┒际悄阕约禾暨x出來的；而被污染的數(shù)據(jù)指的就是，從網(wǎng)上抓取大批數(shù)據(jù)，你也不知道里面到底有什么、是誰(shuí)制造出來的。

方可成：那可能舉個(gè)例子就是說，如果我選某一份報(bào)紙的數(shù)據(jù)，那我清楚地知道這份報(bào)紙上面有什么內(nèi)容，這就是干凈數(shù)據(jù)；而如果我在一個(gè)網(wǎng)絡(luò)論壇，或者我在微博、Twitter上面隨意地抓取一些數(shù)據(jù)下來，這就是污染數(shù)據(jù)。

郝珂靈：對(duì)的。互聯(lián)網(wǎng)上什么都有，數(shù)據(jù)很亂。但你需要大量數(shù)據(jù)。OpenAI這些公司，它們實(shí)際上不知道自己的數(shù)據(jù)里有什么。當(dāng)我采訪研究人員時(shí)，除了數(shù)據(jù)來源之外，他們說不出數(shù)據(jù)的內(nèi)容。

當(dāng)你從使用干凈數(shù)據(jù)轉(zhuǎn)換到使用污染數(shù)據(jù)時(shí)，你必須開始做內(nèi)容審核。因?yàn)楫?dāng)你在污染數(shù)據(jù)上訓(xùn)練這些大規(guī)模模型時(shí)，里面肯定會(huì)有很多雜亂的內(nèi)容，模型就會(huì)開始表現(xiàn)得很奇怪，開始說一些有毒、辱罵、仇恨的話，這不會(huì)是一個(gè)好的消費(fèi)者體驗(yàn)。

我采訪的一個(gè)社群是肯尼亞的數(shù)據(jù)勞工，OpenAI在公司從基礎(chǔ)研究轉(zhuǎn)向商業(yè)化的時(shí)候，雇傭他們來執(zhí)行這種內(nèi)容審核。那些肯尼亞勞工，他們?nèi)諒?fù)一日地閱讀互聯(lián)網(wǎng)上最糟糕的內(nèi)容，試圖訓(xùn)練一個(gè)過濾器來識(shí)別那些內(nèi)容，然后阻止它被生成給用戶。這是一個(gè)包裹在GPT模型周圍的過濾器，確保用戶永遠(yuǎn)不會(huì)接觸到有毒內(nèi)容。但這意味著，數(shù)據(jù)勞工在這個(gè)過程中受到了嚴(yán)重的心理創(chuàng)傷。

我采訪了一個(gè)人，他在涉性內(nèi)容團(tuán)隊(duì)。所以他在閱讀所有關(guān)于性虐待、兒童性剝削的內(nèi)容。而且這不僅僅是從互聯(lián)網(wǎng)上抓取的內(nèi)容，OpenAI還在提示其AI模型去想象互聯(lián)網(wǎng)上的性內(nèi)容，最糟糕的那種性內(nèi)容，以便有更多樣化的內(nèi)容供他標(biāo)記。每天這樣做幾個(gè)小時(shí)后，他的性格完全改變了，本來很外向，但后來變得很內(nèi)向，不想和妻子、繼女說話。

他也無法跟他的妻子說他為什么改變了，因?yàn)樗恢涝趺慈ソ忉屗墓ぷ魇莵碚炜葱詢?nèi)容。聽起來不像真的工作，也聽起來是一個(gè)很羞恥的工作，所以他根本無法去解釋這些性格的改變。慢慢地，他的妻子就開始懷疑他們的婚姻。

有一天，他妻子說自己晚上想要吃魚，他就出去買了三條魚。他回家以后，發(fā)現(xiàn)她們所有東西都沒了，然后他妻子就給他發(fā)了一條短信，說我現(xiàn)在已經(jīng)不認(rèn)識(shí)你是誰(shuí)了，我們不會(huì)再回來。

方可成：這種事情當(dāng)時(shí)在發(fā)生，現(xiàn)在這些是否還在發(fā)生呢？技術(shù)發(fā)展到現(xiàn)在，是否還需要這么多的數(shù)據(jù)標(biāo)注勞工？以及，現(xiàn)在是不是用AI本身也可以去做內(nèi)容審核了？

郝珂靈：絕對(duì)還在發(fā)生。你不能讓AI來做內(nèi)容審核，除非你已經(jīng)實(shí)現(xiàn)了真正的AI，也就是真正具有理解能力的AI。在社交媒體上，我們還沒有解決內(nèi)容審核的問題。你以為AI發(fā)展那么好了，以后這些審核問題都會(huì)消失，但是沒有消失，因?yàn)檫@些模型還沒有那么聰明，它們并不能去真正地理解文本的實(shí)際意義。

所以我們還是要有人去做這些內(nèi)容審核。雖然基本上這些公司已經(jīng)把所有以前互聯(lián)網(wǎng)的內(nèi)容已經(jīng)用光了，但是天天還有很多人在生成新數(shù)據(jù)，所以還是會(huì)有更多的內(nèi)容審核要做。而且，以前是文本生成模型，現(xiàn)在還有圖像和視頻生成模型，它們也要內(nèi)容審核。

我發(fā)現(xiàn)，OpenAI在印度還有另一個(gè)外包公司，雇傭當(dāng)?shù)厝藖碜鰣D像內(nèi)容審核。那些員工也是天天看這些內(nèi)容，他們甚至不知道是真的還是假的圖像，但是同樣的性虐待、兒童性剝削內(nèi)容。他們根本不知道是從哪里來的。現(xiàn)在你想想視頻生成，他們也要做同樣的事情。而且永遠(yuǎn)不會(huì)停止，因?yàn)橛脩艨倳?huì)想新的方法去濫用產(chǎn)品，公司就要增加新的內(nèi)容審核層。所以這就像貓鼠游戲一樣，永遠(yuǎn)都會(huì)有越來越多的東西需要過濾掉。

創(chuàng)新投資的悖論：資金集中于大模型，更優(yōu)AI技術(shù)難以實(shí)現(xiàn)

方可成：你剛才說到，幾年前當(dāng)OpenAI選用這種方式的時(shí)候，很多人還是不相信的，甚至是有點(diǎn)鄙視他們的這種方式的。但現(xiàn)在他們好像獲得了巨大的成功，同時(shí)也有很多其他的AI公司也在發(fā)展。那如今AI行業(yè)里面大概的情景是什么樣？采用這種由OpenAI開創(chuàng)的這種方法，是不是已經(jīng)成為一個(gè)絕對(duì)的主流了？還是說其實(shí)是有一些其他的不一樣的方式在開發(fā)AI？

郝珂靈：現(xiàn)在基本上沒有人在做其他的方式，因?yàn)闆]有別的錢來做。

方可成：錢也用光了？我們什么東西都用光了！

郝珂靈：是的。我前幾天了解到，基于現(xiàn)在初創(chuàng)公司的，大約50%的投資都集中在OpenAI和Anthropic上。所以不只是沒有錢去做別的AI開發(fā)方法，甚至是沒有錢去做別的所有創(chuàng)新。所有的錢都集中在這兩家公司上面。

那些更大的科技公司，谷歌、微軟、meta，他們也基本上全把所有的資源都投資在了大規(guī)模AI模型開發(fā)上，不再做別的事情。

比如，谷歌雖然收購(gòu)了DeepMind，但是DeepMind還是可以做自己的研究，所以DeepMind幾年前開發(fā)了AlphaFold，就是一個(gè)AI模型能從氨基酸序列預(yù)測(cè)蛋白質(zhì)折疊，去年就得了諾貝爾化學(xué)獎(jiǎng)。可是現(xiàn)在，他們基本上沒有那個(gè)資源去做這種發(fā)展了。OpenAI發(fā)布ChatGPT后，谷歌和DeepMind就合并成了一個(gè)AI實(shí)驗(yàn)室。

方可成：等于說其他的可能性其實(shí)是被吃掉了。

郝珂靈：是的，所有的資源都去了大語(yǔ)言模型開發(fā)。其實(shí)也不是因?yàn)樗麄冇X得這個(gè)技術(shù)有多好，就是因?yàn)镺penAI的ChatGPT看起來是一個(gè)能殺死谷歌的產(chǎn)品——這個(gè)技術(shù)不是一個(gè)好的搜索引擎，但是很多人會(huì)拿它當(dāng)作搜索引擎來用，所以谷歌投資這個(gè)技術(shù)其實(shí)不是來開發(fā)市場(chǎng)，而是為了保衛(wèi)他們現(xiàn)在的市場(chǎng)。但是他們所有的資源已經(jīng)用在了這個(gè)技術(shù)上面，所以別的創(chuàng)新像AlphaFold已經(jīng)沒有那么大的投資了。

百度是一樣的，當(dāng)時(shí)ChatGPT出來的時(shí)候，我在《華爾街日?qǐng)?bào)》報(bào)道百度。百度以前在AI醫(yī)療方面、AI藥物發(fā)現(xiàn)方面做了很多投資，因?yàn)槔顝┖陮?duì)那個(gè)方面比較有興趣，但是后來，他們所有的計(jì)算機(jī)芯片都轉(zhuǎn)到了文心一言開發(fā)。所以，那些做AI醫(yī)療、藥物的團(tuán)隊(duì)沒有芯片去訓(xùn)練他們的模型了。

方可成：大家可能會(huì)馬上想到DeepSeek。那么，DeepSeek是不是有一點(diǎn)點(diǎn)不太一樣的地方呢？

郝珂靈：DeepSeek還是大語(yǔ)言模型，所以也不是完全不一樣，但它不一樣的地方就是，它用的計(jì)算資源少很多。OpenAI這樣的公司經(jīng)常會(huì)說，我們必須得用這些資源去發(fā)展這個(gè)技術(shù)，而且這個(gè)技術(shù)特別重要，所以成本是值得的。但DeepSeek戳破了這個(gè)虛假的表象：其實(shí)我們可以得到這個(gè)技術(shù)的很多好處，而且不需要這么大的成本。

如果我們繼續(xù)做研究，我們很可能能夠找到更好的技術(shù)來，用更少的成本開發(fā)AI。但是，我們沒有資源投資在這些其他方法上。

AI帝國(guó)之下，不合作的可能性？

方可成：我接下來的問題是帶有一點(diǎn)時(shí)間維度的，兩個(gè)有一點(diǎn)相關(guān)的問題。第一個(gè)就是，說如果我們回過頭看，當(dāng)時(shí)如果不是Sam Altman的話，那歷史是不是會(huì)不一樣？歷史是被個(gè)人創(chuàng)造的嗎？還是說是必然發(fā)生的，不是Sam Altman也是一個(gè)John Altman或者另一個(gè)人創(chuàng)造出一樣的軌跡？另外一個(gè)問題就是，我們已經(jīng)走到今天了，那我們之后還能怎么去創(chuàng)造一個(gè)不一樣的明天？

郝珂靈：寫完這本書以后，我確實(shí)覺得：如果不是Sam Altman的話，我們可能不會(huì)在這個(gè)ChatGPT的世界里。因?yàn)镾am Altman為并不make sense的生意籌集資金的能力是無與倫比的。如果是別的人在當(dāng)時(shí)擔(dān)任OpenAI CEO的話，我認(rèn)為他們會(huì)很快就達(dá)到資本上的限度，就是他們能說服投資者給這個(gè)技術(shù)的資金量的限制。但是，Sam Altman籌到的錢好像就是沒有限制，這真的很厲害，也很可怕。

現(xiàn)在ChatGPT發(fā)布之后已經(jīng)有差不多三年時(shí)間，OpenAI的業(yè)績(jī)記錄真的很平庸。我們沒有看到特別大的經(jīng)濟(jì)生產(chǎn)力提升，沒有看到那么多企業(yè)應(yīng)用案例或成功的商業(yè)模式。所有這些公司，包括OpenAI都沒有盈利能力，它們每個(gè)月都在燒掉數(shù)十億美元，但是還是能籌款，錢仍然在源源不斷地涌入。

所以我不喜歡偉人敘事，就是一個(gè)人能給歷史發(fā)展軌跡帶來這么大的區(qū)別，但是我是覺得他比較獨(dú)特。當(dāng)然，有多個(gè)交叉的趨勢(shì)，但他恰好在正確的時(shí)刻定位自己，讓他的特定技能組合發(fā)光。

你的第二個(gè)問題就是我們現(xiàn)在可以做什么。我認(rèn)為同樣地，我們?nèi)绻軓腟am Altman學(xué)一樣?xùn)|西，就是每個(gè)人都可以產(chǎn)生深遠(yuǎn)的影響。如果我們現(xiàn)在都能意識(shí)到，我們實(shí)際上在塑造AI的未來方面都有積極的作用，我認(rèn)為我們可以在十年后擁有一個(gè)非常不同的世界。

方可成：如果我們不是那種會(huì)搞錢的，或者說我也不是一個(gè)AI工程師，那我還真的是有自己的作用嗎？

郝珂靈：我會(huì)想到AI開發(fā)和部署的完整供應(yīng)鏈，需要各種不同的東西去創(chuàng)造它們的技術(shù)，數(shù)據(jù)、土地、能源、冷卻數(shù)據(jù)中心的純凈水，所有不同的空間用來部署他們的技術(shù)——學(xué)校、醫(yī)院、公司、政府機(jī)構(gòu)，如果這些地方不購(gòu)買它們的服務(wù)，那么技術(shù)就不會(huì)在那里。

所以這些公司，盡管它們很強(qiáng)大，但它們實(shí)際上需要人們的合作。它們需要我們所有人的合作，來給他們資源，并給他們進(jìn)入這些空間的權(quán)限。有很多社區(qū)記住了這個(gè)事實(shí)，他們不合作。這些公司就必須改變。

有藝術(shù)家和作家正在起訴這些公司侵犯他們拿走的知識(shí)產(chǎn)權(quán)，這就是他們不合作：不，你不能只是拿我們的數(shù)據(jù)，而不給我們回報(bào)。這不是說在任何情況下你都不能拿我們的數(shù)據(jù)，而是說，你不能在不向我們提供互利協(xié)議的情況下拿走我們的數(shù)據(jù)。

世界各地有數(shù)百個(gè)社區(qū)在數(shù)據(jù)中心開發(fā)方面做同樣的事情。他們說，不，你不能只是在我們的土地上建數(shù)據(jù)中心。你不能只是使用我們的能源和使用我們的水，提高我們的水電價(jià)格，讓我們的電網(wǎng)更不可靠，僅僅因?yàn)槟阆虢ㄔ爝@個(gè)對(duì)我們沒有真正幫助的技術(shù)。你必須給我們一些互利的協(xié)議作為回報(bào)。

教師和學(xué)生也開始這樣做。學(xué)校開始實(shí)施AI治理政策：在什么情況下，AI實(shí)際上會(huì)幫助培養(yǎng)我們的教育環(huán)境，提高下一代的批判性思維。其中一些學(xué)校已經(jīng)決定完全禁止AI進(jìn)入他們的學(xué)校環(huán)境。這是一種立場(chǎng)，為這些公司提供了一個(gè)壓力點(diǎn)，這是他們損失掉的客戶。

我認(rèn)為我們每個(gè)人都接觸AI供應(yīng)鏈的多個(gè)不同部分。如果我們都使用這些不同的接觸點(diǎn)來聲張我們對(duì)這種技術(shù)的要求，我們實(shí)際上會(huì)到達(dá)一個(gè)非常不一樣的世界。

方可成：是的。我聽你在回答的時(shí)候，我就想到你這本書的標(biāo)題“AI帝國(guó)”。既然AI的帝國(guó)已經(jīng)建立起來了，那么在這種帝國(guó)之下，具體的個(gè)體還有沒有什么反抗的空間？很多人會(huì)合作，有一些人會(huì)逃避，但是可能還有些人用各種各樣的方式反抗。但是帝國(guó)的崩潰到底是什么原因?qū)е拢鋵?shí)是非常難以預(yù)測(cè)的，有時(shí)候可能就是一些看起來很偶然的原因就導(dǎo)致它的崩潰了。

郝珂靈：是的，但是歷史上所有的帝國(guó)都會(huì)崩潰，因?yàn)樗鼈兊幕A(chǔ)其實(shí)特別弱，它們是建立在剝削和榨取的邏輯之上，這不是長(zhǎng)期可持續(xù)的。沒有社會(huì)愿意永遠(yuǎn)存在于這種狀態(tài)下，這本質(zhì)上是一種不穩(wěn)定的承諾。

如果這些公司永遠(yuǎn)不會(huì)給他們剝削和榨取的社區(qū)任何回報(bào)，這些社區(qū)當(dāng)然會(huì)感到不滿并停止允許他們這樣做。這就是歷史上每一個(gè)帝國(guó)倒臺(tái)的方式——人們集體行動(dòng)，抗議這種不公待遇和剝削，因?yàn)樗麄兪軌蛄恕?/p>

方可成：你過去一個(gè)多月都在做這個(gè)新書宣傳，會(huì)接觸到很多的人，你覺得現(xiàn)在大家對(duì)AI的態(tài)度是什么樣子的？因?yàn)槲以谙耄獙?dǎo)致變化的一個(gè)很重要的因素就是，公眾輿論可能需要一個(gè)很大的轉(zhuǎn)變才行。

一個(gè)類比是人們對(duì)社交媒體的態(tài)度。其實(shí)“過濾氣泡”這個(gè)空間本身的定位很大程度上就是基于我對(duì)社交媒體的很多反思和批判。五年前的時(shí)候我就在想，社交媒體五年之后大概應(yīng)該消失吧？我們應(yīng)該到下一個(gè)階段了。但是到了2025年，我們每個(gè)人還在社交媒體上，包括我在做這個(gè)空間，也不得不利用社交媒體來做推廣。我覺得好像望不到盡頭了，好像我們就是永遠(yuǎn)都在社交媒體時(shí)代了。

但是當(dāng)我私下跟Karen表達(dá)這些的時(shí)候，她當(dāng)時(shí)就鼓勵(lì)我說：其實(shí)已經(jīng)在發(fā)生變化了。其實(shí)做現(xiàn)在這個(gè)空間，包括很多人開始出書，各種各樣的方式來探討社交媒體對(duì)人的危害，心理上的危害、社交關(guān)系上的危害，虛假信息的危害……其實(shí)這個(gè)事情已經(jīng)是10年前、15年前不太能夠想象的。那時(shí)可能是一個(gè)非常樂觀主義的對(duì)社交媒體的描述，覺得它會(huì)讓所有人連接，它會(huì)讓獨(dú)裁政權(quán)倒臺(tái)，它會(huì)帶來各種各樣有益的變化，但是現(xiàn)在我們的這種普遍的感覺已經(jīng)發(fā)生了很多的變化了。

所以我在想說，對(duì)AI的態(tài)度或許也會(huì)一樣。也許我們?cè)龠^10年，回頭發(fā)現(xiàn)，哇，現(xiàn)在我們的態(tài)度已經(jīng)發(fā)生了好大的變化，而也許這個(gè)變化的轉(zhuǎn)折點(diǎn)就是Karen Hao的這本書出版了。

郝珂靈：我寫這本書就是想讓公眾對(duì)話更有層次。而且我在新書宣傳的時(shí)候，確實(shí)發(fā)現(xiàn)很多人對(duì)我書中的信息非常能夠接受。人們?cè)谧x我的書之前對(duì)人工智能可能沒有什么了解，而且更容易接受公司的典型敘事，這個(gè)科技有多么好，但一旦他們讀了這本書，就立即連接到他們的一種已經(jīng)有的感覺，那就是：他們?cè)絹碓绞?duì)技術(shù)的控制，他們不再過著一種技術(shù)為他們服務(wù)的生活，而是感覺他們?cè)跒榧夹g(shù)服務(wù)。我真的不用說服人們，我對(duì)這真的覺得驚訝。就是我一開始講關(guān)于帝國(guó)的論證，他們基本上已經(jīng)知道我要講什么。他們已經(jīng)有了那種感覺，而我是在闡述一種他們一直試圖描述的感覺。

薩姆·奧特曼被踢出公司的內(nèi)幕

方可成：很多人還很關(guān)心的一點(diǎn)，就是關(guān)于Sam Altman中間一度被踢出公司的這一段故事八卦，我不知道Karen有沒有一些內(nèi)幕跟我們分享。

郝珂靈：這個(gè)情況在書里描述得挺詳細(xì)的，有三章都在講這個(gè)，有對(duì)話，有董事會(huì)成員互相說的話。簡(jiǎn)單來講就是有兩個(gè)事情發(fā)生，一個(gè)是很多人覺得Sam Altman不是很值得信任的領(lǐng)導(dǎo)者。第二個(gè)是，在整個(gè)大規(guī)模AI開發(fā)的過程中，一直有一種意識(shí)形態(tài)沖突，就是在所謂的“繁榮派”和“末日派”之間，繁榮派認(rèn)為AGI會(huì)帶來烏托邦，末日派認(rèn)為AGI會(huì)殺死所有人。當(dāng)這種沖突在OpenAI內(nèi)部發(fā)生的時(shí)候，董事會(huì)更傾向于末日派，因此更傾向于認(rèn)真對(duì)待關(guān)于Sam Altman不值得信任的指控。

同時(shí)，有兩位高管，首席技術(shù)官 Mira Murati和首席科學(xué)家Ilya Sutskever，由于各自獨(dú)立的原因感到Altman不再是經(jīng)營(yíng)公司的合適人選，并向董事會(huì)表達(dá)了他們對(duì)此的嚴(yán)重?fù)?dān)憂。董事會(huì)也獨(dú)立地，由于其他原因，對(duì)Altman失去了很大信任。所以基本上，有五個(gè)人都獨(dú)立地得出了同樣的結(jié)論，他們覺得Altman不應(yīng)該被信任。每個(gè)人都有自己的意識(shí)形態(tài)觀點(diǎn)，自己與Altman的人格沖突。最終，經(jīng)過一系列非常激烈的討論，董事會(huì)得出結(jié)論：他不是這個(gè)工作的合適人選。

但是這五個(gè)人中沒有人想到的挑戰(zhàn)是，正因?yàn)镾am Altman非常擅長(zhǎng)籌錢，所以他一直是籌集大量資金的核心人物。有一個(gè)員工股權(quán)出售計(jì)劃，讓一些員工能夠以數(shù)百萬(wàn)美元的價(jià)格兌現(xiàn)他們的股份。如果他離開，那么所有的錢都會(huì)消失，這就讓組織變得不可持續(xù)。

所以，在投資者、微軟、員工的巨大壓力下，每個(gè)人出于各種原因，但都交匯在他是掌握金錢鑰匙的人這一事實(shí)上，所以他被帶回來并重新?lián)蜟EO。