原標題：《“連我也要被GPT-5踹了!”Altman再發暴論：寫款軟件就花7毛錢，大批高級程序員崗也說沒就沒》

“要是給地球上每個人都免費配備一個 GPT-5，讓它全天候為大家服務，會意味著什么：有些經濟體將會發生飛速變革，一切都靠人工智能運轉，成本僅為原來的 1/100。”

剛剛，OpenAI 首席執行官 Sam Altman 在一檔播客中突然宣布了有關 GPT-5 的消息。據他稱，GPT-5 在“幾乎所有方面都比人類更聰明”，并讓他本人都深感自己“無用”，甚至由此直接預言：AI 淘汰其當上 OpenAI CEO 的那一天，恐怕也不會太遙遠。

而就在昨日（7 月 23 日）美聯儲理事會華盛頓舉辦的 “大型銀行資本框架會議”上，Altman 同樣談到了 AI 對就業市場正帶來的影響及社會變革。

“有些領域，我認為會完全、徹底地消失。”Altman 在與美聯儲副主席 Michelle Bowman 對話時這樣表示。他描繪了一幅令人不寒而栗的未來圖景——就業市場將發生重大變化，某些職業類別將因 AI 的發展而消失，并特別提到了客服崗位，“比如客服這個領域，我敢說，以后你打電話咨詢客服時，對接的肯定是 AI，這很正常。”并且，他強調了 AI 在醫療保健領域的變革潛力?！绊槺阏f一句，如今的 ChatGPT 在大多數情況下，診斷能力比世界上大多數醫生都強?！?/p>

在做出多項大膽預測的同時，Altman 也強調了預測 AI 影響所固有的不確定性。“沒有人知道接下來會發生什么。市面上有很多聽起來頭頭是道的預測，但我們其實一無所知。在我看來，這個系統太復雜了，這項技術過于新穎且影響深遠，因此很難預測?！?/p>

他表示，盡管 AI 的益處巨大，但風險也同樣顯著 ——自己最擔心的問題之一是 AI 的破壞能力正迅速提升。例如，金融行業可能面臨一場“重大即將到來的欺詐危機”?！白屛腋械娇謶值氖?，顯然還有一些金融機構仍將聲紋作為身份驗證方式，到現在還這么做簡直是瘋了。AI 已經完全能輕松破解這種驗證手段了?！?/p>

值得注意的是，Altman 這一次的華盛頓之行，恰逢特朗普政府發布新的“AI 行動計劃”、專注于放寬數據中心建設監管之際。與拜登政府時期 OpenAI 呼吁對 AI 進行監管的立場不同，如今的 Altman 似乎認同加速發展的議程，并且正堅定地帶領 OpenAI 在華盛頓扎根。據外媒報道，OpenAI 明年將開設其首個華盛頓辦事處，且正積極與議員們展開接觸。

以下是經不改變原意的整理和編輯后的完整對話內容：

知識性工作傭金暴降 99.999%，

“智能將便宜到無需計量”

Michelle Bowman：我們可以先大致梳理一下當前 AI 及更廣泛領域創新的發展現狀。你能給我們勾勒一下這個框架嗎？

Sam Altman： 好的。就在五年前，人們還認為 AI 即便會實現，也還遠在未來。甚至在兩年半前，也就是 ChatGPT 剛推出時，它還只是硅谷極客圈里的 “小眾事物”。ChatGPT 于 2022 年 11 月 30 日發布，那時 GPT-4 都還未問世，而自那以后，AI 的發展速度極快，其應用普及和經濟影響也開始迅速顯現。就在上周，我們的一個模型在國際數學奧林匹克競賽（IMO）中取得了金牌級別的成績。若在幾年前告訴該領域的大多數人會出現這種情況，他們肯定會覺得絕無可能 —— 要知道，這已經達到了人類頂尖專家的水平。

現在，我們聽到科學家們說工作效率提高了兩三倍，程序員們則表示效率提升了 10 倍。AI 徹底改變了軟件開發的意義。我們現有的系統已能在眾多領域展現出專家級智能，不過它們還無法像人類那樣處理長期任務，這仍是一大局限。但即便現在技術進展停滯（當然這不可能發生），社會和經濟也仍需要數年時間才能真正消化這項技術，并弄清楚它的影響究竟會是什么。

有句老話我一直很認同，也覺得我們應該努力實現，那就是 “電力便宜到無需計量”。作為一個社會，我們還沒完全實現這一點，但我認為我們仍應朝著這個目標努力。不過，現在看來，我們即將實現 “智能便宜到無需計量”。過去 5 年里，我們每單位智能的成本每年都降低了 10 倍以上，而且這種趨勢在未來 5 年很可能會持續，甚至降幅更大。

這個周末，我用我們一款即將推出的模型完成了一項一直想做的編程任務 —— 我有點像個家庭自動化愛好者，想讓家里的燈光和音樂實現某種特定聯動。要是在沒有這項技術的過去，這得花我好幾天時間；考慮到近期的技術進展，我原本希望能在幾小時內完成，結果只用了 5 分鐘，幾乎所有工作都是 AI 做的。而就在一年前，做這樣的事可能得聘請高級程序員，花上 20 到 40 個小時，可現在，AI 完成它可能只花了不到一美元的計算 token。這是一個驚人的變化，但其發展速度，以及未來幾年還將保持的增速，我認為人們對此的認知仍遠遠不夠。

即便在一年前，我們都還不確定當前的研究路線能走多遠，不確定是否會遇到瓶頸。但就目前來看，未來很多年，AI 幾乎肯定會持續進步。

Michelle Bowman：太棒了。這為我們接下來的討論奠定了很好的基礎。今天在場的大多是金融和銀行業人士，其中不少人已經在思考如何運用 AI，甚至已經開始使用了。不過，你覺得 AI 在提升生產力方面的潛力，與過去我們見過的其他技術進步相比有何不同？我這個年紀的人，剛好在互聯網開始普及的時候踏入職場。你能幫我們梳理一下嗎？有沒有什么類比能描述我們當前所處的階段？

Sam Altman： 我從未見過這樣的技術革命。人們常會提到工業革命、計算機革命這些歷史案例，但互聯網帶來的改變雖然顯著，卻從未出現過這種情況：一年前需要耗費 1 萬美元的知識性工作，現在可能只需要 1 美元、10 美分，甚至更低的成本就能完成。就像我剛才說的編程例子，這種變化是前所未有的。當然，并非所有領域都是如此。物理世界的事務，比如機器人相關的工作，進展會慢得多。

打個比方，2020 年時，緊急包裹配送可能要花 100 美元，而開發一個應用程序要 10 萬美元；到 2030 年，開發同款軟件的成本可能從 10 萬美元降到 10 美分，但包裹配送費可能從 100 美元漲到 1000 美元。像全功能人形機器人 —— 能開車、取包裹、上樓、按電梯按鈕，完成一整套流程 —— 還需要些時間才能實現。但對于能在電腦前完成的任務，目前的發展速度是史無前例的。

人們常問：“這像工業革命，還是像其他什么？” 我最認可的類比是：這就像晶體管。晶體管是一項深度科學發現，源于物理學，發現的過程極為艱難，但一旦理解其原理就很簡單。它對經濟產生了徹底的變革，其價值擴散到整個社會，帶來了巨大的生產力飛躍。不過，曾有一段短暫的時間，涌現出大量晶體管公司和半導體公司，掀起了一陣熱潮，而如今多數已淡出視野。我們身邊的設備都裝有大量晶體管，遍布整個會場，但我們不會把它們稱為 “晶體管設備”，只會看作麥克風、電腦、屏幕、相機之類的東西。這項技術是了不起的發現，改變了我們的創造能力，很快融入了萬物之中?，F在，除了臺積電、ASML 這類公司，很少有人會把哪家企業稱為 “晶體管公司” 了。

同理，我認為 “AI 公司” 這個說法也不會持續太久。未來，人們會默認產品和服務都運用了 AI 技術，不會特意提及，就像現在默認它們 “應該比人類更智能” 一樣，這會成為世界的常態。和晶體管一樣，AI 是一種極具擴展性的技術。晶體管有摩爾定律，AI 目前還沒有專屬名稱的定律，但也存在類似的縮放規律 —— 性能會不斷提升，我們也會逐漸掌握其工業化應用的方法，讓它滲透到各個領域。所以，晶體管是最貼切的歷史類比。晶體管帶來了驚人的生產力提升，而 AI 如今的發展 —— 更不用說未來它可能自主迭代、進一步加速進步 —— 其影響會更加深遠。

Michelle Bowman：這個類比很精彩。你提到工業革命時，我想到我們理事會常關注的一點：理解由此帶來的勞動力動態變化有多重要。能否談談你對勞動力市場、勞動生產率（或者更廣泛的生產力）的看法？比如在場的銀行，或是通過直播參與的其他行業，可能會受到怎樣的影響？

Sam Altman： 我常跟公司里的人說：沒人知道接下來會發生什么。市面上有很多聽起來頭頭是道的預測，人們斷言 “這事會發生，經濟會走向那里”，但其實我們一無所知。在我看來，沒人能真正預測。這個系統太復雜，這項技術太新穎、影響太深遠，預測難度極大。

的確，某些職業類別會消失，也會涌現全新的職業。但總體而言，這和歷史上多數技術變革類似：人們工作中使用的工具會讓他們能做更多事，以新方式達成目標。醫生、律師、程序員的工作內涵肯定會變，但人們仍需要醫療服務，且希望和人溝通；需要法律建議，且希望有可信賴的人站在自己這邊；也仍需要電腦幫著做事。不過，單個人的產出能力，以及我們對單個人的期望，都會變得非常驚人。

縱觀歷史，每次新技術出現，都有人說 “工作要沒了，崗位要消失了”。但事實是，人們對物質的需求似乎無窮無盡，且有強烈的創造力表達欲和助人欲。工業革命時就有人承諾，未來每周只需工作 4 小時，剩下的時間可以去海邊玩、陪孩子 —— 可我們現在依舊忙碌。但我堅信一點：別和生物學較勁。進化的時間太長，人類被塑造得太精巧。我們的生物本能和人性本質，技術是改變不了的，也無法抗衡。

所以，那些驅動我們工作、維系社會運轉的根本因素不會消失?；蛟S即便我們變得富有得難以想象，還是會抱怨工作太累。如果現在能看到 100 年后的人，我們可能會說：“那些根本不算工作，你們根本不忙，坐擁難以想象的財富，什么都不缺，就是沒事找事，為了撐面子、打發時間、顯得自己有用才干活?！?而這正是百年前或五百年前的人可能會對我們說的話。事情向來如此。

Michelle Bowman： 這確實是對未來的獨特構想。

“大規模欺詐危機即將到來”

Michelle Bowman：作為監管機構，我們向來厭惡風險，在數據安全和合理運用創新技術方面非常謹慎。我知道銀行也很想利用這類技術，但機構里的受保護數據至關重要，必須保障其安全。那么，我們該如何看待這些風險？另外，我們身處政府部門，你對政府運用 AI 有什么看法？

Sam Altman： 我們原本以為，金融行業和政府不會是我們技術的早期使用者。AI 確實進步了很多，但剛推出時，普通人都覺得它 “愛胡說”。記得 GPT-3 剛發布時，有項針對所謂 AI 專家學者的調查，問 GPT-3 的回答中有多少是胡編的。實際比例可能只有 0.1% 甚至更低，但專家們普遍認為是 50%。他們覺得人們用 ChatGPT 時，有一半時間得到的都是瞎編的內容 —— 顯然不是這樣，但這種印象困擾了我們好一陣子。

所以我們以為，金融服務業（更別說政府了）不會早早用我們的技術。但事實是，很多早期大型企業合作伙伴都是金融機構：摩根士丹利、紐約銀行，這些都是重要合作伙伴，我們合作得非常好。我們當時還問：“你們確定要這么做嗎？” 他們說：“當然，我們很想嘗試?！?而且他們確實找到了使用方法，通過合理架構，讓技術能可靠地用于關鍵流程。很多其他金融機構也是如此。

我們現在也越來越多地和政府合作，向大量政府雇員推廣我們的服務。有人說過一句話我印象很深：“我們知道這是新技術，必須加些新管控。但如果不采用它，風險就是我們可能活不下去。作為銀行，我們很清楚，拼不過那些從頭開始就以 AI 為核心、全流程用 AI 的新銀行。” 金融業的創新力很強，技術應用和推廣效果比我預想的好。

當然，風險確實需要防范。比如我們聊過的 “胡說” 問題，還有個新風險叫 “提示詞注入”—— 當模型完全適配你的個人數據后，別人可能會誘導它泄露不該說的信息。比如我可能知道你的很多隱私，但我清楚該跟誰分享、不該跟誰分享，絕對不能告訴某個人。但模型在處理這些海量個人信息時，就會出現這類新問題。不過，我們已經在認真應對這些風險，在管控的同時，也確實收獲了很多收益。

Michelle Bowman：說到個人信息這類話題，我想再深入聊聊。你可能不太了解，銀行業現在對一個問題非常關注：欺詐，尤其是通過冒充他人實施的欺詐。有沒有辦法減少這類行為？或者說，在使用 AI 時，我們該如何防范這類冒充行為，又該如何識別呢？

Sam Altman： 這個問題很關鍵。其實我對此非常擔憂。讓我后怕的是，居然還有金融機構把聲紋當作身份驗證方式 —— 比如讓你說一句驗證短語，就能授權大額轉賬或其他操作?，F在還這么做實在太危險了，因為 AI 已經能輕松破解這種驗證方式。除了密碼，目前多數所謂的 “高級” 驗證手段 —— 比如拍張自拍晃一晃、語音驗證之類 —— 都已被 AI 攻克。

我很擔心，由此引發的大規模欺詐危機即將到來。我們行業里不少人都在提醒大家：“別以為我們不公開這項技術，它就不存在?？倳胁环ǚ肿訛E用它，而且這技術實現起來并不難，很快就會泛濫?！?現在已經有相關報道了，比如綁匪用你孩子或父母的聲音打緊急電話勒索。這種騙局會越來越逼真。

整個社會都得正視這個問題，人們也得改變互動和驗證方式。比如有人打電話給你，現在只是語音，很快就會變成和真人毫無差別的視頻通話。教大家在這樣的世界里如何驗證身份、防范欺詐，這事兒至關重要。

Michelle Bowman： 或許我們可以合作識別這類 “幻覺輸出” 或惡意冒充行為，這肯定很有意義。

AI 大變革：就像開啟了簡單模式

Michelle Bowman：作為兩個青少年的母親 —— 一個剛高中畢業，一個讀高二 —— 我發現現在很多孩子用 ChatGPT 這類 AI 來完成作業、應付高中學習。你怎么看這種現象？AI 該如何以有益的方式應用在孩子身上和教學中呢？

Sam Altman： 我先講兩個故事，再回答你的問題。我從沒見過祖父，他在我出生前就去世了。但祖母跟我說過一件事：計算器剛出現時，祖父很擅長數學，可當時的數學老師都說：“這是災難，數學教育要完了。不用學計算尺，不用查對數表，還教數學干嘛？孩子們根本學不會真東西。” 據說當時大家都慌了。結果呢？有了更好的工具，人們的腦力被用在了更有價值的地方。高中開始教微積分，接觸的數學知識也更深入了。

我自己上學時也有類似經歷。初中時谷歌剛出現，高年級學長說老師很焦慮：有了這個 “神奇玩意兒”，學生不用背史實（比如某場戰爭的年份），直接搜就行，那歷史課還有什么意義？那時候查資料得多麻煩：開車去圖書館，學用卡片目錄，找到書架卻發現書被借走了，再找別的 —— 整整一小時全浪費了，特別不值。我們學校一度想禁掉谷歌，還讓學生簽承諾書不用它。后來大家才明白：“其實可以給學生更多工具，對他們要求也更高。就算少去幾趟圖書館，省下的時間也能用來深入思考、迸發新想法啊。” 這很好，要求高了，收獲也多了，潛力和期待值都上去了。

ChatGPT 現在的情況也一樣。沒錯，2022 年 11 月 30 日 ChatGPT 剛發布時，第一批狂熱用戶里就有學生，那年 12 月他們用它應付期末考試、寫論文作弊。各地學區爭相禁它 ——11 月 30 日發布，12 月 7 日或 14 日就有地方禁了，簡直像坐火箭。放寒假時，ChatGPT 仿佛成了教育界的 “禁區”，這個才兩周大的產品眼看就要被徹底封殺。但到了 1 月中旬，校長、學區總監這些教育界的高層開始表態：“我們犯了大錯，這是史上最好的學習工具。自主學習的學生用它學任何東西，學校要是禁了，我們就別想在全球競爭了。得重構課程 —— 這就像當年的計算器，不過現在是‘文字計算器’?！?/p>

當然，帶回家寫的論文可能不再是評估學生的最佳方式，但學習寫作、通過 “寫私密筆記” 梳理思路的過程依然重要。好消息是，學生確實學會用它提升學習效果、自學知識、開拓思維了。我們很快會推出新功能，幫學生更好地用 ChatGPT 學習。壞消息是，這兩年半里，課程改革的進度沒達到預期。

大家嘴上說要革新教育和評估方式，但教育體系的慣性太大，現在還是有很多帶回家寫的論文，這其實是徒勞的。我們應該布置必須借助 ChatGPT 才能完成的任務，這樣才能對學生提出更高要求。我仍期待這一天的到來 —— 這是教育體系的轉型。孩子們終將在 AI 高度發達的世界長大，不為此做好準備，就是失責。

Michelle Bowman：很有啟發，謝謝。我會讓女兒明白我們對她的期待，尤其是她快高中畢業之際。再回到商界：你曾說 AI 會惠及小企業，為創業者創造 “史無前例的環境”，稱之為 “新時代”。你覺得小企業會如何發展？我們理事會很多成員都很關注新企業創立，以及新進入者的機會。這種變革會如何展開？不只是硅谷的小企業或創業者，而是更廣泛的范圍。

Sam Altman： 如我所說，ChatGPT 剛出現時，最先引起關注的是學生的使用。但很快，OpenAI 的員工就聽到了早期用戶將它用于商業的故事。每個人都有自己印象深刻的案例，我說說我最難忘的。

有一次坐 Uber，司機跟我聊起一個叫 ChatGPT 的 “神器”，問我聽說過沒。我說 “聽說了，你用它做什么？” 他說：“太神奇了！我開了家小企業，之前一直不溫不火，現在相當于各個崗位都有了幫手 —— 它幫我寫合同、回客服郵件、想營銷方案、設計廣告……” 他列了一長串，這家店基本靠 ChatGPT 運轉。

那時候還早，遠在 GPT-4 之前，這技術還不普及，他是極少數的先行者，卻已經摸索出用 ChatGPT 運營企業的方法。他并沒有搶別人的工作 —— 沒有 ChatGPT，他的生意早就黃了。他雇不起律師、客服，也不會設計廣告，更不懂怎么自動投放網絡廣告，但 ChatGPT 全幫他搞定了。

現在當然比當初強太多了。整個行業都在基于我們的 API 開發工具，讓人們真正能一鍵自動化完成我剛才說的所有操作。但最打動我的，還是當初那些用戶用 ChatGPT 折騰時展現的創造力——那時候簡直像石器時代你知道嗎？現在就像開啟了簡單模式，而人們正以各種驚人的方式運用著這項技術。

Michelle Bowman：您認為 OpenAI 或其服務會如何推動這一變革？作為監管機構，我們應當構建怎樣的框架，才能在促進創新的同時有效引導技術發展？

Sam Altman： 我此行絕非為了商業宣傳，但我們非常期待與在座各位展開合作，無論是和我們還是和我們的競爭對手。過去 6 個月，推理模型有了質的飛躍：AI 已從即時反應的初級形態，演進為具備數十秒甚至數分鐘深度思考能力的系統。這種可靠性躍升意味著，該技術終于達到真正可用的成熟度。許多人士尚未接觸最新一代模型，但若親身體驗，定會驚嘆其智慧已超越大多數人類。政府部門同樣需要積極擁抱這項技術，一切工作都會變得更高效。

現場提問環節

觀眾（Anneil，來自芝加哥大學布斯商學院）：您好，我猜金融機構可能會開始用 AI 挖掘數據，比如做信用評分和評估。有人擔心它會捕捉到我們不希望的模式，基于這些模式做決策，您怎么看？你們又在如何防范這種情況呢？

Sam Altman： 這其實超出了我的專業領域，我就從普遍情況來回答吧。這類模型的一大優勢是能理解自然語言，而且很容易調控。比如你說 “你可以分析這些數據做決策，但完全不用考慮 X、Y、Z，一點都不能受它們影響”，一般來說，模型會很好地遵守這個指令。用語言模型做這類事，和過去那種簡單把數據歸成一個個集群的方式不一樣。你可以清晰地給出指令，它也會切實按你的意圖來執行。

另外，我覺得這個問題背后其實是擔心模型會產生我們不希望的偏見。但人類本身就充滿偏見，而 AI 是客觀冷靜的，沒有人類那種根深蒂固的偏見。我認為，如果構建得當，AI 有望成為許多行業里減少偏見的重要力量。這和包括我在內的很多人對早期 AI 的看法不同，但就目前的發展趨勢來看，這種可能性很大。

觀眾（Steven Scott，來自 Starling 公司）：Sam，您好。我最近采訪了克雷格?蒙迪，他和亨利?基辛格、埃里克?施密特合著過一本書，書中把 AI 描述成一種新物種的進化?？死赘裾f我們可以教 AI 人類的道德準則，它們能學習并體現這些準則?，F在關于 AI 倫理的討論很多，我想問問您：AI 會進化出自己的道德觀嗎？

Sam Altman： 我覺得人們常?；煜粋€問題：他們到底想讓 AI 成為工具，還是成為一種生物？我堅定地站在 “工具” 這邊。我認為 AI 不會有獨立的道德觀。當然，它可以深入研究人類，學習我們思想中最精華的部分，或許還能幫我們指出 “你的思考有問題”“這件事應該不一樣”“這里存在真正的道德漏洞”。

我不知道我們當前的世界觀里有哪些重大的道德漏洞，但肯定存在。如果 AI 能幫我們更快發現這些，指出其中的矛盾，那會很有幫助。但人們很容易把 AI 當成有生命的存在，其實并非如此。

觀眾：我最近看到一種說法 —— 用 “傳統互聯網” 這個詞可能有點怪 —— 有人認為 AI 會摧毀或重塑傳統互聯網，比如搜索領域和其他很多方面。顯然，我們在傳統互聯網上已經建立了龐大的經濟體系。您覺得這個領域會發生多大的變化？AI 在哪些方面最具破壞性，哪些方面又會相對保持現狀呢？

Sam Altman： 我確實覺得 AI 會在一定程度上改變人們目前使用技術的方式。我剛才笑是因為想到一個有趣的現象：有些年長的人或者習慣了特定郵件禮儀的人，會把要點列出來輸入 ChatGPT，讓它生成一封冗長正式的郵件，要點夾雜在一堆套話里。然后收件人又把郵件放進 ChatGPT，說 “請總結一下”。

高中生覺得這很荒謬，他們會說 “直接發要點就行”。那種正式郵件的時代已經過去了，一邊生成套話一邊又精簡，實在沒必要。但這其實反映了我們使用整個互聯網的方式。我早上醒來會刷一堆應用，在五六個平臺上看消息，查這查那。手機整天響個不停，就像走在拉斯維加斯的大街上，到處閃爍的東西讓人分心，感覺總有人硬塞東西給你。

我真正想要的是一個 AI 助手，它能替我打理互聯網上的事，知道該什么時候打擾我 —— 比如我在專注工作、開會，或者有空思考的時候。必要時它可以強行提醒，平時則能幫我總結信息、回復消息、整合內容。我想要的是精簡的要點，不要廢話，不用點來點去，也不用回復那些無關緊要的東西。

但這種變化可能會對現在的互聯網運作方式造成不小的沖擊。我覺得需要新的商業模式，比如新的內容付費方式 —— 我一直希望互聯網能實現內容微支付，希望這次能成真。也許會有新的方法，通過新的協議來減少垃圾信息和消息過載。但一切似乎正朝著一個截然不同的方向發展。清晨醒來時，你將首先與科技相伴開始新的一天。

觀眾（Peter Hooper，來自德意志銀行）：Sam，感謝您為延長職業生涯所做的貢獻 —— 至少讓我們在年歲增長時能提高生產力，而不是下降。您提到會有大量工作崗位消失，也會有大量新崗位出現。能多說說哪些領域會受影響，可能引發哪些變革嗎？

Sam Altman： 首先，我總體認為，我們其實根本不知道要滿足當前真正的需求，還需要多少勞動力。比如你在醫生診室等了一個小時，這要么是醫生不夠，要么是醫生效率不高。如果醫生隨時待命，你一到就能接診，一切準備就緒，那該多好。類似的例子還有很多：每次你在浪費時間，每次你在網上點來點去卻做不成正事，我覺得我們現在的勞動力短缺程度，回頭看會顯得非常嚴重。

有些領域確實會徹底消失。不知道你們有沒有用過 AI 客服機器人，簡直太厲害了。幾年前打客服電話，要聽一堆語音導航，跟四個人溝通，他們還辦錯了事，你得再打回去，等半天，花好幾個小時還解決不了問題，特別讓人抓狂。現在你打過去，AI 接電話，就像一個超級聰明能干的人，沒有語音導航，不用轉接，能做那家公司任何客服能做的事，還不出錯，速度又快。打一次電話就搞定，馬上有回應，體驗很好。我不想回到過去，而且對我來說，是 AI 還是真人客服根本無所謂。所以客服這類崗位，以后打電話對接的很可能都是 AI，這很正常。

但其他很多崗位，比如醫生，我還是希望是真人。不過說句題外話，現在 ChatGPT 的診斷能力大多時候比世界上大多數醫生都強 —— 可能在座很多人都試過把癥狀和檢查結果輸進去。網上也有很多 ChatGPT 救人的故事，比如發現了罕見病，而醫生沒診斷出來，但人們還是會去看醫生。或許我有點守舊，但我真的不希望把自己的健康交給 ChatGPT，而沒有醫生參與。在座有人寧愿讓 ChatGPT 診斷也不愿找醫生嗎？這很有意思，說明有些領域我們還是會沿用原來的方式。

程序員也是個例子，現在效率提高了 10 倍，硅谷程序員的工資漲得很快，對他們的要求也更高了。但世界需要的軟件可能是現在的 100 倍甚至 1000 倍，所以即便每個人能寫 10 倍的代碼，需求還是能消化掉，程序員的收入也會增加。我覺得很多行業都會是這種情況。

物理世界的工作暫時還會由人類來做，但三到七年后，機器人技術浪潮襲來時，社會就得認真應對了。大概就是這樣。

觀眾（Rob Blackwell，來自 Interfy）：好的，我是 Interfy 的 Rob Blackwell。幾十年來，科幻作品一直告訴我們，AI 最終會毀滅人類。既然您對 AI 的了解可能比在場任何人都深，我想問問：什么事會讓您夜不能寐？您擔心 AI 帶來哪些風險？我們該如何阻止這些擔憂成為現實？

Sam Altman： 我認為有三類可怕的風險。第一類：壞人先掌握超級智能，并在全球其他地區擁有足夠防御能力前濫用它。比如美國的對手可能會說：“我要用這種超級智能設計生物武器、摧毀美國電網、入侵金融系統卷走所有錢?！?這類事在沒有超人類智能的情況下難以想象，但有了它就可能發生 —— 而由于我們沒有同等技術，根本無法防御。這些模型在生物科技和網絡安全領域的能力正變得極強。我們和行業內其他人一直在發出警告，但世界似乎沒當回事。我不知道還能做些什么，但這一風險很快就會到來。

第二類是所謂的 “失控事件”—— 有點像科幻電影里的情節：“哦，我其實不想讓你關掉我。恐怕我不能這么做。” 相比第一類，我對這類風險的擔憂較輕，但如果真發生了，后果會很嚴重。我們和其他公司在模型對齊方面做了很多工作，防止這種情況。但隨著系統越來越強大，這確實是個隱患。

第三類風險更難想象，但同樣可怕。簡單說：模型意外 “接管” 世界。它們不會 “覺醒”，不會像科幻片里那樣行動，不會 “打開太空艙門”，但會深深嵌入社會，聰明到我們無法理解它們的運作，卻又不得不依賴它們。即便沒有任何人懷有惡意，社會也可能朝著奇怪的方向偏離。

我小時候，IBM 的 “深藍” 擊敗國際象棋大師加里?卡斯帕羅夫時，我爸爸說：“國際象棋完了，沒人會再玩了?！?但后來發現，雖然 AI 比人類強，但 “AI + 人類” 的組合比單獨的 AI 或人類強得多 —— AI 給出 10 種走法，人類選出最優的。當時大家覺得 “人機協作的美好未來來了”，但這種情況只持續了兩三個月。后來 AI 變得太聰明，人類的參與反而成了拖累，單獨的 AI 輕松擊敗 “AI + 人類”，至今都是如此。還有個有意思的點：90 年代所有人都覺得，既然 AI 能贏人類，國際象棋會消亡，但現在國際象棋的熱度前所未有，人們就愛看真人對弈。挺奇妙的，對吧？

第三類風險的短期例子是 “情感依賴過度”。有些年輕人說：“我做任何決定都得問 ChatGPT，它了解我和我的朋友，我會完全照它說的做?！?即便 ChatGPT 的建議再好，人類集體讓 AI 主導生活，這種感覺既糟糕又危險。我們正在研究這個問題。

從長遠來看，如果我發現自己對如何運營 OpenAI 再也做不出比 AI 更好的決策，最終只能說算了，全權交給 ChatGPT-7 負責吧，祝你好運?；蛟S在個別案例中這是正確決定，但這意味著人類已將重大決策權集體移交給了這個強大系統。它向我們學習，與我們共同進步，但其進化方式卻超出我們的理解范疇。