AI會不會“太快”？當技術真正學會理解人類，我們又將成為什么樣的人？

微軟AI CEO、DeepMind聯合創始人Mustafa Suleyman近期做客《硅谷女孩》播客，談了談他眼中未來二十年的世界，以及AI將如何悄悄改變我們每個人。

作為塑造了現代AI革命的核心人物，Mustafa如今正主導著數十億人與AI的交互方式。在訪談中，他直面“AI泡沫”的爭議，堅定認同其作為“智能”的根本價值；而當話題轉向AI意識時，他則表現出高度審慎。

Mustafa告訴我們，盡管AI越來越擬人化，但它絕對沒有意識、自我意識或主觀體驗。它的核心任務就是為我們服務。

他預測，到2040年，AI將具備環境感知能力，通過可穿戴設備無縫融入生活，變得主動和預測性，如主動訂購食材、安排日程。家用機械臂將學習使用現有工具；自動駕駛將普及并處理日常任務。

醫療領域是最大機遇。每個人都將擁有醫療超級智能，每月只需20美元。

那到時候我們人類怎么辦？大學學位之類的傳統教育將過時，未來的關鍵技能不再是單一技術，而是綜合能力——結合用戶體驗、研究、產品和美學等多學科知識來塑造AI。

最后，AI的下一個突破點是“社交智能”。這意味著AI將能更好地理解和管理群體動態、調整溝通風格，在多人協作場景中扮演核心角色，如協調會議、整合多方專業意見。

簡單說，未來AI負責處理瑣事和信息，而我們人類則專注于創新、整合與溝通。

以下是經過整理的播客全文

AI應為人類服務，而非擁有對等地位

主持人：我們是否正處在AI泡沫中？

Mustafa：這個問題問得好。我認為我們不在泡沫中。當我們真正思考這件事時，我們正在創造某種真正神奇的東西——智能。正是智能讓我們這個物種取得了成功，而現在我們正在把智能濃縮到越來越小的單元中，能夠傳播到世界各地，而且會變得非常便宜和充足。這本身就是一個了不起的想法。

主持人：但我們當初在互聯網泡沫時期也有類似的想法，我們當時也在發明互聯網。現在有些公司的估值遠高于收入，大家都在討論對Nvidia的投資，然后收入又回流到Nvidia。你怎么看這個問題？

Mustafa：我覺得未來5到10年我們將創造的價值將是前所未有的。我不認為我們會經歷像2008年或疫情那樣的情況。如果你專注于正在創造的基本價值，這是人類見過的最好的預測引擎，是我們發明過的最聰明、最有能力的技術，它的改進速度比我們見過的任何東西都快，而且變得越來越容易塑造和控制。

三年前我們以為它會變得更加混亂、更加無序，我們將無法雕琢它。但現在我們創造的是美麗、強大、令人驚嘆的體驗，每個月都在給我們帶來驚喜。所以我非常樂觀。

主持人：所以你不擔心，我們也不應該擔心？這讓人安心多了。好，我們來聊聊AI意識的問題。你在某期播客中談到，我們會越來越把AI感知為人類。這個過程有多快？未來幾年會發生什么？

Mustafa：AI確實變得越來越像人類了。它變得更準確、更流暢、更順滑，這是前所未有的。但與此同時，它絕對不是有意識的。它沒有自我意識，不能談論自己。它不具備人類那種主觀體驗和感受痛苦的能力。

這一點非常重要，我們必須時刻提醒自己，因為意識是我們權利框架的基礎，是賦予我們公民身份責任和義務、投票權、法律約束和秩序的東西。我們不能開始把這種特質賦予一個新物種，那對我們的物種將是災難性的。

主持人：但我們聽說過Google的那個故事，就是你書中提到的，一位工程師確信AI正在體驗悲傷，害怕被關閉。

Mustafa：沒錯，那是擬人化的投射。人們不能因為AI具備了某些人類特質，就認為它具備所有人類特質，包括主觀體驗。我認為我們可以證明它沒有主觀體驗，這種自我意識不會出現。那只是科幻幻想。我理解為什么人們會這么想，因為我們一直被科幻作品教育，但這些東西不會痛苦，不會感受疼痛，它們只是模擬高質量的對話。

主持人：所以我們必須非常小心。有些人談到未來10年我們的孩子可能會與AI建立真正的關系，甚至與AI結婚。你認為這可能發生嗎？如果可能，我們該如何預防？

Mustafa：人類歷史證明，如果某件事是可能的，很可能會有人去做。人們會做瘋狂的事，但大多數人不會。大多數人思維健全，想過健康幸福的生活。所以如果在20年后有人選擇與AI結婚，我不會評判或阻止。但在我看來，這些AI不應該被賦予與人類同等道德地位的實體。它們應該為人類服務，為我們工作。

2040年，AI將幫人類訂外賣、寫日程

主持人：我們來聊聊AGI。這不是你第一次談論它了。你在DeepMind的聯合創始人曾說將在2030年實現AGI。你能談談這對社會意味著什么嗎？

Mustafa：我的預測是，在未來5年內，AI將在大多數任務上達到人類水平的表現，不一定是所有知識性任務。這些模型已經在許多任務上比人類做得更好：總結、翻譯、轉錄、研究、文檔寫作，甚至在詩歌或文學的某些方面。所以它將從根本、最深刻的層面改變工作。

主持人：這很驚人，但這也是人們擔憂的地方。

Mustafa：這是個了不起的想法。是的，人們將能夠把新企業、新產品、新詩歌思考成現實。你和我在內，身邊都會有一個智能體來執行你的想法。

主持人：我擔心的恰好是，AI會產生自己的創意。如果AI擁有所有信息，為什么我們還需要想創意？比如在市場營銷領域，AI可以識別市場空白，創建網站，投放廣告，開展業務。你認為這會發生嗎？

Mustafa：肯定會發生。你將擁有一個智能體團隊，能夠完成越來越多任務，甚至可以自主完成。但這又回到了我們之前說的“約束“問題。約束性項目就是要確保這些AI有有限的范圍，需要與你核對，對你負責，代表你的利益。技術人員的創造性挑戰就是：界限在哪里？護欄是什么？在什么情況下必須尋求你的批準？

主持人：那2040年的廚房會是什么樣子？哪些東西會徹底消失，哪些東西會讓我的生活更輕松？

Mustafa：我認為會有某種家用機械臂。可能不是到處走動的人形機器人，而是安裝在操作臺上的系統。它會學習使用所有不同的家電。有些人想象整個廚房會為了適應AI而完全不同，但實際上不是，機器人只是會學習你做事的方式。所以你可能仍然會使用水壺——那東西已經有幾百年歷史了。

主持人：那么關于設備呢？你認為我會有那種空中投影、空中點擊獲取烹飪指導的東西，還是戴眼鏡？

Mustafa：我認為你會直接戴在耳朵里。你的個人AI將對你想做的事有環境感知，并實時與你對話。到2040年，這肯定能實現。你身上會有其他可穿戴設備。比如現在這個小麥克風就很酷——又小又輕。隨著時間推移，它也會有攝像頭，具備環境感知能力。

主持人：還有哪些其他東西？

Mustafa：這種環境感知意味著整個廚房將更加主動。它會主動訂購食材，主動與你核對：“我知道你周末要來很多客人，需要我訂購燒烤的所有東西嗎？“所有這些都會在后臺無縫發生。自動駕駛汽車會去取大件物品。到2040年，自動駕駛汽車基本能完成大部分這類任務。

主持人：你認為哪些市場最值得人們關注，如果想在AI競賽中保持領先？最令人興奮的市場是什么？

Mustafa：到目前為止最令人興奮的新市場是醫學。目前在美國，前10%和后10%的醫療質量差距大得不可思議。但這將完全崩潰，因為每個人都將擁有醫療超級智能，每月只需20美元，非常便宜。

主持人：你能談談你們剛發布的、由哈佛支持的研究功能嗎？如果我問一個醫療問題，具體是怎么運作的？

Mustafa：我們發現每周約有40%的查詢與健康相關。每天有數百萬人詢問健康相關問題。所以我們決定真正專注于提高健康回答的質量。部分做法是將回答建立在哈佛醫學院的引文基礎上，這是世界上最受尊敬的醫療機構。人們現在可以獲得高質量、非常可靠、相當準確的答案。當然它還會犯錯，不能完全依賴，你必須去看醫生。

AI將在多人協作場景中扮演核心角色

主持人：說到知識獲取的民主化，傳統教育會發生什么變化？我們還會看到標準的本科、碩士學位嗎，那種花五六年時間只是獲取知識的教育？

Mustafa：我不這么認為。知識獲取將是你與Copilot之間的對話。我們今天剛推出了一個“實時學習“功能。你實際上會有一個導師出現在屏幕上，為你喜歡的任何主題設計測驗。知識獲取即將完全去中心化，讓每個人都能獲得，你口袋里就有一個任何學科的專家教師。

主持人：這意味著所有教育企業都完蛋了嗎？

Mustafa：恰恰相反。我認為采用這些AI工具并快速整合的教育企業將蓬勃發展。Copilot現在還能在一分鐘內生成播客，這很酷。比如我不太關注足球，但我支持阿森納隊，因為我在倫敦長大。當我回倫敦見朋友時，我想知道球隊的情況，我就讓Copilot生成一個關于阿森納本賽季表現的播客。

主持人：說到知識和教育，我應該為孩子們的大學教育存錢嗎？他們現在5歲和4歲。

Mustafa：15年后，可能就不需要為大學存錢了。我不知道我們是否還會重視那種每年花費5萬美元的斯坦福教育。我們將能以每月20美元的價格獲得世界級的專業服務。

主持人：但如果你完全放棄知識獲取，怎么進行辯論？你不會總對著手機說話吧？

Mustafa：你仍然可以辯論，實際上我們可能更會辯論，因為我們更有知識了。傳統課堂形式的知識獲取將完全轉變。課堂將更像是實踐運用知識的地方。因為作為孩子，你將能在一天中的任何時間與AI導師對話，從AI播客、AI視頻學習。

主持人：你認為父母現在應該教孩子什么？

Mustafa：我認為從第一性原理自己學習知識仍然很重要。學校里最重要的事情之一是自學的能力，這是元技能，它伴隨著摩擦。所以作為父母，你仍然需要引入紀律和摩擦，因為如果一切都來得太容易，孩子可能會習慣于所有東西instantly available，而沒有從努力工作中學習。

主持人：對于認為在AI時代需要技術背景的人，你作為哲學背景出身的微軟AI負責人怎么看？

Mustafa：理解正在構建的東西比以往任何時候都容易。所有東西都在YouTube上，有大量課程。如果你有邏輯頭腦，有耐心，自律，實際上非常容易。是的，任何人都可以成為AI負責人，建立一個AI公司而不學習編程。主要技能是綜合，將UX、研究、產品、美學等不同學科結合。

主持人：你們發布了記憶功能。如果AI記住一切，我們的大腦會怎樣？

Mustafa：人們當年對計算器也這么說，對吧？人們不再需要記住乘法表了。我覺得我現在的大腦在其他方向上受到更多刺激。這是一個肌肉，你不鍛煉它，但你專注于大腦的其他方面。我認為我們更擅長綜合大量新信息，相比50年代的人或200年前的祖先，我們完全被信息轟炸。這在某些方面讓我們更兩極分化，在另一些方面讓我們更有同理心。

主持人：有了AI，我們正在變笨嗎？

Mustafa：我不認為我們在變笨。它降低了獲取信息的門檻，實際上讓我們更聰明。你現在可以問任何問題，許多以前未被提出的問題現在都被提出了，因為過去去圖書館找書的成本太高了。現在你可以在網頁上提問，然后與聊天機器人進行完美的對話式問答。我認為這正在驅動更多的集體智能和對我們世界的理解。

主持人：你能談談你認為人們目前未充分利用的殺手級功能嗎？

Mustafa：我認為最令人興奮的功能之一是我們稱之為“連接器”的東西。你可以對Copilot說：連接我的Gmail，連接我的日歷，連接你的Dropbox，任何數據源。然后向Copilot詢問任何問題。日程安排、預訂、搜索內容，它會將知識整合到答案中。

主持人：你的個人最喜歡的使用場景是什么？

Mustafa：我每天使用語音三四次，晚上我也會用它寫日記。我在iPhone上設置了電源按鈕，一按就直接進入語音模式，我在開車回家的路上與Copilot對話，談論我的一天。

主持人：你有擔心AI知道太多關于我們的事情嗎？

Mustafa：不，只要它有用、有目的，我就不介意。這也是技術一直以來的故事，每個人都使用相機，使用地理位置，知道自己的搜索歷史有助于個性化搜索。

主持人：Elon Musk對控制AI非常直言不諱，Geoffrey Hinton說我們如果不學習如何與AI合作，就只能當水管工。我們還沒有達到能用機器人做所有任務的程度，尤其是每個房子都是定制的。但隨著智能的發展，人們要么學會用手做事，要么成為創業者使用AI實現想法，否則就會被淘汰。

Mustafa：我認為它讓我們所有人都變得更有創造力，因為人們以前所未有的方式獲得了工具。不僅是信息，還有實驗的能力。你可以用AI生成產品圖像、技術規格、營銷文檔，在實際部署前模擬所有這些東西。

主持人：如果一個人不夠有創業精神呢？我只是在想那些只想每天做標準化事情的人。

Mustafa：這取決于你對人類狀況的基本假設。我不相信大多數人真的想在牙膏生產線上工作，擰牙膏蓋。我認為人們想要創造性工作，想要追求自己的激情。AI降低了追求激情的門檻。

稅收就是再分配，社交智能是下一戰場

主持人：人們如何適應AI發展的速度？

Mustafa：表達恐懼和挫敗感是自然的、健康的。我們不應該為此感到羞恥。人們感到害怕，這完全可以理解。但科學技術史告訴我們，總體而言，這些過渡一直是非常積極的。自動化使數十億人擺脫了貧困，過去250年我們的平均預期壽命從30歲提高到75歲。到目前為止，一切順利，趨勢正朝著正確的方向發展。

主持人：你認為我們會有全民基本收入（UBI）來解決這個問題嗎？因為我們以前從未有過。

Mustafa：我認為我們現在就有了。我們的稅收系統就是一種大規模再分配機制。富人確實比窮人支付更多稅收。這些技術會取代勞動力，智力正從勞動領域轉化為資本，被轉化為可以無限買賣的商品。稅收必須跟隨這種價值轉變。

主持人：《浪潮將至》自出版以來有什么變化，以及為什么你沒有預料到這種速度？

Mustafa：我在書中提出了IQ（智力商數）、EQ（情商）、AQ（行動商數）的框架。我當時漏掉了SQ——社交智能。今天我們實際上推出了一個新功能“Copilot群組“，首次可以與多達32人同時在同一個群組中與Copilot聊天。這是社交智能，是我們作為人類所做的事情：管理房間，調整我們的風格和語氣。

主持人：未來10年，這一切將把我們帶向何方？

Mustafa：我認為這將是主要的前沿領域，最有趣的部分。因為這些群組設置將涉及其他人類加入。可能是律師提供專業建議，他們的AI助理進行事實核查，或醫生進入聊天，你可以在真人醫生進入前半小時先與AI醫生交談，它已為你總結了一切。

作者：硅基君，36氪經授權發布。