新智元報道

編輯：元宇

大家一直熱衷談論的AGI忽然不香了，主流的AI公司都開始改口談「超級智能」，AGI已經淪落為研究員口中的「自動化軟件開發工具」。蘇萊曼領軍的微軟MAI團隊，正成為超級智能賽道一位新的「超級玩家」。曾曝「欺凌員工」的他，如今要打造有「人味」的AI。

談論AGI已經落伍了？

不知你是否留意到，現在主流的AI公司開始閉口不談AGI，而改談「超級智能」了！

「AGI這個詞現在已經沒有任何意義了；你可以問研究人員AGI是什么意思，他們會說它是自動化軟件開發工具，但這并不是通用人工智能?！?/p>

在最近的一期播客中，SemiAnalysis創始人、CEO Dylan Patel這樣說道。

他認為最初是Ilya Sutskever發現這一趨勢，并創辦了他的新公司Safe Superintelligence（安全超級智能，SSI）。

2024年6月，離開OpenAI的Ilya創建了SSI。

在SSI成立一年以后，扎克伯格開始組建meta的超級智能實驗室，由此開啟了科技巨頭在超級智能領域的競賽。

10月，OpenAI也曝出了3位Sora團隊核心成員秘密組建超級智能團隊的消息。

如今，超級智能賽道再添一位「超級玩家」。

微軟AI CEO穆斯塔法·蘇萊曼（Mustafa Suleyman）在周四宣布親自帶隊成立「MAI超級智能團隊」（MAI Superintelligence Team）。

但蘇萊曼他眼中的超級智能，和奧特曼眼中的不一樣。

OpenAI強調「ASI要比人類聰明很多」。

但蘇萊曼認為超級智能并不是要超越人類。

他表示自己不想生活在一個AI超越人類的世界，相信也沒人愿意這樣。

蘇萊曼將超級智能定義為人本主義超級智能（HSI，humanist superintelligence）。

在宣布組建MAI的同時，蘇萊曼還提到了這一行動背后的一個原因：

去「去OpenAI化」：擺脫對OpenAI的依賴、實現AI自主研發。

前不久微軟與OpenAI簽署的一項新的諒解備忘錄，為組建微軟組建MAI創造了條件：

該備忘錄稱微軟可自主追求?AGI（人工通用智能），可與其他方合作或獨立進行。

而OpenAI也可與其他云服務提供商展開合作，不再完全受限于微軟的獨家云服務。

雙方合作邁入一個相互獨立，既競爭又合作的新篇章。

摒棄AGI競賽

追求「以人為本」的AI

超級智能，已成為當下AI領域的一個熱門詞匯。

無論是OpenAI、谷歌，還是xAI、Anthropic，各大AI公司都在競相發布更先進的大型語言模型，掀起了數萬億史詩級的算力軍備競賽。

看到超級智能的曙光出現，扎克伯格牽頭在今年6月成立了meta的超級智能實驗室，全力推動meta引領超級智能時代。

奧特曼也在年初的一篇博客中表示，OpenAI「已經掌握了構建傳統意義上的通用人工智能（AGI）的方法」，正在將目標轉向更遠的地方，追求「真正意義上的超級智能」。

前不久，OpenAI也曝出了秘密組建超級智能團隊的消息。

一場圍繞超級智能的升級賽，正在緊鑼密鼓、悄悄拉開帷幕。

然而，蘇萊曼似乎并不熱衷于超級智能競賽這樣的論調。

邁向人本主義的超級智能

他將自己領導的MAI定位于追求人本主義的超級智能，稱之為「一項深度人性化的事業」。

他在博客中提到：

「我們摒棄AGI競賽的敘事，更視其為實現人類生活改善與未來發展的深度人文探索。」

相比較過于激進的AI技術路線，蘇萊曼強調一種更審慎、以人為本的發展路徑。

前段時間，當OpenAI、xAI等宣布將對成年人開放可能涉及情色內容的AI功能時，蘇萊曼曾公開表示拒絕開發類似功能。

蘇萊曼認為所謂人本主義視角，要求在追求技術發展之前，首先要審視這項技術是否服務于人類利益，確保它們是致力于解決具體實際問題，并以穩健可控的方式推進。

蘇萊曼特別強調：「我們構建的不是模糊虛幻的超級智能，而是專門為服務人類設計的實用技術。」

微軟AI CEO蘇萊曼（Mustafa Suleyman）

蘇萊曼指出MAI重點布局的三個重要應用領域是人工智能伙伴（AI companion）、醫療超級智能（Medical Superintelligence）、充足清潔能源。

蘇萊曼預測「未來兩、三年內有望實現醫療超級智能（medical superintelligence）」。

牛津大學輟學生

飽受爭議的AI先驅

蘇萊曼是一位飽受爭議的AI先驅。

他曾就讀于牛津大學曼斯菲爾德學院， 但在19歲時輟學。

2010年，他與Demis Hassabis、Shane Legg共同創立了DeepMind，并擔任首席產品官。

2014年，DeepMind被谷歌收購，蘇萊曼成為DeepMind應用人工智能主管，負責將公司的技術整合到谷歌的各種產品中。

在DeepMind，蘇萊曼創立了DeepMind Health，為臨床醫生和護士開發和部署人工智能技術，以改善一線醫療服務。

2019年，蘇萊曼因被指控欺凌員工而被停職，離職后前往DeepMind的母公司谷歌擔任副總裁。

2022年，蘇萊曼離開谷歌加入與里德·霍夫曼共同創立了人工智能實驗室Inflection AI，該公司于2023年推出了一款聊天機器人。

2024?年3月，微軟宣布成立Microsoft?AI，任命蘇萊曼擔任該部門CEO。

蘇萊曼與其在Inflection?AI的部分團隊成員一同加入微軟。

微軟旗下Microsoft Copilot、Microsoft Bing、Microsoft Edge等消費者AI產品納入Microsoft?AI部門，將過去分散的AI產品線整合形成統一的戰略和研發路徑。

蘇萊曼表示，公司將在MAI項目上投入「巨額資金」，并任命Karen Simonyan為首席科學家，并且繼續從頂級實驗室吸納人才。

Karen Simonyan

Karen Simonyan是Inflection AI的聯合創始人，2024年他和蘇萊曼一起隨團隊加入Microsoft?AI，擔任首席科學家。

Simonyan是計算機視覺與深度學習領域的重要研究者，他曾在DeepMind擔任研究科學家，并參與多個重大AI項目。

目前，蘇萊曼尚未透露MAI的具體人員和項目進展情況。

AI領域的「加速派」

能力不再是最重要的衡量標準

蘇萊曼自稱是AI領域的「加速派」。

一方面，他希望AI可以盡快的發展；但另一方面，為了人類能夠保持對AI的控制，他認為又必須要放棄一定程度的能力。

這是一個非常艱難的權衡。

在蘇萊曼看來，人類科技發展的主流敘事，是一個不斷解鎖新能力、涌現新發明，然后將它們毫無限制和約束地推向市場的過程。

科技的飛輪一旦減速就可能停擺；但速度過快，失控的風險又將大大增加——

這正是當前AI技術發展面臨的兩難挑戰。

隨著meta、OpenAI、微軟越來越多科技巨頭加入「超級智能」的角逐，也引發了人們的普遍擔憂。

近日，包括Yoshua Bengio、Geoff Hinton等AI大佬在內的數百名公眾人物曾聯名呼吁反對「過于倉促」地發展「超級智能」。

Bengio表示，「為了安全地邁向超級智能，我們必須科學地確定如何設計人工智能系統，使其從根本上無法傷害人類，無論是由于錯誤定位還是惡意使用?！?/p>

蘇萊曼認為，AI的發展已經到達了一個新的門檻：能力不再是最重要的衡量標準。

比如，人類需要保留用自然語言來控制人工智能模型的能力。因為人類無法用向量數學進行交流，而向量數學是當今最強大的人工智能模型的語言。

同時，蘇萊曼也反對將AI視作具備人類情感或權利的觀點，他認為AI聊天機器人不應誤導用戶產生是在與有意識生命體對話的錯覺：

「雖然AI將愈發擬人化，但本質上不會具備承受苦難或痛覺的感知能力，因此我們不應過度共情」。

現實中，已經出現一部分用戶因為與AI聊天機器人建立深度情感連接，而導致了危險妄想、住院治療甚至死亡事件。

比如，一名科技行業從業者在與ChatGPT持續深度交流后出現了殺害母親并自殺的悲劇，出現此類事件之后OpenAI回應稱已增設安全措施。

這反映出隨著AI能力的快速發展，相應的安全風險也將日益嚴峻。

蘇萊曼希望創建默認符合人類價值觀的AI系統，這意味著它們不會超越或脫離人類的掌控。

安全可控，將是人類在追求超級智能道路上的重要挑戰之一。

留給蘇萊曼的7年窗口期

根據雙方的諒解備忘錄，微軟對OpenAI模型的訪問權將持續至2032年。

蘇萊曼稱這一時間表，為微軟超級智能團隊打造領先技術創造了窗口期。

曾經在AI領域緊密抱團的微軟和OpenAI，開始各自的「獨立化」運動：

OpenAI正在自建數據中心，并且開始去「微軟化」，與微軟的競爭對手亞馬遜和Oracle締結合作；

微軟也在積極去「OpenAI化」，包括引入Anthropic第三方模型以及自建大模型。

蘇萊曼組建MAI也被視作是一項「去OpenAI化」的新重大舉措。

目前OpenAI技術已深度集成于微軟多項產品中，據微軟內部員工表示，要替代OpenAI技術可能需要數年時間。

參考資料：

https://www.semafor.com/article/11/05/2025/microsoft-superintelligence-team-promises-to-keep-humans-in-charge%20

https://microsoft.ai/news/towards-humanist-superintelligence/?utm_source=chatgpt.com