新智元報道

編輯：元宇

最近，微軟AI CEO蘇萊曼稱AI已經超越人類。蘇萊曼在組建微軟超級智能團隊的同時也提出了「人文主義超級智能」概念，他并不認同業內關于AGI競賽的做法，他認為所有行業參與者都應當意識到超級智能在發展中伴隨著巨大的風險，必須確保讓AI站在人類一邊。

「AI已經超越人類了」。

近日，微軟AI（Microsoft AI）CEO穆斯塔法·蘇萊曼（Mustafa Suleyman）在接受Bloomberg采訪時說道。

蘇萊曼談到了超級智能發展的安全紅線，認為其可能在醫學領域率先落地。

他還談到了自己如何使用AI，比如用Copilot幫自己挑選電影。

微軟AI CEO 蘇萊曼（Mustafa Suleyman）

2024年3月，蘇萊曼被任命為微軟AI CEO，負責微軟整體AI戰略與產品方向。

在此之前，他曾與里德·霍夫曼共同創立了Inflection AI，還曾因共同創立DeepMind聲名鵲起。

DeepMind在2014年被谷歌收購，后來開發出了擊敗圍棋世界冠軍的AlphaGo。

如今的DeepMind已成為谷歌旗下全球頂尖的AI研究機構，并通過AlphaFold、Gemini等一系列突破性創新，占據了AI領域的領導地位。

AI已經「超越人類了」

今年年初，OpenAI CEO奧特曼曾雄心勃勃地表示：AGI最早將于2025年實現。

這一預測在當時挑戰了業內普遍共識，因此備受爭議。

最近，谷歌DeepMind CEO哈薩比斯（Demis Hassabis）又多次表態，AGI可能在5到10年內實現。

目前，通觀科技大佬的主流觀點，認為未來5-10年可能會迎來AGI/ASI，但這個過程中仍需要更多的研究突破。

關于AGI/ASI到來時間表的預測，產業界、學術界各方差異較大，很大原因是由于大家對AGI/ASI的定義不同，也難有定論。

不過從使用者角度來看，目前AI在應用過程中還存在幻覺問題，對常識與現實世界理解不穩定，以及對提示詞高度敏感等一系列問題。

而且AI在具體使用過程中，也經常會出現錯誤。

比如，用它來幫助購物，它就很可能會買錯。

蘇萊曼認為在這種情況下，可以選擇讓人類介入，「AI在采取下一步行動之前，會征人類的許可，因此總體來說是相當安全的。」

在蘇萊曼看來，在購買物品這樣的場景中，AI距離真正成為日常工具，可能還需要一段時間。

但這并沒有影響到他對AI的信心和樂觀預期。

我知道它會在接下來的六個月、12個月，或者最壞情況下18個月內實現。它已經是超越人類了。

明年這個時候，能不能用一個自主的AI智能體來買圣誕禮物？

對于這個問題，蘇萊曼的答案十分肯定：我相當確定可以，可能性非常高。

蘇萊曼還分享了他在日常生活中使用AI的例子。

他會在Copilot上更新自己所喜歡電影的表格，AI可以為他推薦他喜歡的電影海報鏈接。

蘇萊曼表示可以讓AI去做任何知識型工作的任務，就好像你讓一位助理來幫你打理生活一樣：

「讓AI去做的事情越小眾、越有創意、越有挑戰性，它的表現反而越好。」

蘇萊曼提到目前Copilot Actions正在實驗的一個功能，該功能可以通過AI來執行自主任務，比如訂票或者買禮物。

他表示雖然AI不總是完全正確，但當它真正運作順暢時，那種感覺將是你見過的最神奇的事情：

「它會在你的瀏覽器里輸入內容、點擊按鈕、打開新的標簽頁；它可以查看你的歷史記錄，并根據你的情況來個性化購買或回復。」

人文主義超級智能

今年10月以來，ASI（超級人工智能）取代AGI（通用人工智能），成為硅谷熱議的話題。

微軟也乘勢在10月成立了由蘇萊曼領軍的MAI超級智能團隊。

早在今年6月，扎克伯格也將meta的AI部門重組為「meta超級智能實驗室」。

前不久，OpenAI也傳出了正在組建超級智能團隊的消息。

奧特曼認為，ASI是AGI的下一個階段，AGI是能力與人類相當的AI，當OpenAI掌握了構建AGI的方法之后，就應當追求「真正意義上的超級智能」。

關于超級智能，蘇萊曼認為它是一種「可以學習任何新的任務，并且在所有任務上都比所有人類加起來更強」的AI系統。

在蘇萊曼看來，超級智能是一個極高的門檻，而且在目前階段，它伴隨著巨大的風險。

「我們并不確定該如何約束和對齊一個遠比我們更強大的系統。」

基于這一考慮，蘇萊曼為超級智能加了一個前置的定義——

「人文主義超級智能」（Towards Humanist Superintelligence）。

這是一種「始終站在人類一邊，并與人類利益保持一致的智能。」

蘇萊曼表示，在能夠證明AI始終安全之前，微軟不會繼續開發一種有可能失控的系統。他認為行業所有人都應該對此達成共識。

前不久，哈薩比斯還斷言，要實現AGI，當下主流大模型必須把「擴規模」這件事推到極致（更多數據、更多算力、更大的模型）。

沿著這種思路下去，就將是一輪又一輪的AI軍備競賽。

但蘇萊曼并不熱衷于超級智能競賽這樣的論調。

他提出「人文主義超級智能」，正是為了摒棄AGI競賽的敘事，將AI視為一種實現人類生活改善與未來發展的深度人文探索。

這也意味著微軟會采用一種人文主義視角來開發和使用AI。

蘇萊曼表示這與微軟的歷史有關。微軟是一家已經存在50年的公司，因為一直非常謹慎，因此它也高度值得信任：

「標普500指數中有90%的公司使用微軟的電子郵件、操作系統和日常生產力工具。我們之所以擁有這樣的聲譽，正是因為公司始終保持謹慎。」

「人文主義超級智能」的提出，同樣是基于微軟「謹慎」整體戰略的延續。

關于「什么樣的AI才是正確的」這樣的分歧由來已久。

奧特曼與馬斯克最初成立OpenAI，就是擔心谷歌DeepMind主導AI可能不安全。

后來，馬斯克離開OpenAI創辦xAI，安全也是一個重要因素。

2021年，包括Dario Amodei、Daniela Amodei在內的7位前OpenAI員工離職創辦了Anthropic，也與對安全問題的分歧有關。

如今，蘇萊曼提出「人文主義超級智能」，同樣還是考慮到安全。

當然，這并不意味著微軟就站在了AI發展的道德制高點上。

蘇萊曼表示，他無意去評判其他公司的做法，目前沒有看到AI帶來的任何大規模群體性傷害的證據，也沒有看到AI系統可以自我改進或者真正實現自主運行。

但在未來5-10年，他認為這些能力可能會出現，系統可能會自行設定目標，改進自己的代碼，并自主行動。

這些能力顯然會顯著提升風險水平。

因此，他認為必須更加謹慎地對待它們，提高透明度和審計力度，加強與政府的互動，并主動說明我們距離這些能力還有多近。

蘇萊曼表示，約束和對齊是必要的前提，是AI發展不可逾越的紅，整個行業都必須接受這一點。

這也意味著在確信超級智能可以被控制之前，他們不會發布相關工具。

蘇萊曼稱微軟目前正在推動這樣一場討論：

要求每一個行業參與者審視自己：是否正在構建一種人文主義的超級智能？

蘇萊曼表示，微軟目前已經移除了為一些客戶所提供的AI服務，避免這些服務被濫用的風險。

超級智能

最早可能應用在醫療領域

蘇萊曼的母親是一位護士，因此醫療領域對他來說是一個非常重要的領域，也讓他樹立了技術服務人類的信念。

「它應該讓我們的生活變得更好、更舒適。有一天它會延長人類的壽命，會讓我們在愿意的情況下選擇少工作一些；它會創造出『豐裕』。」

但前提是我們必須有意識地優先將AI用于這些方向。

早年在DeepMind時，蘇萊曼就創立了DeepMind Health，為臨床醫生和護士開發和部署人工智能技術，以改善一線醫療服務。

領導微軟AI后，醫療也是蘇萊曼重點布局的一個領域。

他曾提到在微軟的Co-pilot使用場景中，排名第一的就是醫療健康相關的搜索，這也是微軟重點押注的地方。

蘇萊曼表示，醫療領域可能會出現最令人振奮的應用。

他稱目前微軟打造的AI系統，能夠診斷文獻中記載的任何罕見疾病，其表現顯著優于人類醫生，而且成本更低、所需檢測更少、準確率更高。

「我們目前正在進行獨立的同行評審，很快也會進入臨床試驗階段，這非常令人興奮。」

參考資料：

https://www.bloomberg.com/features/2025-mustafa-suleyman-weekend-interview/

秒追ASI

?點贊、轉發、在看一鍵三連?

點亮星標，鎖定新智元極速推送！