美東時間11日周四，曾參與創立DeepMind的微軟消費人工智能（AI）主管Mustafa Suleyman承諾，若超級智能對人類構成威脅，將立即停止相關開發工作。

Suleyman目前致力于打造“與人類利益相符”的超級智能系統。他在周四的媒體采訪中說：“我們不會繼續開發有可能失控的系統。” 他認為這本應是行業共識，"但我認為這在目前的行業中算是一個新穎的立場。"

這一表態正值微軟加速自主AI開發之際。去年10月的一項協議重塑了微軟與OpenAI的關系，使微軟獲得了此前受限的開發權。Suleyman于11月宣布成立MAI超級智能團隊，明確將構建"僅為服務人類而設計"的實用技術。

Suleyman的承諾凸顯了科技巨頭在追逐AI突破時面臨的倫理考量。雖然OpenAI、Anthropic等競爭對手也聲稱有類似的目標，但Suleyman認為微軟的立場是獨特的。

協議突破解除開發限制

微軟在AI戰略上的轉折源于與OpenAI關系的調整。此前，微軟因合同條款限制無法開發通用人工智能（AGI）或超級智能。前者指能力與人類相當的系統，后者則超越人類能力。

Suleyman解釋稱，微軟此前實質上放棄了這些開發權，以換取使用OpenAI最新產品的權限，并在多年間為OpenAI建設和配備數據中心。"他們現在與軟銀和Oracle等許多公司簽訂了協議，建造的數據中心數量超過了微軟愿意為他們建造的，"Suleyman表示，"作為回報，我們現在有權開發自己的AI。"

這一轉變對微軟意義重大。他說：”過去18個月我們一直是AGI開發機構，但現在我們可以研究一些有潛力在所有任務上超越人類表現的技術和方法。這對我們來說確實是一個轉變。“

超級智能團隊聚焦實際應用

Suleyman于11月在博客文章中宣布成立MAI超級智能團隊，并親自領導該項目。該團隊將專注于醫療診斷、教育等領域的實際問題，而非"不明確且空靈的超級智能"。

該團隊首個目標是開發在醫療診斷等特定領域能力遠超人類的AI。Suleyman在博客中寫道：“我們將在全方位診斷方面實現專家級表現，同時在臨床運營環境中具備高度的規劃和預測能力。"

這一舉措呼應了meta等競爭對手的類似努力，但也引發了業界對技術突破能力的質疑。Suleyman強調微軟"不會不惜一切代價、不設限制地構建超級智能"，回應了投資者對AI支出回報路徑的日益擔憂。

技術現實仍在完善中

盡管暢談超級智能愿景，Suleyman坦承當前技術仍在發展中。類似ChatGPT的AI系統雖已能以十年前電腦無法實現的方式與人類互動，但距離滿足消費者和企業期望仍有差距。

微軟Copilot消費助手的智能代理功能"并非總是準確"，仍在開發階段。"我們還在試驗，"Suleyman表示，"但當它真正奏效時，那是你見過的最神奇的事情。"

Suleyman去年初加入微軟，此前微軟收購了他創立的Inflection AI的知識產權和大部分員工。微軟此后還開始使用谷歌和Anthropic的模型，持續降低對OpenAI的依賴。目前微軟持有OpenAI重組后的1350億美元股權。