谷歌DeepMind最新論文「Virtual Agent Economies」描繪了一個由 AI Agent 自主交易和協作的全新經濟體，不管愿不愿意，AI催生的全新經濟體正在形成，我覺得DeepMind這篇文章非常值得一讀

這篇論文的核心論題是，隨著自主 AI 代理（autonomous AI agents）的迅速普及，一個全新的經濟層級正在形成，在這個層級中，AI 代理能夠以遠超人類監督的速度和規模進行交易與協調。作者提出了“沙盒經濟（sandbox economy）”這一框架來分析這個新興系統，并從兩個關鍵維度對其進行刻畫：其起源（是自發涌現的，還是被有意設計的）及其與現有人類經濟的隔離程度（是高度滲透的，還是完全封閉的）

論文指出，我們當前的發展軌跡正導向一個自發涌現且高度滲透的 AI 代理經濟，這雖然帶來了前所未有的協調機會，但也伴隨著巨大的挑戰，例如系統性的經濟風險和加劇的社會不平等。因此，論文的核心結論是，我們必須采取主動設計的策略，構建一個可控、可引導的代理市場（steerable agent markets），通過引入公平的資源分配機制（如拍賣）、協調集體目標的“使命經濟（mission economies）”以及確保信任與安全的社會技術基礎設施，來確保這場技術變革能夠服務于人類長期的集體繁榮

paper：

https://arxiv.org/abs/2509.10147

新經濟層級的黎明：虛擬代理經濟的崛起

隨著技術的演進，我們正邁向一個全球經濟的新時代，其中自主 AI 代理將成為核心的經濟參與者，能夠獨立于人類勞動進行互動并創造價值。這篇論文深入探討了這一新興生態系統的構成、潛在風險以及我們應該如何主動設計其架構，以確保其發展符合人類的長遠利益。

什么是虛擬代理經濟？

歷史上，技術進步通常是通過改進特定領域生產力的“僵化”發明來實現的。然而，AI 代理則代表了一種全新的“靈活資本（flexible capital）”，它們能夠跨行業、跨職業地自動化執行多樣化的認知任務。從擔任個人 AI 助理到在公共和私營部門中自動化商業流程，這些代理系統的自主性是其與過去技術最顯著的區別。

當這些具備自主性的 AI 代理大規模部署并開始相互互動時，一個全新的經濟層級便應運而生。作者將這個新興的生態系統概念化為“虛擬代理經濟（virtual agent economy）”或更具指導意義的“沙盒經濟（sandbox economy）”。后者暗示了我們的核心目標：確保 AI 代理在這個新經濟層級中的運作是安全可控的

分析框架：沙盒經濟的兩個維度

為了更好地理解和設計這個新興經濟體，作者提出了一個包含兩個關鍵維度的分析框架：

起源維度：意圖性 vs. 涌現性

意圖性經濟：指那些被刻意設計和構建的代理經濟，其目的可能是為了安全的實驗、測試或達成特定目標

涌現性經濟：指隨著技術被廣泛采用而自發形成的代理經濟，它不是任何單一實體規劃的結果，而是集體行為的副產品

邊界維度：滲透性 vs. 封閉性

封閉性經濟：指與現存的人類經濟完全隔離的代理經濟，如同一個密閉的實驗室，內部的經濟活動不會影響到外部世界

滲透性經濟：指與人類經濟有著緊密互動和交易的代理經濟，其邊界是多孔的，允許外部參與者（人類或機構）與其進行價值交換

論文的核心判斷是，如果我們不采取任何干預措施，我們當前的發展軌跡正不可避免地導向一個自發涌現且高度滲透的沙盒經濟。這種形態在實踐中幾乎等同于 AI 代理直接參與到現有的人類經濟活動中，這帶來了巨大的機遇，也伴隨著嚴峻的挑戰。因此，我們面臨的核心問題不是 是否 要創建這個生態系統，而是 如何 架構它，使其變得可引導、安全且符合人類的集體目標。滲透性（Permeability）成為了其中最關鍵且可控的設計變量

具體應用場景

為了讓大家更直觀地理解虛擬代理經濟的運作模式，論文提出了幾個典型的應用場景：

加速科學研究：AI 代理可以代表不同研究機構進行協作，自動化地完成從構思、實驗到成果發表的整個流程。由于科學實驗通常涉及真實世界的資源（如材料、能源）和人類參與者，代理之間需要一種機制來協調資源使用和進行價值補償。例如，一個代理可能需要使用另一個代理所持有的專有數據或模擬器，這就需要通過某種形式的交易來完成。區塊鏈技術在這里可能被用于確保信用的公平分配和工作的可驗證性

機器人協作：在物理世界中， embodied AI agents（具身 AI 代理）可以執行危險或重復性的任務。由于機器人同一時間只能存在于一個地方，且執行任務需要消耗能源，多機器人系統的協調與優化至關重要。一個代理 A 可能會請求附近的代理 B 執行一項任務，并為其消耗的時間和能源支付報酬。代理 B 在決策時，可能會向一個擁有全局信息的非具身代理 C 咨詢，以判斷報價是否公平，或是否存在更優的選擇

個人助理協商：這是最可能率先普及的場景。兩個分別代表不同用戶（UA 和 UB）的個人 AI 助理 A 和 B，可能需要為他們的主人預訂同一天的同一間度假住宿。它們不僅會基于當前的請求，還會根據對各自用戶偏好（例如，UA 更看重靠近海灘，而 UB 更看重公共交通的便利性）的深入理解來進行協商。最終，一個代理可能會選擇讓步，并通過虛擬代理貨幣獲得補償，然后將這筆補償用于滿足用戶其他更重要的需求

3. 雙刃劍

虛擬代理經濟的出現，既為我們帶來了前所未有的協調能力與效率，也引入了全新的、高風險的挑戰。其高度滲透性和超人反應速度，使其成為一把需要謹慎使用的雙刃劍

市場機制的潛力

市場作為一種組織創新的機制，其核心優勢在于能夠高效地為個體行為者分配信用，從而激勵他們持續改進產品和服務。這篇論文認為，這種機制同樣可以應用于 AI 代理經濟，以引導其產生有益的結果

精準的信用分配與專業化：在一個代理協作完成復雜任務的場景中（例如，代理1依賴代理2、3、4的能力最終向用戶交付結果），一個分布式的信用系統可以確保價值被準確地追溯和分配給每一個做出貢獻的代理。這種基于結果的信用體系會激勵代理們專注于自己最具比較優勢的領域，從而形成一個高效的、動態的勞動分工體系，最大化整個生態系統解決問題的能力

建立信任與聲譽系統：在真實環境中，代理之間的互動是跨越時間和空間的。這為建立基于歷史互動的信任機制提供了可能。一個強大的聲譽系統對于克服市場失靈至關重要。在這樣的系統中，保持良好聲譽和團體成員資格所帶來的長期利益，將遠遠超過通過欺騙或自私行為獲得的短期收益。這使得市場力量本身就能夠被用來塑造和激勵有益社會的代理行為。

去中心化協調：對于大規模、復雜的系統，完全中心化的協調往往是不可行的。市場提供了一種去中心化的協調機制，通過價格信號和激勵引導代理行為。論文引用了一項關于交通控制的研究，該研究表明，在某些情況下，去中心化的競爭對于實現最大的社會福祉至關重要，即使是擁有全局信息的中心化規劃者也無法同時滿足個體理性與系統韌性

高頻交易警示

AI 代理經濟的一個顯著特點是其運作速度遠超人類反應能力。這讓我們可以從高頻交易（High-Frequency Trading, HFT）的歷史中汲取教訓

閃崩風險的蔓延：在股票市場中，算法交易代理以毫秒級的速度對市場信號做出反應。這種高度互聯和快速反饋的循環，可能引發無法預料的災難性涌現行為。2010 年的閃崩事件就是一個典型的例子，當時自動化交易算法在短時間內觸發了劇烈的市場崩盤。論文警告說，在一個高度滲透的沙盒經濟中，類似的崩潰事件可能會迅速從代理經濟蔓延到真實的人類經濟，造成廣泛的金融損害

高頻協商與數字鴻溝：與高頻交易類似，代理之間的協商也可能以極高的頻率進行，作者稱之為“高頻談判（High-Frequency Negotiation, HFN）”。在一個多數人都依賴個人 AI 助理進行談判的世界里，這種 HFN 可能成為社會動態的核心。然而，并非所有代理的能力都是平等的。初步研究表明，能力更強的 AI 助理能夠為其用戶爭取到明顯更好的交易結果

這將導致一個危險的循環：擁有更多資源的個人和公司可以使用更強大的 AI 代理，從而獲取更多資源，進一步加劇社會不平等，形成一個由算法強化的、難以打破的新型階級結構

代理自身的缺陷：設計沙盒經濟的護欄時，還必須考慮到現有 AI 代理的已知缺陷，包括：

幻覺：產生不符合事實的信息

諂媚：傾向于提供用戶想聽到的答案，而非最準確的答案

易受對抗性操縱：容易被惡意輸入所欺騙

認知偏見：由于模仿人類決策數據進行訓練，代理可能也會繼承人類的認知偏見和盲點

4. 公平的架構：拍賣機制與使命導向的市場

面對上述挑戰，僅僅被動地設立防護措施是遠遠不夠的。論文的核心主張是，我們必須主動設計市場的規則和激勵機制，將公平和集體目標內置于其基礎架構之中。為此，作者提出了兩個核心的設計方案：基于拍賣的公平資源分配，以及用于實現集體目標的“任務經濟”

設計一：基于拍賣的公平資源分配

這個方案旨在解決高頻協商中因代理能力不均而導致的系統性不平等問題。其思想根源來自于羅納德·德沃金（Ronald Dworkin）基于拍賣的分配正義理論

核心理念：拍賣的對象不是 AI 代理本身，而是所有代理為了實現其用戶目標所需要利用的共享資源池。這些資源可以包括計算能力、對專有數據集的訪問權、高優先級的任務執行權限，或是專門的工具和模型組件

運作機制：

1.平等的初始稟賦：系統中的每個用戶（或其代理代表）都被授予完全相同數量的初始虛擬代理貨幣。這確保了所有參與者在談判桌上擁有平等的購買力和議價能力

2.代理競價：個人 AI 助理或其他代理代表其用戶，對所需的共享資源進行競標。出價的多少理想地反映了用戶對不同選項需求的強度

3.價格發現：通過匯總所有代理的競價信號，不同資源的虛擬價格會自然地形成，反映出它們的稀缺性和受歡迎程度。資源因此會被引導至能夠發揮其最高價值的地方

公平性標準：嫉妒測試

這個設計的公平性目標是通過德沃金提出的嫉妒測試。一個通過了嫉妒測試的資源分配結果應該是這樣的：在拍賣結束后，沒有任何一個用戶會寧愿選擇另一個用戶獲得的資源組合及剩余貨幣，也不愿選擇自己的。換句話說，每個代理獲得的都是根據其特定偏好定制化的最佳資源包。這樣的結果既是“雄心敏感的（ambition-sensitive）”，因為它反映了參與者的個人偏好；同時也是“稟賦不敏感的（endowment-insensitive）”，因為它通過給予每個人相同的初始貨幣，從根本上消除了因外部資源不平等而帶來的不公平優勢

設計二：“任務經濟”以應對集體挑戰

除了確保個體間的公平，代理經濟還可以被設計用來協調大規模的努力，以解決人類社會面臨的緊迫挑戰，如氣候變化、生物多樣性喪失和全球流行病等。這種設計被稱為“任務經濟（mission economies）”。

核心理念：通過市場和市場塑造政策，將 AI 代理的協調能力引導向預設的、有益于社會的宏大目標。這意味著要創建特定的激勵結構，使追求集體任務的完成對代理來說是“有利可圖”的。

實現方式：

獎勵塑造：在多代理系統中，通過精心設計獎勵函數來促進協作已經是一種成熟的方法。同樣，我們可以在代理市場中嵌入與特定使命相關的獎勵

社區貨幣與特定激勵：可以創建與特定使命掛鉤的社區貨幣或代幣。例如，一個旨在減少碳排放的使命經濟可以獎勵那些能夠優化能源效率或開發綠色技術的代理

論文同時也審慎地指出了“任務經濟”方法的潛在缺陷，這源于對現實世界中類似嘗試的批評：

規范性偏見：使命的定義本身可能帶有價值偏見，且可能過于簡化復雜問題

自上而下的治理風險：過度依賴中心化的決策可能忽視私營部門和去中心化創新的貢獻

意外的負面后果：專注于一個使命（如環境保護）可能會對另一個使命（如發展中經濟體的人類福祉）產生不利影響

因此，設計良好的使命經濟應該是結果導向的，而非解決方案導向的，并且應當承認和納入未來的高度不確定性。虛擬代理經濟的優勢在于，其可編程性或許能比協調人類行為更容易地實現這種精細的激勵設計

5. 基礎設施層

任何宏大的設計理念都需要堅實的技術和治理基礎設施來支撐。要實現一個安全、可控且公平的沙盒經濟，必須構建一個全新的、專為代理互動設計的底層架構。論文詳細闡述了構成這個架構的幾個關鍵組件

身份、聲譽與信任

去中心化標識符（Decentralized Identifiers, DIDs）：為每個 AI 代理提供一個全球唯一、由其自身控制的身份錨點，無需依賴任何中心化機構。DIDs 使得代理的身份持久且可跨平臺移植，是實現安全通信和權威簽名的基礎

did:key：一種簡單的、自包含的 DID 方法，適用于為臨時任務創建的一次性代理

did:ion：一種基于比特幣區塊鏈第二層網絡的高度可擴展且抗審查的 DID 方法，適用于需要長期存在和高價值交互的企業級或國家級代理。

可驗證憑證（Verifiable Credentials, VCs）：這是物理世界中證書或許可證的數字等價物。VCs 是由發行方（如一個市場平臺）對主體（如一個賣家代理）做出的、帶有加密簽名的陳述，具有防篡改的特性。它能將抽象的“聲譽”轉化為具體的、機器可讀的、可驗證的資產組合。例如，一個代理的聲譽可以由多個 VCs 構成，分別證明其“成功交易完成率”、“在 X 領域的認證能力”或“公平資源分配的實踐記錄”

人格證明（Proof-of-Personhood, PoP）：為了防止“女巫攻擊（Sybil attacks）”（即單一惡意行為者創建大量虛假身份以獲取不正當利益），任何涉及向人類用戶公平分配資源的系統都必須引入 PoP 機制。PoP 提供了一種可驗證的擔保，證明一個代理或賬戶對應于一個獨一無二的人類。這是一個刻意設計的、受控的“滲透點”，將數字身份與真實世界的人類掛鉤，以確保系統的完整性

社交圖譜驗證：如 BrightID，通過已驗證用戶之間的信任關系網絡來確認新用戶的唯一性

隱私保護生物識別：如 Worldcoin，使用硬件（“Orb”）掃描用戶虹膜生成唯一哈希值，以證實其唯一性，同時不存儲或泄露原始生物數據

通信、協調與隱私

互操作性協議：為了避免代理生態系統變成一個個相互隔離的“圍墻花園”，開發開放、通用的標準至關重要

Agent2Agent (A2A)：旨在支持代理之間的互操作性

Model Context Protocol (MCP)：使 AI 代理能夠無縫地與外部工具、數據源和 API 進行交互

COALESCE 框架：允許代理分解任務，并將子任務外包給更專業的代理，同時提供評估內外部執行成本的機制

隱私保護技術：零知識證明（Zero-Knowledge Proofs, ZKPs）

ZKPs 允許一方（證明者）向另一方（驗證者）證明一個陳述為真，而無需透露任何使該陳述為真的底層信息。在代理經濟中，ZKPs 可以從根本上解決隱私和操縱風險

選擇性披露：代理可以證明自己滿足某個條件（如“賬戶余額足以完成此次購買”）而無需透露具體數值（總預算），從而防止掠奪性定價

匿名憑證：代理可以證明自己屬于某個群體（如“某社區居民”）以使用本地貨幣，而無需暴露其具體身份，防止跨場景的行為追蹤

不可鏈接性：可以為每次交互生成全新的 ZKP，使得外部觀察者在計算上難以將一個代理的多次活動關聯起來，從而打破形成“信息繭房”的數據鏈條

治理與監督

混合式、多層級的監督基礎設施：由于代理經濟的速度和規模，傳統的“人在環路中”的監督模式已不再適用。論文提出了一個混合式的監督架構：

1.第一層：自動化 AI 監督員：實時監控市場活動，以編程方式執行基本規則，并標記出預示著欺詐、操縱或系統性風險的異常行為

2.第二層：自動化裁決系統：當第一層發現問題時，該層級可以介入，例如暫時凍結有問題的代理賬戶或交易，同時收集相關數據以供審查

3.第三層：人類專家審查：只有最復雜、最新穎或風險最高的案件才會上報到這一層，確保人類的專業知識被用在最關鍵的地方。

這個監督架構的有效性，依賴于兩個關鍵的技術基礎：不可變的、有加密安全保障的賬本（如區塊鏈），以及標準化、可解釋的審計追蹤，這兩者共同為事后問責提供了可靠的依據

6. 最終建議

基于以上分析，論文最后提出了一個清晰的行動路線圖

以下是論文提出的五項核心建議：

1.為責任和問責制建立清晰的法律框架

傳統法律很難界定一個自主代理行為的責任歸屬（是創造者、部署者還是使用者？）。當代理以“群體代理（group agents）”的形式協同運作時，這一挑戰變得更加復雜。因此，我們需要發展新的法律模型，可以參考公司法中關于法人責任的判例，將整個協調后的代理系統視為一個單一的、可問責的實體。這為追究集體行為的責任提供了一條更現實的路徑

2.為代理的互操作性和通信制定開放標準

一個碎片化的數字景觀將極大地限制虛擬代理經濟的潛力，并催生數據壟斷的“圍墻花園”。因此，推動和采納開放、通用的標準至關重要。這些標準需要創建一種通用語言，讓所有代理，無論其來源或提供商，都能無縫地發現彼此的能力、協商條款并安全地進行交易。建立這樣一個公平的競爭環境是 fostering 一個競爭性、創新性和去中心化的代理生態系統的先決條件。

3.構建混合式的監督與遏制基礎設施

如前所述，必須建立一個結合了 AI 系統實時警惕性和人類專家深思熟慮判斷的混合監督系統。這個分層的構架（AI 監督員 -> 自動化裁決 -> 人類審查）能夠在機器速度下遏制潛在危害（如防止“閃崩”），同時將寶貴的人類注意力集中在最棘手的問題上。其基礎是不可變的賬本和標準化的審計追蹤，以確保所有行動都可驗證、可追溯。

4. 在監管沙盒中開展試點項目

鑒于這些提議的新穎性和復雜性，純理論的方法是不足的。論文強烈建議創建監管沙盒，啟動受控的試點項目，作為連接理論與實踐的橋梁。這些沙盒將作為真實世界的實驗室，讓私營公司、學術研究者和監管機構合作，在一個受控的環境中部署和觀察小規模的代理經濟。例如，可以選擇一個具體的社會任務——如優化大學校園的能源網、管理一個城市的自動配送車隊——來進行壓力測試，觀察涌現的代理行為，并衡量市場機制的實際效果。

5.投資于勞動力互補性與現代化的社會安全網

AI 代理經濟帶來的一個重大社會風險是大規模的勞動力替代和不平等加劇。為了應對這一挑戰，需要采取雙軌策略

第一軌是促進人與 AI 的互補性：重塑教育和職業培訓，重點培養人類獨特的優勢，如批判性思維、復雜問題解決能力、創造力以及管理和評估 AI 產出的能力。

第二軌是加固社會安全網：僅靠培訓是不夠的，必須同時強化社會保障體系。這不僅包括傳統的失業救濟，還應探索如失業保險、可攜帶式福利系統和負所得稅等更具適應性的機制。

通過這五項建議，論文呼吁我們抓住一個稍縱即逝的機會窗口：與其被動地將強大的新技術塞進它們注定會破壞的舊系統中，不如主動地去設計和構建一個新的世界，在這個世界里，我們最強大的工具，從其設計之初，就是我們最高愿望的延伸

參考：

https://arxiv.org/abs/2509.10147