封面新聞記者 易弋力

9月15日，在2025年國家網絡安全宣傳周主論壇上，《人工智能安全治理框架》2.0版（以下簡稱《框架》2.0版）正式發布。此前，為落實《全球人工智能治理倡議》，《人工智能安全治理框架》1.0版（以下簡稱《框架》1.0版）于2024年9月發布，并受到國內外廣泛關注。

《框架》1.0版發布到現在，人工智能技術和應用取得了哪些新突破？如何理解《框架》2.0版提到的“安全、可信、可控”等關鍵詞？ 9月17日，工信部信息通信經濟專家委員會委員盤和林分享了他的觀點。

盤和林表示，自《框架》1.0版發布以來，人工智能技術在多模態大模型、自主智能體（AI Agent）、具身智能等領域取得顯著進展。多模態模型已實現文本、圖像、音頻、視頻的跨模態生成與理解，自主智能體具備復雜任務規劃和工具調用能力，人工智能與機器人結合的具身智能正在突破物理空間限制。同時，AI在生物醫藥、材料科學等垂直領域的應用深度不斷增強。

這些發展也帶來了新的安全風險，比如：新型濫用風險：深度偽造技術泛濫導致虛假信息傳播難度降低，AI生成內容鑒別難度加大；系統級風險：自主智能體可能產生不可預測的涌現行為，多智能體交互可能產生復雜系統風險；產業安全風險：AI在關鍵基礎設施領域的應用加深，使得單點故障可能引發系統性風險；倫理挑戰升級：生成式AI的偏見嵌入更加隱蔽，算法歧視從顯性轉向隱性。面對這些變化，《框架》2.0版應運而生。

《框架》2.0版具體對哪些“規矩”進行了更新？盤和林表示，《框架》2.0版從靜態治理到動態治理：要求建立適應技術迭代的敏捷治理體系，比如設置"監管沙盒"等彈性機制，將創新應用放在沙盒中進行觀察，調整監管治理體系。從單一維度到多維治理：統籌技術安全、倫理安全、社會安全等多維度治理要求，而不是單一的網絡安全維度。這樣能夠更加全面的應對當前技術發展帶來的安全風險。從事后治理到前瞻治理：比如建立風險預警機制，對前沿技術方向進行預研預判，針對性的制定新規則。

具體來看：《框架》2.0版將要應對生成式AI帶來的內容安全挑戰，比如深度偽造技術的以假亂真的問題。將規范自主決策系統的責任認定機制，比如智駕撞人，責任在誰。將推動建立適應大模型即服務（MaaS）模式的新型監管體系。將平衡開源開放與安全可控的關系。

《框架》2.0版提到，培育安全、可靠、公平、透明的人工智能技術研發和應用生態。如何理解這四個關鍵詞？

盤和林表示，安全：指AI系統應具備韌性抗擾能力，保障數據安全、模型安全和應用安全，建立端到端的安全保障體系。我認為這是一個多維度成體系的安全機制。可靠：要求AI系統行為可預期、輸出穩定性和準確率高，在關鍵領域達到工業級可靠性標準。這里的關鍵在于精度，我們知道現在AI大模型存在幻覺，未來會要求AI大模型不斷減少幻覺。公平：強調算法決策應避免偏見歧視，保障不同群體獲得均等機會，實現技術普惠包容。技術應該帶來公平，而不是新的貧富差異。透明：包含可解釋性與可追溯性雙重含義，既要實現決策過程可理解，又要確保數據來源可追溯。不能到處都用技術黑箱來搪塞用戶，而是要給用戶解釋明白，我們的數據去了哪里，AI又是怎么輔助人類的。

《框架》2.0版還有兩個關鍵詞是“可信、可控”，衡量AI發展可信、可控的標尺在哪？

在盤和林看來，衡量標尺有三個維度：技術層面：我們可以通過驗證測試（如紅隊測試）、形式化驗證等方法量化安全性，也可以通過可信數據空間技術，聯邦學習等安全技術，來控制安全變量，建立技術上的整套安全保障體系。要給示范方案。倫理層面：建立多維度評估矩陣（包括公平性、隱私保護、人性尊嚴等指標），這里就要提到，誰有權來對倫理下判斷，我認為，應該是用戶，所以，需要從用戶中篩選一部分人，來對創新進行倫理評價。治理層面：實施分級分類管理，根據風險等級匹配相應監管強度，不同的應用具備不同的風險等級，不能一刀切，要分級分類的處置風險。

對于什么是AI可信，盤和林表示，預測決策可解釋（提供人類可理解的決策依據），行為輸出一致性（相同輸入產生預期范圍內的輸出），錯誤率可控（在關鍵領域達到99.99%以上的準確率），偏見可控（通過偏見檢測和緩解技術確保公平性）。

如何實現AI可控？設置人類監督節點（保留人類最終決策權），建立行為邊界約束（通過憲法AI等技術設定行為邊界），實現全生命周期監控（從訓練到部署全程可審計）。