12月18日，由南方都市報社、南都數字經濟治理研究中心主辦的“第九屆啄木鳥數據治理論壇”在京舉行，主題聚焦 “AI安全邊界：技術、信任與治理新秩序”。中國網絡空間安全協會副理事長、人工智能安全治理專業委員會主任盧衛為論壇致辭。他表示，AI治理應堅持“分類分級”，比如對自動駕駛、智慧醫療等高風險場景嚴格監管，對低風險應用則留出一定創新空間。

中國網絡空間安全協會副理事長盧衛致辭。

隨著大模型應用場景滲透到社會的每一個角落，曾經高居云端的AI智能已步入“尋常百姓家”，越來越多的普通人開始使用和掌控它。與此同時，新應用的不斷涌現，也給網絡生態治理帶來全新挑戰。盧衛認為，建立健全面向未來的人工智能安全治理生態，需要依靠技術創新筑牢防線、依靠信任夯實凝聚共識、依靠制度完善保駕護航，讓技術、信任、制度三者形成合力。

首先，技術是安全治理的基礎支撐，為人工智能發展筑牢安全底線。盧衛表示，人工智能技術日新月異，發展離不開技術的創新和迭代，安全最終要靠技術來兜底，具體涉及兩方面：

一是提升人工智能自身安全性，如通過對抗訓練增強模型魯棒性（指一個系統在面臨著內部結構或外部環境的改變時也能夠維持其功能穩定運行的能力），利用差分隱私保護數據安全；另一方面研究治理技術，如算法漏洞的智能檢測，深度偽造檢測、算法審計工具等。此外，要特別注重內生安全，“要在人工智能的研發初期就嵌入防護機制，并不斷地迭代優化，不能事后‘打補丁’。”

盧衛分析，近年來發生的涉人工智能網絡安全事件普遍呈現出兩個特點：手段智能化，一些不法分子早早地就將人工智能技術作為違法犯罪工具；風險場景復雜化，具體表現為從數字空間滲透到了物理世界。

“比如，當前具身智能已從生產階段進入到現實生活中，隨著機器人逐步進入家庭，相關安全問題亟待重視?！北R衛還提到，信任是安全治理的橋梁紐帶，為人工智能發展凝聚社會共識。

在他看來，人工智能的普及，本質上是技術獲得社會信任的過程。算法推薦出現“信息繭房”、自動駕駛面臨倫理困境、AI生成內容模糊虛實邊界……都會侵蝕公眾的信任根基。要構建信任，需要做到“透明可及”，包括提高算法決策過程透明度，避免技術異化對隱私、公平等價值的損害等等；同時要積極普及AI知識，提升全民數字素養。

“只有贏得公眾信任，人工智能才能夠在醫療、教育、交通等關鍵領域（得到）深度應用，這是治理生態的活力源泉?！北R衛說。

制度是安全治理的秩序保障，為人工智能發展全程保駕護航。盧衛建議，建立健全“法律+標準+倫理”的治理體系，既通過《網絡安全法》《數據安全法》等法律劃出“紅線”，也要發揮行業標準、自律公約的柔性調節作用。AI治理中要堅持“分類分級”，比如對自動駕駛、智慧醫療等高風險場景嚴格監管，對低風險應用則留出一定創新空間。同時，要推動跨部門、跨區域協同治理；加強國際合作，應對人工智能安全的全球性挑戰。

盧衛強調，隨著人工智能技術的迅速迭代，治理還需保持“敏捷性”，制度建設需“與時俱進”。通過建立健全動態風險評估機制，為前沿技術和領域的治理提出方案，為創新留出試錯空間。比如，近年來中國網絡空間安全協會組織專業機構對人工智能模型進行了安全和能力評測實踐探索。

人工智能等新技術、新應用飛速發展，給現有國家治理體系帶來極大挑戰。“作為行業協會，（中國網空協會）非常愿意積極參與，共同做好人工智能安全治理方面的工作?！彼f。

出品：南都數字經濟治理研究中心

采寫：南都N視頻記者 樊文揚