7月26日，2025世界人工智能大會暨人工智能全球治理高級別會議在上海開幕。在“有益 安全 公平”人工智能向善分論壇上，國家網信辦網絡管理技術局局長于永河表示，截至目前，共有474款大模型完成備案，247款大模型應用或功能完成登記，大模型應用注冊用戶總數已經超過30億。

論壇現場

上述備案要求與《生成式人工智能服務管理暫行辦法》中的一項規定（下稱《暫行辦法》）有關。為及時應對生成式人工智能帶來的風險挑戰，2023年7月，國家網信辦等七部門發布《暫行辦法》，要求提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規定開展安全評估，并按照相關規定履行算法備案和變更、注銷備案手續。

近年來，生成式人工智能、深度合成技術快速發展，為生成合成各類信息提供了便利工具。與此同時，虛假信息泛濫、深度偽造、欺詐等風險也日漸突出。為此，《互聯網信息服務深度合成管理規定》《暫行辦法》等部門規章均提及了網絡服務提供者對AI生成合成內容的標識義務。

為應對“眼見不為實”的信任危機，于永河指出，國家網信辦網絡管理技術局聚焦生成合成內容標識添加這一關鍵環節，今年3月聯合多部門發布了《人工智能生成合成內容標識辦法》（下稱《標識辦法》），其后，與之配套的強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》也已同步施行。

會上，于永河介紹了《標識辦法》的制定思路，闡述了如何以標識為抓手，完善人工智能全生命周期治理，推進人工智能產業健康有序發展。

于永河表示，一是提出適應現狀的全周期管理方案。首先是充分考量當前人工智能產業發展的現實情況，考慮到在多媒體文件中添加數字水印會明顯增加企業成本，且有較高識別難度，在文本內容中添加隱式標識存在技術難點等，未對添加數字水印及識別作強制性要求。“通過嵌入源數據的技術手段添加隱式標識，網站平臺無需進行復雜改造，又能夠實現互相識別，在兼顧成本的同時，實現生成合成內容的可監督、可溯源。”他說。

《辦法》還創新提出標識方法。在文字方面，國家網信辦參照了注冊商標的TM標識、3C認證標識等，創新提出文字角標形式的文字顯式標識。在音頻方面，使用了較為通用的“摩斯碼”式標識，減少對用戶的干擾。另外，鼓勵內容傳播服務提供者強化生成合成內容識別能力，提升鑒別準確性，及時標注出疑似生成合成內容，避免誤標和漏標。

二是貫穿內容制作、內容傳播、功能使用的全鏈條標識治理，“重點解決哪些是生成的、誰生成的、從哪里生成的問題。”

他解釋，在內容生成階段，制作平臺需在內容生成的同時，嵌入隱式標識，記錄生成合成標簽、制作平臺編碼等要素信息，為全流程識別和溯源提供基礎支撐。在內容傳播階段，傳播平臺需承擔主動核驗責任，通過技術手段解析文件元數據隱式標識并識別顯示標識或內容生成痕跡，特別是兼容主要制作平臺的語言數據標識方法，對未合規標識的內容進行攔截或補充標注。在應用分發階段，應用程序分發平臺需在應用上架前嚴格審查標識相關材料，不上架未按要求開展標識工作的應用，從源頭保障用戶獲取的AI工具具備規范標識的能力。

三是構建包括管理辦法、技術強標、實踐指南的全體系治理框架。據他透露，有關文本、圖片、音頻、視頻各模態的元數據標注方法、元數據安全防護方法以及生成合成內容檢測方法等6項實踐指南也將在近期發布。

采寫：南都N視頻記者 樊文揚 楊柳 王子黎 發自上海