2025年，上海迎來了世界人工智能大會的盛大開幕，同時，人工智能全球治理高級別會議也在此間舉行。在“有益、安全、公平”為主題的人工智能向善分論壇上，國家網信辦網絡管理技術局局長于永河透露了一組令人矚目的數據：截至目前，已有474款大型人工智能模型完成備案，247款大模型的應用或功能完成登記，而這些大模型應用的注冊用戶總數已突破30億大關。

這一備案舉措與《生成式人工智能服務管理暫行辦法》緊密相關。為有效應對生成式人工智能帶來的風險與挑戰，2023年7月，國家網信辦聯合其他六個部門共同發布了該《暫行辦法》。該辦法明確要求，提供具有輿論屬性或社會動員能力的生成式人工智能服務的實體，需按照國家規定進行安全評估，并履行算法備案及變更、注銷備案等相關手續。

隨著生成式人工智能和深度合成技術的飛速發展，信息生成與合成的便捷性日益增強。然而，虛假信息的泛濫、深度偽造以及欺詐行為也隨之頻發，成為亟待解決的問題。為此，《互聯網信息服務深度合成管理規定》及《暫行辦法》等規章制度均強調了網絡服務提供者對AI生成合成內容進行標識的義務。

針對“眼見不一定為實”的信任危機，于永河指出，國家網信辦網絡管理技術局聚焦于生成合成內容的標識添加這一關鍵環節，并于今年3月聯合多部門發布了《人工智能生成合成內容標識辦法》（簡稱《標識辦法》）。與此同時，配套的強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》也正式施行。

在論壇上，于永河詳細闡述了《標識辦法》的制定思路，并介紹了如何通過標識這一手段，完善人工智能的全生命周期治理，推動人工智能產業的健康有序發展。他提到，該辦法首先提出了一個適應當前現狀的全周期管理方案。考慮到在多媒體文件中添加數字水印會增加企業成本，且識別難度大，同時在文本中添加隱式標識存在技術難題，因此并未對數字水印及識別作出強制性要求。相反，通過嵌入源數據的技術手段添加隱式標識，既無需對網站平臺進行復雜改造，又能實現互相識別，從而在控制成本的同時，確保生成合成內容的可監督和可追溯性。

在標識方法上，《標識辦法》也有所創新。在文字方面，參照了注冊商標和3C認證標識，創新性地提出了文字角標形式的顯式標識。在音頻方面，則采用了較為通用的“摩斯碼”式標識，以減少對用戶的干擾。還鼓勵內容傳播服務提供者加強生成合成內容的識別能力，提升鑒別準確性，及時標注出疑似生成合成的內容，避免誤標和漏標。

于永河還強調了全鏈條標識治理的重要性，這一治理方案貫穿于內容制作、內容傳播以及功能使用的各個階段。在內容生成階段，制作平臺需在內容生成的同時嵌入隱式標識，記錄生成合成標簽、制作平臺編碼等關鍵信息，為后續的全流程識別和溯源提供基礎。在內容傳播階段，傳播平臺需主動承擔起核驗責任，通過技術手段解析文件元數據中的隱式標識，并識別顯示標識或內容生成痕跡，特別是要兼容主要制作平臺的語言數據標識方法，對未合規標識的內容進行攔截或補充標注。在應用分發階段，應用程序分發平臺需在應用上架前嚴格審查與標識相關的材料，拒絕上架未按要求進行標識的應用，從源頭上保障用戶獲取的AI工具具備規范的標識能力。

論壇現場氣氛熱烈，與會者對于《標識辦法》的實施寄予厚望。據于永河透露，近期還將發布包括文本、圖片、音頻、視頻各模態的元數據標注方法、元數據安全防護方法以及生成合成內容檢測方法等在內的6項實踐指南，為人工智能的治理提供更加具體的指導和支持。