在2025年世界人工智能大會的高級別會議上，上海成為了全球關注的焦點。特別是在“有益、安全、公平”為主題的人工智能向善分論壇上，國家網信辦網絡管理技術局局長于永河透露了一系列重要數據。目前，已有474款大型人工智能模型完成了備案，另有247款大模型的應用或功能成功登記，這些大模型應用的注冊用戶總數已經突破了30億大關。

本次論壇的現場匯聚了眾多行業專家和學者，共同探討人工智能的未來發展路徑。于永河局長的發言與《生成式人工智能服務管理暫行辦法》密切相關。該辦法于2023年7月由國家網信辦等七部門聯合發布，旨在應對生成式人工智能帶來的風險挑戰，確保相關服務的安全性和可控性。

近年來，生成式人工智能和深度合成技術的迅猛發展，雖然為信息的生成和合成提供了極大的便利，但同時也帶來了虛假信息泛濫、深度偽造和欺詐等風險。為了應對這些挑戰，國家相關部門出臺了一系列規章，明確規定了網絡服務提供者對AI生成合成內容的標識義務。

針對“眼見不為實”的信任危機，國家網信辦網絡管理技術局聯合多部門，于今年3月發布了《人工智能生成合成內容標識辦法》，并同步實施了配套的強制性國家標準。這一舉措旨在通過標識手段，完善人工智能的全生命周期治理，推動產業的健康有序發展。

于永河在會上詳細介紹了《標識辦法》的制定思路和實施策略。他強調，全周期管理方案需要充分考量當前人工智能產業的發展現狀，避免給企業增加不必要的成本。因此，該方案并未對添加數字水印及識別作強制性要求，而是采用了嵌入源數據的技術手段添加隱式標識，實現了生成合成內容的可監督、可溯源。

在標識方法上，《標識辦法》也進行了創新。對于文字內容，參照了注冊商標的TM標識和3C認證標識，采用了文字角標形式的顯式標識。對于音頻內容，則使用了通用的“摩斯碼”式標識，以減少對用戶的干擾。同時，鼓勵內容傳播服務提供者提升生成合成內容的識別能力，及時標注出疑似內容，避免誤標和漏標。

于永河還介紹了全鏈條標識治理的理念。從內容制作、內容傳播到功能使用，每一個環節都需要進行標識管理。在內容生成階段，制作平臺需嵌入隱式標識，記錄相關信息；在內容傳播階段，傳播平臺需承擔主動核驗責任，對未合規標識的內容進行攔截或補充標注；在應用分發階段，應用程序分發平臺需嚴格審查標識相關材料，確保上架的應用具備規范標識的能力。

為了構建完善的治理框架，國家網信辦還在積極制定包括管理辦法、技術強標和實踐指南在內的全體系內容。據透露，近期將發布涉及文本、圖片、音頻、視頻各模態的元數據標注方法、元數據安全防護方法以及生成合成內容檢測方法等6項實踐指南。