9月1日起，AI生成內容必須依法打上“電子水印”。

今年3月，國家網信辦等四部門聯合發布了《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）。《標識辦法》指出，利用人工智能技術生成的文本、圖片、音頻、視頻、虛擬場景等信息，必須添加顯式和隱式兩種標識。顯式標識指可以被用戶明顯感知到的標識，隱式標識指在生成內容的數據中添加的標識。

標識AI生成內容，內容發布者負主要責任

澎湃新聞梳理社交媒體平臺相關用戶協議發現，B站、抖音、微博、小紅書等平臺要求內容發布者主動標識AI生成內容。對于不主動標識AI生成內容的行為，部分平臺采取了限流、下架內容、封號等措施。抖音還對未主動標識AI生成內容的行為，采取取消營利、抹除粉絲等措施。

此外，大部分平臺對未標識的AI生成內容采取了“自動標記”的補漏措施，但實際效果差強人意。記者使用“AI圖像”在各平臺檢索后，依然能夠找到大量未標示的AI生成內容。值得一提的是，部分平臺對AI標識的有關規定，最早可以追溯到《標識辦法》出臺前。這意味著很多平臺在治理AI生成內容標識上做了長期的實踐和探索，僅依靠平臺規則和防范機制，很難完全規避未標示AI生成內容的傳播。廣東財經大學法學院教授姚志偉在接受南都記者采訪時表示，新規對內容傳播平臺提出的技術要求較高，中小內容平臺能否有效落地執行還需觀察。

內容發布者不主動標識AI生成內容的原因是多種多樣的，但本質還是想吃到AI內容帶來的流量以及起號、變現紅利。一項關于深度偽造內容AI標識對用戶態度及轉發意愿影響的研究指出，內容發布者的標識提醒能夠有效激發用戶對深度偽造內容的識別和處理，但會降低用戶對發布內容的態度和分享意愿。

平臺對AI生成內容可以說是“又愛又恨”。一方面，AI生成內容是熱門內容創作賽道，抖音、小紅書等平臺都推出了扶持AI內容創作的計劃，給與AI生成內容流量傾斜和推廣；另一方面，一些用戶在使用AI起號、做號時沒有底線思維，傳播謠言、虛假信息、色情擦邊內容的違規行為屢禁不止。

造謠、擦邊、換臉是AI濫用的重災區

2025年4月，中央網信辦開展了為期3個月的“清朗·整治AI技術濫用”專項行動。上海市委網信辦指導小紅書、嗶哩嗶哩、拼多多等15家重點網站平臺，共攔截清理相關違法違規信息82萬余條，處置違規賬號1400余個，下線違規智能體2700余個。經整治，網絡違規AI信息顯著減少。

澎湃新聞統計B站、小紅書、微博發布的“清朗·整治AI技術濫用”治理周報典型案例發現，虛假宣傳（謠言）、低俗擦邊、違規營銷推廣AI產品信息（AI換臉、換聲等）是各平臺比較突出的共性問題。此外，B站在AI技術濫用的治理重點中還將以下內容列為違規內容，包括AI生成國際軍事虛假內容、AI生成低俗獵奇視頻、AI生成虛擬外國幼兒教育專家教授育兒內容、AI生成歷史人物穿越、AI大模型助考/高考押題預測等。

據網信上海消息，通過政策指導、生態協同與技術落地，稀宇科技、階躍星辰、通義、小紅書、嗶哩嗶哩、Soul等已基本完成顯式標識規范上線，加快開發上線隱式標識和傳播鏈互認驗證，小紅書牽頭編制圖片模態元數據標識實踐指南，上海標識工作取得階段性成效。