南都訊 記者樊文揚 11月25日，“網信中國”發布通報稱，針對部分網站平臺未有效落實人工智能生成合成內容標識規定要求相關問題，近期網信部門集中查處一批違法違規APP并進行處置處罰。主要違法違規情形包括AI平臺未對生成合成的內容添加顯式標識、隱式標識，網絡平臺未落實對傳播內容的核驗義務等。

此次通報的違法違規情形，主要針對提供人工智能生成合成服務APP和提供網絡信息內容傳播服務的平臺。具體問題包括，人工智能生成合成服務提供者未對生成合成的內容添加顯式標識；提供生成合成內容導出功能時，未在文件中添加顯式標識；在生成合成內容的文件元數據中，未添加包含屬性信息、服務提供者名稱或者編碼、內容編號等制作要素信息的隱式標識；隱式標識添加位置不規范等。

對于傳播人工智能生成合成內容的網絡平臺而言，被通報的理由包括：網絡信息內容傳播服務提供者未落實隱式標識核驗、在發布內容周邊添加顯著提示標識相關要求；未在生成合成內容傳播活動涉及的文件元數據中添加屬性信息、傳播平臺名稱或編碼、內容編碼等傳播要素信息；未向用戶提供聲明生成合成內容的功能等。

通報稱，網信部門對這批應用依法依規予以約談、責令限期改正、下架下線等處置處罰。

隨著技術迭代，AI虛構與真實記錄的界限越來越模糊，內容標識成為遏制生成合成技術濫用、虛假信息傳播的第一道“防火墻”。為此，國家網信辦制定出臺了《人工智能生成合成內容標識辦法》，并于今年9月起實施。此次通報或進一步督促相關企業落實合規舉措，AI生成內容將全面進入“持證上崗”時代。

《人工智能生成合成內容標識辦法》明確，人工智能生成合成內容標識包括顯式標識和隱式標識，承擔標識義務的有AI平臺、網絡內容平臺、應用商店和用戶四類主體。

具體而言，AI平臺需在提供生成合成內容下載、復制、導出等功能時，確保文件中含有以文字、聲音、圖形等方式呈現并可以被用戶明顯感知到的顯式標識；在生成合成內容的文件元數據中添加隱式標識，隱式標識包含生成合成內容屬性信息、服務提供者名稱或者編碼、內容編號等制作要素信息。

社交內容平臺主要承擔對AI內容的核驗義務。若識別了AI生成合成或疑似AI內容，社交平臺應告知提醒公眾。除了核驗，社交平臺也應主動提供必要的標識功能，提醒用戶主動聲明發布內容中是否包含生成合成內容。