近日，國家網信辦公布了《人工智能生成合成內容標識辦法（征求意見稿）》（以下簡稱《征求意見稿》），并面向社會公開征求意見，意見反饋截止時間為10月14日。

《征求意見稿》提出，人工智能生成合成內容是指利用人工智能技術制作、生成、合成的文本、圖片、音頻、視頻等信息。人工智能生成合成內容標識包括顯式標識和隱式標識。網絡信息服務提供者應當按照有關強制性國家標準的要求進行標識。服務提供者提供生成合成內容下載、復制、導出等方式時，應當確保文件中含有滿足要求的顯式標識。提供網絡信息內容傳播平臺服務的服務提供者應當采取措施，規范生成合成內容傳播活動。包括提供必要的標識功能，并提醒用戶主動聲明發布內容中是否包含生成合成內容等。

專家認為，這一規定的出臺既能有效規避AI造假，也將推動AI生成內容檢測算法的發展。律師表示，目前已有不少AI生成內容帶來的刑事案件和民事糾紛，新規能有效遏制侵權行為。有AI創作者認為，新規的出臺將對生產“深偽”內容的創作者帶來沖擊。

專家：

防范AI內容造假潛在風險

推動AI生成內容檢測算法發展

南開大學人工智能學院教授劉杰認為，這一規定的出臺非常有必要，因為如今AI生成的文本、音頻、視頻的逼真程度、自然程度越來越高，網絡上傳播的AI內容已經很難去辨別真實性。有人刻意傳播一些AI偽造的事件、人物講話時，會對公眾造成誤導。新規要求AI內容添加標識，是對這些潛在問題的防范。

在《征求意見稿》中，對提供生成服務的平臺和發布平臺都提出了要求，通過雙層機制，確保每一個生成內容都能被合理地標識出來，保證內容安全，避免誤導。如今AI生成內容快速發展，帶來了新的產業變化，在此場景下，有必要出臺相應規定來保障技術的合理應用和行業的健康發展，避免不當信息的傳播影響整個行業的發展。

▲資料圖片 圖據圖蟲創意

劉杰告訴，按照新規的要求，生成內容的平臺需要有相關技術來添加相應標識，內容傳播平臺也需要能夠檢查到內容中是否存在相應標識。對于沒有標識的AI生成內容，傳播平臺也需要有一套精準的算法來進行判別。這對算法有很高的要求，新規的出臺將推動AI生成內容檢測算法的發展。

劉杰認為，目前的AI生成內容識別規定在執行層面可能會面臨一些問題。比如在生成環節添加的顯式、隱式標識，可能會被人為刪除；AI生成內容和真實內容混合存在時，應當如何標識等。

劉杰還提到，AI生成內容以假亂真的能力和對生成內容檢測算法的能力是一個長期互相競爭發展的過程。在這個過程中，難免會出現部分AI生成內容無法被精準識別的現象，可能會對瀏覽這些內容的用戶造成困惑。

有創作者稱“深偽”內容生產者將受沖擊

律師：新規能有效遏制侵權

AI領域創作者“土豆人”告訴，他非常支持這一標識規定的出臺。一方面AI生成內容以假亂真、難以識別，另一方面大量數字仿品的出現對創意產業破壞很大，版權保護跟不上技術進步的話，會影響整個行業的生態。但他也擔心，AI內容在未來生活中幾乎無處不在，過度標注可能會干擾用戶認知，對AI技術產生抵觸。

“土豆人”認為，對于他們這種帶有明確AI創作者標簽的人來說，這一規定的影響非常有限，真正受到影響的是那些生產“深偽”內容的創作者，強制標識后將明顯影響他們在各個平臺的傳播效果。

北京天元律師事務所合伙人律師、“AI著作權第一案”當事人李昀鍇告訴，未來這一強制標準出臺后，將要求所有工具、傳播平臺都要有標注義務，能有效遏制AI濫用現象。一方面能方便社會公眾進行明確辨別區分，另一方面在AI內容出現問題后有利于監管者進行追溯調查。

李昀鍇表示，目前已經有不少因AI生成內容導致的直接或間接糾紛。利用AI偽造內容進行的詐騙案件已經發生過多起，強制的標識可以方便主管機關追溯欺詐主體，也能追查哪些平臺在監管上存在問題。在民事領域相關問題也很多，比如學生用AI生成論文，帶來學術不誠信、影響學習研究能力等問題；比如公司、平臺購買一些創作內容，往往是基于人工制作進行的定價，但會面臨創作者用AI生成“糊弄了事”。目前，對于這類問題購買者缺乏識別和舉證的手段，未來如果強制性的標識得以推廣，能有效遏制這種侵權行為。

李昀鍇認為，這條新規本質上是壓實平臺的合規義務，增加平臺的合規成本和投入，傳播平臺也要加強審核和提示。目前，不少大的傳播平臺都會對AI生成內容進行識別，并提示用戶疑似AI內容。但這是基于大平臺的高標準意識，并沒有強制性，未來國家標準的發布能夠強制全面推行，會要求所有平臺都要提高合規管理的措施和技術。

記者 付垚 實習記者 劉亞洲

編輯 張莉 責編 官莉