熱點事件發生后，有人利用AI生成的假“照片”引流吸睛；網絡直播間里，有人利用AI生成的假“名人”瘋狂帶貨；現實社會中，有人利用“AI換臉”實施詐騙……

　　不時曝出的此類案例，讓不少人“破防”，更引發人們對AI濫用的擔憂。近日，國家互聯網信息辦公室、工業和信息化部等多個部門聯合制定的《人工智能生成合成內容標識辦法》正式施行。辦法聚焦人工智能生成合成內容標識的關鍵點，從服務提供、內容制作、產品傳播等各個環節，對AI參與內容生產提出具體要求。

　　辦法的頒布實施，將對規范AI參與內容生產、防范AI被濫用立規矩、畫方圓。

　　近年來，生成式人工智能取得長足發展，廣泛應用于人們日常生活的許多場景。新技術的運用，為經濟社會發展注入強勁動能，也帶來一系列濫用的新問題。

　　此前，“廣州限制外賣配送”“河南信陽市中心體育館驚險崩塌”……諸如此類“有圖有視有真相”的重磅“消息”，曾在網上廣泛傳播，引起大量網民關注。警方隨后調查發現，這些聳人聽聞的“消息”，是不法分子使用AI制作的網絡謠言。

　　“名人效應”也是不法分子利用AI造假的重要動機。比如，一些不法商家盯上多位奧運冠軍，通過AI“盜聲”等方式，虛構奧運冠軍為自己帶貨。

　　人工智能就像一柄雙刃劍，利用得好，能夠為工作、學習增添助力；AI被濫用，就會損害個人權益、搞亂網絡環境、帶偏社會風氣。

　　利用AI生成的內容常常生動逼真，又沒有相關的標識說明，一些不法分子甚至專門針對網民“量身打造”行騙內容，普通民眾很難辨別真假。

　　相關部門推出的《互聯網信息服務深度合成管理規定》明確提出，“任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。”這為利用AI進行內容生產劃定了底線和紅線。

　　該規定第十七條提出，深度合成服務提供者提供服務，“可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況”，從而給AI生成合成內容需要標注提出了法治化要求。

　　這次實施的《人工智能生成合成內容標識辦法》，是《互聯網信息服務深度合成管理規定》的配套制度要求。辦法第四條明確規定，服務提供者提供的生成合成服務，屬于《互聯網信息服務深度合成管理規定》第十七條相關情形的，“應當”按照相應要求對合成內容添加顯著的提示標識。

　　辦法從AI生產內容的制作源頭開始全鏈條發力，對AI生成內容服務的提供者、使用者、發布者、平臺等多角色開展約束，全方位完善制度體系，為防止AI濫用樹起了制度圍欄。

　　徒善不足以為政，徒法不能以自行。

　　從今年3月印發到9月正式施行，《人工智能生成合成內容標識辦法》給相關單位留出了相對充分的準備時間。全面開展宣傳普及，讓辦法貫徹實施下去，為防范AI濫用發揮出應有效用，需要全社會合力推進。

　　生成合成內容服務提供者，要為落實標注要求提供堅實的技術支持，讓使用者開展標注可用、好用、易用。

　　相關企業和個人需要仔細掂量自己利用AI生產的內容，是否會損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益，做到知法、守法。對于違法行為，應當嚴厲查處，以儆效尤。

　　傳播平臺同樣要承擔起把關責任，既要“技防”也要“人防”，多管齊下，嚴防應該標注卻沒有標注的AI生產內容違規發布。

　　治理AI濫用難題，還需要健全處置機制，強化執法協同，用好群眾力量，提升違規問題的發現能力和懲處效率。

　　為技術使用立好規矩，使用者、傳播者各司其職守好內容真實的底線，AI這項未來可能越來越深入、越來越廣泛影響我們日常生活的強大技術，才能趨利避害，不斷催生新場景、新業態，賦能千行百業，服務千家萬戶。

　　策劃：令偉家

　　統籌：朱斯哲、李代祥、劉雅萱

　　記者：尹思源

　　題圖漫畫：潘紅宇