不久前，某公眾號運營者鐘某為蹭“海嘯預警”熱點，利用AI生成“30萬居民撤離”等聳人聽聞的言論，引發恐慌情緒。從編造“民警離職潮”到“爆炸事故”，從散布涉企謠言到“限制外賣配送”虛假信息，AI造謠已呈黑色產業鏈之勢，給社會治理帶來全新挑戰。

以謠生利，流量變現。不法者利用AI造謠，牟取互聯網內容平臺獎勵。以某大型內容生產平臺為例，收益計算公式可簡化為“有效播放量×互動系數×千次播放單價”。平臺對點擊量高、互動性強的原創性內容給予更多收益分成。如果整體權重較高，一篇閱讀或播放100萬次的稿件，收益超千元。此外，不正當商業競爭進一步催生AI謠言黑色產業鏈，加劇謠言擴散。

AI技術讓網絡謠言更為逼真，所謂“官方回應”極具迷惑性。而且，AI通過過濾、推薦機制，將虛假信息聚合成“證據鏈”，“有圖有真相”，誤導普通用戶乃至專業人士。近日，安徽合肥公安網安部門查處一起利用網絡平臺故意散布涉企不實信息案。為獲取平臺流量傭金，陳某注冊多個平臺賬號，利用AI工具編造、生成虛假熱點文章并發布200余篇，且內容高度雷同，惡意攻擊某品牌，導致大量消費者誤解。

真偽難辨的AI謠言，何解？針對黑色產業鏈上的前端發布主體、中端技術手段和末端后果危害，逐一研判、全鏈條打擊。

清華大學相關研究指出，各類AI謠言中，經濟與企業類謠言、公共安全類謠言占比最多、增速最快，其中，餐飲外賣、快遞配送等民生行業成為謠言重災區。

今年7月，中央網信辦啟動“清朗·整治‘自媒體’發布不實信息”專項行動，重點整治“利用人工智能生成合成技術，仿冒他人，或編造社會民生等領域虛假信息，欺騙公眾”等問題。9月15日，《人工智能安全治理框架》2.0版正式發布。中央網信辦要求強化規范引導，不斷完善人工智能安全監管制度和標準規范體系。

新媒體平臺應加強對AI造謠的智能識別機制研究，進一步改革涉及AI內容的流量分發和收益分成機制，最大限度壓縮AI造謠的牟利空間。還可通過逆向傳播，利用相同渠道傳播準確信息，抵消謠言影響；鼓勵用戶積極舉報可疑內容，設立獎勵機制增加公眾參與度；持續研究謠言生成、傳播機制，開發有效監測和防治技術等。

近期，公安部組織全國公安機關持續開展打擊整治網絡謠言工作。根據《刑法》規定，編造虛假的險情、疫情、災情、警情，在信息網絡或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網絡或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重后果的，處三年以上七年以下有期徒刑。

AI造謠背后，是技術濫用與社會治理的賽跑。立法、司法、平臺、公眾與等多方協力，方能構建全鏈條治理體系，共同營造和諧清朗的網絡空間。