近日,今日頭條發布2024年度治理報告(以下簡稱“報告”),公布平臺針對網絡虛假謠言、網絡詐騙、同質化發文、低質AI內容等問題的多項治理舉措與成果。《報告》顯示,平臺全年累計攔截不實信息超500萬條,處置不友善內容超3億條,處罰同質化發文超781萬篇。

數字時代,信息數量呈幾何式爆發,紛繁復雜、真假難辨;人工智能技術的飛速發展更是給網絡生態帶來了新的挑戰。虛假謠言事件頻發,不僅擾亂了網絡秩序,也滲透至用戶生活的方方面面,對現實社會造成了嚴重不良影響。

對此,今日頭條建立起完整的謠言治理和防范體系。一方面加強謠言攔截:通過強化搭建全體裁謠言知識庫,培養專業領域的審核人員,建立謠言線索互通機制等方式從根源處遏制不實信息的發布與傳播;另一方面加強辟謠教育:成立線上“辟謠小課堂”,發布創意治理動畫《小狗的一天》《火》,聯動專家、科普創作者發起“頭條講真的”公益活動等,全方位進行用戶教育和引導。截至2024年12月底,平臺累計攔截不實信息超500萬條,封禁造謠、傳謠等違規賬號超47000個。

網絡暴力和網絡詐騙同樣嚴重影響著用戶的身心與財產安全,今日頭條在預防和治理網暴方面不斷完善“一鍵防護”、評論權限設置等產品功能,還與抖音打通心理關懷團隊,為被網暴等原因而產生不良情緒的用戶提供心理疏導,僅2024年平臺就處置不友善內容超3億條。針對網絡詐騙行為,平臺秉持“早識別、多攔截、多提示、快速干預”原則,通過技術和運營手段不斷加強治理效率,與公安等部門合作加強反詐教育。一年累計封禁違規賬號超17萬個,為用戶發出風險提示超2548萬次。

此外,針對同質化內容、低質AI發文、網絡水軍等問題,今日頭條通過增加AI辨別標簽、強化內容識別模型、收嚴賬號管理制度等一系列舉措開展了專項治理。《報告》顯示,2024年平臺處罰同質化發文超781萬篇,處置低質AI內容超93萬條,攔截虛假流量超150億次。

今日頭條相關負責人表示,平臺治理是一項長期而復雜的工程,但讓用戶更安心,讓社會更安寧,是平臺加強建立優質生態的初心所在和責任所在,“我們愿與多方共同努力,為構建綠色、和諧、健康的網絡環境貢獻力量。”

圖說:今日頭條2024年度治理報告重點一覽