近年來,隨著人工智能技術的發展,使用“深度偽造”技術制作的色情影像在韓國社交媒體上肆意傳播,韓國青少年特別是年輕女性深受其害。為從根本上清除這一社會毒瘤,韓國正不斷加大打擊“深度偽造”犯罪的力度。去年10月,韓國政府表決通過了三部相關法律,保存、收看“深度偽造”淫穢影像將受到處罰。
![]()
▲“深度偽造”技術制作的色情影像在韓國社交媒體傳播。資料圖
然而,韓國涉及深度偽造的“數字性犯罪”依舊存在,AI版“N號房”近日被曝出訪問量急劇增加。
韓國一個網站被曝出利用人工智能技術,可將女友、妻子等女性熟人的形象合成裸體手辦并在網上展示,每日吸引超過10萬名男性用戶。隨著生成式AI的擴散,該平臺不僅公然運作,還大量出現利用女性照片制作的“裸體手辦”圖像,甚至使用特定提示語生成“深度偽造”色情內容。
數據顯示,去年韓國“深度偽造(deepfake)處罰法”實施前,該網站日訪問量約為6萬人,而在法律生效一年后,訪問量不僅未下降,反而增長約60%。
所謂“深度偽造”,是指利用人工智能,將他人的聲音、面部表情和身體動作合成虛假影像的技術。
據統計,去年4月至5月,該網站月訪問用戶超過52萬人。自上月以來,“深度偽造”色情內容急劇增加,用戶以“最近試著跟潮流做一個”“我也來玩一下流行的前女友手辦制作”為名,不斷制作并展示手辦,并附上受害女性個人信息。網站用戶普遍認為,通過“裸體手辦”對女性熟人進行深度偽造合成并公開信息并不違法。
![]()
▲當地時間2024年8月30日,韓國首爾中央政府辦公樓前,“譴責深度偽造性犯罪的女性和母親記者會”舉行。圖據視覺中國
報道稱,針對該網站利用人工智能進行大規模色情內容生成的行為,由72個韓國市民團體、大學組織及約200名個人組成的“深度偽造性犯罪OUT聯合行動”,去年曾在首爾舉行抗議活動,公開譴責該網站的性剝削活動。而這樣的抗議活動已舉行多次。
盡管如此,該平臺利用AI技術生產色情內容的情況仍在持續。專家指出,應盡快修法,防止“裸體手辦”等經由AI加工生成并傳播的色情內容逃脫處罰。
韓國國會立法調查處調查官許敏淑表示,現行“深度偽造”處罰法僅適用于“對真實人物的面部、身體或聲音影像進行編輯、合成或處理”的情形,而手辦屬于“物體”而非“人”,因此可能被認定不在處罰范圍內。她強調,若要有效規制此類行為,應將法律適用對象擴大至“可被識別為真實人物的虛擬面孔”,以確保相關內容能受到追責。
韓國網絡性暴力應對中心主任金汝真表示:“如果不改變將女性物化的文化,即便法律修訂,也會出現規避懲罰的手段,使數字性暴力不斷循環。”她強調,除了完善相關法律外,還需要系統性的教育。
韓國9月15日公布的數據顯示,近年來,韓國涉及深度偽造、利用智能手機等電子設備偷拍等“數字性犯罪”的青少年人數持續攀升,2020年至2024年期間,這一數字幾乎翻倍。
紅星新聞記者 王雅林 實習記者 楊詩柔
編輯潘莉
審核 何先菊





京公網安備 11011402013531號