近年來，隨著人工智能技術的發展，使用“深度偽造”技術制作的色情影像在韓國社交媒體上肆意傳播，韓國青少年特別是年輕女性深受其害。為從根本上清除這一社會毒瘤，韓國正不斷加大打擊“深度偽造”犯罪的力度。去年10月，韓國政府表決通過了三部相關法律，保存、收看“深度偽造”淫穢影像將受到處罰。

▲“深度偽造”技術制作的色情影像在韓國社交媒體傳播。資料圖

然而，韓國涉及深度偽造的“數字性犯罪”依舊存在，AI版“N號房”近日被曝出訪問量急劇增加。

韓國一個網站被曝出利用人工智能技術，可將女友、妻子等女性熟人的形象合成裸體手辦并在網上展示，每日吸引超過10萬名男性用戶。隨著生成式AI的擴散，該平臺不僅公然運作，還大量出現利用女性照片制作的“裸體手辦”圖像，甚至使用特定提示語生成“深度偽造”色情內容。

數據顯示，去年韓國“深度偽造（deepfake）處罰法”實施前，該網站日訪問量約為6萬人，而在法律生效一年后，訪問量不僅未下降，反而增長約60%。

所謂“深度偽造”，是指利用人工智能，將他人的聲音、面部表情和身體動作合成虛假影像的技術。

據統計，去年4月至5月，該網站月訪問用戶超過52萬人。自上月以來，“深度偽造”色情內容急劇增加，用戶以“最近試著跟潮流做一個”“我也來玩一下流行的前女友手辦制作”為名，不斷制作并展示手辦，并附上受害女性個人信息。網站用戶普遍認為，通過“裸體手辦”對女性熟人進行深度偽造合成并公開信息并不違法。

▲當地時間2024年8月30日，韓國首爾中央政府辦公樓前，“譴責深度偽造性犯罪的女性和母親記者會”舉行。圖據視覺中國

報道稱，針對該網站利用人工智能進行大規模色情內容生成的行為，由72個韓國市民團體、大學組織及約200名個人組成的“深度偽造性犯罪OUT聯合行動”，去年曾在首爾舉行抗議活動，公開譴責該網站的性剝削活動。而這樣的抗議活動已舉行多次。

盡管如此，該平臺利用AI技術生產色情內容的情況仍在持續。專家指出，應盡快修法，防止“裸體手辦”等經由AI加工生成并傳播的色情內容逃脫處罰。

韓國國會立法調查處調查官許敏淑表示，現行“深度偽造”處罰法僅適用于“對真實人物的面部、身體或聲音影像進行編輯、合成或處理”的情形，而手辦屬于“物體”而非“人”，因此可能被認定不在處罰范圍內。她強調，若要有效規制此類行為，應將法律適用對象擴大至“可被識別為真實人物的虛擬面孔”，以確保相關內容能受到追責。

韓國網絡性暴力應對中心主任金汝真表示：“如果不改變將女性物化的文化，即便法律修訂，也會出現規避懲罰的手段，使數字性暴力不斷循環。”她強調，除了完善相關法律外，還需要系統性的教育。

韓國9月15日公布的數據顯示，近年來，韓國涉及深度偽造、利用智能手機等電子設備偷拍等“數字性犯罪”的青少年人數持續攀升，2020年至2024年期間，這一數字幾乎翻倍。

紅星新聞記者 王雅林 實習記者 楊詩柔

編輯潘莉

審核 何先菊