開欄語：

AI技術正以前所未有的速度重塑世界，也在現實中投射出重重亂象。幾天前，“slop”（AI批量產出的劣質內容）被評為年度熱詞。過去這一年，我們見證了AI“一鍵脫衣”打開潘多拉，捏個“假偶像”直播撈金；賽博算命、智商稅學習機屢屢上新，學術圈和詐騙團伙也都在狂刷AI副本……上游新聞特別推出“年度AI亂象調查”專題，盤點六大AI“翻車”現場，帶你看透亂象背后的深層邏輯和監管難點，探討AI亂象綜合整治之道。

技術無善惡，道德有底線。這場AI安全保衛戰，沒有局外人和旁觀者。

隨著人工智能（AI）技術的不斷發展，對AI技術的濫用也隨之出現，在我們對AI亂象的調查中，一個刺眼的關鍵詞反復出現——“一鍵脫衣”。從現實中警方通報的案件，到虛擬世界那些灰色的應用，無不刺痛大眾的眼睛。曾經專業的修圖工具、愛美女士的P圖小程序都悄然異化成別有用心者滿足私欲的手段。“一鍵脫衣”技術緣何而來？當前各種灰色應用的命運如何？有關部門以及平臺對此出臺了什么監管措施？我們一起來看看。

多起典型案例觸目驚心

2024年6月，北京警方通報了一起案件中，警方接到報案，有人在境外的網站上發廣告，只需一張日常生活照片，就可以完成一鍵“去衣”的效果。經查，嫌疑人白某某在境外社交媒體上接觸到一款人工智能軟件，于是動起了歪心思，打算利用這項技術來賺錢，一張經過處理的照片收費1.5元。白某某用軟件對被害人的圖片“一鍵去衣”，然后在QQ上販賣相關圖片近7000張。

涉案的是一款什么軟件呢？據白某某供述，這項技術并不是真的“去衣”，而是一種偽造、重繪的技術。北京海淀區檢察院檢察官助理郭樹正介紹：“我們可以把它理解為深度的圖片偽造，它并不是真的去掉別人照片上的衣服，其實都是針對已有的模型和已有的模組進行圖片重繪。”據悉，這項技術操作起來十分簡單，去衣只需要一鍵就能完成。

女子在自己照片被人用軟件惡意修改后表示，將進行維權處理。 網絡圖

其實，在白某某案件之前，已經有類似事件發生。2023年3月，廣州一張女子在地鐵上的照片被人用一款AI軟件“一鍵脫衣”，造謠圖隨后在網上廣泛傳播，相關話題甚至沖上了熱搜。經查，當事女子所謂的“裸照”是本人分享的一張正常照片，衣著沒有任何不妥之處，但被人用AI軟件“一鍵脫衣”。

此前有媒體報道，在一些社交平臺上有一些灰色應用可以用于“一鍵脫衣”，某種程度助長了丑惡現象的泛濫，這也是人們要求對這種現象進行嚴打的原因之一。

17日，上游新聞在某平臺以“一鍵脫衣教程”為關鍵詞進行搜索，出現一個視頻教網民使用某款軟件“實現AI消除術”，視頻中對一張正常女子穿衣的照片進行操作，但沒有展示最終“去衣”效果。文本隱晦地稱，可以繼續操作下去，“可以發揮想象力。”上游新聞隨即向平臺投訴，平臺立即回應“已重點關注”，隨后該視頻搜索不到了。

經舉報涉嫌賬號視頻被平臺“重點關注”。 平臺截圖

國外相關應用軟件已經下架

AI“一鍵去衣”是一種什么技術？又是從哪里起源的？資料顯示，相關AI技術的發展也有一個從“換臉”到“深裸”的漸進過程。

2017年12月，一個名為“深度偽造”（deepfakes）的用戶在美國論壇Reddit上發布了多段色情視頻，他讓電腦學習好萊塢女明星的圖像資料，然后把女明星的面部移植到色情片女主角臉上，近乎完美地實現了動態換臉，這引發了大量討論和抨擊，最后以賬號被封告終。

不過，AI換臉并未消失，用戶“深度偽造”隨后直接開源了項目代碼，更多效仿者隨之而來，甚至為了“紀念”他，用他的名字（deepfakes）代稱“AI換臉”技術。2018年1月，一個名為FakeApp的軟件上線，可實現“一鍵換臉”。雖然Reddit明令禁止換臉視頻和圖片在該網站傳播，但仍有超過9萬名用戶在Reddit上傳播這類視頻。

2020年，一款名為DeepNude（深裸）的App宣稱能實現“一鍵脫衣”。它的操作十分簡單，只要給它一張人像照片，等待30秒，就能得到一張裸照。由于風險超出可控范圍，研發團隊在產品上線幾天后便匆忙下架了該產品。“我們啟動這個項目是出于娛樂的目的……從沒想過它會像病毒一樣擴散。從現在開始，不再放出任何版本，也不會授權任何人使用。”DeepNude團隊發表公開聲明稱。這項技術也被公開批評，認為“DeepNude是AI技術最糟糕的應用之一”。

網上灰色軟件已難覓蹤跡

“DeepNude”雖然在美國被下架，但它的出現仿佛徹底打開了潘多拉的魔盒，一些類似軟件應用悄然出現。國內一位資深算法工程師告訴記者，雖然“DeepNude”因為倫理問題下架，但不排除有人通過其他AI算法訓練機器，以達到同樣的效果。

此前據媒體報道，在2023年，不少平臺上能買到具有“一鍵去衣”功能的相關軟件，不少網友也在網上購買、交流相關軟件和產品的使用心得。如某款產品就明確標注，“該軟件可實現真人轉卡通功能、換頭和換衣功能”。這款軟件售價僅需16.66元，月銷量達到200單以上。有人在該店鋪評論區提出疑問，“真能去衣？”多人回復稱“可以”。另據報道，當時在一個名為“deepfake”的貼吧里，與AI換臉有關的帖子超過9000條，里面有大量明星換臉視頻的售賣信息。

2024年，有媒體報道，某二手平臺上一名賣家出售一款名為“換衣神器”的軟件，售價為18.80元，聲稱“無論換衣還是重繪，都能輕松應對。”媒體記者與賣家溝通，對方隱晦地表示“可以去Y（衣）”。記者按照商家的提示操作，發現該APP的確可以實現“一鍵去衣”的功能。

不過，在經歷有關部門的嚴厲整治后，這種現象已經得到極大改善。17日，上游新聞記者查看上述二手平臺，發現該商品已經下架，提示“您要看的寶貝不在或已被刪除”。售賣該商品的店鋪也已經被封，提示“該用戶因違反法規或閑魚相關規則賬號已被處置”。

記者又在多個電商平臺、社交平臺上搜索“AI換臉”“一鍵去衣”“一鍵去衣教程”等關鍵詞，絕大多數無法顯示或顯示其他內容。僅在某平臺出現一個視頻教網民使用某款軟件“實現AI消除術”，經舉報，該視頻已經無法搜索。

另外，在一些線上店鋪，不少標明“智能消除”“智能擴圖”等功能的軟件，店主也回復稱并不具備“一鍵去衣”的功能。

同日，上游新聞記者搜索deepfake貼吧，發現該貼吧已經被封。

今年，一些社交平臺開始整治AI技術濫用。 網絡圖

監管部門攜手平臺嚴厲打擊

針對AI亂象，2025年4月，中央網信辦在全國范圍內部署開展為期3個月的“清朗·整治AI技術濫用”專項行動。

據悉，本次專項行動分兩個階段開展，第一階段就是強化AI技術源頭治理，清理整治違規AI應用程序，加強AI生成合成技術和內容標識管理，推動網站平臺提升檢測鑒偽能力。第一階段重點整治6類突出問題，就包括提供“一鍵脫衣”等違背法律、倫理的功能的違規AI產品。

今年4月，上海市委網信辦指導小紅書、嗶哩嗶哩、拼多多等15家重點網站平臺，集中清理“一鍵脫衣”、未經授權的人臉或人聲克隆編輯、未備案等違規AI產品、商品及相關營銷、炒作、推廣、教程信息。

小紅書、嗶哩嗶哩主動發布了專項行動治理公告，開通了有害AI內容的舉報受理處置渠道；星野開展智能體全面排查清理。各重點網站和AI平臺共攔截清理相關違法違規信息82萬余條，處置違規賬號1400余個，下線違規智能體2700余個。經整治，網絡違規AI信息顯著減少。

銷售軟件制圖“欣賞”均違法

如今“一鍵去衣”軟件已經難尋蹤跡，但如果仍有商家發布或售賣相關軟件，是否承擔法律責任？有人如果使用軟件生成發布相關照片視頻，僅用于保存或“欣賞”是否觸犯法律？如果分享出來，又面臨何種處罰？

知名刑事辯護律師、河南澤槿律師事務所主任付建稱，制作圖片視頻、售賣“一鍵去衣”軟件等行為，涉及侵犯個人隱私、肖像權，涉嫌違法甚至犯罪，可能面臨刑事處罰。首先，售賣相關軟件的商家，涉嫌制作、販賣、傳播淫穢物品罪，根據《刑法》的規定，以牟利為目的，制作、復制、出版、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，并處罰金；情節嚴重的，處三年以上十年以下有期徒刑，并處罰金；情節特別嚴重的，處十年以上有期徒刑或者無期徒刑，并處罰金或者沒收財產。

其次，自然人的肖像權受到法律保護，非經自然人同意，不可直接制作使用他人肖像。網友如果使用軟件生成相關照片視頻，自己保存“欣賞”也涉嫌侵犯他人肖像權。如果制作后分享在微信群或者社交平臺上，涉嫌侵犯他人肖像權、名譽權，需要承擔一定的民事責任。其行為涉嫌違反《治安管理處罰法》，情節嚴重的可能涉嫌傳播淫穢物品罪。

根據情節的嚴重程度，可能面臨有期徒刑、拘役、罰金等刑罰。

針對AI換臉、去衣等現象，中央民族大學法學院教授李梁表示，首先要對人工智能應用違法的侵權主體進行明確劃分；其次要對人工智能應用違法責任（后果）分擔機制進行構建；再次，在綜合考慮法理及社會利益的基礎之上進行科學立法，建立健全人工智能應用相關法律體系，推動技術研究及科學發展，加強監督監管機制。

上游新聞據光明網、浙江在線、中國網信網、新京報、北京青年報等綜合