全文共2589字，閱讀大約需要6分鐘

律師表示，因AI技術逐漸成熟，操作門檻逐步降低，并且不法商家違法成本偏低，目前多數案件僅處行政拘留或小額罰款，民事賠償數額有限。

北京商報記者丨劉洋 程靚

11月17日，話題 登上微博北京同城榜，截至發稿，該話題閱讀量已超282萬。據悉，北京協和醫院不少知名專家被AI換臉，用于“養生”“瘦身”等虛假宣傳，甚至還有不法商家利用AI生成假醫生，打著北京協和醫院的旗號銷售各類商品，誤導消費者。

有分析認為，目前AI換臉技術門檻低、成本低，即便違法行為被查處，其違法成本偏低，承擔后果較輕，難以形成有效震懾。同時，其偽造內容傳播快，受害者和執法部門難以全面固定證據，被侵權者維權難度較大。未來的治理格局是攻防兩端AI技術的持續博弈與共同進化，“用AI治AI”是應對深度合成技術濫用的重要思路，但也需要構建完善的制度護欄，讓技術創新在法治軌道上行穩致遠。

違法成本低

在某社交平臺上，北京商報記者搜索“協和醫院于康教授”的詞條發現，目前還有不少與該教授有關的健康飲食科普短視頻在傳播。以其中某條打出“于康教授：你知道嗎？這7種水果對身體好處非常多”的短視頻為例，該視頻只能看到教授肩頸以上的部位，背景圖以山水畫為主。在內容方面，視頻中在介紹完對肝臟好的7種水果后，開始為某養生講堂引流，稱在添加其公眾號后可以免費領取相關食療養生課程。

在天使投資人、資深人工智能專家郭濤看來，“AI換臉”不法商用現象頻發與操作門檻低密不可分。目前，在技術層面，AI換臉工具已高度普及，手機小程序、開源軟件讓操作簡化為“一鍵生成”，單次換臉成本低至幾分錢，無需專業知識即可完成。

在蘋果應用程序商店里搜索“AI換臉”，排名靠前、涉及AI換臉變裝等效果生成的星繪App、臉貓App及AI換臉App，下載量分別達到21萬、6.9萬和3.2萬。另外，電商平臺上不少制作AI數字人的商家也并不會對數字人模型的來源進行審核。北京商報記者以消費者身份咨詢某電商平臺制作AI數字人的商家獲悉，參照該人物形象及相關文案，最快只需2個小時就能進行1:1克隆產出相關無AI水印的短視頻，按照200字及以內文案收費，只需花費45元。

河南澤槿律師事務所主任付建表示，因AI技術逐漸成熟，操作門檻逐步降低，并且不法商家違法成本偏低，目前多數案件僅處行政拘留或小額罰款，民事賠償數額有限。

此外，據北京市海淀區市場監管局相關負責人介紹， AI深度偽造視頻鑒別成本遠高于侵權違法行為造假成本，并且大量AI合成視頻涌現電商平臺，但權利人可能并不知曉或知情后維權周期長、程序復雜，使得部分權利人最終放棄維權。

溯源追責難

針對AI換臉，除違法成本偏低、承擔后果較輕外，對其及時監管和溯源追責也存在難度。

北京市京師律師事務所律師盧鼎亮表示，一方面，AI換臉造假手段迭代快，不法商家會通過鏡像翻轉、畫中畫遮擋、對抗性噪聲嵌入等方式規避檢測，監管技術難以實時跟進；另一方面，平臺監管被動，多數平臺仍以事后處理為主，等用戶投訴后才下架內容，速度遠不及AI造假傳播速度。

遭AI換臉明星

另據觀察，AI換臉的發布者和制作方都有“脫身之道”。從前述某社交平臺上“協和醫院于康教授”的短視頻來看，仔細觀看該視頻，能明顯看出教授的嘴型與配音并不匹配，且在視頻下方還有“AI生成，內容僅供參考，若有不適，請及時就醫，如有侵權請告知，立馬刪除”的小字提示。

北京商報記者與多位AI數字人制作商家交流時發現，各商家均會提出免責聲明，例如，聲稱店鋪所有視頻與圖片素材均由AI生成，不涉及侵權；提供的視頻制作服務僅供合法用途，若因客戶使用本服務而導致任何法律責任，本店鋪不承擔任何責任等。

“制作商提出的口頭或文字免責聲明無效，因其不能免除侵犯他人人格權、欺詐消費者等法定責任。涉嫌違反《中華人民共和國民法典》中關于肖像權、消費者知情權的條款。且即便標注‘AI生成’，制作發布方未經當事人同意使用其肖像仍屬違法違規，因為《中華人民共和國民法典》中明確肖像權需經權利人許可方可使用，標注行為不能抵消侵權本質。”付建說。

“用AI治AI”需建“制度護欄”

近年來，為整治AI換臉，政策法規也不斷完善。例如，中央網信辦開展“清朗·整治AI技術濫用”專項行動，重點打擊未經授權克隆生物特征等行為；國家網信辦、工信部等聯合發布的《人工智能生成合成內容標識辦法》于今年9月1日正式實施，明確AI生成內容必須“亮明身份”；地方層面，北京、上海等探索AI管理地方立法，形成國家與地方協同治理格局等。

網信部門近日也開始從嚴整治利用AI仿冒公眾人物開展直播營銷問題亂象，嚴厲處置“百貨超市小店”“娜娜好物聯盟”“環球護膚美妝甄選”等一批違法違規網絡賬號。同時，督促網站平臺發布治理公告，舉一反三，開展集中清理整治，目前已累計清理相關違規信息8700余條，處置仿冒公眾人物賬號1.1萬余個。

盧鼎亮表示，未來，如何明確和壓實網絡平臺的審查和管理責任，利用技術手段主動發現、攔截違規內容，如何實現更有效、更普適、更難篡改的溯源和水印技術，如何實行執法人員可具體操作的實施指南和取證規范，如何加強國際司法協作共同打擊跨境AI犯罪等，都是進一步的課題。

談及“用AI治AI”，盧鼎亮認為，這是當前應對深度合成技術濫用的重要思路，其本質上是一場在數字世界中不斷升級的“攻防戰”。AI治理技術主要圍繞“偵測、溯源、阻斷”三個環節展開，“用AI治AI”具有高效率與自動化的特點， AI識別準確率還會隨著數據積累和算法優化而不斷提升。但“用AI治AI”也充滿挑戰。偽造技術也在不斷進化，會專門針對檢測AI的弱點進行優化，從而導致“貓鼠游戲”的永恒對抗。同時，沒有任何AI檢測能達到100%準確。誤將真實內容判為虛假，或漏掉高精度偽造內容，都可能帶來負面后果。如何設定閾值、建立人工復核申訴機制也至關重要，需要在機制上減少誤判風險，防止“算法暴政”。未來的治理格局是攻防兩端AI技術的持續博弈與共同進化，除技術外，也需要構建完善的制度護欄，讓技術創新在法治軌道上行穩致遠。

編輯丨林琴

圖 片丨視覺中國、視頻號截圖