11月17日，話題#醫(yī)生被AI換臉賣洋蔥減肥食譜登上微博北京同城榜，截至發(fā)稿，該話題閱讀量已超282萬(wàn)。據(jù)悉，北京協(xié)和醫(yī)院不少知名專家被AI換臉，用于"養(yǎng)生""瘦身"等虛假宣傳，甚至還有不法商家利用AI生成假醫(yī)生，打著北京協(xié)和醫(yī)院的旗號(hào)銷售各類商品，誤導(dǎo)消費(fèi)者。有分析認(rèn)為，目前AI換臉技術(shù)門檻低、成本低，即便違法行為被查處，其違法成本偏低，承擔(dān)后果較輕，難以形成有效震懾。同時(shí)，其偽造內(nèi)容傳播快，受害者和執(zhí)法部門難以全面固定證據(jù)，被侵權(quán)者維權(quán)難度較大。未來(lái)的治理格局是攻防兩端AI技術(shù)的持續(xù)博弈與共同進(jìn)化，"用AI治AI"是應(yīng)對(duì)深度合成技術(shù)濫用的重要思路，但也需要構(gòu)建完善的制度護(hù)欄，讓技術(shù)創(chuàng)新在法治軌道上行穩(wěn)致遠(yuǎn)。

違法成本低

在某社交平臺(tái)上，北京商報(bào)記者搜索"協(xié)和醫(yī)院于康教授"的詞條發(fā)現(xiàn)，目前還有不少與該教授有關(guān)的健康飲食科普短視頻在傳播。以其中某條打出"于康教授：你知道嗎？這7種水果對(duì)身體好處非常多"的短視頻為例，該視頻只能看到教授肩頸以上的部位，背景圖以山水畫為主。在內(nèi)容方面，視頻中在介紹完對(duì)肝臟好的7種水果后，開始為某養(yǎng)生講堂引流，稱在添加其公眾號(hào)后可以免費(fèi)領(lǐng)取相關(guān)食療養(yǎng)生課程。

在天使投資人、資深人工智能專家郭濤看來(lái)，"AI換臉"不法商用現(xiàn)象頻發(fā)與操作門檻低密不可分。目前，在技術(shù)層面，AI換臉工具已高度普及，手機(jī)小程序、開源軟件讓操作簡(jiǎn)化為"一鍵生成"，單次換臉成本低至幾分錢，無(wú)需專業(yè)知識(shí)即可完成。

在蘋果應(yīng)用程序商店里搜索"AI換臉"，排名靠前、涉及AI換臉變裝等效果生成的星繪App、臉貓App及AI換臉App，下載量分別達(dá)到21萬(wàn)、6.9萬(wàn)和3.2萬(wàn)。另外，電商平臺(tái)上不少制作AI數(shù)字人的商家也并不會(huì)對(duì)數(shù)字人模型的來(lái)源進(jìn)行審核。北京商報(bào)記者以消費(fèi)者身份咨詢某電商平臺(tái)制作AI數(shù)字人的商家獲悉，參照該人物形象及相關(guān)文案，最快只需2個(gè)小時(shí)就能進(jìn)行1:1克隆產(chǎn)出相關(guān)無(wú)AI水印的短視頻，按照200字及以內(nèi)文案收費(fèi)，只需花費(fèi)45元。

河南澤槿律師事務(wù)所主任付建表示，因AI技術(shù)逐漸成熟，操作門檻逐步降低，并且不法商家違法成本偏低，目前多數(shù)案件僅處行政拘留或小額罰款，民事賠償數(shù)額有限。

此外，據(jù)北京市海淀區(qū)市場(chǎng)監(jiān)管局相關(guān)負(fù)責(zé)人介紹， AI深度偽造視頻鑒別成本遠(yuǎn)高于侵權(quán)違法行為造假成本，并且大量AI合成視頻涌現(xiàn)電商平臺(tái)，但權(quán)利人可能并不知曉或知情后維權(quán)周期長(zhǎng)、程序復(fù)雜，使得部分權(quán)利人最終放棄維權(quán)。

溯源追責(zé)難

針對(duì)AI換臉，除違法成本偏低、承擔(dān)后果較輕外，對(duì)其及時(shí)監(jiān)管和溯源追責(zé)也存在難度。

北京市京師律師事務(wù)所律師盧鼎亮表示，一方面，AI換臉造假手段迭代快，不法商家會(huì)通過(guò)鏡像翻轉(zhuǎn)、畫中畫遮擋、對(duì)抗性噪聲嵌入等方式規(guī)避檢測(cè)，監(jiān)管技術(shù)難以實(shí)時(shí)跟進(jìn)；另一方面，平臺(tái)監(jiān)管被動(dòng)，多數(shù)平臺(tái)仍以事后處理為主，等用戶投訴后才下架內(nèi)容，速度遠(yuǎn)不及AI造假傳播速度。

另?yè)?jù)觀察，AI換臉的發(fā)布者和制作方都有"脫身之道"。從前述某社交平臺(tái)上"協(xié)和醫(yī)院于康教授"的短視頻來(lái)看，仔細(xì)觀看該視頻，能明顯看出教授的嘴型與配音并不匹配，且在視頻下方還有"AI生成，內(nèi)容僅供參考，若有不適，請(qǐng)及時(shí)就醫(yī)，如有侵權(quán)請(qǐng)告知，立馬刪除"的小字提示。

北京商報(bào)記者與多位AI數(shù)字人制作商家交流時(shí)發(fā)現(xiàn)，各商家均會(huì)提出免責(zé)聲明，例如，聲稱店鋪所有視頻與圖片素材均由AI生成，不涉及侵權(quán)；提供的視頻制作服務(wù)僅供合法用途，若因客戶使用本服務(wù)而導(dǎo)致任何法律責(zé)任，本店鋪不承擔(dān)任何責(zé)任等。

"制作商提出的口頭或文字免責(zé)聲明無(wú)效，因其不能免除侵犯他人人格權(quán)、欺詐消費(fèi)者等法定責(zé)任。涉嫌違反《中華人民共和國(guó)民法典》中關(guān)于肖像權(quán)、消費(fèi)者知情權(quán)的條款。且即便標(biāo)注‘AI生成’，制作發(fā)布方未經(jīng)當(dāng)事人同意使用其肖像仍屬違法違規(guī)，因?yàn)椤吨腥A人民共和國(guó)民法典》中明確肖像權(quán)需經(jīng)權(quán)利人許可方可使用，標(biāo)注行為不能抵消侵權(quán)本質(zhì)。"付建說(shuō)。

"用AI治AI"需建"制度護(hù)欄"

近年來(lái)，為整治AI換臉，政策法規(guī)也不斷完善。例如，中央網(wǎng)信辦開展"清朗·整治AI技術(shù)濫用"專項(xiàng)行動(dòng)，重點(diǎn)打擊未經(jīng)授權(quán)克隆生物特征等行為；國(guó)家網(wǎng)信辦、工信部等聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》于今年9月1日正式實(shí)施，明確AI生成內(nèi)容必須"亮明身份"；地方層面，北京、上海等探索AI管理地方立法，形成國(guó)家與地方協(xié)同治理格局等。

網(wǎng)信部門近日也開始從嚴(yán)整治利用AI仿冒公眾人物開展直播營(yíng)銷問題亂象，嚴(yán)厲處置"百貨超市小店""娜娜好物聯(lián)盟""環(huán)球護(hù)膚美妝甄選"等一批違法違規(guī)網(wǎng)絡(luò)賬號(hào)。同時(shí)，督促網(wǎng)站平臺(tái)發(fā)布治理公告，舉一反三，開展集中清理整治，目前已累計(jì)清理相關(guān)違規(guī)信息8700余條，處置仿冒公眾人物賬號(hào)1.1萬(wàn)余個(gè)。

盧鼎亮表示，未來(lái)，如何明確和壓實(shí)網(wǎng)絡(luò)平臺(tái)的審查和管理責(zé)任，利用技術(shù)手段主動(dòng)發(fā)現(xiàn)、攔截違規(guī)內(nèi)容，如何實(shí)現(xiàn)更有效、更普適、更難篡改的溯源和水印技術(shù)，如何實(shí)行執(zhí)法人員可具體操作的實(shí)施指南和取證規(guī)范，如何加強(qiáng)國(guó)際司法協(xié)作共同打擊跨境AI犯罪等，都是進(jìn)一步的課題。

談及"用AI治AI"，盧鼎亮認(rèn)為，這是當(dāng)前應(yīng)對(duì)深度合成技術(shù)濫用的重要思路，其本質(zhì)上是一場(chǎng)在數(shù)字世界中不斷升級(jí)的"攻防戰(zhàn)"。AI治理技術(shù)主要圍繞"偵測(cè)、溯源、阻斷"三個(gè)環(huán)節(jié)展開，"用AI治AI"具有高效率與自動(dòng)化的特點(diǎn)， AI識(shí)別準(zhǔn)確率還會(huì)隨著數(shù)據(jù)積累和算法優(yōu)化而不斷提升。但"用AI治AI"也充滿挑戰(zhàn)。偽造技術(shù)也在不斷進(jìn)化，會(huì)專門針對(duì)檢測(cè)AI的弱點(diǎn)進(jìn)行優(yōu)化，從而導(dǎo)致"貓鼠游戲"的永恒對(duì)抗。同時(shí)，沒有任何AI檢測(cè)能達(dá)到100%準(zhǔn)確。誤將真實(shí)內(nèi)容判為虛假，或漏掉高精度偽造內(nèi)容，都可能帶來(lái)負(fù)面后果。如何設(shè)定閾值、建立人工復(fù)核申訴機(jī)制也至關(guān)重要，需要在機(jī)制上減少誤判風(fēng)險(xiǎn)，防止"算法暴政"。未來(lái)的治理格局是攻防兩端AI技術(shù)的持續(xù)博弈與共同進(jìn)化，除技術(shù)外，也需要構(gòu)建完善的制度護(hù)欄，讓技術(shù)創(chuàng)新在法治軌道上行穩(wěn)致遠(yuǎn)。

北京商報(bào)記者 劉洋 程靚