□蔣璟璟

“大家好，我是你們的嬋寶，今天把老家的土雞蛋分享給粉絲們嘗嘗……”據媒體報道，在互聯(lián)網上，不少奧運冠軍的“聲音”突然開始推銷農產品，知名演員的“聲音”24小時不間斷在直播間與粉絲互動……這些以假亂真的AI克隆聲音正成為部分自媒體博主的流量密碼。利用AI模仿名人聲音、形象進行直播帶貨，并不只有全紅嬋一個人“中招”，奧運冠軍孫穎莎和王楚欽等也遭遇了同樣的仿冒。（央視）

現(xiàn)如今，數字克隆人大體已經能夠做到以假亂真，其對于面部表情、聲音語調的仿擬還原度，較之上一階段，又有了不小的進展。而與此同時，“AI克隆”相關操作的技術門檻、經濟成本，卻在大幅走低。理論上，利用免費的網絡教程和開源軟件，就能做出個大差不差的數字克隆人。置于這種大背景下，所謂“奧運冠軍”帶貨土雞蛋之類的騙局頻發(fā)，也就不足為奇了。盡管當事人此前已專門澄清，可架不住一些偶然刷到“偽視頻”的網友們，依舊不明就里地激情下單。

梳理這些案例，我們發(fā)現(xiàn)，此類AI數字克隆人圈套，與以往的“假冒名人”騙局，有著一個顯著區(qū)別。那就是，賬號名并沒有仿冒，發(fā)布的視頻作品中，“克隆人”才出鏡帶貨。比如說，發(fā)布假全紅嬋賣雞蛋視頻的賬號叫“我是小助理吖”，而發(fā)布假王楚欽、假孫穎莎賣貨視頻的賬號叫“小兔真可愛”——這種操作手法，繞過了平臺原有的“名人信息保護機制”。那套攔截“高仿號”的過濾機制，并不足以在前端攔下這種內中夾帶式的“克隆人”，這帶來了新的課題。

發(fā)布奧運冠軍AI克隆人的詐騙賬號，還有兩個共性特點，一個是其“粉絲量”基本都很低，另一個其“發(fā)布作品”一般都是深夜檔。由此，就牽出了一個更關鍵的追問：它們是怎么到達目標受眾、是怎么轉化為下單行為的？是因為加上了“全紅嬋”“王楚欽”“孫穎莎”的標簽而被系統(tǒng)加權推薦，又或是使用了付費投流服務？厘清了其“突防”的手法，平臺自然也就能針對性補漏，徹底斬斷其傳播鏈條了。

此類賬號很多都是“打一槍換個馬甲”，游擊性、隱蔽性極強。當下，比較可行的治理思路，其實是要瓦解此類AI克隆人賬號的變現(xiàn)路徑和商業(yè)價值，無利可圖自然也就無人愿做了。現(xiàn)實中，此類賬號要想被算法推薦，必然是要加上名人標簽的。據此，很自然就啟發(fā)了一個優(yōu)化算法攔截的思路。對于新注冊的、發(fā)布作品很少的、打上特定文體明星標簽、深夜活躍的賬號，不妨限制或延遲其掛小黃車、購物鏈接。待完成必要的人工監(jiān)看和復審流程后，再予以分類處置。

于很多人而言，對AI克隆人根本傻傻分不清。這就要求平臺強化審核責任，通過局部的算法優(yōu)化，來實現(xiàn)對克隆人視頻賬號的斷鏈和去商業(yè)化。目前來看，這并不是一件多難的事。