![]()
□蔣璟璟
“大家好,我是你們的嬋寶,今天把老家的土雞蛋分享給粉絲們嘗嘗……”據媒體報道,在互聯(lián)網上,不少奧運冠軍的“聲音”突然開始推銷農產品,知名演員的“聲音”24小時不間斷在直播間與粉絲互動……這些以假亂真的AI克隆聲音正成為部分自媒體博主的流量密碼。利用AI模仿名人聲音、形象進行直播帶貨,并不只有全紅嬋一個人“中招”,奧運冠軍孫穎莎和王楚欽等也遭遇了同樣的仿冒。(央視)
現(xiàn)如今,數字克隆人大體已經能夠做到以假亂真,其對于面部表情、聲音語調的仿擬還原度,較之上一階段,又有了不小的進展。而與此同時,“AI克隆”相關操作的技術門檻、經濟成本,卻在大幅走低。理論上,利用免費的網絡教程和開源軟件,就能做出個大差不差的數字克隆人。置于這種大背景下,所謂“奧運冠軍”帶貨土雞蛋之類的騙局頻發(fā),也就不足為奇了。盡管當事人此前已專門澄清,可架不住一些偶然刷到“偽視頻”的網友們,依舊不明就里地激情下單。
梳理這些案例,我們發(fā)現(xiàn),此類AI數字克隆人圈套,與以往的“假冒名人”騙局,有著一個顯著區(qū)別。那就是,賬號名并沒有仿冒,發(fā)布的視頻作品中,“克隆人”才出鏡帶貨。比如說,發(fā)布假全紅嬋賣雞蛋視頻的賬號叫“我是小助理吖”,而發(fā)布假王楚欽、假孫穎莎賣貨視頻的賬號叫“小兔真可愛”——這種操作手法,繞過了平臺原有的“名人信息保護機制”。那套攔截“高仿號”的過濾機制,并不足以在前端攔下這種內中夾帶式的“克隆人”,這帶來了新的課題。
發(fā)布奧運冠軍AI克隆人的詐騙賬號,還有兩個共性特點,一個是其“粉絲量”基本都很低,另一個其“發(fā)布作品”一般都是深夜檔。由此,就牽出了一個更關鍵的追問:它們是怎么到達目標受眾、是怎么轉化為下單行為的?是因為加上了“全紅嬋”“王楚欽”“孫穎莎”的標簽而被系統(tǒng)加權推薦,又或是使用了付費投流服務?厘清了其“突防”的手法,平臺自然也就能針對性補漏,徹底斬斷其傳播鏈條了。
此類賬號很多都是“打一槍換個馬甲”,游擊性、隱蔽性極強。當下,比較可行的治理思路,其實是要瓦解此類AI克隆人賬號的變現(xiàn)路徑和商業(yè)價值,無利可圖自然也就無人愿做了。現(xiàn)實中,此類賬號要想被算法推薦,必然是要加上名人標簽的。據此,很自然就啟發(fā)了一個優(yōu)化算法攔截的思路。對于新注冊的、發(fā)布作品很少的、打上特定文體明星標簽、深夜活躍的賬號,不妨限制或延遲其掛小黃車、購物鏈接。待完成必要的人工監(jiān)看和復審流程后,再予以分類處置。
于很多人而言,對AI克隆人根本傻傻分不清。這就要求平臺強化審核責任,通過局部的算法優(yōu)化,來實現(xiàn)對克隆人視頻賬號的斷鏈和去商業(yè)化。目前來看,這并不是一件多難的事。





京公網安備 11011402013531號