好家伙，AI仿冒名人如今竟成了黑灰產的“財富密碼”？這歪門邪道的“生意”，可真夠刑的。

9月8日，抖音平臺封禁了1000多個利用AI假冒胖東來創(chuàng)始人于東來的賬號，另有一家福建企業(yè)因擅自使用其形象剪輯視頻帶貨，被處以沒收違法所得并罰款15萬元。

圖源：微博截圖

說實話，這樣的處罰力度，網友們根本不滿意，紛紛表示罰得太少了。

這類賬號利用AI合成于東來的聲音與形象，再打著他的名義賣貨，純純就是騙人的。不罰大力一點，他們根本就認識不到問題的嚴重性，要么就是利潤太高，以至于15萬都不看在眼里，風頭一過照樣重來。

圖源：小雷截圖

早在去年11月，就曾被媒體曝光過的新聞：多個賬號未經授權擅自利用AI技術生成于東來的聲音，視頻剪輯。但大半年過去了，這種現(xiàn)象不但沒有收斂，反而愈演愈烈，甚至已經形成了一條完整的灰黑產業(yè)鏈。這不禁讓人疑惑：難道以現(xiàn)有的技術，對AI內容的監(jiān)管仍然如此被動？

圖源：微博截圖

要知道，AI仿冒的受害者不止于東來。此前小米創(chuàng)始人雷軍也曾公開回應被AI語音惡搞的事件，表示“聽了真的不舒服”，并呼吁網友適可而止。之后各大平臺雖然下架了相關二創(chuàng)視頻，但雷軍隨后仍提出應推進人工智能領域的立法工作。這說明，AI生成內容在帶來創(chuàng)意與娛樂性的同時，也伴隨著巨大的濫用風險。

而如今，情況已從“玩梗”變質為“黑產變現(xiàn)”。造假者不再是隨意調侃，而是有組織、有預謀地利用AI實施商業(yè)欺詐。

那為什么于東來成了被仿冒的重災區(qū)？總的來說，小雷看來，他與胖東來長期以來，所積累的公眾信任度極高。而這種高信任度的IP，正好被他們利用了。只要AI偽造的形象、聲音和語氣像一點，就會有人信任并為其買單，快速實現(xiàn)流量變現(xiàn)。

其實胖東來也并非不重視。據悉，在9月1日，胖東來商貿集團有限公司曾發(fā)布關于舉報制、售假冒自有品牌商品獎勵聲明，對提供違法事實關鍵證據的有效線索，經查證屬實且被舉報對象受到相關行政處罰、構成刑事犯罪的，胖東來核實后，給予舉報者含稅1萬-500萬元的獎勵。

圖源：胖東來

可這些組織“春風吹又生”，再怎么打，也打不完。這也看出，胖東來“樹大招風”，好口碑、高熱度，怎樣的牛鬼蛇神都來蹭熱度。

但這背后可不只是“蹭熱度”那么簡單。現(xiàn)在AI仿冒已經成了一條產業(yè)鏈了：從AI起號、養(yǎng)號到賣號，甚至還有“賬號期貨”交易——只需付個定金，等3個月后就能拿到一個萬粉賬號，可直接用來帶貨。

這些賬號大多集中在顏值、情感、健康這些容易引流賣貨的領域，而且很多是“三無賬號”（無實名、無違規(guī)、無作品違規(guī)），賣價大概是粉絲數(shù)的10%。說白了，就是在靠AI低成本批量生產賬號，然后高價賣掉。

近年來，AI生成技術迅猛發(fā)展，偽造內容的生產門檻很低，圖像、聲音、視頻跟真的一樣，幾條指令就能生成，簡單學習一下就能上手?，F(xiàn)在網上不少女生的臉被AI套用，比如之前的臺球選手和網紅等等。

圖源：微博

最關鍵的是，發(fā)現(xiàn)了問題，該如何治理？

自9月1日起，《人工智能生成內容標識管理辦法》正式施行，要求所有AI生成內容必須明確標識。也就是說，AI生成的視頻、音頻、圖文等內容，都得標明“由AI生成”，否則屬于違規(guī)。這無疑是一項關鍵舉措，至少為用戶提供了基本的知情和辨別依據。

但說實話，道高一尺魔高一丈，現(xiàn)在黑產就會想辦法繞過標識，比如最簡單的辦法——降AI率。具體怎么做大家都懂，在AI的基礎上修修改改就好了。所以光靠規(guī)定可能不夠，還得平臺加大審核力度，加強復審機制。

總的來說，AI技術本身沒問題，但用來騙人就是另一回事了。就像于東來這件事，不能說封號、罰款就完事了，后面還得有更嚴的監(jiān)管。不然，這樣睜一只眼閉一只眼，也跟縱容沒什么區(qū)別了。