21世紀(jì)經(jīng)濟報道記者 孟荇 見習(xí)記者 章馳 實習(xí)生 鄧凱

奧運冠軍賣土雞蛋？我說AI你別太離譜！現(xiàn)在的直播間一不留神就會掉進AI陷阱。雙十一期間，還是長點心吧！

臉也對聲音也對，畫面流暢、神態(tài)自然，你分辨出這是真人還是由AI生成的數(shù)字人？可能年輕人知道這一眼假，但是不常在網(wǎng)上沖浪的人真得很容易上當(dāng)。

曾經(jīng)的“AI靳東”通過短視頻平臺向中老年女性騙取感情后誘導(dǎo)投資，現(xiàn)在的張文宏醫(yī)生帶貨蛋白棒，央視主持人李梓萌推薦 “深海魚油”。近幾年AI一次又一次“冒充”名人作惡。

為何現(xiàn)在AI仿冒如此泛濫？其實把“AI克隆”的流程拆解開看，并不復(fù)雜，技術(shù)門檻這兩年經(jīng)歷了“斷崖式”降低。只需要在網(wǎng)上找到名人的幾張清晰照片，或者一小段視頻影像，把這些素材喂給AI模型，就能生成一個真假難辨的數(shù)字人。聲音也是一樣，收集名人過往的音頻資料，再利用語音合成技術(shù)，就能模仿出他獨特的音色、語調(diào)和說話習(xí)慣。

央視記者做過一個實驗，AI數(shù)字人不僅能普通話英語自由切換，還能實時修改直播場景和道具，礦泉水秒變紅酒；T恤秒變西裝。整個流程需要的成本可能只有幾千元，但通過名人效應(yīng)帶來的利益，可能高達百萬千萬級別。

最近，知名的教育專家李教授的AI形象被商家擅自用于帶貨賣圖書。北京互聯(lián)網(wǎng)法院最終判決，構(gòu)成對肖像權(quán)和聲音權(quán)的侵犯。今年6月北京查處某商家冒用央視知名主持人形象直播賣貨，成為了首例濫用AI技術(shù)發(fā)布虛假廣告案。

“AI換臉”技術(shù)本身不僅在升級迭代，甚至成為了一種新的商業(yè)模式。羅永浩、劉強東都用自己的數(shù)字人進行過直播帶貨。但AI時代虛假營銷監(jiān)管如何應(yīng)對？責(zé)任又該由誰承擔(dān)？

今年9月1日，《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行，明確所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”，需要添加AI標(biāo)識。隨后，多家短視頻平臺紛紛響應(yīng)，嚴(yán)打?qū)I生成技術(shù)的濫用行為。另外，中央網(wǎng)信辦在全國范圍內(nèi)部署開展“清朗·整治AI技術(shù)濫用”專項行動，將強化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，推動網(wǎng)站平臺提升檢測鑒偽能力等。

當(dāng)AI可以“以假亂真”，普通人該如何應(yīng)對？