文 | 新識研究所

某綜藝節目上，“唐嫣”居然說自己女兒小時候比同齡小孩矮很多，喝優米復合鈣，半年時間就追上來了。

“應采兒”也表示自己孩子有幾年一直不長個，后來給他弄的元德吉鈣一下漲了幾公分，“謝娜”還在一邊幫腔：“楊紫跟我說過。”

“黃景瑜”則是透露自己一直是“睡覺困難戶”，一直很痛苦，好在從中醫那里拿了希珂黎葡萄飲，睡眠質量直線上升，精氣神都回來了。

現在明星帶貨都這么生猛，綜藝上直接明晃晃給不知名品牌帶貨？

新識研究所最近觀察發現，最近在抖音、快手、B站、小紅書等視頻平臺上，搜索“跟著綜藝學XX”詞條，跳出一大堆綜藝節目切片。節目里明星或者講師會說明自己親身遭遇的困擾，因為吃了某種產品得到明顯改善，視頻評論區還會給用戶指路去淘寶、京東搜“XX店鋪”。

然而這些視頻切片全是“移花接木”，內容雖用了綜藝節目的片段，但人物語音和字幕等卻是商家以AI技術進行篡改偽造的，目的是植入品牌和帶貨。平臺方也沒有提示“該畫面可能由AI生成，請注意鑒別”。

不但多位名人和節目IP被造假，名譽和肖像權受損，消費者也在不知情的情況下買了假冒偽劣產品，平臺也成了這場“造假風波”中推波助瀾的工具，最終受益的只有那些造假的商家。

01 AI打造假明星代言，帶貨套路防不勝防

近年來，消費者對減肥健身、美容養顏、疾病預防的關注度與日俱增。

部分白牌商家也是抓住了這波風向，在年輕人聚集的社交平臺，借用綜藝節目中“專家”和“明星”的權威背書，讓消費者誤以為真，掉進他們精心編制的陷阱里。

向晴最近刷抖音看到一檔名為《國醫少年志》的綜藝節目，其中有中醫介紹如何有效減小肚子贅肉時，除了介紹蘋果、紅棗、枸杞等食材用以煮水飲用能提升代謝外，還特意提了一句“身怡安的阿膠八珍膏就很不錯”。

心動的向晴當即根據品牌名在電商平臺搜索并花費200多元下了一單。幾天體驗后，向晴發現減肥效果遠沒有達到視頻宣傳的程度，體重沒有絲毫變化。

被騙的還有大學生石芊芊，她某次看到《中國中醫藥大會》短視頻切片時，專家稱zoao葉黃素對黃斑很有效果，她搜索發現這個牌子有旗艦店，用戶評價里也有大批網友稱買給孩子吃，便放心買了5盒，結果吃了兩瓶沒啥感覺，皮膚還顯著發黃。

后來她去咨詢了專業醫生，對方稱這只是普通壓片糖果，都不算保健品，可以緩解眼睛疲勞，吃多了會傷肝，每天吃點藍莓效果是差不多的。

新識研究所發現，類似視頻切片在短視頻平臺中比比皆是，由于使用了AI聲音克隆技術，音頻確實是根據明星本人聲音復制過來，并且仿制了節目組風格的字幕，不仔細甄別還真難以分清真偽。

究其緣由，《國醫少年志》《中國中醫藥大會》等綜藝節目中，由于有專家傳播健康養生類知識，通過短視頻傳播后被一眾消費者所追捧，也讓他們成為部分商家收割的對象。

這些切片傳播賬號幾乎全是個人賬號，之前還發有個人生活視頻，私信聯系并未得到回復，疑似是長期未使用的垃圾賬號或是被盜賬號。

抖音客服稱，對于視頻違規，平臺有自動檢測機制，用戶也可以進行舉報，但客服無法單獨標記賬號給予封禁之類的操作。

對此，新識研究所詢問了這些視頻中出現的品牌店鋪，絕大部分都是2024年新注冊的，大部分客服都稱自己的產品通過食藥監備案，也不否認在出現在產品信息出現在視頻切片里，不過這些店鋪的粉絲量基本都只有幾千，商品評論區也是清一色的好評。

值得注意的是，不少商品資質不明、廠商不清，搜索帶貨的“茯苓膏”“丁香膏”“赤菊膏”會跳出一大堆品牌和產品，它們的宣傳封面、產品包裝、文案說辭幾乎一樣，生產廠商卻不盡相同。

這種隱性的帶貨方式和真假難辨的畫面，讓不熟悉AI技術的中老年人很難辨別，也自然成了被收割的對象。在社交平臺上可以看到不少用戶吐槽家里老人聽信“專家視頻”買回一大堆高價無用的保健品，還推薦給身邊的朋友。

這些現象顯然也被節目方關注到，1月3日《國醫少年志》官方發文表示，部分社交媒體上營銷賬號未經授權擅自剪輯節目圖片、視頻實施產品推廣行為，歪曲了節目內容。節目組從未授權任何第三方賬號利用節目內容宣傳相關的任何產品，“任何非我司官方賬號或非節目原片所發布的我司及與我司合作生產相關產品的信息均為虛假信息。”

但如今過了兩個月，根據節目仿冒的不實內容仍在被傳播，相關現象愈演愈烈，這種造假方式依舊在“野蠻生長”。

02 明星們，要被AI“變聲假帶貨”玩壞了

在廣電總局網絡視聽司發布針對“AI魔改”的管理提示新規出臺3個月后，互聯網上仍頻繁有AI魔改的音頻、視頻出現，影視角色、明星、甚至企業家，都成了被魔改的對象。

通過“克隆”名人聲音制作的惡搞、獵奇類視頻，在相關平臺播放和點贊量均不低，有的甚至還被推上平臺熱搜。發布者也相應獲得流量曝光、粉絲增長、廣告收入等播放收益。

今年兩會期間，全國人大代表、小米集團創始人雷軍建議“加強‘AI換臉擬聲’違法侵權治理”，他本人曾是“AI換臉擬聲”的“受害者”，在過年期間被制作了大量AI銳評惡搞視頻。

新識研究所在應用商店搜索發現，“AI配音”相關App有數十款，下載量最高超千萬次。

經過新識研究所實測，只需幾塊錢，就可以使用聲音克隆App復制音色，隨便錄幾秒鐘的音頻，AI就會根據聲音生成各類內容的出鏡口播視頻，甚至連錄制者在發音時的吐字習慣也能模仿。

對于一些較短的語句，很難識別出這是機器合成的語音，但只要多試幾次，還是很容易得到好用的素材。通過語音大模型生成的名人聲音，基本可以以假亂真，且錄入名人聲音不需要提供任何授權證明。

除了雷軍，靳東、劉曉慶等演員都成了被侵權“重點對象”，還有平臺利用AI技術，將古天樂、林峰等港星的肖像、聲音及視頻片段，合成為線上賭博、游戲的代言宣傳片。

3月5日，兩人的經紀公司隨后發布了聲明，明確指出該宣傳片是通過合成技術制作，并非真實合作內容。

聲明中強調，兩人并未與任何相關游戲平臺進行合作，也未代言或推廣其業務。公司提醒社會各界人士提高警惕，不要輕信此類虛假宣傳，以防上當受騙。對于任何盜用兩人名義或肖像進行虛假宣傳或詐騙的行為，經紀公司表示將堅決追究法律責任。

北京嘉濰律師事務所羅鈺律師表示，民法典規定：“對自然人聲音的保護，參照適用肖像權保護的有關規定。”因此，明星對其聲音也享有類似于肖像權等人格權益，未經其授權，不得擅自使用其聲音，利用AI技術冒用明星的聲音的行為構成侵權。

通過AI技術冒用明星聲音打廣告，導流到其他電商平臺內的賣家。在此過程中，冒用明星聲音發布廣告的主體屬于廣告發布者，廣告導流到的電商賣家是廣告主。廣告發布者發布的廣告內容是虛假的，其中表現之一即冒用明星聲音騙取受眾信任。所以，廣告主即電商賣家和廣告發布者即短視頻或直播平臺的賬號的經營者需要對虛假廣告承擔連帶責任。

03 寫在最后

AI換臉最開始確實造福了不少行業。

不論是“AI孫燕姿”讓孫燕姿再度成為頂流女歌手，還是用AI視頻復活逝去的親人，彌補人生遺憾，更不用說直播電商通過AI克隆人讓主播成了24小時坐班的“牛馬”，讓頭部平臺和電商主播賺得盆滿缽滿。

但技術的進步，如果得不到合法應用，“AI詐騙”會比以往所有的詐騙手段更難防備、排查和整治。

隨著AI技術的迅猛發展和用戶規模的指數級增長，立法規范AI生成合成內容的制作和使用，已經迫在眉睫。

(文中受訪者均為化名)