“大家好，我是嬋寶，叔叔阿姨可以下單試試”“我是全紅嬋哥哥全進華，為大家準備了2000單的蜂蜜，16塊9發(fā)兩斤”……近期，社交平臺上多個賬號利用全紅嬋及其家人聲音合成AI視頻為商品帶貨。對此，全紅嬋的家人明確表示均系偽造視頻，不少消費者聽聞直呼上當(dāng)。

隨著AI合成技術(shù)發(fā)展，仿冒名人明星虛假帶貨頻頻出現(xiàn)。這些不法商家利用公眾對名人明星的情感投射和信任心理，為博流量通過AI技術(shù)生成以假亂真的帶貨視頻，或張冠李戴，或無中生有，或故弄玄虛，手法多端、套路變換，既沒有真假底線，也沒有對法律的敬畏，目的就是收割消費者。

AI合成名人明星虛假帶貨，與AI虛假營銷亂象背后的黑產(chǎn)鏈條密切相關(guān)。一些利用AI新技術(shù)實施的虛假宣傳中，往往存在同一產(chǎn)品鏈接跳轉(zhuǎn)至不同網(wǎng)店的情況。加之AI技術(shù)造假成本低，讓批量炮制、快速傳播、隨時換殼的欺詐營銷容易得逞，陷入“造假-流量-變現(xiàn)-更多造假”的惡性循環(huán)。此外，短視頻平臺對一些賬號的入駐資質(zhì)、帶貨視頻內(nèi)容等審核流于形式，冒用賬號取證難、追責(zé)難，也為AI虛假營銷的蔓延“推波助瀾”。

技術(shù)理應(yīng)向上向善，AI合成技術(shù)的使用應(yīng)有邊界。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等在內(nèi)容審核、信息標識上對生成式AI的規(guī)范使用提出了要求。對于濫用AI技術(shù)虛假宣傳“無底線博流量”的亂象，相關(guān)部門應(yīng)嚴厲打擊，加重賠償性懲罰處置。短視頻平臺應(yīng)主動加強對AI生成內(nèi)容審核，建立AI帶貨可追溯標識，既實現(xiàn)侵權(quán)行為的實時預(yù)警，也實現(xiàn)虛假侵權(quán)行為的快速“倒查倒追”。消費者也應(yīng)主動學(xué)習(xí)相關(guān)知識，提高防騙意識。

人們樂見AI技術(shù)助力網(wǎng)絡(luò)消費，但絕不允許AI騙術(shù)“張牙舞爪”，侵蝕網(wǎng)絡(luò)消費的信任與成色。多方發(fā)力、守土有責(zé)，讓AI合成技術(shù)的應(yīng)用真正規(guī)范起來，讓違法違規(guī)博流量的行為受到應(yīng)有處罰，才能更好維護互聯(lián)網(wǎng)數(shù)字消費的健康環(huán)境。

人民日報

責(zé)編：秦楚越

編審：裴晶瑩

監(jiān)審：董杰