眼見為實，恐怕未必是句實話了。

當(dāng)生成式人工智能（AIGC）變得觸手可及，它的副作用也開始顯現(xiàn)。有買家用AI偽造商品瑕疵發(fā)起“僅退款”，有外賣商戶用AI將小作坊“生成”高級門頭欺騙消費者，有商戶通過克隆明星聲音來牟利，而AIGC工具讓造假的門檻越來越低。

面對這些惡意的以假亂真，平臺商家能夠有效應(yīng)對？新技術(shù)運用又如何找到平衡點？

網(wǎng)絡(luò)

買家和賣家都有“AI照騙”新套路

AIGC已進軍“僅退款”領(lǐng)域？在某平臺做陶瓷杯生意的一位商家最近就碰到了煩心事——買家在收貨后，拍攝了產(chǎn)品實物圖，然后用AI軟件虛構(gòu)杯子有裂紋的圖片。“開始大家還沒有看出來。”品牌電商負責(zé)人告訴記者，后來客服與產(chǎn)品經(jīng)理研究后認為，杯子一般以缺口等瑕疵為主，而圖中的裂痕，其損壞方式與常見的情況不符，后來對比杯子的紋路確認圖片是偽造的，但由于難以提供證明，最后商家無奈承擔(dān)了“僅退款”。

這并非個案。最近不少商家都遇到類似的“AI照騙”新套路，買家將完好無損的襪子、杯子等圖片，用AI處理成碎裂、有瑕疵的樣子，然后提交售后申請。平臺有時會跳過商家審核直接退款處理，商家因此錢貨兩空。記者咨詢了多個電商平臺的負責(zé)人，相關(guān)人士回應(yīng)稱，“這類圖片目前確實比較難檢測”。

買家用AI偽造瑕疵，外賣商家則用AI“生成”店面。記者在外賣平臺上看到，以上海為例，某平臺上顯示的川婆娘·拒絕預(yù)制菜（虹橋店）、川婆娘·拒絕預(yù)制菜（南翔店），點擊進去，門頭都是濃濃的AI畫風(fēng)，營造出門店整潔、顧客滿座的假象，但如果翻閱評論圖和商家其他圖片，再無任何一張“實景圖”。

圖：外賣平臺截屏。

網(wǎng)經(jīng)社電子商務(wù)研究中心主任曹磊認為，過去網(wǎng)絡(luò)上也會有“視覺騙局”，但無論是買家還是商家，都需要有一定修圖技術(shù)或支付較高費用，但現(xiàn)在門檻變低了，商家只需花30多元就能“定制”AI門頭，消費者也只需寫幾句提示詞就能制造假象，這種現(xiàn)象值得警惕。

AI換臉、聲音克隆成重災(zāi)區(qū)

隨著AIGC的普及，除了文生圖之外，依托語音大模型“克隆”特定公眾人物的聲音也變得易如反掌。

“大家好，我是你們的嬋寶，今天有事請大家?guī)兔Α让镁拖胫鴰椭鷭寢專尲依锏纳钸^得更好一點，同時把老家的土雞蛋分享給粉絲們嘗嘗……”此前有媒體爆料，在抖音平臺，博主“我是小助理吖?jié)嵄辟~號中的作品，全都是AI克隆奧運冠軍全紅嬋的聲音帶貨土雞蛋的視頻，逼真的聲效讓不少消費者誤以為是全紅嬋本人在直播帶貨，商品鏈接顯示已售出4.7萬件。

圖：文匯

有意思的是，在“全紅嬋助農(nóng)”這件事上，AI造假還形成了“閉環(huán)”，在其他賬號上，還有孫穎莎、王楚欽等“助陣”的視頻。但事實上，所有當(dāng)事人從未做過相關(guān)直播。截至記者發(fā)稿時，這些用戶均已被注銷。

AI換臉也是重災(zāi)區(qū)。記者此前在世界人工智能大會上就體驗過秒級“換臉”，只要站在屏幕前掃描面部，通過基礎(chǔ)的AIGC工具，僅需幾秒鐘就可以生成一個“數(shù)字假面”，且AI偽造面容可復(fù)刻真實人臉的表情紋路以及搖頭、眨眼等動作。而此前，就有不少中老年女性深陷“AI靳東”愛情騙局，AI語音直播間甚至能根據(jù)彈幕實時生成回答，形成標(biāo)準化作業(yè)流程，讓人防不勝防。

電商等領(lǐng)域仍缺少有效對策

針對AIGC以假亂真現(xiàn)象的日漸泛濫，有沒有技術(shù)手段可以破局？

記者從多方了解到，在金融領(lǐng)域，抵御“AI深度偽造”的安全“防火墻”準備較為充分。過去兩屆世界人工智能大會期間，螞蟻數(shù)科旗下的安全科技產(chǎn)品ZOLOZ、合合信息旗下的AI人臉鑒偽模型都展示了用AI來識別AI視頻造假的技術(shù)，這些技術(shù)目前已應(yīng)用于多家銀行、證券機構(gòu)。

不過，當(dāng)下AI偽造能力有泛濫趨勢，正在沖擊個人權(quán)益、經(jīng)濟秩序與社會信任體系。在包括電商、外賣、視頻直播等更廣泛的民生領(lǐng)域，相關(guān)方面仍缺少有效的對策。“這已不僅是技術(shù)問題，更是社會性議題，涉及立法、監(jiān)管、前沿研究與技術(shù)實踐，需要多方跨界合作。”合合信息圖像算法研發(fā)總監(jiān)郭豐俊認為，在技術(shù)上，“標(biāo)注與溯源”是較好的解決之策，視頻發(fā)布平臺可采用主動防御型“半脆弱性數(shù)字水印”，該方法可在不影響原始內(nèi)容的前提下，將不可見水印嵌入關(guān)鍵身份特征（如人臉表征）中。一旦視頻被篡改，水印即遭破壞，鑒偽檢測器即可識別篡改行為并定位編輯位置，從而保障標(biāo)注的持久性與可信度。

曹磊則認為，針對電商“僅退款”領(lǐng)域越來越多的AI造假問題，建議各大電商平臺短期內(nèi)可建立“AI偽造”快速通道，幫助商家或消費者及時維權(quán)，同時推動平臺完善相關(guān)算法。他還表示，從行業(yè)長遠健康發(fā)展看，搭建跨平臺協(xié)同治理共享是解決AI造假問題的關(guān)鍵之舉，各大平臺應(yīng)該合作共享欺詐案例數(shù)據(jù)和模型，阻斷AI造假演變?yōu)椤艾F(xiàn)實中的真損失”。