央視網(wǎng)

三個月內(nèi)，父親在嘉興經(jīng)營的生鮮網(wǎng)店連續(xù)遭遇9起“僅退款”事件，這讓在上海工作的陳曉薇警覺起來。

今年10月假期，她專程回到老家，仔細查看父親的手機記錄，試圖弄清緣由。

“父親的店鋪主打‘現(xiàn)摘現(xiàn)發(fā)’，已經(jīng)營五年。每次發(fā)貨前，他都會錄制封箱視頻，清晰記錄柑橘的色澤、果徑和包裝單號。”陳曉薇告訴央視網(wǎng)《鋒面》記者。

然而，當她登錄網(wǎng)店后臺核查時，卻發(fā)現(xiàn)這幾起“僅退款”的買家均提供了開箱圖片——箱內(nèi)的柑橘要么腐爛變質(zhì)、要么干癟失水，甚至出現(xiàn)蟲蛀痕跡。

受訪者供圖

起初，陳父以為是快遞運輸環(huán)節(jié)出了問題，前幾單均同意了退款申請。但隨著類似情況越來越多，他與快遞公司多次溝通未果，只得求助女兒。“我一張一張仔細查看，注意到其中一張圖的角落留有疑似水印的痕跡，像是被裁剪過。”陳曉薇聯(lián)想到近期媒體報道的AI修圖“僅退款”現(xiàn)象，懷疑店鋪遭遇了有組織的惡意退款。

通過簡單搜索，陳曉薇發(fā)現(xiàn)，利用AI技術篡改圖片、偽造商品質(zhì)量問題并申請退款的行為已非個例。她隨即向平臺提交封箱視頻和疑似AI修改的圖片申訴，卻因“憑證不足”被駁回，平臺建議她與買家協(xié)商解決。“但這類買家通常已將我們拉黑，根本無法聯(lián)系。”陳曉薇無奈表示。

她進一步致電平臺客服，對方回復稱“無法判定圖片是否由AI生成”。由于涉及訂單總金額不足1000元，未達到詐騙罪立案標準，報警途徑也難以走通。陳曉薇感嘆，AI生成的水印可以被輕易去除，平臺缺乏有效檢測機制，最終受損的往往是像父親這樣誠信經(jīng)營的小商家。

值得注意的是，2025年3月14日，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合多部門發(fā)布了《人工智能生成合成內(nèi)容標識辦法》，明確規(guī)定AI生成內(nèi)容需進行強制標識，如文本添加提示符號、圖片視頻嵌入水印等。該辦法于今年9月1日正式實施。

圖源：中央網(wǎng)絡安全和信息化委員會辦公室網(wǎng)站

但《鋒面》記者調(diào)查發(fā)現(xiàn)，一方面，仍有大量新生成的AI內(nèi)容未按規(guī)定添加標識；另一方面，即便已添加水印，也可通過技術手段輕松去除。這使“強制標識”政策在落地時面臨新挑戰(zhàn)。

“水印”的去與留

事實上，自生成式AI技術興起以來，“打假”與“辨真”便成為技術發(fā)展過程中繞不開的話題。

“目前相關規(guī)定主要將AI內(nèi)容標識分為顯式和隱式兩種，顯式標識要求以用戶可明顯感知的方式標注AI生成內(nèi)容。”獨立AI開發(fā)者路磊指出，當前爭議主要集中在顯式標識的實施層面。

“但主流采用的‘水印’方式存在一個致命缺陷——極易被篡改或去除。”路磊舉例說明，“比如多數(shù)AI繪圖工具將水印置于畫面角落，用戶僅需使用手機自帶的裁剪功能，就能在不影響畫面整體效果的情況下輕松去除水印。”

通過裁剪圖片去除AI水印

記者調(diào)查發(fā)現(xiàn)，電商平臺上存在大量“圖片視頻去水印”服務，單次收費僅需幾元至十幾元。有商家透露，圖片去水印操作簡單，甚至有時使用基礎修圖軟件即可完成；視頻去水印則相對復雜，需要一幀一幀修復、校準，但對畫質(zhì)要求不高的可以直接裁剪去除。

這樣一來，視頻或圖片很容易就擺脫“AI生成”的標簽，達到以假亂真的效果。“去除水印后，不僅普通用戶難以辨別，部分專業(yè)檢測工具也會失效。”路磊表示。

與此同時，創(chuàng)作者群體卻面臨“過度標識”的困擾。插畫師李沐陽抱怨道：“我用了72個圖層、手繪三萬多筆完成的作品，僅因使用AI微調(diào)局部光影，就被系統(tǒng)打上‘AI生成’標簽。”其作品在社交平臺發(fā)布后不僅被自動標注，還遭遇流量限制，曝光量不足平日十分之一，甚至收到“用AI偷懶”的負面評論。

“從發(fā)絲筆觸到衣物褶皺都經(jīng)過精心打磨，AI目前根本達不到這種創(chuàng)作精度。”李沐陽無奈表示，他聯(lián)系平臺客服，卻被以“系統(tǒng)自動標識”為由拒絕人工干預修正。

一面是消費者苦于難以辨識經(jīng)過篡改的AI內(nèi)容，一面是創(chuàng)作者受困于平臺的機械化標識機制。AI水印的“強制標識”，遭遇兩種看似矛盾實則普遍存在的尷尬。

平臺的難題

根據(jù)中國通信院發(fā)布的《生成式人工智能產(chǎn)業(yè)發(fā)展報告（2025）》，2024年我國生成式AI用戶規(guī)模已達約3.8億人。與此同時，《中國網(wǎng)絡視聽發(fā)展研究報告（2025）》顯示，2024年平均每日新增視頻內(nèi)容超過1億條。

面對如此龐大的數(shù)據(jù)量，平臺陷入了難以實現(xiàn)“逐一審核”的資源困境。

根據(jù)路磊的觀察，當前像李沐陽所遭遇的“誤判”，主要源于平臺普遍采用的AI識別模型。“這些模型通過學習海量AI生成內(nèi)容建立判定標準，卻容易將人類創(chuàng)作中的優(yōu)質(zhì)特征誤判為AI產(chǎn)物。”例如，畫師反復打磨的筆觸與色彩搭配，學術論文中邏輯嚴密的表達，都可能被系統(tǒng)標記為AI作品——越是精良的作品，越容易被誤判，形成一種技術悖論。

西南政法大學人工智能法學院教授馮子軒進一步指出：“人工智能生成的內(nèi)容涵蓋文本、短視頻、直播、虛擬場景等多元形態(tài)，不同場景的技術架構、傳播邏輯差異巨大，單一的技術方案沒有辦法適配所有的場景。”

然而，即便采用嵌入代碼的隱式標識，也面臨技術標準不統(tǒng)一的挑戰(zhàn)。某頭部互聯(lián)網(wǎng)公司的AI架構師張曉（化名）透露，不同AI工具生成的隱式標識格式差異巨大：有的嵌入特定字符，有的采用數(shù)字水印加密。“平臺難以適配數(shù)十種甚至上百種標識規(guī)則。在跨平臺傳播過程中，標識丟失或無法識別的問題時有發(fā)生。”

張曉還表示，多模態(tài)AI識別需要強大的算力支持。目前企業(yè)為控制成本，無法對所有上傳內(nèi)容進行全面檢測，只能通過抽樣檢查、關鍵詞過濾等方式簡化工作。

因此，平臺陷入雙重困境：一方面難以應對每日海量的生成內(nèi)容，另一方面又必須在“維護創(chuàng)作者體驗與平臺流量”和“履行AI生成內(nèi)容核驗義務”之間平衡。

李沐陽認為，當前平臺尚未建立完善的申訴機制。“我可以接受誤判，但不能接受申訴無門。”他多次嘗試與平臺溝通，卻始終未能解決問題。“在AI日益普及的今天，平臺難免出現(xiàn)誤判，但必須設立專門的申訴渠道。”

對此，路磊透露，建立專業(yè)復核團隊需要大量既懂AI技術又懂創(chuàng)作的復合型人才，而這類人才目前稀缺且培養(yǎng)成本高昂。因此，像李沐陽這樣“投訴12天才得以解決”的情況，在未來一段時間內(nèi)仍將存在。

解決AI亂象，不能止于“打個水印”

在采訪中，受訪者普遍認同，對AI內(nèi)容進行強制標識的初衷是合理的。然而，如何確保AI在“技術向善”的方向上不偏離軌道，多位專家和業(yè)內(nèi)人士提出了各自的見解。

北京航空航天大學法學院副教授趙精武指出，強制標識并非解決AI亂象的“萬能鑰匙”，真正需要建立的是覆蓋全鏈條的治理體系。

那么，如何構建既具穿透力又具備廣泛適用性的規(guī)范？在馮子軒看來，應通過“底線”與“彈性”相結合的方式搭建基礎框架：“即由法律確立統(tǒng)一的標識標準，同時為不同應用場景預留適配空間。明確‘顯式標識’與‘隱式標識’的雙重要求，并通過責任分層機制匹配不同場景。”例如，服務提供者承擔“源頭標識義務”，平臺履行“核驗補充義務”，并對用戶故意刪除標識的行為明確法律責任。

面對“造假成本低、合規(guī)反而吃虧”的現(xiàn)象，馮子軒主張?zhí)岣哌`法代價：“內(nèi)容創(chuàng)作者應承擔首要責任，必須依法完成標注。一旦出現(xiàn)造假行為，應作為第一責任主體承擔法律后果。平臺方面，既要提供標識技術支持，也需建立實時核驗機制。若因平臺失職導致違規(guī)內(nèi)容大規(guī)模傳播，則應承擔相應補充責任。”

針對AI標識可能引發(fā)的“誤傷”問題，馮子軒建議按商業(yè)與非商業(yè)場景進行區(qū)分，對原創(chuàng)度設置差異化的標注要求。“非商業(yè)內(nèi)容可采用輕量化顯式標識，商業(yè)內(nèi)容則需確保標識清晰可見，并建立誤判復核機制，允許創(chuàng)作者向平臺申請糾錯與賠償。”

事實上，除強制標識外，AI相關法規(guī)仍在不斷完善中。職業(yè)律師安宇華指出，目前《生成式人工智能服務暫行管理辦法》與《人工智能合成內(nèi)容標識辦法》等均屬于部門規(guī)章，法律效力層級較低，內(nèi)容也較為零散，缺乏一部高位階的統(tǒng)籌性法律。“以溫崢嶸遭遇的AI換臉事件為例，維權僅能依賴肖像權、隱私權等分散條款，對大規(guī)模聲譽損害難以量化界定，缺乏強有力的高階法律支撐。”

在規(guī)則統(tǒng)籌不足的同時，具體細則也有待進一步明確。馮子軒認為，當前的雙軌標識機制標準模糊，處罰規(guī)則不夠清晰，有必要出臺更詳盡的執(zhí)行細則。“例如，以強制性國家標準為基礎，確保隱式標識可跨平臺追溯與核驗；將罰款額度與違法所得掛鉤，按違規(guī)情節(jié)分層處罰，對惡意篡改標識、批量造假等行為加大懲處，并明確創(chuàng)作者、平臺及技術提供者的責任邊界。”

可以預見，《人工智能生成合成內(nèi)容標識辦法》的出臺僅是治理進程的起點。完善強制標識只是基礎，構建全方位的AI信息治理，或許才是真正的解題之道。