據《鏡相工作室》，AI技術的普及正在改變造假的生態。過去，造假被視為少數人的行為，需要專業技術和硬件設備支持，而如今，AI讓造假變得極為簡單，普通人僅需一臺手機和幾句提示詞，就能生成以假亂真的圖片、視頻等。這種變化使得造假的門檻大幅降低，參與者越來越多，而平臺的審核機制卻難以跟上節奏，導致受害者在面對虛假信息時，需要付出高昂的成本來自證清白。

電商領域首當其沖。11月，毛絨玩偶商家于瑾遭遇了AI假圖僅退款事件，買家利用AI生成的圖片申請退款，成功騙取了50元賠償。盡管于瑾將證據提交給平臺，但平臺未采納其申訴，最終在媒體介入下才拿回款項。類似事件在“雙11”期間頻發，鍵盤商家柑橘也遇到買家使用AI生成的圖片申請退款，但此次平臺成功識別并駁回了買家申請。這些事件表明，AI讓“羊毛黨”的惡意退款成本更低，而商家則面臨更大的損失和無力感。

內容行業同樣受到沖擊。公關齊云服務的上市公司曾被AI生成的黑稿攻擊，文中細節豐富但無中生有，齊云和團隊不得不花費大量時間舉證、申訴，才讓虛假內容下架。AI的普及使得造謠的效率大幅提升，過去需要人工編寫的虛假內容，如今幾秒鐘就能生成，且真假難辨。黑稿灰產利用AI技術，形成倒逼企業投放廣告、引流賣課等利益鏈條，進一步擾亂了信息生態。

AI造假的低門檻還體現在個人層面。2024年6月，央視曝光一MCN機構利用AI生成圖文并包裝成假新聞，通過流量變現。上個月，小鵬汽車也遭遇AI造假事件，一段低俗色情視頻被證實是個人利用AI技術生成，僅為炫耀技術。這些案例顯示，AI讓造假變得輕易且無成本，甚至可能只是出于好奇心或“試一試”的心理。

平臺的審核機制在AI造假面前顯得滯后。目前，社交平臺主要通過“打標簽”來管理AI生成內容，但對于文字內容的管理相對薄弱，技術上也難以精準識別。AI生成的低質內容正在淹沒高質量信息，導致信息生態失衡。齊云表示，面對AI編造的謠言，他感到智商受到侮辱，因為無法有效反駁這些虛假內容。

造假成本的降低和維權成本的提高，使得個體在面對AI造假時陷入困惑。當違法與不違法僅一步之遙，“能不能”與“該不該”的界限變得模糊，真偽不再由事實決定，而是取決于人心的選擇。