9月12日下午，以“規范AI內容 共筑清朗生態”為主題的2025外灘大會見解論壇上，螞蟻數科AI科技產品總監魯瑋發表主題演講，從身份偽造、憑證造假等AI濫用風險問題切入，系統介紹螞蟻在應對生成式內容風險、黑灰產攻擊以及大模型“幻覺”方面的技術實踐與治理思考。

本次論壇由南方都市報社、南都大數據研究院、中國互聯網協會人工智能工作委員會、復旦大學傳播與國家治理研究中心聯合主辦。

魯瑋在外灘大會見解論壇上作主旨演講。

魯瑋指出，當前AI對物理世界和數字世界帶來三大真實性挑戰：身份偽造、憑證偽造和大模型幻覺。黑產借助AI技術，通過深度偽造人臉、合成虛假票據和證件等方式，進行詐騙、虛假開戶和貸款申請，給個人與社會帶來巨大風險。現場，他展示了一個AI偽造圖像的案例，9張數字人臉照片中有2張是AI生成的，但觀眾難以通過肉眼分辨。

“善戰者無赫赫之功”，魯瑋強調，螞蟻的安全理念重在防患于未然。面對身份偽造，螞蟻數科依托國際前沿的生物識別安全實驗室——螞蟻天璣實驗室，在開戶、支付、信貸等關鍵場景中確保個人數字身份的可驗證與可信賴。“數字世界里面有很多的辦法偽造你自己，我們就是要保證你的身份真實和可信”，魯瑋表示。

目前，黑產借助AI的憑證造假愈發低成本、規模化。在憑證防偽方面，魯瑋介紹，螞蟻數科推出“光鑒智能驗真”，通過防偽、質檢、識別，最后通過高階的各種決策，大小模型結合，實現在語義、視覺、文本、圖片多重信息的抽檢，最后給出關鍵的決策，“核心邏輯是保證現在的物理世界里的票據、身份、憑證是防偽的。”

幻覺同樣是大模型應用面臨的重要挑戰之一。魯瑋認為，AI生成內容幻覺的危害在于濫用人類的信任，若出現在問診、商業決策或司法裁判等場景，將造成嚴重后果。螞蟻數科面向這一問題推出“蟻天鑒”大模型內容安全防御服務，針對大模型業務場景中提問、回答的交互模式，構建了一套多層防御護欄方案，可以在提問環節對潛在風險做預防，對生成的回答內容進行風險過濾，并能面向用戶和場景進行動態策略調優。

展望未來，魯瑋認為，隨著具身智能、AI for Science與智能體（Agent）加速落地，AI能力躍升將伴隨更復雜的安全議題，包括人機互動的責任邊界、價值對齊與倫理問題等。他呼吁產業、學界與媒體加強協同，共建規范、透明、可信的AI治理體系。

采寫：南都N視頻記者 陳袁