AI時代，技術給人帶來了便利，但黑灰產也可能會是這一“便利”的受益者。對于最近引發火熱討論的AI手機，有專家指出其觸發一些App風控機制的原因之一是,“AI讓App難以判斷操作手機的是不是用戶本人”。而這，僅僅是AI Agent（智能體）爆發后帶來的問題之一。

12月11日，在黑灰產風控領域積累了十年經驗的數美科技提出了“AI風控新范式”。新京報貝殼財經記者采訪了數美科技首席技術官梁堃，在他看來，正常人的AI手機助手和黑灰產的機器操作仍然有本質區別，有辦法對其進行判定。

數美科技首席技術官梁堃接受新京報貝殼財經記者采訪。受訪者供圖

如何識別用戶“是好是壞”？看行為

對于近期AI手機的安全性話題，梁堃告訴新京報貝殼財經記者，這是一個巨大的挑戰。未來互聯網上的操作行為將從“人占絕大多數”轉變為“智能體占絕大多數”。但即便都是機器操作，正常人的AI助手和黑產的機器操作仍然有本質區別。

“我們可以依據‘反欺詐三定律’來進行區分：首先是多樣性定律，正常人即使使用AI助手，其設備環境也往往是多樣的，比如手機型號有華為、蘋果、小米等，系統版本各異，電池電量也分布在30%、70%、100%等不同狀態。而黑產為了控制成本，往往批量購買設備，你會發現一個團伙的手機型號可能全是同一款，或者電量狀態驚人一致，行為模式（序列）也高度相似。”

“還有一致性定律，正常人不會刻意頻繁改變IP、手機號等基礎信息。黑產需要注冊大量賬號，必須不斷購買新的IP、手機號等資源。這會導致他們的信息一致性出現斷層或異常。”

“最后則是關聯性定律，正常用戶的社交關聯通常也是正常用戶，而黑產往往是孤立點，或者其關聯的‘朋友’也是黑產賬號。這樣，通過分析團伙的行為序列、設備多樣性、信息一致性以及關聯關系，我們仍然能有效識別出哪些是黑產，AI助手只是改變了操作方式，但改變不了設備物理特征和網絡環境的聚集性。”梁堃說。

AI讓黑灰產養號更方便了，如何應對？

2025年是智能體火爆的一年，其大大提高了AI大模型的落地應用。黑灰產是否也會使用這一工具來“提高效率”，令風控也更難？

“感受非常明顯！”梁堃說，現在黑灰產正全面利用大模型技術來提高獲利效率，特別體現在養號薅羊毛、模仿用戶行為和突破傳統驗證手法上。

“過去，黑產在薅羊毛時，新注冊的賬號往往受限，獲利較少，需要‘養號’。以前養號很麻煩，回復帖子需要人工準備文案，如果文案重復很容易被系統識別。而現在利用大模型，黑產可以自動生成非常貼合主題的回復。比如在一個特定主題下，AI能生成看似非常真實的評論。這使得賬號被‘養’得像真人一樣，極大降低了養號成本，提高了后續獲利的效率。”

“在行為模式上，過去黑產使用自動化腳本控制工具（如按鍵精靈），這種方式容易露馬腳，例如點擊速度過快（非人類速度）。如果為了擬人化在代碼中加sleep（暫停），固定的暫停時間會形成‘等間距’特征，容易被識別；如果做隨機間隔，代碼編寫和維護成本較高。而現在，黑產開始使用智能體調用 API和自動化工具。智能體能理解指令并調用函數，幾乎零成本地執行復雜操作，且其生成的點擊、瀏覽等行為序列非常像真人，不再有明顯的腳本特征。此外，目前多模態大模型還能輕易識別圖片內容。比如驗證碼要求‘點擊圖中的汽車’，多模態模型能輕松識別并點擊，導致傳統行為驗證碼失效。黑產利用這些高效工具，使得攻擊更隱蔽、對抗性更強。”梁堃告訴新京報貝殼財經記者。

對于這一新變化，梁堃表示，靠純人工去對抗已經非常難了，“我們目前的應對體系簡單來講，是先由我們的黑產研究院研究清楚作惡路徑，策略團隊在‘攻防路徑圖’上標記需要在哪里識別、防御和處置黑產。然后在原有數美積累的特征基礎上，利用大模型來自動生成風險特征。大模型能發現哪些特征對刻畫風險非常有用，生成的特征會輸入到賬號風險模型、行為模型等評分模型中。”

梁堃認為，未來5-10年，人類每天接觸的信息將有超過50%來自AI，在此背景下，內容風控的進化將從“識別對象”變為“理解意圖”。面對新挑戰，引入基于大模型的審核智能體是辦法之一。

新京報貝殼財經記者 羅亦丹

編輯 岳彩周

校對 盧茜