新浪科技

8月7日下午消息，在ISC.AI 2025未來峰會上，360數字安全集團總裁胡振泉指出：“隨著大模型技術加速落地與智能體的規模化應用，AI安全風險也正呈現出‘內憂外患’的復雜態勢。”

他指出，從內部來看，AI存在與生俱來的“四大基因缺陷”：一切皆可編程、一切皆可模仿、一切皆可生成、一切皆可調度。從外部來看，一方面，針對AI系統的攻擊將變成大國博弈的關鍵；另一方面，黑灰產利用AI批量制造攻擊武器，甚至部署“黑客智能體”，傳統安全防御體系難以應對。

“這些風險交織，使得AI安全的復雜程度遠超傳統范疇”。胡振泉強調，AI安全既涵蓋網絡、數據等傳統安全問題，也涉及AI內容安全、應用安全及未來場景安全。廣大政企機構在AI落地過程中面臨的安全挑戰，已遠遠超出網絡與數據安全的原有邊界，亟需一套系統性的創新解決方案。

據他介紹，360提出的“以模制模”新思路，利用人工智能技術自身優勢對抗AI安全風險，并打磨出360大模型安全衛士，通過四大安全智能體形成閉環防護體系。

其中，內容安全智能體作為AI內容“守門人”，通過幻覺抑制、安全風控等專用模型，實時審核輸入輸出內容，攔截違法違規信息，抑制虛假生成，為黨政軍企等場景筑牢內容安全防線。

AI Agent安全智能體聚焦智能體執行安全，通過異常行為識別、權限管控及人工審核，防范數據泄露與越權操作，確保 AI“行動能力” 可控。

軟件安全智能體掃描AI軟件漏洞與配置缺陷，排查開源組件風險，從源頭保障AI系統供應鏈安全。

安全風險評估智能體：以實戰化模擬攻擊（如注入攻擊、數據竊取）提前暴露系統短板，幫助客戶發現多項關鍵隱患。（文猛）