針對大模型的攻擊顯然已經成為了當下最為普遍的一種攻擊方式。大模型在給企業帶來效率提升的同時，也讓企業不得不在使用過程中更為注重安全。

與此同時，黑客利用大模型對企業進行網絡攻擊的事件頻頻發生。而這種攻擊的趨勢隨著大模型從訓練市場為主導，轉向推理市場為主導，產生了微妙的變化。

從“被動防御”轉向“主動決策”

隨著大模型技術從訓練向推理階段加速落地，AI驅動的安全攻防體系正經歷根本性變革。

以DeepSeek為代表的大模型推理能力正在催生千億元量級的安全增量市場，直接推動中國網絡安全市場規模突破原有天花板。在綠盟科技集團副總裁宮智看來，這一變化的底層邏輯在于：推理需求推動安全場景從“被動防御”轉向“主動決策”。

宮智告訴，隨著圍繞DeepSeek展開的應用日益普及，本地化部署的模型數量顯然會大量增加，大模型的安全也呈現出了完全不同的趨勢。

原先，企業更多的是通過API調用的方式使用大模型，這種模式下，云服務商承擔了的大模型底座安全、應用訪問以及數據合規等安全責任，“對于企業來說，這個階段，只解決API調用和數據外發安全等部分安全問題就可以了，更多的安全責任是由云服務商承擔的。”宮智指出。

而隨著DeepSeek應用的普及，本地化部署成為企業應用大模型的趨勢，企業需要自己承擔全部的安全責任，包括從大模型系統底座、網絡層、應用層，再到數據安全、內容合規等涉及大模型全生命周期的安全問題，都需要企業自己去面對，這對于企業而言，是一個巨大挑戰。“綠盟科技認為，隨著企業本地化部署大模型的量越來越大，本地化部署大模型相關的安全解決方案會在今年及未來很長一段時間內，成為安全行業新的增長點。”宮智如是說。

另一方面，對于本地化部署的大模型產品而言，安全體系構建的過程中，硬件設備性能的問題顯然不會是困擾企業的主要問題，最大的安全挑戰還是基礎能力的構建，在2025綠盟科技合作伙伴大會上，綠盟科技重磅發布了大模型安全解決方案、AI驅動的自主安全運營平臺、綠盟大模型安全評估系統（AI-SCAN）、綠盟大模型應用安全防護系統（WAF-SLLM）、綠盟IPS、IDS高端國產化機框型號、綠盟AI安全防護一體機、綠盟API風險評估系統（API-SCAN）、綠盟可信連接器等新品與解決方案。“與原先企業安全場景相比，大模型技術的廣泛應用會帶來更復雜的安全挑戰，例如大模型的不可解釋性會引發信任、合規以及安全等風險。”宮智進一步指出，“但對于原本安全體系就漏洞百出的企業而言，在應用大模型之前，首先要解決好基礎的安全能力。”

模型安全七大風險

雖然通過將傳統安全產品，進行適當調整后，也能應用在大模型相關場景下，但是此前與多位安全行業專家的溝通中，幾位專家都表示出了對當下大模型安全體系建設的擔憂。當下，大模型的安全問題仍是阻礙大模型在ToB企業側應用的最大掣肘之一。

尤其是當DeepSeek出圈以后，在短短不到一個月的時間內，就接連遭遇了大規模DDoS攻擊、僵尸網絡、仿冒網站泛濫、數據庫安全隱患等各種安全威脅，甚至一度對正常服務造成嚴重影響，根據公開資料顯示，DeepSeek主要面臨的是DDoS攻擊，先后經歷了輕微的HTTP代理攻擊、大量HTTP代理攻擊、僵尸網絡攻擊等行為，參與攻擊的兩個僵尸網絡分別為HailBot和RapperBot。

從安全風險的角度出發，通過總結可以得出，當下大模型面臨的風險主要包括七大類風險，即：數據安全風險、訓練語料安全風險、模型安全風險、應用安全風險、軟件供應鏈安全風險、生成內容風險、大模型自身風險等。

從模型自身風險的角度出發，由于模型本身需要對外提供公開服務，并涉及敏感信息的開放場景，因此會引發多種安全隱患，包括：提示注入攻擊、拒絕服務攻擊、提示詞泄露、通用越獄漏洞等，這些攻擊都會對大模型的安全性和穩定性帶來重大影響。

從模型防護機制建設角度出發，大模型需要通過嚴密的安全技術保障和運行監測，確保自身的安全性、可靠性和穩定性。目前絕大多數大模型的安全能力建設不足，以DeepSeek為例，網宿科技安全事業部高級技術總監胡鋼偉曾告訴，此前DeepSeek遭受大規模攻擊，究其原因，一方面是由于DeepSeek自身的防御機制建設不足，未能儲備足夠的防護資源以面對高強度的DDoS攻擊行為；另一方面也和DeepSeek在開發過程中未能完善安全測試機制有關，造成了漏洞被攻擊者利用。

尤其是當前企業部署DeepSeek最多的方式就是通過Ollama（一種本地部署大模型的工具），而Ollama在默認情況下，是不具備安全認證功能的，這也導致了許多用戶在部署DeepSeek的過程中，忽略了必要的安全限制，導致了任何人都可以在未經授權的情況下訪問這些服務，不僅增加了服務被濫用的風險，還可能導致數據泄露和服務中斷。更嚴重的是，攻擊者甚至能夠發送指令刪除所部署的DeepSeek、Qwen等大模型文件，進一步威脅系統的安全性。

對此，有安全行業專家建議企業修改Ollama配置，加入身份認證手段。同時及時修改防火墻、WAF、入侵檢測等相關安全配置，例如制定IP白名單限制訪問，確保只有授權人員能夠訪問模型服務。并且，此前還多位安全行業專家建議，企業要定期檢查和關閉不必要的端口、限制計算資源的使用、加強監控等措施也是提高安全性的關鍵。

當DeepSeek在帶動本地化部署大模型市場發展的同時，本地化模型安全問題也逐漸暴露出來，宮智告訴，目前大模型在本地化部署過程中，需要面對的最大的兩個安全挑戰就是數據安全和合規問題。

在數據安全方面，大模型帶來了新的對抗的挑戰，比如數據脫敏，原先脫敏后的數據，在大模型的應用中也會變得沒那么安全。“大模型有可能對脫敏數據進行深度關聯推理，將脫敏數據還原，從而造成了數據安全的風險。”宮智指出。

上述的安全問題還只是企業應用大模型的基礎，在宮智看來，解決這些基礎的安全問題只是企業要做的第一步，“除了剛性的安全性問題之外，企業還面臨更多的合規性的問題，”宮智強調道，“尤其是當大模型訓練語料進一步擴大時，模型可能存在包括魯棒性、可解釋性、幻覺等在內的多個問題，甚至存在隨時失控的風險。”

對此，宮智表示，企業需要在模型的輸入和輸出兩端都進行完整的安全管理和控制，才能解決合規性的問題，同時還能避免數據泄露事件的發生。

“通用模型+專業模型”求解

此前Gartner預測，到2025年生成式AI的采用將導致企業機構所需的網絡安全資源激增，使應用和數據安全支出增加15%以上。而如何建設好安全體系，確保在安全合規的前提下應用模型，已經成為當下企業關注的焦點。在宮智看來，通過通用模型+安全行業模型的結合，是當下企業安全體系建設的最優解。

一方面，通過像DeepSeek、通義千問這樣性能強大的基礎通用大模型提供了強大的底層算力支持，讓安全模型有了更為強大的算力支持；另一方面，安全廠商多年來積累的安全經驗與安全數據，訓練出來的專家模型。將兩者的強處結合，才能得到更好的應用效果。

以綠盟科技為例，憑借多年在安全行業的積累，綠盟科技于去年推出了實戰攻防大模型——風云衛安全行業大模型。而在DeepSeek開源之后，綠盟科技也將風云衛大模型與DeepSeek進行了接入。這種模式正是通過基礎通用大模型與安全專業專家模型的結合，從而形成更聚焦的安全行業大模型，賦能企業安全運營。

從應用場景上來看，目前安全行業大模型主要還是應用在輔助企業進行安全運營層面，“客觀的看，大模型在安全行業應用最為成熟的場景還是AI輔助安全運營，這里面包括了研判分析、安全報告的生成。”宮智進一步指出，“通過大模型能力的植入，讓企業安全運營的效率提升了不少。”據了解，通過安全大模型的加持，企業安全運營效率可以提升70%。

除此之外，據綠盟科技觀察，目前大模型在輔助威脅檢測方面也展現出了一些獨有的能力，有望成為未來大規模應用的新場景。（本文首發于，作者｜張申宇，編輯丨蓋虹達）