智通財經(jīng)APP獲悉，東北證券發(fā)布研報稱，生成式人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域是一把“雙刃劍”，AI新技術(shù)的脆弱性也使得應用自身面臨安全風險。隨著全球AI安全市場規(guī)模預計在2030年達到1340億美元(CAGR 27.6%)。AI大模型安全監(jiān)測評估產(chǎn)品或迎發(fā)展先機。AI衍生安全問題加劇，AI監(jiān)管勢在必行，建議關(guān)注深度偽造視頻、圖像、文本等檢測產(chǎn)品。

東北證券主要觀點如下：

“AI+安全”主要包括AI賦能網(wǎng)絡(luò)安全、AI內(nèi)生安全和AI衍生安全

大模型快速發(fā)展給人們帶來便利的同時，其引發(fā)的網(wǎng)絡(luò)安全問題也值得重點關(guān)注。以ChatGPT為代表的生成式人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域是一把“雙刃劍”，一方面，AI可以賦能網(wǎng)絡(luò)安全，提升風險檢測與防護能力;另一方面，AI的濫用將對國家、社會、公眾帶來負面影響，同時，AI新技術(shù)的脆弱性也使得應用自身面臨安全風險。

AI在賦能傳統(tǒng)網(wǎng)安產(chǎn)品與提升網(wǎng)安運營效率方面展現(xiàn)出極大潛力

根據(jù)Statista預測，2023至2030年全球AI安全市場規(guī)模CAGR將達27.60%，2030年市場規(guī)模將飆升至1340億美元。AI賦能傳統(tǒng)安全產(chǎn)品主要包括威脅檢測產(chǎn)品(惡意軟件檢測、攻擊流量檢測、用戶和實體行為分析、以及加密流量分析)、數(shù)據(jù)安全和防火墻等;AI大模型在網(wǎng)絡(luò)安全運營中的產(chǎn)業(yè)實踐，尤其是在告警降噪、攻擊研判、自動響應與處置方面，展現(xiàn)出了顯著的優(yōu)勢和潛力，安全運營是安全行業(yè)最需要AI深度改造的環(huán)節(jié)。

AI內(nèi)生安全構(gòu)筑網(wǎng)安新賽道，AI大模型安全監(jiān)測評估產(chǎn)品或迎發(fā)展先機

人工智能技術(shù)的崛起依托于AI模型、AI數(shù)據(jù)以及AI承載系統(tǒng)。1)AI模型安全：主要包含模型訓練完整性威脅、模型測試完整性威脅和魯棒性欠缺威脅等。2)AI數(shù)據(jù)與隱私安全性：主要包括模型竊取、隱私泄露和基于梯度更新的數(shù)據(jù)泄露等威脅。3)AI系統(tǒng)安全性問題：主要包括硬件設(shè)備安全和系統(tǒng)與軟件安全，AI系統(tǒng)安全性問題與傳統(tǒng)計算機安全領(lǐng)域中的安全問題類似，威脅著AI技術(shù)的完整性、保密性、可用性。

AI衍生安全問題加劇，AI監(jiān)管勢在必行，建議關(guān)注深度偽造視頻、圖像、文本等檢測產(chǎn)品

人工智能衍生安全指人工智能系統(tǒng)因其自身脆弱性被利用而引起其他領(lǐng)域的問題，AI衍生安全影響AI的合規(guī)使用，還涉及人身安全、隱私保護等。AI衍生安全包括：人工智能系統(tǒng)失誤引發(fā)的安全事故、大模型廣泛應用帶來的濫用風險和人工智能武器研發(fā)可能引發(fā)國際軍備競賽。各國針對AI濫用情況紛紛發(fā)布相關(guān)監(jiān)管政策，我國發(fā)布《生成式人工智能服務(wù)管理暫行辦法》和《人工智能生成合成內(nèi)容標識辦法》等辦法，體現(xiàn)了風險防范、風險應對和風險管理的基本思路。

風險提示：人工智能、網(wǎng)絡(luò)安全和AI安全行業(yè)發(fā)展不及預期。