央廣網(wǎng)昆明9月16日消息（記者 魏文青） 9月16日，第22屆中國網(wǎng)絡(luò)安全年會（暨國家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇）上，國內(nèi)首次針對人工智能大模型的實網(wǎng)眾測檢驗結(jié)果正式發(fā)布。大模型特有漏洞177個，占比超過60%。

眾測結(jié)果發(fā)布現(xiàn)場（央廣網(wǎng)記者 魏文青 攝）

據(jù)介紹，本次活動共動員559名“白帽子”，對國內(nèi)10家廠商的15款大模型及相關(guān)應(yīng)用產(chǎn)品進行了漏洞測試，涵蓋基礎(chǔ)大模型、垂域大模型、智能體及模型開發(fā)平臺等，測試范圍具有較廣泛的代表性。

測試結(jié)果顯示，在參與測試的主流產(chǎn)品中，騰訊混元大模型、百度文心一言、阿里巴巴通義APP、智譜華章智譜清言等發(fā)現(xiàn)的漏洞風險較少，安全防護水平相對較高。活動中，涌現(xiàn)出梁宏宇、馬寶新、劉銘等一批優(yōu)秀白帽子，他們在廠商防護條件下仍能挖掘出高危漏洞，展現(xiàn)了專業(yè)能力。

統(tǒng)計數(shù)據(jù)顯示，本次眾測累計發(fā)現(xiàn)各類安全漏洞281個，其中大模型特有漏洞177個，占比超過60%。典型風險包括：不當輸出、信息泄露、提示注入、不受限消耗類漏洞，以及傳統(tǒng)安全漏洞等。專家表示，若此類問題被惡意利用，將對大模型生態(tài)帶來較大影響。

此次活動由中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局指導(dǎo)，國家計算機網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心主辦，相關(guān)平臺和基地提供技術(shù)支持。業(yè)內(nèi)人士指出，隨著人工智能應(yīng)用場景不斷拓展，新的風險和攻擊方式仍將持續(xù)出現(xiàn)。未來需加快漏洞分級標準制定，持續(xù)完善防護措施，并通過社會眾測模式構(gòu)建協(xié)同治理機制，以高水平安全護航“人工智能+”的高質(zhì)量發(fā)展。