(記者 焦立坤)國產大模型DeepSeek-R1的誕生標志著我國AI技術從“追趕者”向“領跑者”實現歷史性跨越,成為全民推崇的生產力工具,隨之而來的安全問題也日益凸顯。今年全國兩會期間,全國政協委員、360集團創始人周鴻祎再度聚焦大模型安全。
周鴻祎認為,DeepSeek-R1等先進模型帶來了前所未有的機遇,也同樣面臨無法通過傳統網絡安全手段解決的安全挑戰。對此,周鴻祎呼吁各界共同努力,構建更加完善的大模型應用安全治理體系,在保障安全的前提下最大化地釋放大模型技術的潛力。

全國政協委員、360集團創始人周鴻祎。(圖片由受訪者提供)
周鴻祎表示,開源帶來大模型的廣泛應用,未來將會有各類專業大模型、垂直大模型、場景大模型,連接內部知識庫,以智能體的形式在大批政府機構和企業中廣泛部署,推進“數轉智改”,實現降本增效。然而,大模型存在幻覺、內容安全等諸多問題,無法通過傳統安全方案有效化解,一旦部署在政府、企業內部的基座模型、知識庫或智能體中,任一環節出現安全隱患,極有可能誘發整個生產環境爆發系統性風險。
周鴻祎認為,大模型應用安全主要集中在基座模型、知識庫和智能體三個方面。針對這些挑戰,360運用人工智能技術重塑安全格局,采用“以模制模”的方式應對新難題,依托安全大模型技術搭建起覆蓋“基座模型—知識庫—智能體”的全鏈路安全體系,護航政府與企業“數轉智改”。
為進一步強化這一防御體系,周鴻祎建議,一方面,推動安全技術創新與成果轉化。建議相關部門及時出臺配套政策措施,鼓勵具備“安全+人工智能”完整解決方案的鏈主企業,針對人工智能應用所涉及的基座模型、知識庫、智能體等安全問題,基于安全大模型技術開展研發工作,加速推動技術成果轉化,將安全要素深度嵌入人工智能應用全流程。
另一方面,組建產業聯盟,推廣安全產品。引導相關鏈主企業發揮牽頭作用,廣泛吸納產業鏈上下游企業、科研機構及終端用戶,組建人工智能大模型安全聯盟,在聯盟內部實現技術成果共享,共同開展產品及服務測試,待產品與服務成熟穩定后,向更廣闊的市場加以推廣,助力大模型安全保障普及至千行百業。





京公網安備 11011402013531號