3月4日,全國政協十四屆三次會議開幕。全國政協委員、360集團創始人周鴻祎表達了對人工智能發展的關注。兩會期間,周鴻祎聚焦關注大模型安全和幻覺,提交的三份提案聚焦AI和安全兩件事。

國產推理大模型DeepSeek-R1的誕生標志著中國AI技術成功從“追趕者”向“領跑者”的角色轉換,為政府、企業與個人呈獻出全新的生產力工具。在這一背景之下,人工智能大模型安全的重要性日益凸顯,一旦部署在政府、企業內部的基座模型、知識庫或智能體中任一環節出現安全隱患,都極有可能誘發整個生產環境爆發系統性風險,且無法通過傳統安全方案有效化解。
周鴻祎在《關于統籌解決大模型應用安全的建議》提案中建議,一,支持安全技術創新與成果轉化。建議相關部門及時出臺配套政策措施,鼓勵具備“安全+人工智能”完整解決方案的鏈主企業,針對人工智能應用所涉及的基座模型、知識庫、智能體等安全問題,以模制模,基于安全大模型技術開展研發工作,加速推動技術成果轉化,將安全要素深度嵌入人工智能應用全流程。二,組建產業聯盟,打造安全產品。引導相關鏈主企業發揮牽頭作用,廣泛吸納產業鏈上下游企業、科研機構及終端用戶,組建人工智能大模型安全聯盟,在聯盟內部實現技術成果共享,共同開展產品及服務測試,待產品與服務成熟穩定后,向更廣闊的市場加以推廣,助力大模型安全保障普及至千行百業。
周鴻祎認為,在科研領域,大模型的“幻覺”能“想象”新藥分子結構、蛋白質的結構等,為新研究指引方向。在醫療、法律、金融等對準確性要求高的領域,“幻覺”雖然可能出錯,但可以利用技術手段,如RAG(檢索增強生成)技術,通過比對專業知識庫、網絡實時信息等方式予以矯正。為此,周鴻祎在《關于適度包容大模型“幻覺”的建議》提案中建議,大模型發展關系國運,不能因過度追求準確而限制其創造力,需要對“幻覺”給予柔性監管,打造支持創新、包容失誤的良好環境,爭取讓更多企業“復制”DeepSeek的成功。建議借鑒“避風港原則”成功經驗,對大模型以及相關的產品和服務,實施柔性監管,適度包容大模型的“幻覺”,對于“幻覺”導致的一般性失誤,避免直接關停、下架,給予企業自我糾正的機會,促進企業大膽創新、放手競爭。
如今,軟件即服務(SaaS)已成為全球趨勢。SaaS 服務產品具有產品可見、可體驗的優勢,價格便宜,交付簡單也容易推廣,能夠快速助力企業形成安全能力,構建防御體系。近年來,企業通過購買云服務、算力、存儲的模式極大地提高了效率,降低了成本,有力推動了國家數字化建設進程。網絡安全行業也亟須跟上當前安全形勢需求,推動網絡安全的服務化轉型。
周鴻祎在《以安全即服務破解網絡安全行業困境》提案中建議,一,鼓勵從購買硬件產品轉變為購買安全服務。建議財政部將安全服務部署納入專項補助項目,對積極采用安全服務的企業給予財政補貼或稅收優惠,引導市場向服務型轉變,實現網絡安全能力的跨越式提升。二,鼓勵購買SaaS化的安全產品。國家可鼓勵和引導企業采購此類服務,讓企業能夠以低成本快速適配自身需求,直觀評估服務成效,從而有效提升網絡安全防護水平。





京公網安備 11011402013531號