日前，全國政協委員、360集團創(chuàng)始人周鴻祎表示，將關注人工智能和安全兩大主題，攜三份提案聚焦安全和人工智能“兩件事”。

近年來，人工智能技術加速迭代，成為全球科技變革的關鍵驅動力。國產推理大模型DeepSeek-R1的誕生首次從技術上實現對美國的超越，標志著中國AI技術成功從“追趕者”向“領跑者”的角色轉換，為政府、企業(yè)與個人呈獻出全新的生產力工具。但由于DeepSeek-R1功能強大，且兼具開源、透明、免費等特質，尤其適合在政府與企業(yè)開展私有化部署推進“數轉智改”實現降本增效。在這一背景之下人工智能大模型安全的重要性日益凸顯，一旦部署在政府、企業(yè)內部的基座模型、知識庫或智能體中任一環(huán)節(jié)出現安全隱患，都極有可能誘發(fā)整個生產環(huán)境爆發(fā)系統(tǒng)性風險，且無法通過傳統(tǒng)安全方案有效化解。

對于統(tǒng)籌解決大模型應用安全，周鴻祎提出，要支持安全技術創(chuàng)新與成果轉化。建議相關部門及時出臺配套政策措施，鼓勵具備“安全+人工智能”完整解決方案的鏈主企業(yè)，針對人工智能應用所涉及的基座模型、知識庫、智能體等安全問題，以模制模，基于安全大模型技術開展研發(fā)工作，加速推動技術成果轉化，將安全要素深度嵌入人工智能應用全流程。

此外，周鴻祎建議組建產業(yè)聯盟，打造安全產品。引導相關鏈主企業(yè)發(fā)揮牽頭作用，廣泛吸納產業(yè)鏈上下游企業(yè)、科研機構及終端用戶，組建人工智能大模型安全聯盟，在聯盟內部實現技術成果共享，共同開展產品及服務測試，待產品與服務成熟穩(wěn)定后，向更廣闊的市場加以推廣，助力大模型安全保障普及至千行百業(yè)。

圍繞大模型技術存在“幻覺”偶爾會生成看似不合理、與事實不符的情況，周鴻祎表示，大模型發(fā)展關系國運，不能因過度追求準確而限制其創(chuàng)造力，需要對“幻覺”給予柔性監(jiān)管，打造支持創(chuàng)新、包容失誤的良好環(huán)境，爭取讓更多企業(yè)“復制”DeepSeek的成功。建議借鑒“避風港原則”成功經驗，對大模型以及相關的產品和服務，實施柔性監(jiān)管，適度包容大模型的“幻覺”，對于“幻覺”導致的一般性失誤，避免直接關停、下架，給予企業(yè)自我糾正的機會，促進企業(yè)大膽創(chuàng)新、放手競爭。

近年來，企業(yè)通過購買云服務、算力、存儲的模式極大地提高了效率，降低了成本，有力推動了國家數字化建設進程。網絡安全行業(yè)也亟需跟上當前安全形勢需求，推動網絡安全的服務化轉型。周鴻祎提出，一方面要鼓勵從購買硬件產品轉變?yōu)橘徺I安全服務。建議財政部將安全服務部署納入專項補助項目，對積極采用安全服務的企業(yè)給予財政補貼或稅收優(yōu)惠，引導市場向服務型轉變，實現網絡安全能力的跨越式提升。另一方面則要鼓勵購買SaaS化的安全產品。國家可鼓勵和引導企業(yè)采購此類服務，讓企業(yè)能夠以低成本快速適配自身需求，直觀評估服務成效，從而有效提升網絡安全防護水平。

南方+記者 葉丹

葉丹

南方產業(yè)智庫