9月15日在“2025年廣州市網絡安全宣傳周啟動儀式”上，來自中山大學、華南理工大學、暨南大學、廣州大學、廣東外語外貿大學的5所高校網絡安全領域或者人工智能產業研究專家，圍繞“AI+”發展創新與安全治理熱門話題，上演了一場高端的“院長對話”。在專家看來，AI應用邊界持續拓展，安全防線的構建也迫在眉睫。

“AI智能體已走入千家萬戶，可能過一段時間會比手機離大家更近。隨著AI融入人們生活，人工智能安全必將成為一個極其重要的研究方向。”中山大學網絡空間安全學院院長操曉春教授指出，當前AI領域需重點關注三類風險：一是AI智能體輸出正確性與價值觀問題，關系到用戶認知與社會穩定，必須推進全生命周期的安全評估與治理；二是智能無人系統與物理領域安全問題。AI已從數字空間延伸至物理世界，其決策透明性與可解釋性成為關鍵。不僅要關注“結果正確”，更要追求“原因正確”。三是AI生成內容的安全隱憂，需加強審核、溯源、風險預警等。

醫療領域作為AI應用的重要場景之一，琶洲實驗室智慧醫療與AI病理聯合研發中心執行副主任、華南理工大學計算機科學與工程學院副院長張通教授表示，“大模型在醫療產品中的應用面臨與傳統研究領域不同的挑戰，主要包括數據來源、數據采集、范式創新和部署安全等四個方面閉環治理。”他指出，應采用數據脫敏、權限分級管理、聯邦學習、云邊協同等先進的技術手段，減少對原始數據的依賴，實現“數據留在醫院、算法跑在云端、參數交互共享”，并通過全流程審計機制筑牢安全防線，實現真正意義的科技向善。

暨南大學智能科學與工程學院/人工智能產業學院副院長施政則聚焦AI跨界融合。他認為，“AI在各行各業及不同學科間發揮著催化劑和粘合劑的作用。”例如，在智能制造領域，AI與數字孿生技術、物聯網技術結合，可實現工廠數字化建模、自動化巡檢等；在智慧教育領域，大模型助力試卷自動批改，通過構建學生能力圖譜，定制個性化學習方案；在智慧旅游領域，三維實景與VR、大模型技術融合，既能為低空飛行提供安全保障，也能升級游客沉浸式體驗。

廣州大學網絡空間安全學院/網絡空間先進技術研究院副院長、教授王樂從網絡攻防實戰角度出發，指出AI的介入使網絡安全風險從信息域延伸至物理域，攻擊方借助AI可更快發現漏洞，實施攻擊，防御方也需依托AI提升分析、威脅識別效率，但同時也加劇了攻防雙方的不對稱性。針對這一挑戰，他表示：“我們要擁抱AI，把AI在網絡安全中的應用或賦能發揮得更好。更關鍵的是讓政府、企業、行業、高校、研究所等多方聯動起來，真正做到從情報源頭監測到資源共享。”

廣東外語外貿大學信息科學與技術學院（網絡空間安全學院）副院長、教授謝柏林從網絡安全競賽與攻防演練的角度給出破題思路。他認為，當前AI智能體雖理論知識豐富，甚至超越資深從業者，但在實際解決問題方面仍有許多不足。“解決這一問題的關鍵，是讓AI智能體‘下場參賽’。”他建議，通過舉辦網絡安全競賽，邀請AI智能體以攻方或守方身份參與，在實戰中暴露不足、迭代優化，提高解決實際問題的能力，真正把AI應用到網絡安全行業。

活動現場，與會嘉賓們還從AI賦能、技術應用等多維度，為十五運會和殘特奧會網絡安全保障體系建言獻策。廣州市網絡安全產業促進會、廣州互聯網協會秘書長章江花在接受南都采訪時表示，網絡安全是動態防御而非靜態工程，需構建“魔高一尺，道高一丈”的持續對抗能力，產業協同與生態聯防是應對新型威脅的關鍵。

此次活動由廣州市委宣傳部、市委網信辦、市教育局、市工業和信息化局、市公安局、市文化廣電旅游局、市國資委、市政務服務和數據管理局、市總工會、團市委、市婦聯、中國人民銀行廣東省分行聯合主辦，南方都市報社、南都大數據研究院承辦，廣州市網絡安全產業促進會、廣州互聯網協會支持。

出品：南都大數據研究院

統籌：凌慧珊 袁炯賢

采寫：南都研究員 麥潔瑩

設計：林泳希