9月15日在“2025年廣州市網絡安全宣傳周啟動儀式”上,來自中山大學、華南理工大學、暨南大學、廣州大學、廣東外語外貿大學的5所高校網絡安全領域或者人工智能產業研究專家,圍繞“AI+”發展創新與安全治理熱門話題,上演了一場高端的“院長對話”。在專家看來,AI應用邊界持續拓展,安全防線的構建也迫在眉睫。
“AI智能體已走入千家萬戶,可能過一段時間會比手機離大家更近。隨著AI融入人們生活,人工智能安全必將成為一個極其重要的研究方向。”中山大學網絡空間安全學院院長操曉春教授指出,當前AI領域需重點關注三類風險:一是AI智能體輸出正確性與價值觀問題,關系到用戶認知與社會穩定,必須推進全生命周期的安全評估與治理;二是智能無人系統與物理領域安全問題。AI已從數字空間延伸至物理世界,其決策透明性與可解釋性成為關鍵。不僅要關注“結果正確”,更要追求“原因正確”。三是AI生成內容的安全隱憂,需加強審核、溯源、風險預警等。
![]()
醫療領域作為AI應用的重要場景之一,琶洲實驗室智慧醫療與AI病理聯合研發中心執行副主任、華南理工大學計算機科學與工程學院副院長張通教授表示,“大模型在醫療產品中的應用面臨與傳統研究領域不同的挑戰,主要包括數據來源、數據采集、范式創新和部署安全等四個方面閉環治理。”他指出,應采用數據脫敏、權限分級管理、聯邦學習、云邊協同等先進的技術手段,減少對原始數據的依賴,實現“數據留在醫院、算法跑在云端、參數交互共享”,并通過全流程審計機制筑牢安全防線,實現真正意義的科技向善。
![]()
暨南大學智能科學與工程學院/人工智能產業學院副院長施政則聚焦AI跨界融合。他認為,“AI在各行各業及不同學科間發揮著催化劑和粘合劑的作用。”例如,在智能制造領域,AI與數字孿生技術、物聯網技術結合,可實現工廠數字化建模、自動化巡檢等;在智慧教育領域,大模型助力試卷自動批改,通過構建學生能力圖譜,定制個性化學習方案;在智慧旅游領域,三維實景與VR、大模型技術融合,既能為低空飛行提供安全保障,也能升級游客沉浸式體驗。
![]()
廣州大學網絡空間安全學院/網絡空間先進技術研究院副院長、教授王樂從網絡攻防實戰角度出發,指出AI的介入使網絡安全風險從信息域延伸至物理域,攻擊方借助AI可更快發現漏洞,實施攻擊,防御方也需依托AI提升分析、威脅識別效率,但同時也加劇了攻防雙方的不對稱性。針對這一挑戰,他表示:“我們要擁抱AI,把AI在網絡安全中的應用或賦能發揮得更好。更關鍵的是讓政府、企業、行業、高校、研究所等多方聯動起來,真正做到從情報源頭監測到資源共享。”
![]()
廣東外語外貿大學信息科學與技術學院(網絡空間安全學院)副院長、教授謝柏林從網絡安全競賽與攻防演練的角度給出破題思路。他認為,當前AI智能體雖理論知識豐富,甚至超越資深從業者,但在實際解決問題方面仍有許多不足。“解決這一問題的關鍵,是讓AI智能體‘下場參賽’。”他建議,通過舉辦網絡安全競賽,邀請AI智能體以攻方或守方身份參與,在實戰中暴露不足、迭代優化,提高解決實際問題的能力,真正把AI應用到網絡安全行業。
![]()
活動現場,與會嘉賓們還從AI賦能、技術應用等多維度,為十五運會和殘特奧會網絡安全保障體系建言獻策。廣州市網絡安全產業促進會、廣州互聯網協會秘書長章江花在接受南都采訪時表示,網絡安全是動態防御而非靜態工程,需構建“魔高一尺,道高一丈”的持續對抗能力,產業協同與生態聯防是應對新型威脅的關鍵。
![]()
此次活動由廣州市委宣傳部、市委網信辦、市教育局、市工業和信息化局、市公安局、市文化廣電旅游局、市國資委、市政務服務和數據管理局、市總工會、團市委、市婦聯、中國人民銀行廣東省分行聯合主辦,南方都市報社、南都大數據研究院承辦,廣州市網絡安全產業促進會、廣州互聯網協會支持。
出品:南都大數據研究院
統籌:凌慧珊 袁炯賢
采寫:南都研究員 麥潔瑩
設計:林泳希





京公網安備 11011402013531號