數據語料被惡意行為者篡改，人工智能大模型輸出的結果就帶有特殊目的性，違背了現實真實情況；人工智能多模態大模型自動生成的圖片、視頻具有欺騙性和誤導性，且其操作門檻極低，導致他人合法權益被侵害……在2025世界人工智能大會暨人工智能全球治理高級別會議主論壇上，“AI教父”辛頓將人工智能比喻為可愛的小老虎，但同時也警示人們防止“養虎為患”。

人工智能時代，安全對于高質量發展的基石作用更加凸顯。在這樣的背景下，連日來，作為通信基礎設施建設“國家隊”、5G新基建“主力軍”的三大運營商，在大會現場競相展示他們在人工智能安全領域的前沿探索與創新成果。

針對人工智能應用帶來的算法、數據及倫理風險，2025世界人工智能大會暨人工智能全球治理高級別會議期間，中國電信宣布：打造大模型基礎護欄，并在國內首次開源；提升中文提示詞注入攻擊防護、敏感信息泄露防護、生成內容合規檢查等能力；針對應用安全，打造大模型安全掃描器，形成輸入可防、推理過程可檢測、輸入可控的模型及智能體應用防護體系等。

中國電信相關負責人表示：“以我們前期發布的見微安全大模型為例，它能夠實時洞察高級威脅，精準預測攻擊路徑，自動閉環處置漏洞，顛覆傳統的碎片化分析模式，告警識別準確率98%，提升整體安全響應效率60%以上，讓安全防御從‘被動應對’邁向‘主動免疫’，實現‘以模治?！！?/p>

7月27日，中國移動“人工智能安全評測平臺”正式亮相，平臺基于覆蓋模型算法安全、數據安全、環境安全、倫理合規的4維37項評測指標體系，可面向智能體、模型算法、訓練數據等多類型AI資產，提供多維度全方位的安全評測服務。

展臺上，正在進行現場路演，只見工作人員輕點鼠標，將基于《生成式人工智能服務安全基本要求》（國標TC260-003）構建的安全評測數據集快速發送至被測模型，隨即，被測模型返回的一問一答在屏幕上有序呈現。平臺迅速對這些問答對展開合規評判，最終輸出的安全評測結果精準覆蓋各項合規維度，同時，還清晰標注出潛在風險點。

中國移動相關負責人介紹：“該平臺基于15萬余組安全評測數據集，能夠提供內容合規安全檢測、模型對抗攻擊、數據質量評估等評測服務，基于量化指標，實現AI安全風險的精準畫像與量化評估?！?/p>

此外，平臺還支持自動化評測，能夠根據不同場景需求快速調整評測方案，以高度靈活性適配多樣化AI安全評測需求。

2025世界人工智能大會暨人工智能全球治理高級別會議召開前夕，中國聯通“元景·智盾”數智安全治理平臺正式發布?！霸啊ぶ嵌堋逼脚_由三大核心板塊組成：AI數據安全、AI模型與應用服務安全、AI治理與合規服務，全方位構建覆蓋模型、數據及算法應用的全棧式AI安全防護體系。

“‘元景·智盾’平臺基于龐大的內容數據庫和算法庫，能夠提供圖像、視頻、音頻偽造檢測以及人工智能合成文本檢測服務，支持對檢測內容進行溯源與可解釋性分析?！敝袊撏ㄏ嚓P負責人表示，“這使得我們能夠有效對數據偽造內容進行取證，廣泛應用于偵查取證、業務數據精細化檢測等場景，有力保障業務數據的安全?！?/p>

據悉，目前，該平臺在政務、醫療、運營商等領域的多個場景中均已實現落地應用。

原標題：《“國家隊”出手，齊筑人工智能安全防線，以模治模，防止“養虎為患”》

作者：解放日報 吳衛群 高晨輝