7 月 14 日消息，據(jù)螞蟻技術(shù)消息，世界數(shù)字科學院（WDTA）在聯(lián)合國日內(nèi)瓦總部日前正式發(fā)布 AI STR 系列新標準《AI 智能體運行安全測試標準》，標準由螞蟻集團、清華大學、中國電信牽頭，聯(lián)合普華永道、新加坡南洋理工大學、美國圣路易斯華盛頓大學等二十余家國內(nèi)外機構(gòu)、企業(yè)及高校共同編制，為全球首個單智能體運行安全測試標準。

據(jù)介紹，該標準針對智能體跨越“語言墻”所帶來的“行為”風險，首次將輸入輸出、大模型、RAG、記憶和工具五個關(guān)鍵鏈路與運行環(huán)境對應(yīng)起來，構(gòu)建了全鏈路風險分析框架；同時，細分了智能體風險類型，完善并創(chuàng)新提出了模型檢測、網(wǎng)絡(luò)通信分析和工具模糊測試等測試方法，彌補了智能體安全測試技術(shù)標準的空白。

從螞蟻技術(shù)獲悉，該標準不僅提供了一套可行可靠的智能體安全基準，也為全球 AI 智能體生態(tài)的安全、可信和可持續(xù)發(fā)展增加了有益的探索。目前，部分標準的測評與認證已在金融、醫(yī)療等領(lǐng)域落地應(yīng)用。

此前，WDTA 已發(fā)布 3 項 AI STR 標準，包括“生成式人工智能應(yīng)用安全測試標準”,“大語言模型安全測試方法”和“大模型供應(yīng)鏈安全要求”，由 OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等數(shù)十家單位的多名專家學者共同參與。