人工智能已邁入以大模型為核心技術的2.0時代，互聯網大廠、銀行、消金、保險、券商等各路金融機構也紛紛下場，推進大模型在金融垂直領域進一步落地。但作為一個對安全性、合規性、準確性、可控性要求都較高的行業，大模型應用帶來的合規風險、數據安全、隱私安全、可信可解釋等諸多方面的風險，構建金融大模型的技術標準體系已經“箭在弦上”。

制定大模型技術標準將從哪些方面解決風險問題？金融機構大模型的研發應用中如何保障安全問題？近日，在重慶首屆數字產業領域千人大會“2024 數字產業生態伙伴大會”上，馬上消費常務副總經理蔣寧接受了南都記者的采訪，并就上述疑問給出了解答。

牽頭編制金融大模型技術國際標準

南都記者了解到，會議期間由馬上消費牽頭編制的IEEE P3826 （金融大語言模型技術要求標準）與P3482（基于機器學習模型的三維數字人建模和驅動技術要求標準）兩項重要標準宣布立項啟動。

其中，IEEE P3826（金融大語言模型技術要求標準）是我國在金融大模型技術領域主導編制的首個IEEE國際標準，確立了金融大模型的系統框架及功能要求。IEEE SA批準成立金融大模型工作組，由Nature子刊編委、馬上消費人工智能研究院副院長鄧偉洪擔任工作組主席。IEEE P3826標準確立了金融大模型的系統框架及功能要求，系統框架主要包括基礎設施層、平臺層、數據層、模型層、服務層、應用層、運維層及安全層，適用于金融大模型設計、開發與應用，也可為金融大模型測評提供指導。

IEEE P3482是首個明確定義3D數字人相關技術的IEEE國際標準。該標準規定了3D數字人的建模要求、動畫和驅動要求、性能要求、互操作性要求、安全和倫理要求等。馬上消費被批準作為數字人工作組主席單位，未來將牽頭規劃 IEEE 數字人領域標準的制定。

據悉，IEEE（電氣電子工程師學會）成立于1884年，是全球最大的專業技術組織之一，在全球160多個國家擁有超過45萬名會員。

“馬上消費金融這次有幸能代表中國參與這個標準的制定，我們也希望能夠在標準領域和中國金融機構一起搶占標準制定的先機，能夠讓我們的金融大模型在全球起到一個示范作用，甚至引導產業變革的作用。”蔣寧在采訪中表示，據他進一步透露，具體制定標準的框架方向，還將包括數據的安全合規、可追溯性，算法的可解釋性、安全性，包括芯片、智算中心、云等領域的安全合規可信。

蔣寧還表示，馬上消費把公司治理放在突出地位。一方面成立了IT治理委員會，把合規放在優先保障的地位。另一方面，成立了科技倫理委員會，明確要求馬上消費所有科技研發活動，必須以安全為目的、對公眾負責、保護個人隱私。同時他還透露，馬上消費的天鏡大模型也正在進行網信辦的大模型備案中。

自研“天鏡”大模型2.0

實現安全合規等領域創新應用

南都記者了解到，馬上消費金融股份有限公司（下稱馬上消費）在2023年8月推出全國首個零售金融領域的“天鏡大模型”，覆蓋營銷獲客、風險審批、客戶運營等8個零售金融典型的應用場景。11月28日，在數字產業生態伙伴大會上，馬上消費宣布“天鏡”升級至2.0版本。

相比之前的版本，“天鏡”2.0在模型技術創新、標準制定、科研轉化成果、具體應用等核心領域取得了突破性進展。以具體應用為例，“天鏡”2.0在金融安全、大數據決策、人機交互、消費者權益保護、邏輯推理泛化等方面都展現出強大的潛力和價值。

“過往的創新是摸著石頭過河，因為合規、安全、可信是人工智能里面非常關鍵的領域。我們不能因為大模型做的決策所出的錯誤，就把責任推給大模型本身。”蔣寧表示，“天鏡大模型在過往1.0向2.0邁進的過程中，形成了一個完整的合規、可信、安全的體系。”

蔣寧表示，大模型生成式AI在輔助內容生產的同時也給金融安全帶來了巨大挑戰，假單據、假人臉、假數據等現象頻出。“天鏡”2.0針對這些安全隱患專門研發了對抗學習技術，將多模態的技術進行深度融合，把聲音、文字、視頻等多維度信息整合，構建全新的對抗學習防偽新體系，全方位、多層次地有效提升金融安全防護能力。

“在對抗領域里面，我們累計申請了100項專利，也發表了20篇論文。我們即將發布中國最大的一個防偽公開數據集。”蔣寧表示，“現在開源的樣本攻擊手法的數據集是非常少的，我們希望我們的公開能為對抗領域的基礎設施建設起到一些推動。”

此外，在打擊金融黑灰產方面，天鏡大模型2.0也有探索。蔣寧告訴南都記者，黑灰產的識別可以利用多項大模型技術，比如可以將相關圖片、周邊的環境、聲紋、地址，整合成多模態的大模型，來判斷是黑灰產的可能性有多大，還有其他的技術，比如復雜網絡技術，隱私計算技術，多種技術結合，形成了打擊黑灰產的能力。

采寫：南都記者熊潤淼