12月19日訊（記者 嚴沁雯）金融是安全性和可信度要求近乎苛刻的行業，必須保證金融資產和金融數據的安全，保證金融交易和金融服務的可靠性，保證賬務處理和賬務記錄的準確性。在12月19日舉行的第二十二屆中國國際金融論壇上，中國銀行原行長李禮輝表示。

智能金融創新正在重構金融生態，背后所涉風險亦成為大眾聚焦所在。在李禮輝看來，人工智能潛在的安全風險和技術缺陷尚未因生成式AI的算法創新而淡化。

一是未能消解安全風險，攻擊者可利用技術漏洞實施數據投毒、參數竊取、惡意文件上傳和關鍵組件刪除等操作，破壞核心數據，影響模型的算法完整性和運行穩定性。

二是未能消解技術缺陷，測試證明，最新的AI大模型仍不同程度存在模型幻覺、模型歧視、算法共振、隱私泄露等缺陷。

三是未能消解解釋性難題，算法創新增加了模型的非線性、隨機性和不確定性，模型的解釋更加復雜，目前尚未找到一種通用、公認的解釋方法。

我個人認為，中短期內智能金融創新并不要求金融模型自身具備解決數學、編程、創意等復雜問題的高超能力。李禮輝稱，智能金融創新的基石是可信任，必須統籌安全和效率，注重算法與場景的匹配性與適用性，實現模型可信，讓客戶信得過，讓市場信得過，讓政府信得過。

當潛在風險不可忽視，配套安全監管的建立成為必然要求，但監管的尺度是常被討論的話題。

李禮輝指出，智能金融創新并非是給傳統體制、傳統流程加上智能化外套，而是從根本上改革體制，重構流程，再造底層系統。在智能金融治理上，過于嚴苛的監管可能抑制技術創新和產業發展，應該剛柔并濟，洞察創新，支持創新，引導創新。

值得一提的是，近期某智能手機的權限過高引發關于 AI 邊界的廣泛討論，AI Agent（代理）涉及金融場景的部分操作更是引發不小爭議。

李禮輝在演講中提到，必須加快制度創新，確定金融智能體（Financial-Agent）的法律地位。主要是明確金融智能體的行為邊界，明確金融智能體與金融客戶的法理關系，明確金融機構管理者的決策責任，同時建立金融智能體評估審核制度。

而金融智能體影響的不僅是用戶，金融行業本身亦將逐步發生變化。

李禮輝認為，深度智能化將逐步改變金融業的人力資源結構，一是更多的經營管理崗位將匹配懂AI、懂金融的復合型人才，二是更多的專業性、技術性崗位將被金融智能體替代，三是更多的操作性、勞動密集型崗位將外包給應用數字化技術提供集約化服務的企業。

為此，金融業人力資源管理的傳統觀念必須轉變，人力資源管理的制度必須轉變，高校人才培養方向和具體專業結構也必須轉變。李禮輝說，金融行業、金融機構的價值取向將影響AI替代的具體速度和深度，暨AI替代發生的時間節點、具體崗位和替代比率。這將取決于智能體的專業性和可靠性，取決于金融監管對智能體的評估和審核，取決于勞動就業觀念和政策的容納和許可。