12月19日訊（記者 嚴(yán)沁雯）"金融是安全性和可信度要求近乎苛刻的行業(yè)，必須保證金融資產(chǎn)和金融數(shù)據(jù)的安全，保證金融交易和金融服務(wù)的可靠性，保證賬務(wù)處理和賬務(wù)記錄的準(zhǔn)確性。"在12月19日舉行的"第二十二屆中國(guó)國(guó)際金融論壇"上，中國(guó)銀行原行長(zhǎng)李禮輝表示。

智能金融創(chuàng)新正在重構(gòu)金融生態(tài)，背后所涉風(fēng)險(xiǎn)亦成為大眾聚焦所在。在李禮輝看來(lái)，人工智能潛在的安全風(fēng)險(xiǎn)和技術(shù)缺陷尚未因生成式AI的算法創(chuàng)新而淡化。

一是未能消解安全風(fēng)險(xiǎn)，攻擊者可利用技術(shù)漏洞實(shí)施數(shù)據(jù)投毒、參數(shù)竊取、惡意文件上傳和關(guān)鍵組件刪除等操作，破壞核心數(shù)據(jù)，影響模型的算法完整性和運(yùn)行穩(wěn)定性。

二是未能消解技術(shù)缺陷，測(cè)試證明，最新的AI大模型仍不同程度存在模型幻覺(jué)、模型歧視、算法共振、隱私泄露等缺陷。

三是未能消解解釋性難題，算法創(chuàng)新增加了模型的非線性、隨機(jī)性和不確定性，模型的解釋更加復(fù)雜，目前尚未找到一種通用、公認(rèn)的解釋方法。

"我個(gè)人認(rèn)為，中短期內(nèi)智能金融創(chuàng)新并不要求金融模型自身具備解決數(shù)學(xué)、編程、創(chuàng)意等復(fù)雜問(wèn)題的高超能力。"李禮輝稱，智能金融創(chuàng)新的基石是可信任，必須統(tǒng)籌安全和效率，注重算法與場(chǎng)景的匹配性與適用性，實(shí)現(xiàn)模型可信，讓客戶信得過(guò)，讓市場(chǎng)信得過(guò)，讓政府信得過(guò)。

當(dāng)潛在風(fēng)險(xiǎn)不可忽視，配套安全監(jiān)管的建立成為必然要求，但監(jiān)管的尺度是常被討論的話題。

李禮輝指出，智能金融創(chuàng)新并非是給傳統(tǒng)體制、傳統(tǒng)流程加上智能化外套，而是從根本上改革體制，重構(gòu)流程，再造底層系統(tǒng)。在智能金融治理上，過(guò)于嚴(yán)苛的監(jiān)管可能抑制技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展，應(yīng)該剛?cè)岵?jì)，洞察創(chuàng)新，支持創(chuàng)新，引導(dǎo)創(chuàng)新。

值得一提的是，近期某智能手機(jī)的權(quán)限過(guò)高引發(fā)關(guān)于 AI 邊界的廣泛討論，AI Agent（代理）涉及金融場(chǎng)景的部分操作更是引發(fā)不小爭(zhēng)議。

李禮輝在演講中提到，"必須加快制度創(chuàng)新，確定金融智能體（Financial-Agent）的法律地位。主要是明確金融智能體的行為邊界，明確金融智能體與金融客戶的法理關(guān)系，明確金融機(jī)構(gòu)管理者的決策責(zé)任，同時(shí)建立金融智能體評(píng)估審核制度。"

而金融智能體影響的不僅是用戶，金融行業(yè)本身亦將逐步發(fā)生變化。

李禮輝認(rèn)為，深度智能化將逐步改變金融業(yè)的人力資源結(jié)構(gòu)，一是更多的經(jīng)營(yíng)管理崗位將匹配懂AI、懂金融的復(fù)合型人才，二是更多的專業(yè)性、技術(shù)性崗位將被金融智能體替代，三是更多的操作性、勞動(dòng)密集型崗位將外包給應(yīng)用數(shù)字化技術(shù)提供集約化服務(wù)的企業(yè)。

"為此，金融業(yè)人力資源管理的傳統(tǒng)觀念必須轉(zhuǎn)變，人力資源管理的制度必須轉(zhuǎn)變，高校人才培養(yǎng)方向和具體專業(yè)結(jié)構(gòu)也必須轉(zhuǎn)變。"李禮輝說(shuō)，金融行業(yè)、金融機(jī)構(gòu)的價(jià)值取向?qū)⒂绊慉I替代的具體速度和深度，暨AI替代發(fā)生的時(shí)間節(jié)點(diǎn)、具體崗位和替代比率。這將取決于智能體的專業(yè)性和可靠性，取決于金融監(jiān)管對(duì)智能體的評(píng)估和審核，取決于勞動(dòng)就業(yè)觀念和政策的容納和許可。