國(guó)產(chǎn)大模型DeepSeek憑借其技術(shù)范式的革新和性能優(yōu)勢(shì)躋身全球大模型第一梯隊(duì)，中國(guó)人工智能領(lǐng)域迎來(lái)突破，但大模型與生俱來(lái)的“幻覺(jué)”、大模型應(yīng)用的安全問(wèn)題也引發(fā)了廣泛關(guān)注。

今年全國(guó)兩會(huì)期間，全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎表示，大模型“幻覺(jué)”對(duì)大模型的創(chuàng)造力非常重要，應(yīng)給予適度包容；不過(guò)政府、企業(yè)在落地大模型應(yīng)用時(shí)，需要將安全要素深度嵌入人工智能應(yīng)用全流程。

對(duì)大模型“幻覺(jué)”給予適度包容

以DeepSeek為代表的大模型，不僅促進(jìn)了大模型技術(shù)自主創(chuàng)新，也帶動(dòng)了上下游產(chǎn)業(yè)協(xié)同發(fā)展，讓大模型加速走進(jìn)百行千業(yè)，成為推動(dòng)中國(guó)科技進(jìn)步、經(jīng)濟(jì)增長(zhǎng)和國(guó)家強(qiáng)盛的關(guān)鍵力量。

但周鴻祎表示，包括DeepSeek在內(nèi)的大模型都存在“幻覺(jué)”，偶爾會(huì)生成看似不合理、與事實(shí)不符的情況。在他看來(lái)，“幻覺(jué)”是一把雙刃劍，是大模型與生俱來(lái)的特點(diǎn)，不可消除，也決定其創(chuàng)造力和想象力，對(duì)于實(shí)現(xiàn)AGI（通用人工智能）極其重要。如果大模型沒(méi)有“幻覺(jué)”，就失去了想象力和創(chuàng)造力，并且越是能力強(qiáng)的模型，幻覺(jué)也越多。

在他看來(lái)，在科研領(lǐng)域，大模型的“幻覺(jué)”能“想象”新藥分子結(jié)構(gòu)、蛋白質(zhì)的結(jié)構(gòu)等，為新研究指引方向。在醫(yī)療、法律、金融等對(duì)準(zhǔn)確性要求高的領(lǐng)域，“幻覺(jué)”雖然可能出錯(cuò)，但可以利用技術(shù)手段，如RAG（檢索增強(qiáng)生成）技術(shù)，通過(guò)比對(duì)專業(yè)知識(shí)庫(kù)、網(wǎng)絡(luò)實(shí)時(shí)信息等方式予以矯正。

周鴻祎表示，回顧過(guò)去30年，我國(guó)法律法規(guī)吸納了“避風(fēng)港原則”，讓企業(yè)敢于投入創(chuàng)新，帶來(lái)了互聯(lián)網(wǎng)行業(yè)的繁榮，也為后來(lái)的“互聯(lián)網(wǎng)+”、如今的“人工智能+”提供了技術(shù)、產(chǎn)業(yè)和人才支撐。

因此，他建議，借鑒“避風(fēng)港原則”成功經(jīng)驗(yàn)，對(duì)大模型以及相關(guān)的產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管，適度包容大模型的“幻覺(jué)”，對(duì)于“幻覺(jué)”導(dǎo)致的一般性失誤，給予企業(yè)自我糾正的機(jī)會(huì)，促進(jìn)企業(yè)大膽創(chuàng)新，爭(zhēng)取讓更多企業(yè)“復(fù)制”DeepSeek的成功。

“以模制?！苯鉀Q大模型應(yīng)用安全問(wèn)題

在大模型應(yīng)用層面，周鴻祎認(rèn)為，隨著開(kāi)源帶來(lái)大模型的廣泛應(yīng)用，未來(lái)將會(huì)有各類專業(yè)大模型、垂直大模型、場(chǎng)景大模型，連接內(nèi)部知識(shí)庫(kù)，以智能體的形式在大批政府機(jī)構(gòu)和企業(yè)中廣泛部署，推進(jìn)“數(shù)轉(zhuǎn)智改”，實(shí)現(xiàn)降本增效。

然而大模型存在幻覺(jué)、內(nèi)容安全等諸多問(wèn)題，無(wú)法通過(guò)傳統(tǒng)安全方案有效化解，這可能會(huì)給一些部署在政府、企業(yè)內(nèi)部的基座模型、知識(shí)庫(kù)或智能帶來(lái)潛在風(fēng)險(xiǎn)和安全挑戰(zhàn)。

基座模型安全方面，由于大模型普遍存在的“幻覺(jué)”現(xiàn)象，這在政策制定、法律條文解讀或商業(yè)決策等場(chǎng)景下可能導(dǎo)致誤導(dǎo)性后果。

知識(shí)庫(kù)安全方面，政府和企業(yè)核心數(shù)據(jù)資產(chǎn)存儲(chǔ)于內(nèi)部知識(shí)庫(kù)中，若缺乏有效的安全控制措施，未授權(quán)用戶可能利用與大模型交互的機(jī)會(huì)竊取這些寶貴的數(shù)據(jù)資源。

智能體安全方面，智能體通常與政府、企業(yè)內(nèi)部各類IT、郵件、控制系統(tǒng)相連，一旦遭受攻擊，可能會(huì)引發(fā)一系列連鎖反應(yīng)，從發(fā)送有害郵件到中斷生產(chǎn)線運(yùn)作，造成嚴(yán)重的物理?yè)p害。

周鴻祎介紹，針對(duì)上述挑戰(zhàn)，360運(yùn)用人工智能技術(shù)重塑安全格局，采用“以模制?！钡姆绞綉?yīng)對(duì)新難題，護(hù)航政府與企業(yè)大模型落地應(yīng)用。他建議相關(guān)部門(mén)及時(shí)出臺(tái)配套政策措施，鼓勵(lì)具備“安全+人工智能”完整解決方案的鏈主企業(yè)，加速推動(dòng)技術(shù)成果轉(zhuǎn)化，將安全要素深度嵌入人工智能應(yīng)用全流程。

實(shí)習(xí)編輯:金怡杉 | 審校:陳筱娟 | 審核:李震 | 監(jiān)審:萬(wàn)軍偉