“快訊類新聞生產(chǎn)從1小時壓縮到12分鐘，突發(fā)新聞的AI響應(yīng)速度甚至做到30秒內(nèi)生成首條快訊。效率的飛躍讓主流媒體在和謠言的競賽中占據(jù)了主動權(quán)?！痹诮裉炫e行的2025中國報業(yè)傳媒行業(yè)人工智能應(yīng)用大會上，南開大學(xué)教授、博導(dǎo)，中國科技新聞學(xué)會副理事長劉亞東展示了AI為傳媒行業(yè)帶來的變化。

然而，面對AI技術(shù)的高歌猛進(jìn)，劉亞東也發(fā)出警示：“技術(shù)跑得再快，也不能脫離合規(guī)和倫理這條韁繩，這是行業(yè)可持續(xù)發(fā)展的絕對底線?！?/p>

論壇現(xiàn)場 新民晚報記者馬丹 攝

AI面臨“幻覺”與濫用的挑戰(zhàn)

一邊是AI協(xié)作智能配音帶來的生產(chǎn)效率提升，另一邊深度偽造、信息謠言引發(fā)的信任危機(jī)撲面而來，AI技術(shù)在帶來效率提升的同時，生成式AI的“雙刃劍”效應(yīng)也日益提升。

“AI幻覺，即人工智能在生成內(nèi)容時出現(xiàn)的虛假或誤導(dǎo)性信息?！鄙虾Ｊ行畔踩珳y評認(rèn)證中心總工程師李宏達(dá)指出，AI幻覺源于數(shù)據(jù)質(zhì)量、算法機(jī)制與概率模型的多重作用?！熬拖窈⒆釉诔涑馀K話的環(huán)境中長大，模型若訓(xùn)練數(shù)據(jù)不干凈，輸出結(jié)果必然失真，也會誤導(dǎo)人類的判斷和認(rèn)知?！?/p>

財躍星辰首席運(yùn)營官張展揭示了金融領(lǐng)域面臨著的“語料污染”問題?！熬W(wǎng)絡(luò)上充斥著源自自媒體的‘小作文’，大模型通過搜索引擎捕捉到這些信息后，會不加判斷地將其作為答案輸出。這已形成一條從虛假信息炮制、社交媒體傳播，到AI模型背書，最終觸發(fā)量化策略、引發(fā)市場共振的完整產(chǎn)業(yè)鏈，嚴(yán)重擾亂了投資市場。”

AI技術(shù)濫用也已出現(xiàn)諸多現(xiàn)實案例。李宏達(dá)提到，本月初發(fā)生的“溫崢嶸盜播事件”中，同一個AI生成的溫崢嶸形象在十幾個直播間同時出現(xiàn)，正是技術(shù)濫用的典型例證。

治理體系正在構(gòu)建和完善

面對挑戰(zhàn)，建立清晰的治理規(guī)則已成為行業(yè)共識。劉亞東強(qiáng)調(diào)：“我們越來越感覺到，建立清晰的AI內(nèi)容審核標(biāo)準(zhǔn)，確保內(nèi)容的合法性、真實性和公信力，已經(jīng)不是選答題，而是必答題。因為一旦失去了信任，所有的效率和創(chuàng)新都有可能歸零?！?/p>

治理體系正在加速構(gòu)建。李宏達(dá)介紹：“中央網(wǎng)信辦推出的生成式人工智能標(biāo)識管理辦法，通過顯性標(biāo)識和隱形數(shù)字水印技術(shù)，實現(xiàn)了從生成、傳播到溯源的全程監(jiān)管閉環(huán)?！彼€透露，政務(wù)領(lǐng)域已對AI應(yīng)用提出硬性要求，“面向公眾服務(wù)的大模型準(zhǔn)確率必須達(dá)到95%以上”，監(jiān)管層面對未落實標(biāo)識要求的單位也已采取處罰措施。

上海人工智能研究院首席數(shù)字官林圓圓提出了構(gòu)建可信AI生態(tài)的權(quán)責(zé)框架，強(qiáng)調(diào)需從技術(shù)方、內(nèi)容生產(chǎn)者、平臺、用戶四方面共同發(fā)力。“技術(shù)方有責(zé)任提供可靠工具并明確使用邊界；內(nèi)容生產(chǎn)者需要保證信源準(zhǔn)確，并對使用AI生成的部分進(jìn)行明確標(biāo)注；平臺方則要承擔(dān)內(nèi)容審核責(zé)任，防止問題信息被算法放大；而作為終端消費(fèi)者，每個公民都有責(zé)任提升信息鑒別能力，而不是人云亦云?！?/p>

在AI“雙刃劍”效應(yīng)下，主流媒體正擔(dān)起責(zé)任。上海正通過推動AI治理平臺建設(shè)、參與制定行業(yè)標(biāo)準(zhǔn)等方式，確保技術(shù)創(chuàng)新“安全可控、向上向善”。全國多家媒體推出AI辟謠智能體，用技術(shù)手段對抗虛假信息傳播。

原標(biāo)題：《都在說AI讓內(nèi)容“提速”，這場報業(yè)大會卻在談如何拴上“韁繩”》

欄目編輯：陸梓華

本文作者：新民晚報 馬丹