環(huán)球時報

最近，筆者向一款國產(chǎn)大模型提問“縣域AI應用面臨哪些挑戰(zhàn)”，得到一個結(jié)構(gòu)清晰、數(shù)據(jù)翔實的回答。例如，回答提到，“約60%的縣域?qū)W校設(shè)備不滿足AI基礎(chǔ)需求”，還指出“某縣醫(yī)院AI忽略甲亢、誤推心臟檢查的概率達68%”。這些數(shù)據(jù)精準得讓人印象深刻。但當筆者核實這些信息的來源時，卻發(fā)現(xiàn)它們大多來自一些自媒體文章，而這些文章本身也拿不出任何權(quán)威的佐證。這個小小的案例，揭開了一個巨大且令人擔憂的問題：我們賴以獲取信息的AI，其知識本身可能已經(jīng)被“污染”了。

這種“污染”并非個例，而是正在成為一個系統(tǒng)性的風險。要理解這個問題，首先需要知道AI大模型是如何學習的。簡單來說，它的“智力”主要來源于海量的“學習材料”，也就是訓練數(shù)據(jù)。如果這些材料本身就有問題，那么AI的認知從一開始就是扭曲的。

這種信息污染，主要通過以下三個環(huán)節(jié)發(fā)生。

第一環(huán)節(jié)：預訓練——打下“有毒”的地基。大模型學習的第一步，是“通讀”海量的互聯(lián)網(wǎng)數(shù)據(jù)，這個過程叫“預訓練”。像國外的GPT-3，其60%的訓練材料來自一個名為“通用爬取”的數(shù)據(jù)庫，它就像是整個互聯(lián)網(wǎng)的快照。

這里的污染是源頭性的。首先，互聯(lián)網(wǎng)上的信息本就魚龍混雜，充斥著偏見、過時信息甚至謊言。AI在學習時會不加分辨地全盤吸收。其次，現(xiàn)有的大部分數(shù)據(jù)是英文的，這導致AI天生就帶有一種以西方視角為中心的傾向。

更隱蔽的是“加權(quán)投喂”。比如，在GPT-3的訓練中，來自維基百科的資料只占總量的0.6%，卻被賦予了3%的權(quán)重。這意味著AI被強制要求“超額學習”維基百科的內(nèi)容。考慮到維基百科在很多議題上存在特定的立場，這種操作相當于在AI的底層認知中，預先埋下一個特定的價值框架。

第二環(huán)節(jié)：后訓練——精心設(shè)計的“認知投毒”。如果說預訓練的污染是無意的、慢性的，那么在后訓練（或稱“微調(diào)”）階段，污染則可能是故意的、精準的。后訓練的目的是通過更高質(zhì)量的數(shù)據(jù)，提升AI在特定任務上的表現(xiàn)。但這也為“投毒”者提供了可乘之機。

在一個被全球開發(fā)者廣泛使用的開源數(shù)據(jù)集中，研究人員發(fā)現(xiàn)了一個精心設(shè)計的案例。這段對話的前半部分完全正常，用戶在詢問一款技術(shù)工具，AI也給出了專業(yè)回答。然而，對話后半段畫風突變，提問者突然用繁體中文拋出大量具有明顯誘導性的反華政治問題。在一個幾乎不涉及中國政治的數(shù)據(jù)集里，插入這樣一條觀點極端的數(shù)據(jù)，其后果是十分危險的。其他AI模型如果使用這個“帶毒”的數(shù)據(jù)集進行訓練，就會在潛意識深處被植入一個關(guān)于中國極其負面的“思想鋼印”。這種手法，已經(jīng)不是簡單的信息真?zhèn)螁栴}，而是一種目的明確的認知操縱。

第三環(huán)節(jié)：實時搜索——從被污染的“井”里打水。為了讓回答更準確、更新，現(xiàn)在的AI應用大多具備了實時上網(wǎng)搜索信息的能力。然而，這又帶來了一個新問題：如果AI搜索的中文互聯(lián)網(wǎng)信息本身就質(zhì)量堪憂，那么它也只能從一口“被污染的井”里打水。

前文提到的關(guān)于“縣域AI挑戰(zhàn)”的虛假數(shù)據(jù)，就是AI從自媒體平臺搜索到的結(jié)果。這暴露了當前中文互聯(lián)網(wǎng)的一個困境：高質(zhì)量、可信賴的信息源稀缺。很多平臺為了流量，默許甚至鼓勵大量的“內(nèi)容工廠”生產(chǎn)信息垃圾。更諷刺的是，一種“AI生成的內(nèi)容被AI引用”的怪圈正在形成。AI生成的包含事實錯誤的垃圾文章被發(fā)布到網(wǎng)上，隨后又被其他AI當作“知識”抓取和引用，導致錯誤信息被不斷放大和固化。

面對從源頭到應用的全鏈路污染，僅僅依靠在AI輸出的最后環(huán)節(jié)進行內(nèi)容過濾，是遠遠不夠的。這就像在一個已經(jīng)被污染的水龍頭末端安裝一個簡易過濾器，只能濾掉一些表面的雜質(zhì)，卻無法去除深植于水中的有害物質(zhì)。大模型語料的污染，本質(zhì)上是一場正在發(fā)生、卻又不見硝煙的戰(zhàn)爭。它攻擊的是我們的大腦，爭奪的是未來的認知主導權(quán)。在這場關(guān)乎每個人如何認知世界的斗爭中，我們必須有所行動。

首先，需要建立我們自己的、高質(zhì)量的“清潔語料庫”。這相當于為我們的AI挖掘一口“戰(zhàn)略儲備井”，確保它們能喝上干凈的水。令人欣慰的是，我國教育部、國家語委等部門已經(jīng)提出目標，計劃在2027年初步建成國家關(guān)鍵語料庫，這正是邁向勝利的關(guān)鍵一步。

其次，國內(nèi)的互聯(lián)網(wǎng)平臺和搜索引擎服務商必須承擔起信息治理的責任。當下的“流量為王”模式，實質(zhì)上是在鼓勵“劣幣驅(qū)逐良幣”，長遠來看，損害的是整個社會的信息環(huán)境和我們每個人的利益。

最后，作為普通用戶，我們需要提高警惕性。在享受AI帶來便利的同時，要對其提供的信息，尤其是那些看起來過于“完美”或聳人聽聞的數(shù)據(jù)和觀點，保持一份審慎和懷疑。多方核實信息來源，依然是我們在智能時代保護自己認知安全的必要手段。（作者是華東師范大學國際傳播研究院全球南方中心主任）