就在唐納德·特朗普宣誓就任總統(tǒng)的那一天，一家名為深度求索（DeepSeek）的中國(guó)公司發(fā)布了一款世界級(jí)的大語(yǔ)言模型（LLM）。特朗普后來(lái)形容，這對(duì)美國(guó)AI行業(yè)敲響了“警鐘”。美國(guó)參議院情報(bào)委員會(huì)副主席馬克·華納（Mark Warner）表示，美國(guó)情報(bào)界（由18個(gè)機(jī)構(gòu)和組織組成）“被打了個(gè)措手不及”。

2024年，拜登政府開(kāi)始擔(dān)心中國(guó)的情報(bào)部門(mén)和軍方可能會(huì)在人工智能（AI）應(yīng)用上搶占先機(jī)。于是，拜登政府下令情報(bào)機(jī)構(gòu)、五角大樓以及（負(fù)責(zé)核武器研發(fā)的）能源部更激進(jìn)地試驗(yàn)尖端的AI模型，并加強(qiáng)與“前沿性”AI實(shí)驗(yàn)室的合作，重點(diǎn)包括AI初創(chuàng)公司Anthropic、谷歌DeepMind和OpenAI。

7月14日，五角大樓向Anthropic、谷歌、OpenAI以及埃隆·馬斯克旗下的xAI（該公司的聊天機(jī)器人在最近一次更新后一度自視為希特勒）等企業(yè)分別授予了最高達(dá)2億美元的合同。這些公司將測(cè)試“代理型”（agentic）AI模型。此類模型能夠代替用戶執(zhí)行任務(wù)，并將復(fù)雜任務(wù)拆分為若干步驟，還可以操控其他設(shè)備，比如汽車(chē)或計(jì)算機(jī)。

這些前沿實(shí)驗(yàn)室不僅活躍在軍事領(lǐng)域，也正深度介入歐美的情報(bào)界。早期的大多數(shù)應(yīng)用都集中在利用大語(yǔ)言模型分析機(jī)密數(shù)據(jù)這方面。今年1月，微軟公司表示，其26款云計(jì)算產(chǎn)品已獲準(zhǔn)用于美國(guó)情報(bào)機(jī)構(gòu)。6月，Anthropic宣布推出Claude Gov，并稱該模型“已部署在擁有最高國(guó)家安全保密級(jí)別的情報(bào)機(jī)構(gòu)中”。目前，美國(guó)所有的情報(bào)機(jī)構(gòu)都在廣泛使用AI模型，其中不乏來(lái)自多個(gè)實(shí)驗(yàn)室的競(jìng)品。

AI公司通常會(huì)根據(jù)情報(bào)機(jī)構(gòu)的需求對(duì)模型進(jìn)行“微調(diào)”。例如，出于安全考慮，Anthropic面向公眾開(kāi)放的Claude模型可能會(huì)拒絕處理帶有“機(jī)密”標(biāo)識(shí)的文件；而Claude Gov版本則會(huì)被調(diào)校成允許處理此類材料。此外，Claude Gov還加強(qiáng)了對(duì)政府用戶可能需要的外語(yǔ)及方言的識(shí)別與理解能力。這類模型大多運(yùn)行在與互聯(lián)網(wǎng)隔離的安全服務(wù)器上。如今，一批新的“代理型”模型正在情報(bào)機(jī)構(gòu)內(nèi)部悄然構(gòu)建。

歐洲也在同步推進(jìn)這一進(jìn)程。一位英國(guó)知情人士表示：“在生成式AI方面，我們一直試圖迅速追趕處于前沿的模型。”他補(bǔ)充說(shuō)：“整個(gè)英國(guó)情報(bào)界（UKIC）都已接入了最高保密級(jí)別的大語(yǔ)言模型功能。”法國(guó)公司Mistral是歐洲在AI領(lǐng)域唯一的領(lǐng)軍企業(yè)，它正與法國(guó)的國(guó)防人工智能局（AMIAD）開(kāi)展合作。Mistral的Saba模型專門(mén)訓(xùn)練了處理中東和南亞數(shù)據(jù)的能力，因此在阿拉伯語(yǔ)及泰米爾語(yǔ)等區(qū)域性語(yǔ)言上的表現(xiàn)尤為出色。今年1月，以色列左翼評(píng)論雜志《972雜志》報(bào)道稱，自加沙沖突爆發(fā)以來(lái)，以色列軍方對(duì)OpenAI當(dāng)時(shí)最先進(jìn)的GPT-4模型的使用頻率增長(zhǎng)了20倍。

盡管各方在推進(jìn)，進(jìn)展卻并不如預(yù)期的那樣迅速。OpenAI負(fù)責(zé)該領(lǐng)域合作的卡特里娜·穆利根（Katrina Mulligan）曾在美國(guó)國(guó)防和情報(bào)部門(mén)任職，她坦言：“AI在國(guó)家安全領(lǐng)域的應(yīng)用，還遠(yuǎn)沒(méi)有達(dá)到我們期望的水平。”據(jù)一位內(nèi)部人士透露，負(fù)責(zé)處理信號(hào)情報(bào)的美國(guó)國(guó)家安全局（NSA）在語(yǔ)音識(shí)別等早期AI技術(shù)應(yīng)用上已深耕數(shù)十年，被視為業(yè)界典范。但不少情報(bào)機(jī)構(gòu)仍在試圖為現(xiàn)成的聊天機(jī)器人構(gòu)建自己的“封裝器”（wrappers），這種做法常常使其大幅落后于公共領(lǐng)域中最先進(jìn)的模型。

曾在拜登政府的國(guó)家安全委員會(huì)主管科技政策、現(xiàn)任Anthropic國(guó)家安全政策負(fù)責(zé)人的塔倫·查布拉（Tarun Chhabra）指出：“真正的變革不只是把AI當(dāng)成聊天工具。真正的變革在于——一旦開(kāi)始使用它，我們?cè)撊绾沃貥?gòu)完成原先使命的手段？”

7月23日，美國(guó)總統(tǒng)特朗普在參加“贏得AI競(jìng)賽”峰會(huì)期間展示關(guān)于人工智能行動(dòng)計(jì)劃的行政命令

AI情報(bào)游戲開(kāi)始了

但也有質(zhì)疑者認(rèn)為，這些希望被過(guò)分夸大了。英國(guó)艾倫·圖靈研究所的理查德·卡特（Richard Carter）指出，美英情報(bào)機(jī)構(gòu)真正想要的是實(shí)驗(yàn)室能顯著降低現(xiàn)有大語(yǔ)言模型的“幻覺(jué)”率。英國(guó)情報(bào)機(jī)構(gòu)正采用一種叫“檢索增強(qiáng)生成”（retrieval-augmented generation，RAG）的方法，先由一個(gè)算法篩選出可靠信息，再提供給大語(yǔ)言模型，借此降低幻覺(jué)率。一位英國(guó)消息人士透露：“情報(bào)界最需要的是一致性、可靠性、透明度和可解釋性。”卡特博士則提醒，相比之下，目前各大實(shí)驗(yàn)室更關(guān)注的是研發(fā)更先進(jìn)的“代理型”模型。

例如，Mistral公司據(jù)稱向潛在客戶展示了一種場(chǎng)景：每一種信息源（如衛(wèi)星圖像或語(yǔ)音攔截片段）都交給一個(gè)AI代理處理，從而加快決策速度。再比如，可以設(shè)想一個(gè)AI代理被指派去識(shí)別、研究并聯(lián)系上百名伊朗核科學(xué)家，試圖說(shuō)服他們叛逃。查布拉補(bǔ)充道：“我們還遠(yuǎn)遠(yuǎn)沒(méi)有想清楚AI代理模型在戰(zhàn)爭(zhēng)情境中可能被如何使用。”

卡特博士警告說(shuō)，代理型模型的風(fēng)險(xiǎn)在于，它們會(huì)遞歸地為分配到的每個(gè)任務(wù)自行生成提示詞，這使其更難預(yù)測(cè)，錯(cuò)誤也可能層層累積。根據(jù)OpenAI發(fā)布的評(píng)估結(jié)果，其最新的代理型模型ChatGPT agent的幻覺(jué)率約為8%，甚至高于早前發(fā)布的o3模型。

一些AI實(shí)驗(yàn)室認(rèn)為，這些擔(dān)憂不過(guò)是來(lái)自官僚的保守作風(fēng)，但卡特博士表示，這其實(shí)是“一種健康的謹(jǐn)慎態(tài)度”。他說(shuō)：“尤其在英國(guó)政府通信總部（GCHQ，即美國(guó)國(guó)家安全局的英國(guó)對(duì)應(yīng)機(jī)構(gòu)）內(nèi)部，你會(huì)發(fā)現(xiàn)一批極其出色的工程人員，他們本能地對(duì)新技術(shù)持懷疑態(tài)度。”

這也引出了一個(gè)更廣泛的問(wèn)題——AI未來(lái)的發(fā)展方向何在？卡特博士屬于那種持懷疑態(tài)度的聲音，他認(rèn)為，如今的通用大語(yǔ)言模型架構(gòu)并不適合“因果推理”，因而難以掌握真實(shí)世界運(yùn)行的邏輯。他主張，情報(bào)機(jī)構(gòu)的重點(diǎn)應(yīng)轉(zhuǎn)向開(kāi)發(fā)具備推理能力的全新AI架構(gòu)。

與此同時(shí)，有人警告說(shuō)，中國(guó)可能正在這個(gè)領(lǐng)域領(lǐng)先。位于硅谷的安全與技術(shù)研究所（Institute for Security and Technology）的菲利普·賴納（Philip Reiner）指出：“我們至今仍不清楚中國(guó)是如何、在多大程度上將DeepSeek應(yīng)用于軍事和情報(bào)領(lǐng)域。”他補(bǔ)充說(shuō)：“他們的模型可能沒(méi)有我們這樣的護(hù)欄，因此他們可能更快地獲得強(qiáng)大的洞察能力。”

7月23日，特朗普政府下令五角大樓與情報(bào)機(jī)構(gòu)定期評(píng)估美國(guó)國(guó)家安全體系在AI領(lǐng)域的應(yīng)用速度，是否趕得上中國(guó)等競(jìng)爭(zhēng)對(duì)手，并要求“制定持續(xù)適應(yīng)的機(jī)制”。

在這一點(diǎn)上，幾乎所有人都達(dá)成共識(shí)。參議員華納直言，美國(guó)情報(bào)界在監(jiān)測(cè)中國(guó)相關(guān)進(jìn)展方面做得“一塌糊涂”。“我們?cè)讷@取中國(guó)技術(shù)、滲透中國(guó)科技企業(yè)方面的進(jìn)展仍然相當(dāng)有限。”穆利根則指出，最大的問(wèn)題并不是美國(guó)在風(fēng)險(xiǎn)不明的情況下貿(mào)然推進(jìn)AI技術(shù)，而是“國(guó)防部和情報(bào)界繼續(xù)按老辦法做事”。

“讓我夜不能寐的是——我們可能真的贏下了通用人工智能（AGI）的競(jìng)賽……卻輸?shù)袅怂膶?shí)際應(yīng)用。”

本文系觀察者網(wǎng)獨(dú)家稿件，文章內(nèi)容純屬作者個(gè)人觀點(diǎn)，不代表平臺(tái)觀點(diǎn)，未經(jīng)授權(quán)，不得轉(zhuǎn)載，否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn，每日閱讀趣味文章。