機(jī)器之心原創(chuàng)

作者：蛋醬

今年 7 月，一份全球數(shù)字經(jīng)濟(jì)白皮書(shū) (2024)統(tǒng)計(jì)顯示，全球目前已有 1300 多個(gè)基礎(chǔ)大模型，美國(guó)的數(shù)量最多，中國(guó)緊隨其后排在第二。

這一數(shù)字對(duì)比說(shuō)明，在大模型這張「牌桌」上，中美是最具實(shí)力的兩個(gè)玩家。曾經(jīng)，中國(guó)奮力追趕「OpenAI 們」，兩年之后我們可以看到，國(guó)產(chǎn)大模型在技術(shù)層面已抵達(dá)全球第一梯隊(duì)。

而在這個(gè)過(guò)程中，圈內(nèi)玩家逐漸分化出兩條路線：一派繼續(xù)卷性能，一派專注搞應(yīng)用。

國(guó)內(nèi)的優(yōu)勢(shì)恰恰在于產(chǎn)業(yè)場(chǎng)景極其豐富，落地空間極其廣闊。面向大模型的下半場(chǎng)戰(zhàn)事，業(yè)界普遍認(rèn)為，中國(guó)將在應(yīng)用層展現(xiàn)出更強(qiáng)的后勁。

目前的核心問(wèn)題是，如何讓大模型技術(shù)盡快與更多真實(shí)的產(chǎn)業(yè)場(chǎng)景連接起來(lái)。

從何處入手？一是精準(zhǔn)定位最需要大模型的產(chǎn)業(yè)場(chǎng)景，二是找到能解決這些真實(shí)場(chǎng)景問(wèn)題的人才。

一場(chǎng)直面「產(chǎn)業(yè)真命題」的技術(shù)賽事

我們熟悉的大模型落地案例更多發(fā)生在對(duì)話、作畫、視頻等方向，但其價(jià)值遠(yuǎn)不止于此，大模型同樣可以深刻改變城市發(fā)展、金融科技、生物醫(yī)藥、工業(yè)制造、科學(xué)研究等領(lǐng)域。

已連續(xù)舉辦兩屆的 AFAC 金融智能創(chuàng)新大賽，正在成為國(guó)內(nèi)大模型人才競(jìng)逐金融產(chǎn)業(yè)真命題的賽場(chǎng)。

AFAC2024 金融智能創(chuàng)新大賽(以下簡(jiǎn)稱 AFAC2024 大賽）以金融行業(yè)內(nèi)真實(shí)案例及海量真實(shí)數(shù)據(jù)為牽引，鼓勵(lì)參賽者直面金融產(chǎn)業(yè)真命題，探索最具挑戰(zhàn)的創(chuàng)新模型和算法。在去年賽制的基礎(chǔ)上，AFAC2024 大賽對(duì)比賽形式進(jìn)一步升級(jí)，在「挑戰(zhàn)組」之外新增了「初創(chuàng)組」和「企業(yè)組」，形成了涵蓋算法賽、應(yīng)用賽和創(chuàng)業(yè)賽的綜合賽制架構(gòu)。

螞蟻集團(tuán)副總裁、螞蟻金融技術(shù)委員會(huì)主席王曉航表示，舉辦 AFAC2024 大賽的出發(fā)點(diǎn)之一就是集聚、培養(yǎng)優(yōu)秀科技人才、開(kāi)展高水平合作交流。

同時(shí)，大賽設(shè)立了豐厚的獎(jiǎng)金池，并為選手提供了配套的技術(shù)支持，吸引了數(shù)千個(gè)極具潛力的大模型團(tuán)隊(duì)參與。值得注意的是，選手們可以基于螞蟻開(kāi)源的 agentUniverse 多智能體框架，對(duì)多智能體協(xié)作模型進(jìn)行開(kāi)發(fā)定制，輕松構(gòu)建智能體應(yīng)用，節(jié)省更多精力以專注于破解產(chǎn)業(yè)命題。

3 個(gè)月，4882 支隊(duì)伍的技術(shù)探索，讓這場(chǎng)比賽「卷」出了新的高度。中國(guó)最頂尖的一批大模型人才圍繞金融場(chǎng)景下的眾多產(chǎn)業(yè)真題，貢獻(xiàn)了眾多前沿解決方案。

「我們始終相信通過(guò)科技的力量可以帶來(lái)更多微小而美好的變化，我們期待 AI 能讓高質(zhì)量的金融服務(wù)惠及每一個(gè)人，讓更好的金融產(chǎn)品進(jìn)入千家萬(wàn)戶，成為人們生活中的一部分。」王曉航表示，「人工智能技術(shù)的作用和價(jià)值不應(yīng)僅限于研究和模型能力，更應(yīng)產(chǎn)生更大的應(yīng)用價(jià)值，就像掃碼支付一樣能夠進(jìn)入千家萬(wàn)戶，進(jìn)入每一個(gè)行業(yè)。」

接下來(lái)，讓我們來(lái)看看三個(gè)代表團(tuán)隊(duì)的技術(shù)創(chuàng)新故事。

什么樣的金融研報(bào)生成應(yīng)用

能從六百多支隊(duì)伍脫穎而出？

「擁抱 AIGC」團(tuán)隊(duì)的三位成員有很多共同點(diǎn)：都就讀于浙江大學(xué)軟件工程專業(yè)，都是碩士二年級(jí)的研究生，甚至住在同一個(gè)寢室。除了研究方向不太相同：三人分別選擇了計(jì)算機(jī)視覺(jué)、數(shù)據(jù)治理與大語(yǔ)言模型、時(shí)空數(shù)據(jù)作為主攻方向。

隊(duì)長(zhǎng)高天弘曾參加過(guò)首屆 AFAC 大賽，關(guān)注到 AFAC2024 大賽啟動(dòng)之后，他決定拉上室友再挑戰(zhàn)，盡管「金融智能」對(duì)于三人來(lái)說(shuō)是有些陌生的領(lǐng)域。

一番深思熟慮之后，他們選擇了「AIGC 金融多模態(tài)研究報(bào)告智能生成」這個(gè)賽題。團(tuán)隊(duì)需要將大模型技術(shù)和金融數(shù)據(jù)深度融合，提出有創(chuàng)新價(jià)值的金融研報(bào)生成智能體解決方案，并應(yīng)用于實(shí)際場(chǎng)景。

大模型的通用能力在不斷進(jìn)化，但要想解決高水平問(wèn)題，還要靠行業(yè)知識(shí)的進(jìn)一步積累。縱觀當(dāng)前的各類對(duì)話式 AI 應(yīng)用，生成真實(shí)、有用、高水平的研究報(bào)告仍然是一項(xiàng)極具挑戰(zhàn)性的任務(wù)。特別是對(duì)于金融這種專業(yè)門檻極高的領(lǐng)域，數(shù)據(jù)時(shí)效性、長(zhǎng)文本總結(jié)、圖表生成等都是其中存在的挑戰(zhàn)。

如何有效攻克？特別是在賽題發(fā)布后，留給團(tuán)隊(duì)完成方案設(shè)計(jì)的時(shí)間并不算多。

針對(duì)上述問(wèn)題，他們?cè)O(shè)計(jì)了一個(gè)面向金融研報(bào)生成的多智能體協(xié)同框架。具體來(lái)說(shuō)，這個(gè)框架包含三層：多元數(shù)據(jù)來(lái)源、金融研報(bào)生成智能體 Agent、多源大語(yǔ)言模型。

與傳統(tǒng)的對(duì)話系統(tǒng)不同，協(xié)同的智能體具備任務(wù)規(guī)劃和執(zhí)行能力，能夠在無(wú)需人類干預(yù)的情況下自動(dòng)處理復(fù)雜問(wèn)題，包括生成研報(bào)：

其中，團(tuán)隊(duì)以 FinGPT-Forecaster 為基礎(chǔ)，結(jié)合 LoRA 微調(diào)，訓(xùn)練了一個(gè)用于投資評(píng)級(jí)分析的股價(jià)預(yù)測(cè)大模型，克服了 ChatGPT 預(yù)測(cè)含糊和數(shù)據(jù)隱私問(wèn)題，提供了可解釋的預(yù)測(cè)結(jié)果。

為了更高效地篩選金融數(shù)據(jù)，同時(shí)保證實(shí)時(shí)性和專業(yè)性，團(tuán)隊(duì)設(shè)計(jì)了一套多源檢索增強(qiáng)方案。在檢索獲得行情、研報(bào)、股價(jià)等信息之后，首先針對(duì)走勢(shì)圖、PDF 研報(bào)等多模態(tài)數(shù)據(jù)進(jìn)行預(yù)處理，突破單模態(tài)分析的局限性，使市場(chǎng)波動(dòng)更直觀呈現(xiàn)。然后從相關(guān)性、市場(chǎng)敏感性、可靠性、時(shí)效性多個(gè)維度出發(fā)，使用基于 LLM 的重排器進(jìn)行排序優(yōu)化。在這個(gè)過(guò)程中，作為賽事主辦方之一，螞蟻集團(tuán)提供了新聞信息助手 API ，保證了數(shù)據(jù)收集的實(shí)時(shí)性，也大大減少了數(shù)據(jù)處理的工作量。

最終，這一方案在同賽道的六百多支隊(duì)伍中脫穎而出，奪得冠軍。獲獎(jiǎng)之外，三位成員通過(guò)這次比賽也學(xué)會(huì)了如何理解現(xiàn)實(shí)中的產(chǎn)業(yè)需求，又如何面向真實(shí)產(chǎn)業(yè)場(chǎng)景制定具備可行性的方案。

他們更加深刻地體會(huì)到大模型與傳統(tǒng) AI 研究的巨大差異。此前的 AI 模型基本面向具體任務(wù)而設(shè)計(jì)，僅用少量數(shù)據(jù)訓(xùn)練就可達(dá)到目標(biāo)性能。相比之下，從底層訓(xùn)練的角度說(shuō)，大模型對(duì)數(shù)據(jù)、算力的要求已經(jīng)實(shí)現(xiàn)了指數(shù)級(jí)增長(zhǎng)，對(duì)訓(xùn)練大模型的人的創(chuàng)新能力要求顯然也更上一層樓。

用大模型打造「一對(duì)一」旅行智能助理

在「初創(chuàng)組」的賽場(chǎng)上，「智游幻境 Odyssey Agent」團(tuán)隊(duì)的成果讓評(píng)委們印象十分深刻。

這個(gè)團(tuán)隊(duì)由五位熱愛(ài)旅行的年輕人組成。眾所周知，旅行的回憶是美好的，但旅行前的規(guī)劃是千頭萬(wàn)緒的。出行的人常常花費(fèi)大量時(shí)間輾轉(zhuǎn)于各個(gè)平臺(tái)之間，獲取信息、制定行程、預(yù)定服務(wù)，如果涉及出境游難度更甚。

以 Gemini、ChatGPT 為代表的對(duì)話式 AI 應(yīng)用，也具備提供旅行信息推薦的能力，但往往只有「第一次可用」。很多時(shí)候，如果我們繼續(xù)追問(wèn)，后續(xù)對(duì)話可能很難與前面所談行程保持一致。而且這些基本只能集成單個(gè)平臺(tái)的信息，無(wú)法做到有效整合旅行過(guò)程中全部所需信息。

能不能做一款提供一站式定制旅行服務(wù)的大模型應(yīng)用呢？五個(gè)人一拍即合，決定打造一個(gè)「旅行規(guī)劃智能助理」。盡管團(tuán)隊(duì)中有幾位成員在大廠的工作非常忙碌，但他們還是利用業(yè)余時(shí)間快速打造出了這個(gè)項(xiàng)目的雛形。

具體來(lái)說(shuō)，他們參考 agentUniverse 多智能體框架的交互模型設(shè)計(jì)思路，針對(duì)旅行場(chǎng)景搭建了一套多 Agent 協(xié)作體系：「CHaTS」（Consult，Hotel and Transportation，Spots）。

生成一個(gè)七日行程平均要調(diào)用大語(yǔ)言模型 50 余次，能在 3 到 5 分鐘內(nèi)返回一個(gè)城市的旅行規(guī)劃和游記 Vlog。對(duì)于用戶來(lái)說(shuō)，最大的體驗(yàn)提升就是推薦的攻略細(xì)節(jié)真的更豐富了。

由于涉及到多個(gè)大語(yǔ)言模型生成機(jī)制，為了避免前后行程矛盾、關(guān)鍵信息的遺忘以及 token 長(zhǎng)度和整體成本問(wèn)題，團(tuán)隊(duì)引入了共享記憶和 tool memory 機(jī)制。具體來(lái)說(shuō)，他們將相關(guān)工具的執(zhí)行結(jié)果（比如機(jī)票 / 酒店查詢結(jié)果、每日景點(diǎn)推薦），在簡(jiǎn)單地預(yù)處理后進(jìn)行本地存儲(chǔ)，或者通過(guò) Qwen 模型的 File 編碼的形式存儲(chǔ)在云端，降低了頻繁調(diào)用工具造成的時(shí)間和經(jīng)濟(jì)成本，也避免了模型在重新推薦時(shí)產(chǎn)生幻覺(jué)或者矛盾沖突。

盡管目前的「智游幻境」還處于早期版本，卻恰好展示了大模型在旅行類應(yīng)用賽道的想象空間。團(tuán)隊(duì)表示，未來(lái)的「智游幻境」可以引入更強(qiáng)的大模型、更多的模態(tài)、更豐富的場(chǎng)景。比如通過(guò) VR/AR 設(shè)備、無(wú)線耳機(jī)、攝像頭等設(shè)備的聯(lián)動(dòng)，這款應(yīng)用可以變?yōu)橐粋€(gè)能看、能聽(tīng)、能說(shuō)的「導(dǎo)游」，帶來(lái)更沉浸的旅行體驗(yàn)。

從觀光推薦到實(shí)時(shí)翻譯服務(wù)，這樣一款應(yīng)用真的有可能徹底改變旅行者與世界互動(dòng)的方式。

讓大模型融入科技金融業(yè)務(wù)的「系統(tǒng)工程」

相比于挑戰(zhàn)組和初創(chuàng)組，大賽的「企業(yè)組」賽道主要著眼于科技金融行業(yè)的新興方向，鼓勵(lì)科技金融行業(yè)的中小型企業(yè)提報(bào)有亮點(diǎn)、有新意的新技術(shù)、新產(chǎn)品落地項(xiàng)目。

深擎科技是一家成立六年的公司，多年來(lái)利用 AI 與大數(shù)據(jù)分析技術(shù)，為券商銀行提供智能投顧助手和個(gè)性化內(nèi)容生成相關(guān)產(chǎn)品，也見(jiàn)證了大模型技術(shù)的興起和爆發(fā)。

在數(shù)十家參賽企業(yè)中，深擎科技提交的方案受到了較多的關(guān)注。簡(jiǎn)單來(lái)說(shuō)，他們圍繞 AI Agent 的基座，打造了一整套行業(yè)「剛需」的應(yīng)用產(chǎn)品體系。

對(duì)于那些想用大模型變革自身業(yè)務(wù)的金融機(jī)構(gòu)來(lái)說(shuō)，在實(shí)踐中往往會(huì)遇到一些挑戰(zhàn)：如何快速響應(yīng)業(yè)務(wù)需求，讓業(yè)務(wù)參與到大模型應(yīng)用場(chǎng)景的打磨中來(lái)？投入的大量配套研發(fā)，如何沉淀，算子化、可復(fù)用的最佳實(shí)踐？如何量化評(píng)價(jià)場(chǎng)景效果，上線后如何持續(xù)優(yōu)化迭代？

核心的問(wèn)題就是，技術(shù)的快速迭代與金融業(yè)務(wù)所需的確定性之間，如何平衡？

深擎科技給出的解決方案是 AI Agent 平臺(tái)「乾坤圈」，將大模型能力融入到金融業(yè)務(wù)的「系統(tǒng)工程」之中。

在不同基礎(chǔ)模型各有所長(zhǎng)的今天，「乾坤圈」的一大亮點(diǎn)是支持多個(gè)基座大模型協(xié)作完成業(yè)務(wù)交付，且支持本地化、SaaS 大模型服務(wù)接入，兼容主流的開(kāi)源和閉源模型。

此外，「乾坤圈」還提供了敏捷的 AI 場(chǎng)景構(gòu)建模板和工具，讓機(jī)構(gòu)以低代碼甚至無(wú)代碼的方式迅速構(gòu)建業(yè)務(wù)場(chǎng)景應(yīng)用，解決了大模型落地中容易產(chǎn)生的「重復(fù)造輪子」問(wèn)題。

基于「乾坤圈」，以往業(yè)界存在的金融領(lǐng)域大模型幻覺(jué)控制、業(yè)務(wù)數(shù)據(jù)和知識(shí)接入、生成結(jié)果合規(guī)安全性、產(chǎn)研運(yùn)營(yíng)端到端效率和生成結(jié)果質(zhì)量評(píng)測(cè)問(wèn)題，都得到了有效解決。

實(shí)際上，「乾坤圈」平臺(tái)的技術(shù)探索也代表了當(dāng)前大模型落地的整體趨勢(shì)，對(duì)于很多專業(yè)門檻較高的領(lǐng)域來(lái)說(shuō)，只有面向真實(shí)的產(chǎn)業(yè)場(chǎng)景設(shè)計(jì)垂直解決方案，才能實(shí)現(xiàn)以技術(shù)解決真問(wèn)題的初衷。

目前，深擎科技的產(chǎn)品已經(jīng)實(shí)現(xiàn) PMF（Product Market Fit），覆蓋了 80% 的大中型券商和 50% 的大型銀行，近幾年的主營(yíng)收入年復(fù)合增長(zhǎng)率超過(guò) 80%。

接下來(lái)的階段，大模型技術(shù)與金融業(yè)務(wù)場(chǎng)景的結(jié)合也會(huì)越來(lái)越緊密，深擎團(tuán)隊(duì)希望持續(xù)完善「乾坤圈」，在大模型和金融行業(yè)的交叉領(lǐng)域做更多從 0 到 1 的創(chuàng)新，為金融機(jī)構(gòu)實(shí)現(xiàn)「數(shù)字化、集約化、精細(xì)化」客戶經(jīng)營(yíng)提供動(dòng)力。

期待大賽能誕生出中國(guó)的「OpenAI」

在有關(guān)大模型的討論中，「人才」始終被認(rèn)為是非常關(guān)鍵的競(jìng)爭(zhēng)要素。

以 AFAC2024 大賽為代表的技術(shù)賽事之所以備受矚目和火爆出圈，因?yàn)樗饶芴峁┮环脚囵B(yǎng) AI 人才的土壤，也切實(shí)給到了這些高潛力 AI 人才需要的扶持資源。

比如，對(duì)于「擁抱 AIGC」團(tuán)隊(duì)來(lái)說(shuō)，這是一次走出校園、直面產(chǎn)業(yè)真題的寶貴機(jī)會(huì)；對(duì)于「智游幻境」團(tuán)隊(duì)，這是一次走上廣闊舞臺(tái)、驗(yàn)證自身設(shè)想的契機(jī)；對(duì)于「深擎科技」團(tuán)隊(duì)，這是一次與業(yè)內(nèi)最頂級(jí)同行比拼、促進(jìn)自我提升的精彩旅程。

縱覽 AFAC2024 大賽的 4800 多支隊(duì)伍，「年輕化」和「多元化」也是本次參賽群體的一大特質(zhì)。但這些年輕的隊(duì)伍卻做到了對(duì)前沿技術(shù)的極致追求，以長(zhǎng)遠(yuǎn)的眼光去看，未來(lái)中國(guó)的「山姆奧特曼」和「OpenAI」，很可能就誕生在這些充滿技術(shù)熱情的隊(duì)伍中。

AFAC 組委會(huì)相關(guān)人士表示，希望大賽里涌現(xiàn)的出來(lái)各種優(yōu)秀人才，能成為國(guó)內(nèi)大模型領(lǐng)域的中堅(jiān)力量，最終造福于整個(gè)行業(yè)的發(fā)展和創(chuàng)新。