作者丨朱可軒

編輯丨陳彩嫻

歷時(shí)兩天（12.10-12.11），今年的 2024 全球人工智能產(chǎn)品應(yīng)用博覽會(huì)已在蘇州工業(yè)園區(qū)完美閉幕。

在第一天下午的大會(huì)主論壇中，思必馳聯(lián)合創(chuàng)始人、首席科學(xué)家俞凱以「邁向分布式大模型智能體系統(tǒng)」為主題，深入探討了思必馳在大模型技術(shù)路線上的獨(dú)到思考，以及其對(duì)行業(yè)的觀察和見(jiàn)解。

「分布式大模型智能體系統(tǒng)」是思必馳在深耕對(duì)話式人工智能領(lǐng)域十七年后探索出的新發(fā)展方向，即：1 個(gè)中樞大模型+ N 個(gè)垂域模型及全鏈路交互組件組成全功能系統(tǒng)。

當(dāng)前，國(guó)內(nèi)許多大模型廠商都跟隨 OpenAI 的技術(shù)方向，將超級(jí)智能作為發(fā)力重點(diǎn)。

但俞凱認(rèn)為，「OpenAI 這一類廠商以單一的、集中式的超級(jí)智能為目標(biāo)去建設(shè)大模型，某種意義上是在造一個(gè)全知全能的神，在引領(lǐng)技術(shù)前沿上有劃時(shí)代的重要作用；但在 2B 真實(shí)場(chǎng)景落地中，這個(gè)技術(shù)路線遇到了很多的問(wèn)題，包括實(shí)時(shí)私域知識(shí)缺乏、專業(yè)領(lǐng)域能力欠缺、可靠執(zhí)行能力不足和系統(tǒng)協(xié)作架構(gòu)缺失等?！?/p>

區(qū)別于此，思必馳選擇的技術(shù)路徑類似于打造一個(gè)公司，從 CEO 到 CFO 、CTO 等都各司其職。其中，CEO 是中樞大模型，CFO 、CTO 等是垂域大/小模型，在這之中并不需要每一個(gè)大模型都是超級(jí)智能，它們是分布式的，核心的系統(tǒng)目標(biāo)主要是可靠的任務(wù)執(zhí)行。

現(xiàn)階段生成式大模型都面臨難解的“幻覺(jué)”問(wèn)題，AI 還無(wú)法知曉自身的知識(shí)邊界何在，而俞凱反復(fù)強(qiáng)調(diào)的可靠的執(zhí)行智能所解決的問(wèn)題便恰好在于此。

除此之外，俞凱還向 AI 科技評(píng)論介紹道，「智能體系統(tǒng)和大模型不一樣，大模型或單一智能體現(xiàn)在只強(qiáng)調(diào)一個(gè)功能模塊的輸入和輸出，最終的用戶體驗(yàn)不一定好。而“智能體系統(tǒng)”則考慮多個(gè)不同的全鏈路功能模塊組合，強(qiáng)調(diào)能組成有機(jī)整體，從整個(gè)系統(tǒng)層面給用戶的交互體驗(yàn)會(huì)更好?！?/p>

不過(guò)，這些對(duì)行業(yè)的洞察也是在不斷摸索試錯(cuò)后，俞凱和團(tuán)隊(duì)才逐步明晰的。成立以來(lái)，思必馳在找準(zhǔn)自身定位的過(guò)程中也遇到過(guò)諸多技術(shù)難題：

從剛開始只想去提升識(shí)別率，到后來(lái)開始思考降低成本，再之后又面臨了軟件易復(fù)制、智能硬件沒(méi)做過(guò)的難題，而全鏈路智能語(yǔ)音交互系統(tǒng)、大規(guī)模可定制也都存在著諸多需要攻關(guān)的技術(shù)難點(diǎn)......

以下是 AI 科技評(píng)論與俞凱的訪談實(shí)錄，作者進(jìn)行了不改原意的編輯整理：

構(gòu)建分布式大模型智能體系統(tǒng)

AI 科技評(píng)論：可以簡(jiǎn)單介紹一下你們的大模型技術(shù)路線嗎？

俞凱：我們一直把 ChatGPT 類的大模型叫做對(duì)話式人工智能、對(duì)話式語(yǔ)言計(jì)算。OpenAI 實(shí)際上是從預(yù)訓(xùn)練語(yǔ)言模型發(fā)展起來(lái)的，而思必馳是從一個(gè)完整的端到端對(duì)話系統(tǒng)發(fā)展起來(lái)的，一直以多輪交互為核心，不斷迭代出現(xiàn)在的大語(yǔ)言模型。所以雖然殊途同歸，但實(shí)際上我們有自己獨(dú)特的發(fā)展軌跡。

思必馳 DFM 語(yǔ)言大模型是自主的技術(shù)研發(fā)路線逐漸形成的語(yǔ)言大模型。長(zhǎng)期持續(xù)開展對(duì)話式語(yǔ)言大模型自研的其實(shí)不多，可能 2023 年之后講得比較多， 2023 年之前很少，DFM 是 2022 年初正式對(duì)外發(fā)布的，而發(fā)布之前內(nèi)部就已經(jīng)在用了，是真正意義上的獨(dú)立研發(fā)。

AI 科技評(píng)論：你們和 OpenAI 技術(shù)路徑的區(qū)別具體體現(xiàn)在何處？

俞凱：OpenAI 這一類廠商是以超級(jí)智能為目標(biāo)去建設(shè)單一集中式語(yǔ)言大模型，某種意義上是在造一個(gè)全知全能的神，它擅長(zhǎng)創(chuàng)作和回答問(wèn)題，并且可以生成多樣性的回復(fù)。但這條技術(shù)路線在面向嚴(yán)肅的任務(wù)執(zhí)行場(chǎng)景時(shí)遇到了許多問(wèn)題，包括實(shí)時(shí)私域知識(shí)缺乏、專業(yè)領(lǐng)域能力欠缺、可靠執(zhí)行能力不足和系統(tǒng)協(xié)作架構(gòu)缺失等。

與之對(duì)比，我們的技術(shù)路線是構(gòu)建 1+N 的分布式大模型智能體系統(tǒng)，這個(gè)「1」是中樞大模型，相當(dāng)于大腦，「N」就是不同的垂域模型，大模型、小模型都有，它們都可以是智能體，然后又是分布式的。

這種模式類似于公司的組織架構(gòu)，其中，CEO 是中樞大模型，CFO 、CTO 等是垂域大/小模型，從 CEO 到 CFO 、CTO 等都各司其職，在這之中并不需要每一個(gè)大模型都是超級(jí)智能，甚至所有的都不是超級(jí)智能體，這是思必馳跟 OpenAI 在技術(shù)路線上很關(guān)鍵的不同。

根據(jù)我們以往的產(chǎn)業(yè)實(shí)踐，在實(shí)際大多數(shù)業(yè)務(wù)場(chǎng)景中，能夠可靠地執(zhí)行任務(wù)是最重要的，這類場(chǎng)景中的大模型本身不需要超級(jí)大，沒(méi)有必要不計(jì)成本的去堆算力，而是需要許多平常的通用智能體，這些通用智能體具備和人進(jìn)行交互的能力，當(dāng)然通用智能體之間也可以互相交互。

AI 科技評(píng)論：所以你們的優(yōu)勢(shì)在于可靠的任務(wù)執(zhí)行。

俞凱：對(duì)。現(xiàn)在國(guó)內(nèi)外比較火的一些大模型很多是以內(nèi)容創(chuàng)作生成為核心，但思必馳主要關(guān)注的是以工具使用能力為主的執(zhí)行智能。

二者的側(cè)重點(diǎn)不同，生成式強(qiáng)調(diào)的是創(chuàng)造性、多樣性、流利性，本質(zhì)是豐富；執(zhí)行強(qiáng)調(diào)的是不出錯(cuò)、可靠。現(xiàn)在大模型有各種各樣的“幻覺(jué)”，思必馳 1+N 的體系會(huì)對(duì)執(zhí)行任務(wù)的質(zhì)量進(jìn)行保障，乃至于用一些創(chuàng)新的技術(shù)思路重新去定義可靠性。

舉個(gè)例子，我問(wèn) 10 個(gè)問(wèn)題，你能答對(duì) 6 個(gè)，其余 4 個(gè)你不知道，但是也胡亂作答了；他能答對(duì) 5 個(gè)，其余 5 個(gè)他說(shuō)不知道，要去問(wèn)專家。這種情況下，他可能更可靠。一些大模型其實(shí)不清楚自己的知識(shí)邊界在哪，不懂得拒絕。

思必馳在車載系統(tǒng)里著重強(qiáng)調(diào)的拒識(shí)能力，就是「我不是在跟你說(shuō)話，你不要回答我」?？偟膩?lái)講，思必馳的立足點(diǎn)就是可靠執(zhí)行。其實(shí)，思必馳的大模型也可以用來(lái)寫小作文、詩(shī)歌等，在現(xiàn)階段，這些不是我們的核心出發(fā)點(diǎn)。

AI 科技評(píng)論：為什么你們今年一直在強(qiáng)調(diào)智能體系統(tǒng)這個(gè)概念？

俞凱：加了“系統(tǒng)”兩個(gè)字之后，與大模型就不一樣了。大模型現(xiàn)在講的基本都是語(yǔ)言大模型，即使是一般意義的多模態(tài)大模型往往講的也是一個(gè)軟件、一個(gè)算法、一個(gè)程序，你有一個(gè)輸入，它（模型）有一個(gè)輸出。但如若只強(qiáng)調(diào)輸入、輸出文字，最終的用戶體驗(yàn)不一定好。

我們強(qiáng)調(diào)的“系統(tǒng)”是要考慮多個(gè)不同的全鏈路系統(tǒng)組合，不單單只是智能體，有的可能包括模型，非模型的還有軟硬件協(xié)同的問(wèn)題，大模型實(shí)際上是“人的大腦”，除此之外還要讓它有嘴巴、眼睛、耳朵等，這些要與大腦緊密結(jié)合，組成一個(gè)有機(jī)整體，給用戶的交互體驗(yàn)會(huì)更好，這一點(diǎn)很重要。

舉個(gè)例子，我說(shuō)一句話，如果大模型一秒鐘之后才反應(yīng)，那就很慢了，怎么在零點(diǎn)幾秒作出反應(yīng)，還要滿足高度可靠的快速定制需求，這就要在系統(tǒng)層面去實(shí)現(xiàn)。

做這套體系時(shí)，思必馳用分布式的方法將參數(shù)規(guī)模千億、百億、十億等全尺度的大模型結(jié)合在一起，形成具備工具智能的可靠系統(tǒng)，這樣才能實(shí)現(xiàn)更高的可靠性與產(chǎn)業(yè)落地。

投身 AI 創(chuàng)業(yè)，貴在長(zhǎng)期堅(jiān)持

AI 科技評(píng)論：思必馳成立于 2007 年，創(chuàng)業(yè)十七年了，您的這些技術(shù)思想是一開始就這么堅(jiān)定嗎？

俞凱：堅(jiān)持是一件特別不容易的事，尤其對(duì)于處于萌芽時(shí)期的事物。我們剛開始做人工智能時(shí)，這個(gè)領(lǐng)域還沒(méi)有像現(xiàn)在這樣倍受重視，我們當(dāng)時(shí)給公司起名叫「AISPEECH」，就是決心要把這件事做好，現(xiàn)在國(guó)家商標(biāo)局已經(jīng)不允許把 AI 放在前頭了。（笑）

AI 科技評(píng)論：可以分享一下對(duì)于您來(lái)講，你們經(jīng)歷了哪些關(guān)鍵性的轉(zhuǎn)折點(diǎn)嗎？

俞凱：我在英國(guó)待了十年，在劍橋的時(shí)候，前五年做語(yǔ)音識(shí)別，后五年做對(duì)話系統(tǒng)，2012 年我回到國(guó)內(nèi)，思必馳正式開啟了對(duì)話式人工智能的篇章。與此同時(shí)，我也把數(shù)據(jù)驅(qū)動(dòng)的對(duì)話式語(yǔ)言計(jì)算從國(guó)外引到了國(guó)內(nèi)，那個(gè)時(shí)候還不是現(xiàn)在的深度學(xué)習(xí)，而是早期的貝葉斯學(xué)習(xí)。那時(shí)開始做對(duì)話式人工智能，也就是現(xiàn)在大家所看到的語(yǔ)言計(jì)算的基礎(chǔ)平臺(tái)。

在 2014 年 10 月的 CES 電子展上， Amazon 的 Echo 一炮打響，人工智能的硬件載體由手機(jī)轉(zhuǎn)換到智能硬件，思必馳開始從“軟件交互”轉(zhuǎn)向“智能硬件交互”。這個(gè)方向技術(shù)難度更大，并且一定程度上區(qū)別于僅在云端去做一般意義的語(yǔ)義處理，實(shí)際上，單一功能的云端 API 調(diào)用也很容易被復(fù)制。

2017 年，思必馳又有比較大的變化。當(dāng)時(shí)，我們發(fā)現(xiàn)軟硬件結(jié)合的方向非常好，中國(guó)的物聯(lián)網(wǎng)硬件設(shè)備千奇百怪，需要各種各樣的定制，我們開始研發(fā)一系列技術(shù)，專注 AI 領(lǐng)域的柔性制造，即把對(duì)話系統(tǒng)的模塊任意組合，提升在垂域上的性能，快速進(jìn)行個(gè)性化修改，這是大規(guī)模、可定制的對(duì)話系統(tǒng)，也就是思必馳 DUI 開放平臺(tái)（Dialogue User Interface）。

AI 科技評(píng)論：你們真正開始切入大模型具體是在什么時(shí)候呢？

俞凱：2019 年?？v觀公司的發(fā)展歷程，思必馳于 2013 年研發(fā)出對(duì)話工場(chǎng)實(shí)現(xiàn)全鏈路閉環(huán)；2015 年 AIOS 系統(tǒng)實(shí)現(xiàn)軟硬件協(xié)同的云端一體，至此對(duì)話系統(tǒng)正式開始面向智能硬件；2017 年通過(guò)全鏈路智能對(duì)話定制平臺(tái)（即 DUI 平臺(tái)）實(shí)現(xiàn)大規(guī)?？啥ㄖ频娜嵝匀斯ぶ悄埽?019 年有了通用對(duì)話式語(yǔ)言模型研發(fā)。

此后，思必馳語(yǔ)言大模型 DFM 進(jìn)入深度研發(fā)階段，2021 年發(fā)布了第一個(gè)版本。2023 年 7 月，思必馳 DFM-2 大模型發(fā)布，通過(guò) DFM-2 實(shí)現(xiàn)通用人工智能的柔性定制，可以開展大規(guī)模、高質(zhì)量、個(gè)性化的人工智能系統(tǒng)定制，既滿足客戶個(gè)性化的需求，又可以大大提升軟硬件產(chǎn)品的“非標(biāo)交付”效率。現(xiàn)在思必馳在這個(gè)基礎(chǔ)上進(jìn)一步研發(fā)分布式大模型智能體系統(tǒng)。

AI 科技評(píng)論：這么多次轉(zhuǎn)變的背后，你們應(yīng)該遇到過(guò)不少困難，都是怎么解決的？

俞凱：當(dāng)然。全鏈路的智能對(duì)話系統(tǒng)是思必馳的一大優(yōu)勢(shì)，它的構(gòu)建是第一個(gè)難題。

早先我們做語(yǔ)音識(shí)別技術(shù)，并在美國(guó)的比賽中取得了國(guó)際領(lǐng)先的成績(jī)，但這并不意味著僅憑此項(xiàng)技術(shù)就能賺錢了，當(dāng)時(shí)碰到的困難是，就算技術(shù)再?gòu)?qiáng)也有誤差，沒(méi)聽說(shuō)有誰(shuí)的識(shí)別準(zhǔn)確率是 100%。因此，當(dāng)用戶無(wú)法完成任務(wù)時(shí)，思必馳就必須提供完整的方案，單純的算法優(yōu)化并不能解決實(shí)際問(wèn)題，必須將其整合到一個(gè)完整的對(duì)話系統(tǒng)中。

后來(lái)遇到的問(wèn)題是軟件產(chǎn)品容易被復(fù)制，思必馳在技術(shù)上比較強(qiáng)，也需要把技術(shù)轉(zhuǎn)化成有效性、成本等優(yōu)勢(shì)，雖然軟件也能形成系統(tǒng)，但是偏工具型，所以不能純靠軟件，思必馳要從智能硬件角度切入。

面向智能硬件也遇到了困難，在這個(gè)過(guò)程中要把沒(méi)有學(xué)過(guò)的知識(shí)，通過(guò)學(xué)習(xí)轉(zhuǎn)化成自己的東西，然后落地實(shí)踐。硬件要做嵌入式，就得把它做小，做到芯片里......這些都是需要解決的技術(shù)難點(diǎn)。

再往后，思必馳要做大規(guī)模定制化，于是我們就開始就拆，對(duì)話系統(tǒng)拆了要能再接起來(lái)，接起來(lái)的時(shí)候還要能保障端到端的響應(yīng)速度是業(yè)界領(lǐng)先，思必馳是業(yè)界最早把端到端的響應(yīng)速度做到 1 秒以內(nèi)的，后來(lái)有些人跟進(jìn)了。這需要從真實(shí)的場(chǎng)景當(dāng)中提煉問(wèn)題，并通過(guò)算法、工程手段和系統(tǒng)架構(gòu)設(shè)計(jì)來(lái)解決。

警惕「拿著錘子找釘子」

AI 科技評(píng)論：DFM-2 大模型是去年 7 月升級(jí)的最新版，今年有進(jìn)行技術(shù)迭代嗎？

俞凱：今年我們進(jìn)行了很多迭代，都已經(jīng)融合到產(chǎn)品中了，簡(jiǎn)單說(shuō)就是悶頭把事給干了，沿著之前做的事往上疊加大模型能力。

AI 科技評(píng)論：你們目前主要在哪些場(chǎng)景中落地呢？

俞凱：主要是兩個(gè)方面，一是推垂域模型，二是推到產(chǎn)品里。

今年比較大的落地場(chǎng)景是智能汽車，除此之外有智能家居、消費(fèi)電子等，還有政府機(jī)構(gòu)、智能制造、科研等一些場(chǎng)景。

AI 科技評(píng)論：現(xiàn)在其實(shí)市面上許多大模型廠商都沒(méi)辦法找到真正的落地場(chǎng)景，所以可以看到最近大模型又有些冷下來(lái)了。您覺(jué)得這是現(xiàn)階段大家最大的困境嗎？

俞凱：是的，現(xiàn)在大模型廠商面臨的最大挑戰(zhàn)就是商業(yè)化落地場(chǎng)景。實(shí)際上我們做大模型，是先有端到端對(duì)話式系統(tǒng)的應(yīng)用，然后疊加大模型，先有場(chǎng)景，大模型是嵌入到系統(tǒng)里的。很多大模型廠商現(xiàn)在是拿著“錘子”找“釘子”，而我們有一排“釘子”，用不用這一個(gè)“錘子”不一定，因?yàn)榭赡苓€有另外其他的“錘子”更適合。

現(xiàn)在許多 2C 場(chǎng)景都被互聯(lián)網(wǎng)廠商壟斷了，例如：以多樣化文字生成、多模態(tài)生成為主的大模型最大的應(yīng)用場(chǎng)景是內(nèi)容創(chuàng)作，被抖音、快手等平臺(tái)壟斷；人機(jī)交互知識(shí)問(wèn)答這種偏知識(shí)檢索場(chǎng)景被搜索引擎廠商壟斷；純問(wèn)答場(chǎng)景被電商壟斷；還有其他小的場(chǎng)景，但是沒(méi)辦法撐起動(dòng)輒幾十個(gè)億的投入。如何突圍是技術(shù)型大模型廠商面臨的巨大挑戰(zhàn)。

如果往 2B 和智能硬件領(lǐng)域發(fā)力，就需要系統(tǒng)。這當(dāng)中，系統(tǒng)和完整的解決方案是否可靠，是不是可以定制化、規(guī)模化是核心問(wèn)題，這是很多純算法廠商不擅長(zhǎng)的。要積累的話往往也需要很長(zhǎng)時(shí)間，因?yàn)檫@些核心問(wèn)題同技術(shù)的先進(jìn)程度有的有關(guān)、有的無(wú)關(guān)，思必馳也是摸索了這么多年才能有今天的積累。

另外，科研方向是有前途的，但偏學(xué)術(shù)而非產(chǎn)業(yè)，或者說(shuō)是長(zhǎng)期方向，短期之內(nèi)的產(chǎn)業(yè)回報(bào)不會(huì)特別大。

總之，現(xiàn)在的大模型廠商面臨著商業(yè)化應(yīng)用場(chǎng)景選擇的挑戰(zhàn)，據(jù)我觀察，目前一種破局的方式是往國(guó)外“卷”，因?yàn)?API 付費(fèi)這種模式在國(guó)外的機(jī)會(huì)可能大一些 。同時(shí)，很多應(yīng)用場(chǎng)景其實(shí)很雞肋，對(duì)廠商來(lái)講有些“食之無(wú)味，棄之可惜”，這也是難點(diǎn)。

AI 科技評(píng)論：你們做硬件的話，像汽車、辦公本這些也都和端側(cè)結(jié)合很緊密，現(xiàn)在也有一些大模型廠商想去切端側(cè)，不過(guò)手機(jī)廠商也都在自己自研端側(cè)模型了。我剛也有聽您提到思必馳在做小模型，是指端側(cè)模型嗎？

俞凱：思必馳的模型云側(cè)和端側(cè)都有，主要就是一些垂域模型。我認(rèn)為未來(lái)端側(cè)模型一定是個(gè)重要方向，但還是要想清楚用它來(lái)干什么，有些廠商把文生圖都叫端側(cè)模型，這不是通用智能的角度。

通用智能是以端側(cè)語(yǔ)言模型為核心，同時(shí)要將任務(wù)鏈路有效整合，有些手機(jī)廠商走得比較靠前，但是是產(chǎn)品層面的靠前，基礎(chǔ)技術(shù)上還有很長(zhǎng)的路要走，我們正在與合作伙伴積極推進(jìn)這一領(lǐng)域的發(fā)展，可以期待一下。

AI 科技評(píng)論：聊了這么多，那現(xiàn)在有沒(méi)有廠商和您的想法比較類似呢？你們的差異化優(yōu)勢(shì)又體現(xiàn)在哪方面？

俞凱：思必馳的首要優(yōu)勢(shì)肯定是技術(shù)優(yōu)勢(shì)，在算法和系統(tǒng)結(jié)合上的優(yōu)勢(shì)。經(jīng)過(guò)這么多次的技術(shù)迭代，在 know-how 也就是所謂的關(guān)鍵節(jié)點(diǎn)的技巧上，這些方面的積累我們也有優(yōu)勢(shì)。

第二就是智能硬件，思必馳作為早期參與者之一，至今依然活躍在市場(chǎng)中，這樣的企業(yè)在國(guó)內(nèi)并不多，可能只有兩三家。長(zhǎng)時(shí)間的行業(yè)深耕使我們積累了寶貴的資源，成為我們的一大競(jìng)爭(zhēng)優(yōu)勢(shì)。極少有廠商像思必馳一樣覆蓋這么多品類，在家電及消費(fèi)電子領(lǐng)域，思必馳基于智能語(yǔ)音交互技術(shù)和芯片，實(shí)現(xiàn)對(duì)各種智能產(chǎn)品和設(shè)備的實(shí)時(shí)控制，接入各類硬件設(shè)備數(shù)億臺(tái)，AI語(yǔ)音芯片出貨數(shù)千萬(wàn)顆。此外，依托 DFM-2 大模型，思必馳推出了多款數(shù)字硬件產(chǎn)品，如無(wú)感擴(kuò)聲麥克風(fēng)、可感知和交互攝像頭、AI辦公本等，滿足了現(xiàn)代工作場(chǎng)景中的多樣化需求，大幅提升了辦公效率和質(zhì)量。

另外，在客戶方面，思必馳經(jīng)過(guò)多年的積累和服務(wù)，與國(guó)內(nèi)幾乎所有的汽車和智能硬件廠商都有深入合作，這也形成了技術(shù)適配成熟度高、解決方案經(jīng)驗(yàn)豐富和客戶群基數(shù)大的優(yōu)勢(shì)。雷峰網(wǎng)雷峰網(wǎng)