“大語言模型受限于「語言的邊界」，無法理解高維度、跨模態(tài)的科學(xué)數(shù)據(jù)。”

作者丨胡清文

編輯丨徐曉飛

12月12日，第八屆GAIR全球人工智能與機器人大會在深圳正式啟幕。

本次大會為期兩天，由GAIR研究院與雷峰網(wǎng)聯(lián)合主辦，高文院士任指導(dǎo)委員會主席，楊強院士與朱曉蕊教授任大會主席。

作為觀測AI技術(shù)演進與生態(tài)變遷的重要窗口，GAIR大會自2016年創(chuàng)辦以來以來，始終與全球AI發(fā)展的脈搏同頻共振，見證了技術(shù)浪潮從實驗室涌向產(chǎn)業(yè)深海。2025年，是大模型從“技術(shù)破壁”邁向“價值深耕”的關(guān)鍵節(jié)點，值此之際GAIR如期而至，攜手智者觸摸AI最前沿脈動，洞見產(chǎn)業(yè)深層邏輯。

大會上，之江實驗室科學(xué)模型總體組技術(shù)總師，天壤智能CEO薛貴榮博士親臨現(xiàn)場，為參會者帶來了一場精彩紛呈的演講分享。

薛貴榮博士指出，以大語言模型為代表的AI技術(shù)雖已在多個學(xué)科研究中展現(xiàn)出潛力，但其本質(zhì)上仍受限于“語言的邊界”，難以真正理解高維度、多類型的科學(xué)數(shù)據(jù)，更無法獨立完成可驗證的科學(xué)發(fā)現(xiàn)。

基于此，薛貴榮博士系統(tǒng)分析了大語言模型與科學(xué)基礎(chǔ)模型之間的本質(zhì)差異，并詳細闡述了之江實驗室所研發(fā)出的021科學(xué)基礎(chǔ)模型在突破語言維度、統(tǒng)一化科學(xué)數(shù)據(jù)、科學(xué)推理與發(fā)現(xiàn)，跨學(xué)科知識融合等方面的關(guān)鍵優(yōu)勢。同時，他提出一些關(guān)于面向“AI+科學(xué)”新范式的思考：

1、大語言模型在解決科學(xué)問題上還存在很大的局限，在覆蓋100多個學(xué)科的高難度HLE測試中，表現(xiàn)最優(yōu)的模型目前也只達到了25.4%的準確率。

2、要想解決科學(xué)問題，大科學(xué)基礎(chǔ)模型的需要超越語言空間，做到真正理解化學(xué)、天文學(xué)、地球科學(xué)、生命科學(xué)、材料科學(xué)等各類科學(xué)知識。

3、科學(xué)基礎(chǔ)模型與當(dāng)前的大語言模型之間的主要差別是，大語言模型以文本數(shù)據(jù)作為Token化的基礎(chǔ)，而科學(xué)基礎(chǔ)模型所對應(yīng)表達的Token是跨學(xué)科、多類型的科學(xué)數(shù)據(jù)。

4、要想把科學(xué)數(shù)據(jù)Token化得先解決OneTokenizer的問題，就是把光譜、化學(xué)結(jié)構(gòu)、DNA數(shù)據(jù)等結(jié)構(gòu)化之后統(tǒng)一到一個高維空間中。

5、將科學(xué)數(shù)據(jù)Token化對齊后可以建立起不同類型數(shù)據(jù)之間的關(guān)聯(lián)，就可以在解決不同學(xué)科、不同專業(yè)的科學(xué)問題時做出全鏈路解析。

6、為打破大語言模型解決科學(xué)問題的局限性，之江實驗室推出了021科學(xué)基礎(chǔ)模型，在對科學(xué)世界形成客觀認知的基礎(chǔ)上，具備迅速、精準、高泛化性的科學(xué)知識問答能力。

精彩演講回顧

現(xiàn)場演講完整視頻，詳見鏈接：https://youtu.be/NZ4nW4cegLg

以下是薛貴榮博士演講的精彩內(nèi)容，雷峰網(wǎng)作了不改變原意的整理與編輯：

01

為什么說大語言模型不夠用了？

接下來我跟大家介紹一下我們在之江做的工作，科學(xué)基礎(chǔ)模型。

大家都知道今年我們國家發(fā)布了“人工智能+”戰(zhàn)略，其中的第一個就是+科學(xué)技術(shù)。那么科學(xué)技術(shù)有什么作用？如何訓(xùn)練將它轉(zhuǎn)變成真正的基礎(chǔ)模型呢？我們就這些問題跟大家介紹一下。

AI+科學(xué)是非常具有挑戰(zhàn)性，但也同時也非常exciting的領(lǐng)域。上個月美國發(fā)布了“創(chuàng)世紀計劃”，類比于曼哈頓計劃。曼哈頓計劃大家都知道，美國集合了非常多的工程師與科技人員，一起攻堅了一個歷史上最重要，并且是規(guī)模最大的科技工程項目。

這次的“創(chuàng)世紀計劃”，也被定義為“AI曼哈頓計劃”，美國集合了17個國家實驗室、4萬名科學(xué)家，是冷戰(zhàn)以來對聯(lián)邦科技資源的一次最大動員。這個計劃非常詳盡，對于不同時間點的任務(wù)部署有著明確規(guī)定，作為國家科技工程項目，勢必要人工智能技術(shù)在科學(xué)領(lǐng)域做出重大產(chǎn)出。

這個項目的相關(guān)負責(zé)人Dario Gil提出，如今人工智能科學(xué)應(yīng)用可以用對話的方式作為開始。正如AI真正的價值不只是寫論文的摘要，更重要的是能夠形成可驗證的結(jié)果。需要調(diào)用模型以及實驗室在幾十年間積累的數(shù)據(jù)，形成一個可驗證、可迭代的數(shù)據(jù)集，通過訓(xùn)練模型，并最終應(yīng)用到科技行業(yè)當(dāng)中。

人工智能在科技里的應(yīng)用其實非常早，我主要講述大語言模型在科學(xué)研究中的應(yīng)用。

這是一份美國的報告，聚集了很多科學(xué)家共同研究如今的人工智能在科學(xué)發(fā)現(xiàn)能解決什么樣的問題？一共總結(jié)出了5個部分，多模態(tài)和多尺度學(xué)習(xí)、遷移學(xué)習(xí)、數(shù)字孿生、實驗設(shè)計和交互學(xué)習(xí)。

那么今天的AI，在科研當(dāng)中究竟起到什么作用呢？這份報告顯示，他們又找了1600名研究人員，其中三分之二認為人工智能工具提升了數(shù)據(jù)處理的方法，另外有超過一半認為人工智能加快了計算速度，節(jié)省了成本和時間。

2024年，當(dāng)今數(shù)學(xué)界最年輕的教授陶哲軒提出，到2026年，人工智能會成為數(shù)學(xué)研究中值得信賴的新合作者。他個人非常積極地應(yīng)用AI來做科學(xué)研究，最近他也頻繁使用大語言模型解決數(shù)學(xué)難題，例如最近他使用GPT-5Pro成功探索了微分幾何難題“有界曲率球體問題”的本質(zhì)。

這件事最有趣的是他并不擅長這個領(lǐng)域，也就是說：今天，我們能夠借助人工智能，解決更多科學(xué)領(lǐng)域問題，科學(xué)的人工智能時代已經(jīng)來臨了。

OpenAI最近也有一個計劃：要把人工智能用到科學(xué)當(dāng)中，早前9月3日，OpenAI宣布啟動一項新倡議——OpenAI for Science，想要打造一個由人工智能驅(qū)動、加速科學(xué)發(fā)現(xiàn)的平臺，并實現(xiàn)了如量子場論的推導(dǎo)過程和干細胞相關(guān)的蛋白質(zhì)優(yōu)化等相關(guān)問題的研究。

最近，OpenAI又招了一名主要做黑洞研究的天文學(xué)家亞歷克斯·盧斯帕卡，來幫助找尋宇宙銀河系中黑洞的所在位置。這個研究人員之前也是做這方面理論研究的，之前他花費數(shù)日才計算出來的“黑洞擾動理論中新對稱性”的精確形式，GPT-5 Pro僅花30分鐘就解決了。

02

科學(xué)基礎(chǔ)模型如何補齊 LLM 的科研短板？

雖然大語言模型解決了很多科學(xué)問題和推理，但大語言模型要想真正服務(wù)于科學(xué)，還面臨著非常多的挑戰(zhàn)。

語言是人類交流過程中表達思想的一種符號，它是人類認知的皇冠上的明珠，正如Ludwig Wittgenstein所說：“語言的邊界，就是世界的邊界。”

今天大家都紛紛想用能夠代表我們認知的語言模型，來解決科學(xué)問題。然而根據(jù)HLE發(fā)布的最新研究結(jié)果，大語言模型在科學(xué)知識與推理方面暫時沒有達到人類認知的極限，在覆蓋100多個學(xué)科的高難度HLE測試中，表現(xiàn)最優(yōu)的模型目前也只達到了25.4%的準確率。

所以目前要用大語言模型來服務(wù)科學(xué)，其中仍然存在很大的挑戰(zhàn)。要想真正服務(wù)于科學(xué)，需要模型能夠跨越語言的邊界，做到真正理解所謂的分子、基因、地震、光譜等各種各樣高維的科學(xué)數(shù)據(jù)。

眾所周知，一張圖片勝過千言萬語，圖片是另外一種讓我們能夠表達思想的重要渠道，但后來我們發(fā)現(xiàn)，在科學(xué)數(shù)據(jù)中還有一種更復(fù)雜的東西，叫做光譜。剛剛我們說一張圖片勝過千言萬語，而一張光譜勝過千萬張圖片。

無論是遙感圖片，還是在化學(xué)實驗室中做實驗分析，我們都會用一個非常重要的儀器，就是光譜拍攝儀，而拍出來的東西就是光譜數(shù)據(jù)。這些數(shù)據(jù)不僅能告訴我們它是什么，還可以告訴我們它表達了什么樣的波段值，是由什么元素構(gòu)成的。

還有一類生命科學(xué)數(shù)據(jù)就是基因。基因信息量非常大，每個人攜帶的基因序列大概是30億個。有人做了一個分析，一個咖啡杯容量的DNA可以存儲世界上所有的數(shù)據(jù)。人類所攜帶的這么長的基因序列，它能表達的信息量也是非常高維的。

接下來就是地球科學(xué)研究的一個典型數(shù)據(jù)叫地震波。地震波其實就是地球的語言，在告訴我們哪個地方會發(fā)生地震，或者有可能會發(fā)生地震。當(dāng)然，我們通過地震波不僅僅只是預(yù)測地震，我們還可以知道地下的結(jié)構(gòu)。

要想找油探礦，就必須清楚地了解地下的空間結(jié)構(gòu)，而地震波分析就是非常好的手段，類似于我們看光譜一樣，地震波也是非常復(fù)雜的數(shù)據(jù)表達。

根據(jù)香農(nóng)的信息論和經(jīng)典語言學(xué)模型來看，自然語言實際是一種低維的離散符號系統(tǒng)。而科學(xué)數(shù)據(jù)包含時間、空間和能量等更高維的特性，它需要表達的維度空間，要遠遠大于語言所能描述的空間。

從上面這張圖可以看到，語言表達只是非常小的一部分。再看右邊，這是我們?nèi)祟惣膊￡P(guān)聯(lián)到的所有學(xué)科的知識維度，大概是二十幾維。如果只是純粹用語言來表達我們所看到的世界，空間會非常小，或者說沒辦法完全表達我們所理解的世界。

我們希望，科學(xué)的基礎(chǔ)模型能夠解決這個難題。

科學(xué)基礎(chǔ)模型和如今的大語言模型之間存在本質(zhì)的差別。

首先是數(shù)據(jù)維度，當(dāng)前的大語言模型還是以文本數(shù)據(jù)作為Token化的基礎(chǔ)。但科學(xué)基礎(chǔ)模型所對應(yīng)表達的科學(xué)數(shù)據(jù)Token化，是科學(xué)空間加上語言空間。因此要表達的維度要遠超語言。

這里所指的空間不僅包括我們剛剛講的一系列空間，它是跨學(xué)科、多種類類型的。這其實是一件非常有挑戰(zhàn)性的事。而這一切的前提，就是如何有效的對科學(xué)數(shù)據(jù)進行Token化，即解決Tokenizer的問題。

所謂的OneTokenizer，就是把我們見到的所有東西盡量都統(tǒng)一到一個科學(xué)數(shù)據(jù)當(dāng)中。包括我們剛剛說到的所謂的光譜、化學(xué)結(jié)構(gòu)、蛋白質(zhì)結(jié)構(gòu)、DNA、地震波數(shù)據(jù)等等，我們都希望把它結(jié)構(gòu)化到一個空間里面。

當(dāng)然，這些數(shù)據(jù)本身有它所表達的數(shù)據(jù)，比如分子式。我們希望哪怕是用文本描述，也可以將它們區(qū)隔來表示。比如同樣一個C，在分子式、蛋白質(zhì)、DNA，以及正常的英文單詞當(dāng)中，它所表達的意思是有區(qū)別的。

這是一件很復(fù)雜的工作，這個事情要真正做好，不僅需要AI科學(xué)家團隊，還需要很多科學(xué)家跟我們一起合作完成。

這就是我們正在做的工作，我們正在把基因組學(xué)、細胞組學(xué)、光譜、晶體材料、時序數(shù)據(jù)、空間結(jié)構(gòu)數(shù)據(jù)等全部Token化，將它們放到一個空間當(dāng)中。

其次是，Token化之后，很多事情就對齊了，這也是數(shù)據(jù)治理非常重要的事。剛剛鄭宇老師講了很多城市數(shù)據(jù)要對齊，其實科學(xué)數(shù)據(jù)也需要對齊。科學(xué)數(shù)據(jù)對齊以后就有真正的科學(xué)發(fā)現(xiàn)了。

我舉四件案例來解釋一下對齊的價值：

1、動物遷移&環(huán)境變化。大家都知道大雁南飛，那么為什么要往南飛呢？是隨著溫度變化在本能的飛行嗎？通過地球的溫度數(shù)據(jù)以及鳥的遷移會發(fā)現(xiàn)，鳥的遷移是根據(jù)溫度的變化在選擇路徑的，其實是通過感官角度來做這個事。

2、住房密度&溫度。這也是跟城市相關(guān)的數(shù)字，這個數(shù)據(jù)如果能很好地對齊，非常有助于我們做科學(xué)規(guī)律的發(fā)現(xiàn)。

3、GDP變化&夜光分布。我們在太空拍攝的夜光圖片以及城市GDP的變化，相互之間也是有關(guān)系的。

4、衛(wèi)星上&望遠鏡上拍攝太空。這兩種觀測方一種拍攝的圖像質(zhì)量高，一個拍攝的圖像質(zhì)量低。同時對一顆恒星進行拍攝的時候，其實本身已經(jīng)做到了對齊，但數(shù)據(jù)質(zhì)量不一樣，把兩個數(shù)據(jù)一起拿來，可以進行新的數(shù)據(jù)發(fā)現(xiàn)。

把數(shù)據(jù)Token化，建立數(shù)據(jù)與數(shù)據(jù)之間的關(guān)聯(lián)，從而保證不同學(xué)科或同一學(xué)科、不同專業(yè)之間的對齊，就像將DNA、蛋白質(zhì)、疾病表征的對齊，我們就可以進行全鏈路的科學(xué)解析。

從0到1，我們訓(xùn)練了科學(xué)基礎(chǔ)模型。這個過程也很復(fù)雜，不僅僅需要有足夠的算力、數(shù)據(jù)，同時也要有高效的模型訓(xùn)練系統(tǒng)。我們做了預(yù)訓(xùn)練、到CPT、Long CPT、SFT、CoT SFT，再到強化學(xué)習(xí)?，F(xiàn)在我們還在內(nèi)測中。

以上就是我們科學(xué)基礎(chǔ)模型的技術(shù)探索，因為沒有參考對象，是從零到一的創(chuàng)新，所以我們的科學(xué)基礎(chǔ)模型就命名為021。

03

科學(xué)基礎(chǔ)模型的應(yīng)用場景有哪些？

接下來我介紹一下這個模型的應(yīng)用場景。其實我們用了非常多的專業(yè)科學(xué)知識，這是它的大概分布圖，涉及數(shù)學(xué)、物理、化學(xué)、計算機等19個重要學(xué)科，覆蓋174個領(lǐng)域的科學(xué)知識。

這些領(lǐng)域，需要花大量的人力成本來收集數(shù)據(jù)，大概是幾個T的Token，相較于互聯(lián)網(wǎng)語料，真的只占1%的規(guī)模。所以這個數(shù)據(jù)未來如果想做大，如果想做Scaling Law，還有很大的挑戰(zhàn)。當(dāng)然我們也在不停收集新的數(shù)據(jù)納入進來，比如實驗室的實驗數(shù)據(jù)。

其次是科學(xué)推理，基于這個模型我們可以根據(jù)一段語言的描述，通過對話的方式，做分子結(jié)構(gòu)的生成、編輯、修改，達到它所要求的性能。這些原本需要通過高通量的實驗，需要花上幾個月到一年的時間才能夠做到的事情，今天通過對話方式很快就可以做到。

同樣，我們也打穿了從基因到疾病診斷的整個流程，能做從基因組學(xué)到細胞生物學(xué)、病理學(xué)、臨床醫(yī)學(xué)的整個鏈路。上圖中就是一個基因的突變，我們想知道它是良性的還是惡性的，就可以用這個模型來獲得答案。因為我們訓(xùn)練了非常多的科學(xué)數(shù)據(jù)，這應(yīng)該是當(dāng)前世界上從基因到疾病精準診斷流程精度最好的模型。

在將來，我們希望所有的人能享受到這樣的模型服務(wù)，所以語言也是非常重要的，我們這個模型支持應(yīng)用全世界204種語言。

做這個科學(xué)基礎(chǔ)模型，非常挑戰(zhàn)的是需要非常多的科學(xué)家參與進來。那么怎么搞這件事呢？我們也有三套路徑。

首先是種子班。我們跟天文、地學(xué)、材料科學(xué)、生命科學(xué)等很多國家實驗室、高校、企業(yè)建立了大模型種子班，大家一起共創(chuàng)。他們派幾十個做科學(xué)的人，我們這邊派幾十個做計算的人，大家一起來了解這件事怎么做。

但前提要求是大家得相互了解，所以我們培訓(xùn)他們來了解模型，他們培養(yǎng)我們來認識什么是該領(lǐng)域的關(guān)鍵數(shù)據(jù)、關(guān)鍵問題。

其次是科學(xué)家工作坊。我們建立了科學(xué)家工作坊。剛才我們碰到的那些問題，都是科學(xué)家告訴我們的，我們一起開展聯(lián)合合作，請他們過來跟我們一起干三個月或半年，他們可以帶他們的學(xué)生。

當(dāng)前我們在跟國內(nèi)、國際的一些專家在做深度協(xié)同創(chuàng)新。我們深知這個事的難度，所以我們希望越來越多的科學(xué)家能夠參與進來。所以我們也發(fā)起了一個倡議，希望通過全球征集各學(xué)科的科學(xué)問題，來探索人工智能在科學(xué)領(lǐng)域的極限，當(dāng)然我們也設(shè)立了獎金池以及一攬子科研支持方案。

第三是開放研究平臺。我們開發(fā)的所有數(shù)據(jù)、模型都會在zero2x平臺上進行開放。zero2x平臺是一個開放科學(xué)研究平臺。我們希望更多的人能夠來直接使用平臺進行科學(xué)發(fā)現(xiàn)，也可以通過平臺跟我們一起進行科學(xué)研究的創(chuàng)新。

本次報告的最后，我們希望，通過科學(xué)基礎(chǔ)模型，真正推動科學(xué)研究范式的變革。讓我們一起加速科學(xué)的人工智能時代到來，謝謝。