11月20日，京東云城市大會(huì)在南京舉行。會(huì)上，京東云展示了JoyAI大模型落地行業(yè)的領(lǐng)先技術(shù)和應(yīng)用實(shí)踐，持續(xù)升級(jí)JoyAgent智能體等五大平臺(tái)，以及四大行業(yè)解決方案。京東集團(tuán)技術(shù)委員會(huì)主席、京東云事業(yè)部總裁曹鵬表示，大規(guī)模應(yīng)用爆發(fā)也將推動(dòng)AI基礎(chǔ)設(shè)施邁向標(biāo)準(zhǔn)化，AI Infra 1.0已開(kāi)啟。

大模型應(yīng)用爆發(fā)，AI Native基礎(chǔ)設(shè)施亟待建立

隨著AI應(yīng)用深入，對(duì)基礎(chǔ)設(shè)施帶來(lái)了一系列全新的技術(shù)挑戰(zhàn)。過(guò)去基礎(chǔ)設(shè)施的核心標(biāo)準(zhǔn)是安全穩(wěn)定、極致性價(jià)比；隨著深度應(yīng)用快速滲透核心業(yè)務(wù)場(chǎng)景，應(yīng)用規(guī)模持續(xù)擴(kuò)大，原來(lái)以CPU為中心的架構(gòu)越來(lái)越難以滿足高并發(fā)、低延遲的AI業(yè)務(wù)需求。這種變化體現(xiàn)在如下幾個(gè)方面：在算力基礎(chǔ)設(shè)施方面，架構(gòu)已從CPU主導(dǎo)轉(zhuǎn)向CPU+GPU協(xié)同模式，需以GPU為核心重塑基礎(chǔ)設(shè)施。國(guó)內(nèi)還面臨多樣GPU型號(hào)帶來(lái)的硬件異構(gòu)兼容難題，需要一套高效混合計(jì)算平臺(tái)，實(shí)現(xiàn)跨硬件的統(tǒng)一資源管理、調(diào)度與彈性伸縮。

在數(shù)據(jù)與模型方面，圍繞開(kāi)源模型的定制化需求持續(xù)激增，企業(yè)內(nèi)部私有數(shù)據(jù)的安全接入、合規(guī)使用成為核心痛點(diǎn)。AI全生命周期（開(kāi)發(fā)、訓(xùn)練、部署、調(diào)度）的高效流轉(zhuǎn)，需依托成熟的模型開(kāi)發(fā)平臺(tái)提供端到端支撐。

在Agent與垂直應(yīng)用方面，應(yīng)用場(chǎng)景向細(xì)分領(lǐng)域深度滲透，Agent的快速開(kāi)發(fā)、輕量化部署及與算力/模型平臺(tái)的無(wú)縫協(xié)同，需要靈活的Agent開(kāi)發(fā)平臺(tái)來(lái)提供支持。

AI Infra 1.0開(kāi)啟，京東云全棧AI產(chǎn)品支撐深度應(yīng)用落地

按照AI Infra 1.0的標(biāo)準(zhǔn)，京東云已形成全棧大模型產(chǎn)品和服務(wù)，來(lái)支持大模型的部署及應(yīng)用：從底層的基礎(chǔ)設(shè)施，到中間的模型服務(wù)和工具，再到Agent應(yīng)用開(kāi)發(fā)。這些產(chǎn)品經(jīng)歷了京東集團(tuán)大模型的落地檢驗(yàn)，也在服務(wù)眾多行業(yè)客戶。

面向AI算力需求，京東云作為行業(yè)里最早大規(guī)模部署混合算力的云廠商，擁有超3700萬(wàn)個(gè)核容器集群，歷經(jīng)“618”“雙11”“春晚”等極限場(chǎng)景檢驗(yàn)，建立起行業(yè)領(lǐng)先的混合算力技術(shù)儲(chǔ)備。這些優(yōu)勢(shì)在京東云JoyScale AI算力平臺(tái)中充分體現(xiàn)：平臺(tái)不僅與華為昇騰、海光、寒武紀(jì)等國(guó)產(chǎn)芯片深度合作，而且實(shí)現(xiàn)從內(nèi)核層統(tǒng)一調(diào)度英偉達(dá)及國(guó)產(chǎn)芯片，為企業(yè)提供高效自主的算力管理。

在模型訓(xùn)推方面，得益于自研推理引擎，京東云JoyBuilder模型開(kāi)發(fā)平臺(tái)實(shí)現(xiàn)極致性能，訓(xùn)推全面提速。JoyBuilder內(nèi)置超百種開(kāi)源模型和多樣化數(shù)據(jù)集，提供100多種算法和組件，可以幫助客戶根據(jù)自身業(yè)務(wù)特征快速開(kāi)發(fā)專屬大模型，并基于豐富的開(kāi)發(fā)工具打通多模態(tài)數(shù)據(jù)湖倉(cāng)，在提升實(shí)時(shí)推理響應(yīng)的同時(shí)大幅降低使用成本。

除了模型和算力，數(shù)據(jù)作為人工智能三要素之一，其安全合規(guī)是決定AI應(yīng)用效果的關(guān)鍵。京東云基于多年數(shù)據(jù)安全技術(shù)沉淀，打造了安全可信數(shù)據(jù)空間，100%采用國(guó)密算法，實(shí)現(xiàn)全鏈路加密防護(hù)；通過(guò)安全可信加工能力，在“可用不可見(jiàn)”的安全沙箱中使用，確保數(shù)據(jù)流通的安全可靠。

此外，面向Agent應(yīng)用，京東云將JoyAgent智能體平臺(tái)與JoyCode智能編碼平臺(tái)緊密協(xié)同，構(gòu)建支持深度應(yīng)用的AI開(kāi)發(fā)新范式。這種以Agent簡(jiǎn)化代碼、代碼反哺Agent的閉環(huán)，將讓AI開(kāi)發(fā)越來(lái)越自動(dòng)化、智能化，最終實(shí)現(xiàn)“從開(kāi)發(fā)者少寫(xiě)代碼，到開(kāi)發(fā)少寫(xiě)代碼”。兩者通過(guò)AI Store實(shí)現(xiàn)無(wú)縫協(xié)同，形成持續(xù)進(jìn)化的閉環(huán)：開(kāi)發(fā)者可靈活組合智能體能力與編碼邏輯，快速構(gòu)建復(fù)雜、深度定制的AI應(yīng)用。

上游新聞 馬亮