2025年4月29日,第八屆數字中國建設峰會在福州開幕。本屆峰會由國家發展改革委、國家數據局、國家網信辦、工業和信息化部、福建省人民政府共同主辦,福州市人民政府和相關單位承辦,以“二十五載奮進路 數字中國譜新篇——數智引領高質量發展”為主題。
峰會期間,中國電子云攜手天數智芯、清程極智聯合發布國產芯訓推優化解決方案。中國電子云聯合天數智芯、清程極智對芯片算力、訓推引擎進行極致優化,并通過完備的平臺產品為業務保駕護航。為建設自主可控的AI產業生態提供高性能、低成本的解決方案,為數字經濟高質量發展注入澎湃算力動能。
中國電子云AI產品線研發總監劉鑫介紹,大模型作為人工智能領域前沿技術,具有強大的數據處理能力,能夠優化傳統產業的生產流程和供應鏈管理,提高生產效率。政府工作報告提出,支持大模型廣泛應用,并將其作為激發數字經濟創新活力的核心舉措之一。但在當前,大模型面臨著能源消耗與算力成本的不斷攀升、數據隱私與安全、技術與應用的鴻溝等諸多亟須解決的問題。

基于當前大模型技術發展現狀,中國電子云認為構建一個好用的大模型應該具備以下幾個建設思路:
◆ 應用場景滿足度高;
◆ 可通過數據飛輪讓大模型持續給業務提供價值;
◆ 通過L1大模型+場景小模型高效解決實際問題;
◆ 推理引擎和芯片深度優化,提升應用落地的性價比。
為實現以上四個目標,中國電子云聯合天數智芯、清程極智從芯片、AI-Infra(智能基礎設施)、模型、工具鏈、應用5個層面進行了布局優化。
在芯片層面,天數智芯與中國電子云通用芯片對大模型算子的指令集、矩陣乘、片上緩存以及流水線進行了深度優化,充分發揮通用架構在靈活性、兼容性與擴展性上的優勢。通過軟硬協同,顯著提升訓推效率與資源利用率,目前在同等并發情況下,芯片成本可以下降15%;
AI-Infra:中國電子云聯合清程極智推出并行加速框架以及AI編譯器,并協助芯片廠商對通信庫以及芯片編程語言進行了優化,在不損失精度前提下,極致優化推理效率,在同等硬件配置下,并發提升10倍以上,響應延遲降低50%;
在模型、工具鏈及應用層面:中國電子云主導設計了最優的匹配方案,中國電子云L1模型相比業界的SOTA模型冷啟動時間縮短至1天,冷啟動的效果提升20%以上;并提供系統級的支撐優化,模型開發時間可縮短了70%;使得黨政及關鍵行業用戶可通過中國電子云提供的工具平臺構建相應的智能體應用。
中國電子云聯合天數智芯以及清程極智芯片和訓推引擎的整體優化,實現了在分布式訓練場景下加速效果接近2倍,推理吞吐量提升10倍,單機硬件成本下降10%以上。
當前,中國電子云已經構建了端到端的AI解決方案,中國電子云的大模型應用是基于異構算力平臺、模型開發平臺、大模型應用平臺構建。其中算力平臺支持異構算力的統一調度與管理。模型開發平臺、大模型應用平臺通過各種工具加速智能體應用的生產,上層應用分為通用應用和行業應用,通用主要解決客戶跨行業的通用需求,行業應用主要是針對具體的行業,需要深入行業,了解行業know-how和行業的知識才能構建的應用。

目前,中國電子云AI解決方案已經成功在石家莊、天津紅橋、湖北江陵、南航、湖北機場集團、深圳龍崗城投集團、山東公用集團等政企行業客戶進行了落地應用。未來,中國電子云將深化AI技術與解決方案在千行百業落地應用,助力千行百業向“全要素、全流程、全場景”智能化邁進。





京公網安備 11011402013531號