今天分享的是：大模型與邊緣智算融合發展白皮書

報告共計：34頁

《大模型與邊緣智算融合發展白皮書（2025年）》核心內容總結

《大模型與邊緣智算融合發展白皮書（2025年）》由中移智庫、中國通信學會邊緣計算專業委員會等單位聯合發布，聚焦大模型與邊緣智算融合的機遇、挑戰、架構、技術、應用及趨勢，為行業發展提供參考。

在政策與需求層面，我國在人工智能、數字經濟、算力基礎設施領域出臺多項政策，推動技術與實體經濟融合，而當前大模型依賴云端訓推面臨模型專業化不足、時延高、數據安全隱患及成本壓力等問題，推動大模型向邊緣下沉并與邊緣智算結合成為趨勢。

融合的機遇體現在全球大模型技術持續突破，邊緣智算與大模型技術相互促進，谷歌、蘋果、百度、華為等企業均有相關實踐，云邊協同成AI應用部署主流模式；優勢包括提升實時響應能力、降低成本、增強數據安全與隱私保護，以及實現AI系統持續自我優化。同時，融合也面臨訓練數據協同、異構環境算法自適應、模型敏捷交付、大模型與邊緣小模型協同四大挑戰。

在架構與技術方面，融合架構中，中心云負責大規模數據存儲、復雜模型訓練等，邊緣云承擔部分負載與推理服務，端側節點負責數據采集與部分推理，邊緣智算平臺分多層級，各層協同且有橫向安全與運維管理。關鍵技術涵蓋軟硬件一體協同、邊緣基礎設施管理、跨異構適配、邊緣模型構建、模型云邊協同、模型壓縮與優化、聯邦大模型訓練、敏捷交付等，保障融合高效實現。

應用場景上，融合在智能制造（工業質檢、生產調度優化等）、智慧電網（設備監測、預測性維護等）、工業領域（設備巡檢、故障處理等）、醫療健康（病歷處理、智能問答等）發揮重要作用，提升各行業效率與安全性。

未來，云-邊-端一體化協同將成主流架構，大模型多模態與跨領域融合能力凸顯，模型輕量化與高效部署標準化，且融合將與軟硬件協同優化及綠色低碳發展結合。白皮書還倡議推動技術標準制定、加強軟硬件協同創新，助力全球數字化轉型。

以下為報告節選內容