AI 分為訓練與推理兩大環節。

訓練如同“學生學習知識”，需海量數據和超強算力；推理則像“學生考試答題”，要求快速響應現實問題。隨著AI應用場景的普及，推理算力需求不斷提升，據IDC數據顯示，2022年云端推理算力占比已達58.5%，預計2026年將升至62.2%。

如今，一家上市公司在11年間研發端側AI芯片之后，選擇發力大模型推理算力。

7月25日消息，2025年世界人工智能大會（WAIC）前夕，AI上市公司云天勵飛（688343.SH）對外發布深穹Edge200芯片，以及全新深穹X6000 Mesh推理計算卡等產品。

據悉，深穹X6000 Mesh推理加速卡的算力達256Tops，主要定位于AI推理計算，支持30fps的1080p 256路的視頻解碼，可實現千億參數大模型推理應用。

同時，基于深穹X6000 Mesh加速卡，云天勵飛提供深目6203視頻高密2U推理一體機、天舟6408大模型4U推理一體機，以及天舟680G大模型滿血版8U推理一體機等產品，最高可達4PFlops（每秒執行4千萬億次浮點運算）推理算力，助力AI模型商業落地。

云天勵飛董事長兼CEO陳寧對筆者表示，公司全面聚焦AI推理芯片。2025年是AI發展的重要轉折點，大模型技術不斷成熟，模型調用成本顯著降低。同時，當前AI推理芯片市場仍處于藍海階段，其市場規模相較于數千億美元的訓練芯片市場尚顯微小，但預計未來三至五年內，AI推理芯片的增長速度將大幅超越訓練芯片。這不僅意味著AI從訓練時代邁入推理時代，也預示推理算力需求將迎來爆發式增長。

陳寧稱，未來五年（2030年），AI將重塑所有機器人、AI眼鏡等終端硬件產品，推理算力網絡將無處不在。而作為底層算力設施，AI推理芯片將貫穿端、邊、云，形成無處不在算力網絡，從而讓各類Agent能夠服務人類的工作和生活。

陳寧強調，未來云端推理算力會率先迎來爆發，并不斷探索新的應用場景。一旦新場景通過云服務形成價值閉環，實現從1到100的大規模復制，同時在性價比提升、成本降低上取得突破，市場就有望向更大規模的邊緣推理計算拓展。最終，必然會形成終端、邊緣、云端全棧式的協同分工模式，推動AI大規模落地并具備最優的性價比。

研發11年NPU之后，這次為何要發力模型推理算力卡？

云天勵飛成立于2014年，擁有大模型和AI芯片兩大技術平臺，打造了面向消費級、企業級、行業級三大類場景的業務。

2023年，云天勵飛成功在上交所科創板上市，曾一度被稱為“深圳AI第一股”。

技術方面，云天勵飛自研“算力積木”架構，以及神經網絡處理器核心IP和芯片，聚焦大模型高效推理，為AI的普惠應用提供算力支撐，滿足多樣化應用場景對AI算力的需求。

早在2020年，云天勵飛全面轉向國產工藝，成為首家采用國產Chiplet工藝的AI芯片公司。

2023年，云天勵飛正式發布基于“算力積木”架構打造的DeepEdge10芯片平臺，并推出DeepEdge10C、DeepEdge10標準版、DeepEdge10Max和DeepEdge200四款芯片，提供算力范圍覆蓋8T至256T，可滿足從小型邊緣設備到智算中心高性能計算的需求。

2025年初，云天勵飛提供部署DeepSeek-R1全尺寸模型的大模型訓推一體機。

經過11年發展，云天勵飛已經推出五代NPU（神經網絡芯片），并推出產品矩陣。

其中，DeepEdge10芯片平臺已成功適配DeepSeek系列模型、QwQ-32B模型及國產鴻蒙操作系統，可為客戶提供全國產的軟硬一體化產品和解決方案。基于自研 AI 推理芯片，云天勵飛聯合生態合作伙伴推出面向云、邊、端的 AI 推理產品系列，包括模組、邊緣智能盒子、AI 推理加速卡、大模型推理一體機，以及智算服務器等。

組件：天星、天書、天棧、天芯；SoC：深界（芯片）、深穹（計算卡）、深擎（一體機）設備和集群：深界D、深穹R、深穹Cube其他AI產品：嚕咔博士、岍丞等。

隨著AI熱潮興起，云天勵飛業績持續向好。財報顯示，2024年，云天勵飛營業收入超9億元，同比增長81.3%。截至2025年第一季度，公司營收2.64億元，同比大增168.23%，創歷史同期新高。

今年上半年，云天勵飛公司與德元方惠簽署的約4000PFLOPS的AI訓練及推理異構算力服務協議（預計未來3年貢獻約16億營收）已于2025年4月完成全部驗收工作并開始回款，預計上半年將貢獻約2億元營收；天府智算中心項目收益層面，公司已完成天府智算中心的交付，并于2024年第四季度確認相關收入。

消費級業務方面，2024年，云天勵飛消費級場景業務通過岍丞技術的智能穿戴設備（已進入華為、榮耀、OPPO等供應鏈）和嚕咔博士的AI硬件產品線，預計2025年上半年消費級業務將保持50%以上增速。

如今，研發11年NPU之后，云天勵飛再進一步，全面發力大模型推理算力，發布針對于推理算力的AI芯片以及算力卡，布局一體機、智算中心等方案，產品將廣泛應用于智算中心、智慧城市和具身智能等領域。

對于為何從邊緣AI計算戰略，轉變為AI模型推理算力，陳寧表示，美國絕大部分90%以上的科技發明停留在實驗室里面，但對于中國，AI推理芯片則是推動AI產業大規模落地的關鍵領域和關鍵技術，中國一定要把握新機遇。

他提到，未來五年，大模型、算法和推理芯片為核心的AI技術將重新定義人類所有的電子產品；未來五到十年，以推理芯片為核心的AI算力網絡會無處不在。

“這種戰略轉變源于AI產業的發展：2014 至 2022 年小模型時代，需開發邊緣 AI 芯片解決細分場景問題，形成‘行業+AI’模式；2022年11月后，大模型重塑格局，推動AI+行業，催生消費類與企業級新賽道，產業進入行業AI、企業AI、消費者 AI并行階段。我們持續跟蹤技術，2023 年推出兼容大模型部署的‘算力積木’，快速升級戰略聚焦 AI 推理芯片，經過兩年多儲備，今年正式提出打造該領域領軍企業的核心戰略。” “中國和歐美之間最大的差異，在于我們（中國）擁有人口的紅利，擁有更加豐富的應用場景，這樣一個背景之下，云天勵飛是2014年我帶領一支海歸技術團隊回到深圳創立了一家中國的AI推理芯片企業。如今，我們打造了一條應用生產數據，數據訓練算法，算法定義芯片，芯片規模化應用的數據飛輪，通過應用數據算法芯片這樣一個數據飛輪，依托中國豐富的應用場景，不斷推動著AI算法和大算力推理芯片技術發展動力。我們堅信，云天勵飛會進一步加大在AI推理芯片領域的研發和投入，抓住這樣一個市場的機遇，尤其未來五年AI智能體應用的爆發，帶來國產AI推理芯片和算力市場機遇，推動中國搶占第四次工業革命的第一張入場券。”陳寧稱。

具體來說，相比其他算力卡，云天勵飛深穹X6000 Mesh加速卡有以下核心技術特點：

一、其采用自研第四代神經網絡處理器（NPU），高效支持Transformer架構，主要應用于模型推理環境；二、Edge芯片采用國產工藝制造，Edge10C、Edge10、Edge10Max已通過自主可控國產化C級認證，板級方案通過100%國產化率驗證；三、這是國內首顆量產的基于國產先進工藝的“算力積木”架構（D2D Chiplet和C2C Mesh）的AI芯片。所謂D2D Chiplet是指Die裸片之間的互聯，而C2C Mesh互聯是兩個Chip芯片之間的通訊互聯，從而實現片間算力擴展，滿足千億級大模型部署需求。

陳寧對筆者表示，目前基于深穹X6000 Mesh推理加速卡的推理一體機正逐步量產落地。另外，云天勵飛在智算中心中也有布局。“智算中心會有四類客戶：城市級參與的智算中心建設，科研院所對國產芯片需求，運營商以及互聯網大廠，他們都在各地建設智算中心，這里面我們都有布局。”

陳寧強調，DeepSeek一體機的本質在于，打破各個行業最后一公里的AI應用閉環。如今熱潮消退，并不一定代表一體機的“退場”，而是大家理性思考如何把一體機真正做到應用閉環。他認為，未來很長一段時間，一體機和云端推理集群將并行發展。

AI算力需求每年增超80%，云天下一代AI芯片2026年推出

2025年，隨著DeepSeek等開源模型大幅降低企業使用門檻，推理算力成本不斷降低，以及從智能客服到自動駕駛的AI應用快速擴展，推理算力需求也不斷增長。

今年6月，AMD CEO蘇姿豐（Lisa Su）表示，去年AMD預測，到2028年，全球數據中心 AI 加速芯片規模達到5000億美元，年增長速度超過60%。而如今隨著推理模型的興起，這個數字甚至更高。

蘇姿豐稱，未來幾年，AI 推理算力需求預計將每年增長超過80%，有望超過訓練成為數據中心計算的主要驅動力。

顯然，AI推理算力需求正加速增長。

陳寧也同意這一觀點。他認為，AI訓練是一個確定性市場，英偉達已經定義這一市場，但推理方面，云天勵飛從創業之初堅定不移定義AI推理，最近兩年很多企業正在從訓練市場逐步轉型到訓推一體的市場，探索未來推理成長空間，但這一過程中，“我們認為云天勵飛有些差異化競爭力”。

針對于下一代“算力積木”架構和AI推理芯片進展，云天勵飛CTO李愛軍透露有五個方面的重要升級：

1、采用新型計算。第五代NPU Nova500，支持原生態FP8/FP4，專用大模型算子，計算效率提升5倍，能效比提升3倍以上。2、近存計算。采用3D Memory Hybrid Bonding（內存混合鍵合技術），帶來10倍內存帶寬提升、10倍訪存能效比提升。3、采用NB-Mesh新型互聯。支持超節點內縱向算力擴展(scale up)，支持多維Full Mesh互聯，直接內存語義訪問，以及數據傳輸all reduce（全局歸約）。4、新型封裝。包括采用異質多Die封裝、UCIE D2D Chiplet等技術。5、NB-link通用擴展性。支持PCIe通用接口界面，CPU/NPU大互聯帶寬，支持CPU/NPU直接內存訪問，可以加速AI Agent智能體響應速度。

李愛軍表示，第二代“算力積木”通過上述五個創新，打造新型大模型推理計算平臺，滿足嵌入式物聯網、邊緣端、云推理對邊緣大模型、MoE大模型的極致推理效率、能效比、性價比需求。

據悉，基于第二代“算力積木”架構的云天勵飛下一代AI推理芯片，預計將于2026年底陸續推出，包括深界、深擎、深穹三個系列將分別推出相應的產品；到2028年，云天勵飛會推出第三代“算力積木”。

對于下半年業績預期和國產芯片發展，陳寧表示，基于AI推理算法、算力和AI應用需求增長，公司相信會繼續保持一個高速增長趨勢。同時，云天勵飛用五年的時間迎接機遇和挑戰，如今已實現全面國產芯片的商用量產。

陳寧表示，作為一家國產AI芯片公司，確實是面臨著巨大的挑戰，主要是起步晚、生態不完善、國際復雜環境等一系列挑戰，但很多機遇其實都是在挑戰之下的。云天勵飛一直在做基于矩陣類的并行計算芯片，團隊有這樣一個基因、決心和信念，可以克服各種挑戰。同時，云天勵飛持續擁抱國產工藝，擁有市場差異化競爭優勢。

“國產芯片公司最核心的‘財富’，其實就是你的團隊，只要有了這個團隊，這些問題我相信都可以解決。”陳寧稱。（本文首發于鈦媒體App，作者｜林志佳，編輯｜蓋虹達）