“軟硬協(xié)同才能真正釋放算力價值?！痹诎仓\科技“周易”X3 NPU IP發(fā)布會上，高級產(chǎn)品經(jīng)理葉斌一語點(diǎn)出了大模型時代端側(cè)AI落地的關(guān)鍵?！爸芤住盭3是專為大模型打造的“算力引擎”，其配套的Compass AI軟件平臺則是確保引擎高效運(yùn)轉(zhuǎn)的超強(qiáng)“金牌輔助”，讓端側(cè)AI開發(fā)事半功倍。

“周易”X3 NPU Compass AI軟件平臺

據(jù)葉斌介紹，Compass AI軟件平臺核心優(yōu)勢是完善易用，可顯著提升開發(fā)部署效率，讓用戶輕松實現(xiàn)從模型到硬件的無縫銜接：

端到端統(tǒng)一工具鏈支持：覆蓋“周易”全系列NPU，基于「AIPULLM」實現(xiàn)模型導(dǎo)入、編譯優(yōu)化到硬件或仿真器部署的全流程，并提供客戶定制化接口，真正實現(xiàn)“一鍵部署，開箱即用”；完備的模型與算子支持：支持160+算子、270+模型，并對LLM/VLM/VLA及MoE等大模型推理進(jìn)行深度優(yōu)化，實現(xiàn)從CNN到Transformer模型的無縫接入；多框架多系統(tǒng)適配：原生支持Hugging Face，以及支持TensorFlow/PyTorch/ONNX等AI框架，兼容Android/Linux/RTOS/QNX等主流OS，顯著降低模型跨平臺遷移與部署成本；先進(jìn)量化與優(yōu)化方案：支持完備量化方案、多精度計算與高效動態(tài)Shape，進(jìn)一步提升大模型推理計算精度、效率與資源利用率，實現(xiàn)云到端的快速模型應(yīng)用遷移。

在開放生態(tài)方面，葉斌表示，Compass AI軟件平臺為開發(fā)者提供高度靈活的調(diào)優(yōu)、創(chuàng)新空間與安全保障，有效降低AI開發(fā)門檻：

客戶自定義算子開發(fā)與安全：平臺提供多種開放接口，開發(fā)者可基于DSL編程語言，通過豐富的NN編譯器插件實現(xiàn)自定義算子、優(yōu)化及編譯操作，且相關(guān)模型算法信息不會公開或泄露給第三方，信息安全得到充分保障。同時配合可視化調(diào)試工具，能夠?qū)崿F(xiàn)全鏈路可觀測、可優(yōu)化；靈活開放：依托“周易”NPU軟件開源計劃，Compass AI軟件平臺提供軟件模擬器、調(diào)試器、C編譯器等多種軟件工具，并開放IR規(guī)格、開源量化工具等核心組件，還支持用戶接入自研量化算法；賦能產(chǎn)品差異化設(shè)計：平臺避免“一刀切”的軟件限制，提供更豐富的模型格式支持與白盒調(diào)試適配能力，從而為客戶提供了充分的定制化空間，有力支撐其實現(xiàn)產(chǎn)品差異化創(chuàng)新。

正如葉斌在ICCAD 2025安謀科技展臺的媒體直播專訪環(huán)節(jié)所言：“Compass AI軟件平臺不僅完善易用、開放生態(tài)、客戶自定義算子開發(fā)與安全，更讓‘周易’X3兼具硬件實力與軟件支撐。通過降低開發(fā)門檻、提升工具鏈效率，Compass AI軟件平臺正推動端側(cè)AI從單點(diǎn)應(yīng)用走向規(guī)模化滲透，從技術(shù)探索真正邁向產(chǎn)業(yè)落地?！?/p>