記者駱軼琪 北京報道

在DeepSeek以極低成本推動開源模型和閉源模型的差距顯著縮小的背景下，AI技術在端側應用落地成為今年必然的發展趨勢，這也是AI芯片產業鏈在積極尋求的發展機會。

隨著中國市場持續推進多個重點場景的智能化升級，邊緣智能也將迎來更大的發展空間。邊緣端如何應對大模型引發的技術驅動變革，是整個行業都在思考的重要命題。

近日，Arm發布首個Armv9邊緣AI計算平臺，以Cortex-A320 CPU和Ethos-U85 NPU為核心，專為物聯網應用優化，支持運行超10億參數的端側AI模型。相較去年推出基于Cortex-M85的平臺，新的邊緣AI計算平臺的機器學習(ML)性能提高了八倍。

大模型應用成本的快速降低，使其在邊緣側的落地進程不斷加速。在物聯網領域，這一趨勢尤為明顯，例如，生產流水線上的視覺識別、AGV小車在工廠環境的精準導航等均因此受益。

這類邊緣端場景不僅涉及對文字信息的處理，更重要是應對大量圖像和視頻等高容量數據的實時分析，這對邊緣端傳感器的智能化和計算能力提出了極高要求。

隨著國內工業智能化的快速發展，這無疑成為邊緣智能的重要場景之一。

Arm 物聯網事業部業務拓展副總裁馬健在接受專訪時表示，智能工業是Arm過去幾年一直關注的領域之一。

“從客戶需求角度看，我們觀察到兩個重要趨勢：一是增加更多AI功能，二是降成本、降功耗等，而這兩點恰好是Arm的優勢所在。”她進一步表示，Arm平臺在和AI加速器搭配方面擁有極大的靈活性，且具備強大的生態系統。

馬健舉例道，“近期在和工控領域的合作伙伴交流時，我們了解到，現在在工業方面，預計20%使用的是Linux操作系統，大約80%還是用的Windows系統。”

“我們認為，在新一輪AI PC推動下，Windows on Arm將會迎來更大的發展，這也將促進Arm處理器在工控領域的廣泛應用，為我們開辟了一個廣闊的市場擴展方向。目前我們已有一些合作伙伴，比如恩智浦，已經實現了工業Windows on Arm，我們對這個領域的發展充滿期待。”她如此指出。

從整體趨勢來看，馬健認為，當前，工業領域正經歷一場深刻轉型，行業不僅在追求CPU架構的革新，比如從傳統的X86轉向Arm架構，還更聚焦于AI技術的部署與應用。在這一轉型過程中，相較于傳統架構，Arm CPU在安全性、性能和能效方面均表現出色。

以傳統質檢場景為例，工人通常一天要久坐8-10小時，不僅容易導致疲勞，還可能損害視力與健康。相比之下，機器在進行此類工作時能夠展現出更高精確度和持久性。因此，工廠內部對于采用視覺技術進行質檢的需求與日俱增，同時對AI處理的實時性也提出了更高要求。

馬健指出，真正的邊緣AI計算平臺需要靈活性，使工作負載既可以運行在CPU，也可以運行在AI加速器上。例如，在連續圖像檢測任務中，通常會優先在AI加速器上運行，以提高能效。然而，對于單張圖像的處理，在CPU上執行可能更高效。而對于在CPU上運行的AI任務，希望能夠獲得更好性能，這正是Arm Kleidi發揮作用的地方。

“邊緣AI普及面臨的最主要障礙之一是軟件開發和部署的復雜性，為了應對這一挑戰，Arm將Arm Kleidi擴展到物聯網領域。Kleidi是一套面向AI框架開發者的計算庫，旨在優化基于Arm CPU的AI和ML（機器學習）工作負載，無需開發者額外開發。”她補充道。

近兩年來，大模型行業在快速演進發展，涌現出多種路線和行業趨勢，也讓邊緣智能的發展持續面臨技術挑戰。

對于邊緣端如何迎接大模型趨勢，馬健對記者給出了她的完整思考。

“對于大語言模型而言，除非在特定場景下，比如工廠內的機密內容處理，因為安全原因一定要離線處理而不得不采取本地部署的方式，否則，大部分大語言模型的數據量完全可以在云端運行。畢竟，云端的大模型憑借其更廣泛的知識和更高的智能水平，能提供更為出色的服務。”她指出。“但當涉及視覺模態時，在邊緣部署的必要性就大大增加。”

這是因為視覺的數據量非常龐大，且通常是以連續的視頻流形式出現，而非單一的靜態圖片。“當前，家用攝像頭的數據多被傳到云端，但隨著未來屋內傳感器的增加，以及人們隱私保護意識的加強，用戶對于家中信息被上傳至云端所存在的風險會愈發擔憂。”馬健進一步指出。

因此行業開始思考是否需要有一個類似家庭“大腦”的角色，在家庭內部就可以存儲并處理數據。

“如果一個家庭‘大腦’擁有足夠強大的算力，那它完全可以運行3B、7B、13B等參數的大模型。我認為，跟視覺相關以及和現實世界緊密聯系的應用場景，在邊緣部署的可能性會更大。”她補充道。

其中，自動駕駛和機器人都是邊緣AI部署的重要場景。因為自動駕駛無法在遇到行人時，再將圖像信息上傳至云端做決策，這樣的延遲將帶來不可接受的安全風險。

而在機器人方面，雖然目前還處于相對初期階段，但包括中國在內的多個市場都在積極發展。傳統來說，機器人是相對碎片化和專用的設備，比如掃地機器人，它的機器臂只能做固定幾個動作。隨著多模態大模型的引入，機器人可以更加通用和靈活，用途變得更加廣泛，其需求量也會相應增加，未來可能會成為比汽車甚至手機需求量還大的設備。

此外，對于智慧城市和智能家居等特定應用場景而言，安全的重要性不言而喻。

馬健告訴記者，Arm在安全性方面持續投入。具體做法上，首先是隔離，由于無法將所有程序都搬到一個安全域里，這樣成本也會相對較高，所以安全域和非安全域要在硬件方面做一些隔離；此外，即使在安全域里，也需要區分不同的應用。

“在中國市場，大家普遍希望能對數據進行更好地保護，不愿意將比較敏感的數據傳輸到云端，這對邊緣計算提出了更高的要求。”馬健指出。

馬健總結道，此次Arm推出專為物聯網應用優化的Armv9邊緣AI計算平臺，能夠支持在基于智能體的AI應用上，運行經過調優的大語言模型(LLM)和小語言模型(SLM)，從而開辟全新類別的邊緣應用場景。在未來的場景中，智能決策將更接近數據采集源頭，這不僅能顯著減少延遲，還能有效提升隱私保護水平。