作者丨常敏瀟

編輯丨邱曉芬

從前兩年的百模大戰到大語言模型LLM（Large Language Model）的逐步落地應用，端側AI始終是人工智能技術發展中至關重要的一環。

所謂的端側AI，即用戶在使用過程中不依賴云服務器，直接在終端設備本地使用AI服務。

相比于ChatGPT4.0和最新推出的Llama3.1等依賴于云端接口的主流大語言模型，端側AI有較強的私密性，也具有個性化操作和節省成本等諸多優勢。

雖然，目前市場中已有以微軟為代表的幾家公司提出了“AI PC”的產品，即將云端大語言模型成功縮小，能夠在手機、電腦等移動終端離線使用，但確保在低成本智能設備上，隨時隨地使用自動化程序，仍然是小模型面臨的重大挑戰。

一家美國初創公司，想解決端側落地的難題。

「Aizip」于2020年創立于美國硅谷，專注于微型人工智能(Tiny AI)在感知端、邊緣端等智能硬件上的端側AI應用。

目前，「Aizip」已創建了一系列小型語言模型（SLM）和AI Agents，并取名為Gizmo，大小從3億到20億個參數不等。

這一模型支持在各種平臺使用，讓不同設備間有更好的兼容性，也在不同設備間切換時，讓用戶體驗到一致的操作和功能。

「Aizip」 主要面向企業端客戶提供智能客服、技術支持、財務支持、人力支持等一系列服務。個人用戶可以在手機、平板、手表、汽車、家電等智能設備終端使用Gizmo的個性化語音助手服務。

據了解，「Aizip」希望通過構建可隨時在移動端部署，且擴展性較強的AI模型，讓用戶能在任何地點使用AI應用。公司目前突破了以數據為中心的模型效率，以及AI設計自動化等關鍵技術。

相比于大模型，小模型可以部署在十美金以下的芯片上，其應用和推廣成本低得多，可以廣泛應用于智能設備的移動端。

這意味著AI能夠更加快速、精準的給用戶提供建議。用戶也能更加方便地在手機和平板上使用AI技術處理日常工作并進行娛樂，并在離線狀態下使用AI的個性化的服務。

在商業化方面，據了解，「Aizip」近期已與瑞薩科技合作推出基于ARM微處理器單元（MPU）的超高效小型語言模型SLM（Small Language Model）和緊湊型AI Agents。由瑞薩科技（Renesas）提供廣泛的微控制器、系統芯片（SoC）、電源管理IC等產品。

團隊方面，「Aizip」團隊成員均來自于斯坦福、伯克利、麻省理工、卡耐基梅隆等知名院校，多位成員曾供職于Google和meta。

「Aizip」創始成員之一、Aizip SLM和AI Agents開發負責人Weier Wan表示：“我們正見證高效AI的一個關鍵時刻，端側AI Agents可以真正讓一切事物懂得思考。在運行速度為1.2 GHz的單個A55內核的RZ/G2L上，模型的響應時間已經可以縮短至3秒以內。”

end

end