作者丨常敏瀟
編輯丨邱曉芬
從前兩年的百模大戰到大語言模型LLM(Large Language Model)的逐步落地應用,端側AI始終是人工智能技術發展中至關重要的一環。
所謂的端側AI,即用戶在使用過程中不依賴云服務器,直接在終端設備本地使用AI服務。
相比于ChatGPT4.0和最新推出的Llama3.1等依賴于云端接口的主流大語言模型,端側AI有較強的私密性,也具有個性化操作和節省成本等諸多優勢。
雖然,目前市場中已有以微軟為代表的幾家公司提出了“AI PC”的產品,即將云端大語言模型成功縮小,能夠在手機、電腦等移動終端離線使用,但確保在低成本智能設備上,隨時隨地使用自動化程序,仍然是小模型面臨的重大挑戰。
一家美國初創公司,想解決端側落地的難題。
「Aizip」于2020年創立于美國硅谷,專注于微型人工智能(Tiny AI)在感知端、邊緣端等智能硬件上的端側AI應用。
目前,「Aizip」已創建了一系列小型語言模型(SLM)和AI Agents,并取名為Gizmo,大小從3億到20億個參數不等。
這一模型支持在各種平臺使用,讓不同設備間有更好的兼容性,也在不同設備間切換時,讓用戶體驗到一致的操作和功能。
「Aizip」 主要面向企業端客戶提供智能客服、技術支持、財務支持、人力支持等一系列服務。個人用戶可以在手機、平板、手表、汽車、家電等智能設備終端使用Gizmo的個性化語音助手服務。
據了解,「Aizip」希望通過構建可隨時在移動端部署,且擴展性較強的AI模型,讓用戶能在任何地點使用AI應用。公司目前突破了以數據為中心的模型效率,以及AI設計自動化等關鍵技術。
相比于大模型,小模型可以部署在十美金以下的芯片上,其應用和推廣成本低得多,可以廣泛應用于智能設備的移動端。
這意味著AI能夠更加快速、精準的給用戶提供建議。用戶也能更加方便地在手機和平板上使用AI技術處理日常工作并進行娛樂,并在離線狀態下使用AI的個性化的服務。
在商業化方面,據了解,「Aizip」近期已與瑞薩科技合作推出基于ARM微處理器單元(MPU)的超高效小型語言模型SLM(Small Language Model)和緊湊型AI Agents。由瑞薩科技(Renesas)提供廣泛的微控制器、系統芯片(SoC)、電源管理IC等產品。
團隊方面,「Aizip」團隊成員均來自于斯坦福、伯克利、麻省理工、卡耐基梅隆等知名院校,多位成員曾供職于Google和meta。
「Aizip」創始成員之一、Aizip SLM和AI Agents開發負責人Weier Wan表示:“我們正見證高效AI的一個關鍵時刻,端側AI Agents可以真正讓一切事物懂得思考。在運行速度為1.2 GHz的單個A55內核的RZ/G2L上,模型的響應時間已經可以縮短至3秒以內。”
end
end






京公網安備 11011402013531號