10月16日-18日,首屆灣區半導體產業生態博覽會在深圳舉行。

本次展會是在深圳市政府指導和深圳市發展和改革委員會支持下,由深圳市半導體與集成電路產業聯盟攜手深圳市重大產業投資集團有限公司共同主辦,以"半導體重大項目集群和最大增量市場"為基礎,邀請來自灣區、全國及全球的半導體產業鏈上下游頭部企業參加。

作為AI芯片領域代表企業,云天勵飛受邀出席“AI芯片與高性能計算應用論壇”,分享國產邊緣AI芯片架構創新思路。

云天勵飛副總裁、芯片產品線總經理李愛軍在演講中說道,過去一年半,大模型經歷了從語言到多模態的轉變,并且正快速向物理世界演進;大模型落地應用也從云端逐漸走向邊緣端,而大模型在邊緣端的應用給AI芯片帶來了全新的挑戰。

邊緣端場景具有“多且碎”的特點,不同場景應用對算力、內存、帶寬的要求也不盡相同。如何通過更靈活的芯片架構設計,盡可能讓AI芯片滿足不同場景的需求,是業界共同思考的問題。

在此背景下,云天勵飛提出了“算力積木”AI芯片架構,讓芯片能夠像搭積木一樣靈活組建、靈活擴展。

以云天勵飛基于“算力積木”打造的國內首顆國產工藝邊緣AI芯片DeepEdge10系列為例,DeepEdge10系列芯片基于一個標準化的大模型計算單元打造,可實現1.8B大模型的實時高效推理。

通過D2D Chiplet技術、C2C Mesh技術和C2C Mes Torus技術,云天勵飛將標準計算單元像搭積木一樣,封裝成不同算力的芯片,覆蓋8T-256T算力應用,可實現7B、14B、130B等不同參數量大模型在邊緣端的高效推理。

目前,DeepEdge10系列芯片可支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各類不同架構的主流模型,并在機器人、邊緣網關、服務器等領域實現商業化應用。

隨著大模型進一步深入行業和場景,市場對邊緣AI芯片的需求將越來越大,而目前全球邊緣AI芯片市場仍處于萌芽階段。未來云天勵飛將堅持走自主研發路線,通過架構創新,在國產工藝上實現芯片性能的突破,為行業帶來更好用、更高性價比的國產AI芯片產品。