IT之家12月11日消息，科技媒體 Wccftech 昨日（12月10日）發布博文，報道稱初創公司 Tiiny AI 發布號稱全球最小的 AI 超級計算機 Tiiny AI Pocket Lab，僅重300克，尺寸如手掌大小，卻搭載了 ARMv9.2 12核 CPU 和80GB LPDDR5X 內存，算力達190 TOPS。

IT之家援引博文介紹，該計算機尺寸僅為14.2×8×2.53厘米，重量約為300克，用戶可輕松將其置于掌中。盡管體積小巧，Tiiny AI 聲稱該設備能成功部署1200億（120B）參數的模型，這在同類設備中尚屬首創。

Tiiny AI Pocket Lab發布

該設備支持的大語言模型（LLM）據稱能完美處理“博士級推理、多步驟分析和深度上下文理解”任務，搭載了最新的 ARMv9.2 12核 CPU，并通過定制的異構模塊（SoC + 獨立 NPU）提供約190 TOPS 的 AI 算力。

為了支撐龐大的模型運行，該設備配備了高達80GB 的 LPDDR5X 內存和1TB SSD 存儲空間。這種大容量內存配置讓用戶可以啟用激進的量化技術，從而在本地環境中流暢運行120B 模型。此外，該設備功耗控制出色，TDP 為30W，典型系統功耗約為65W。

AI Pocket Lab重量為300克

Tiiny 為了在如此緊湊的設備上實用化120B 模型，采用了兩項核心技術。首先是 TurboSparse，這是一種神經元級別的稀疏激活技術，能在保持模型完整智能的同時顯著提高推理效率。

其次是 PowerInfer，這是一個擁有超過8000顆 GitHub 星標的開源異構推理引擎，它能通過動態分配 CPU 和 NPU 之間的計算任務來加速繁重的 LLM 工作負載。

設備配備了高達80GB 的 LPDDR5X 內存和1TB SSD 存儲空間

在軟件生態方面，AI Pocket Lab 支持一鍵部署 GPT-OSS、Llama、Qwen、DeepSeek、Mistral 和 Phi 等數十種主流開源模型及代理框架，無需依賴互聯網或云端，支持完全離線操作。Tiiny AI 確認將在 CES 2026上正式展示該設備。