Tiiny AI 的 Pocket Lab 是世界上最小的個人 AI 超級計算機，已獲得金氏世界紀錄認證。它的大小與手機電池相仿（14.2 x 8 x 2.53 厘米，300 克），卻能在本地運行參數高達 1200 億的大型語言模型。
與英偉達的 Project Digits（約 3,000 美元）和 DGX Spark（4,000 美元）相比，這款產品旨在降低對雲端的依賴並提升隱私保護。它配備了 ARM v9.2 12 核 CPU、190 TOPS 的 NPU 和 80GB LPDDR5X 內存，並支援 Llama、Qwen 和 DeepSeek 等開源模型。其專有的 TurboSparse 和 PowerInfer 技術兼顧了推理效率和功耗。該產品計劃在 2026 年國際消費電子展 (CES) 上亮相，但價格和發布日期尚未公佈。
從： 
世界上最小的AI超級電腦只有行動電源大小。
【社論】
這款設備在人工智慧「民主化」的背景下備受關注。傳統上，運行擁有千億參數的模型需要付費使用雲端服務，但Pocket Lab完全離線運行，無需網路連接，從而顯著降低了處理敏感醫療資訊或機密企業數據時的隱私風險。它採用銀行級加密技術將資料儲存在本地，其突破性之處在於，個人可以擁有“真正的長期記憶”，而這是雲端人工智慧無法實現的。
技術核心在於兩種開源技術：TurboSparse 和 PowerInfer。 TurboSparse在神經元層面執行稀疏激活，透過僅運行模型的必要部分而非始終運行整個模型來提高效率。 PowerInfer 是一款推理引擎，在 GitHub 上擁有超過 8000 個 star，它能夠動態地在 CPU 和 NPU 之間分配負載，從而以智慧型手機級別的功耗實現伺服器級的效能。
吉尼斯世界紀錄認證類別非常有限，僅為“能夠本地運行1000億LLM的最小迷你電腦”，有人指出這一設定略顯武斷。此外，官方宣稱“100億至1000億參數”是“個人人工智慧的黃金區間”，能夠滿足80%的實際需求，但這一數字的依據並不明確。關於1200億參數模型擁有與GPT-4o相當的推理能力的說法也應謹慎對待，直到實際設備測試結果公佈為止。
從長遠來看，此類邊緣人工智慧設備的普及可能會使監管機構之間的討論變得更加複雜。雖然基於雲端的人工智慧服務可以在提供者層級進行監控，但要從技術上限制在完全離線運作的個人設備上產生非法內容或創建深度偽造內容則十分困難。另一方面，從資料主權和隱私保護的角度來看，個人對其自身資料和人工智慧模型擁有完全控制權的環境是一個理想的發展方向。
[術語]
參數
人工智慧模型透過學習獲得的內部可調變數。變數越多，模型的表達能力就越強；當變數超過1000億時，就被認為具備了高階推理能力。
NPU（神經處理單元）
這是一款專為神經網路運算而設計的處理器。與CPU和GPU不同，它旨在以低功耗高速執行AI推理處理。
TOPS（每秒太拉運算次數）
人工智慧處理器效能指標，以每秒兆次計算量表示。 Pocket Lab 的效能為 190 TOPS。
[參考連結]
Tiiny AI 官方網站（外部連結）
這是Tiiny AI的官方頁面，包含公司資訊和產品陣容。您還可以找到Pocket Lab的技術細節、開發理念以及其在2026年CES展會上的參展資訊。
PowerInfer GitHub 倉庫（外部）
PowerInfer-2 的技術細節和基準測試結果已發布。實現智慧型手機上 LLM 推理的技術方案和開源程式碼也已公開。
金氏世界紀錄 – Tiiny AI Pocket Lab （外部連結）
金氏世界紀錄官方網站列出了 Pocket Lab 在「能夠本地運行 100 億 LLM 的最小迷你電腦」類別中的紀錄詳情。
[參考文章]
Tiiny AI 發布全球最小的個人 AI 超級計算機，已獲得金氏世界紀錄認證（外部連結）
Tiiny AI 的官方新聞稿包括 Pocket Lab 的詳細規格、TurboSparse 和 PowerInfer 的技術細節、銀行級加密功能，以及參加 CES 2026 的計劃。
Tiiny AI Pocket Lab：搭載12核心ARM CPU和80GB LPDDR5X記憶體的迷你電腦在CES展會前夕發表（外部連結）
對硬體規格進行了詳細分析，包括將 ARM v9.2 CPU 與 LPDDR5X 記憶體結合所實現的效能提升，並討論了吉尼斯世界紀錄認證類別的局限性。
PowerInfer-2：在智慧型手機上快速進行大規模語言模型推理（外部連結）
PowerInfer-2 技術論文及實作細節。本文公佈了一種異質推理引擎的架構和基準測試結果，該引擎支援在智慧型手機上進行 LLM 推理。
這款微型個人人工智慧超級電腦可以運行 1200 億個人工智慧模型，同時還能放在你的手掌中（外部）。
本文分析了 Pocket Lab 的市場定位和競爭比較，詳細介紹了其與 Nvidia 的 Project Digits 和 DGX Spark 的價格和性能比較。
Tiiny AI 將「超級電腦」縮小（外部）
本文重點介紹 TurboSparse 和 PowerInfer 的技術機制，並討論稀疏活化如何提高效率以及實現過程中面臨的挑戰。
用於加速移動及其他平台人工智慧的新型 Armv9 CPU （外部連結）
Arm 官方部落格闡述了 Armv9 架構的 AI 處理能力的技術背景和未來展望，以及其在行動裝置中的部署。
[編者註]
一個擁有1200億參數的模型能夠在手機電池大小的設備上運行，這一事實有可能從根本上改變我們對人工智慧基礎設施的認知。免除雲端服務費用對個人研究人員和小型企業來說將是一個重大轉折點，但我們應該如何看待完全離線運作所帶來的隱私保護以及技術監控的難度？我們期待在2026年國際消費電子展（CES）上看到實際展示和定價公佈。考慮到英偉達的Project Digits售價高達3000美元，我們將密切關注其未來的發展，看看它最終的市場價格區間以及是否真的適合日常使用。
