初创企业 Acrab 于近期推出首款芯片 GΞLIX 1,专为边缘 AI 终端设备设计。该芯片采用 5nm 制程,支持高达 100B 参数规模的模型在本地运行,无需依赖云端。
GΞLIX 1 采用异构架构,集成 20 核 Arm CPU、3TFLOPS GPU 及 NPU,AI 算力达 650TOPS。其配备 8MB 大容量 L1 缓存和 768GB/s 带宽的共享 L2 缓存,并支持 256-bit LPDDR5X 内存。
Acrab 通过矢量硬件加速了注意力机制,并优化了预填充过程。在 Gemma 26B A4B 配置下,GΞLIX 1 的预填充速率达到 1416.8 Token/s,是苹果 M4 Pro Mac Mini 的 7.5 倍。此外,公司还提供了配套软件堆栈和智能体参考设计,并推出首款终端设备 Agent Box。
文中提及的 AI 工具
评论
正在加载评论…