Unigen 近日推出首款生成式人工智能硬件解决方案 Amaretti E1.S AI Module。该模块采用 EDSFF E1.S 外形规格,基于日本半导体企业 EdgeCortix 开发的 SAKURA-II 加速器,集成最高 32GB 的 128-bit LPDDR4x-4266 内存。
Amaretti 模块整体功耗约 10W,可提供 60 TOPS 的 INT8 算力或 30 TFLOPS 的 BF16 算力,支持 TensorFlow、PyTorch 等行业标准框架,能够满足 20B 模型本地运行的需求,为 AI 应用提供高效且低功耗的硬件支持。
文中提及的 AI 工具
评论
正在加载评论…