中国台湾地区 AI IP 企业 Skymizer 近日发布推理解码阶段加速器芯片 HTX301。该芯片可与负责预填充阶段的 GPU 结合,加速推理结果输出,提升算力系统的利用率和整体能效。
HTX301 基于 HyperThought 软硬件协同设计平台,采用 LISA 语言指令集架构,专注带宽密集型负载。它支持 SoC 与 PCIe AIC 部署形态,其中 PCIe 版本单卡可集成 6 颗芯片和 384GB 内存,满足 700B 高参数大模型本地运行需求,功耗仅 240W。
文中提及的 AI 工具
评论
正在加载评论…