亚马逊与 Cerebras 合作整合 AI 芯片 加速聊天机器人等应用推理效率

美国科技巨头亚马逊与 AI 芯片初创公司 Cerebras Systems 达成合作，将双方芯片整合到新服务中，以加速聊天机器人、编程工具等 AI 应用的推理过程。该服务预计今年下半年上线。

Cerebras 芯片将部署在亚马逊云服务(AWS)数据中心，与亚马逊自研的 Trainium3 芯片连接，分工处理推理任务：Trainium3 负责将自然语言请求转换为 token，Cerebras 负责生成答案。此合作让用户能便捷使用 Cerebras 算力。

当前 AI 产业正从模型训练转向推理阶段，企业需更高响应速度的芯片。亚马逊表示，其服务性价比将优于市面 GPU，且 Trainium3 距生产级应用仅剩数月，进度快于英伟达与 Groq 的整合计划。