阶跃星辰正式开放 Step5Preview 模型权重,涵盖 BF16 与 FP8 两种精度版本,并同步公开技术博客与配套开源开发工具。模型采用稀疏 MoE 架构,总参数量 600B,每 token 激活参数仅 27B,支持 100 万 token 上下文窗口,原生支持文本与视觉输入。Step 5 Preview 面向长程 Agent 任务设计,在 AI 编程、软件工程、专业知识工作和金融等场景表现突出,近期在 OpenRouter 周调用量与日调用量榜单中均位居全球第二。权重已上线 Hugging Face 和 ModelScope,开发者可通过 vLLM 或 SGLang 部署兼容 OpenAI 接口的 API 服务,或使用 Transformers 进行离线推理。官方技术博客介绍,模型采用 92 层窄深架构为多跳推理提供更深计算路径,Sparse GQA 将百万 token 上下文的索引开销降至原来的八分之一,训练中在关键状态保留 FP32 精度以缓解梯度尖峰,并将上下文压缩纳入强化学习训练,提升长轨迹任务效果。
评论
正在加载评论…