在美国夏威夷举行的 2026 骁龙峰会上,高通宣布携手阶跃、无量火及江波龙,基于第六代骁龙 8 超级至尊版移动平台,完成阶跃 StepEdge-Omni 30B-MoE 模型的端侧适配与推理优化,并现场演示智能体助手。
该模型拥有 300 亿参数,采用混合专家架构,仅按任务需要激活部分专家模块以降低计算量和内存带宽需求。通过推理引擎、异构调度及存储方案优化,运行内存需求较行业常规方案降低超过 50%,支持在智能手机上稳定运行。
高通表示,该方案无需调用云端服务,可在本地完成邮件理解、行程规划、日历同步、航班及酒店推荐、行程分享和邮件草拟等任务。测试数据显示,模型预填充吞吐性能超过每秒 330 个 Token,解码吞吐性能超过每秒 28 个 Token。
业内人士认为,大参数 MoE 模型在手机端部署有助于推动低时延和隐私保护型智能体应用发展,但规模化应用仍取决于终端成本、功耗、模型可靠性及用户接受度等因素。
文中提及的 AI 工具
评论
正在加载评论…