苹果发布 CoreAI 引擎，接替 CoreML 主打端侧大模型推理

苹果在 2026 年全球开发者大会（WWDC）上推出 CoreAI 引擎，取代已服役 9 年的 CoreML 框架。CoreML 此前主要用于图像分类等小型静态任务，而 CoreAI 面向端侧本地推理和边缘 AI 场景，重点优化设备端大语言模型推理，支持更灵活的模型格式和更大内存占用。

首批基准测试显示，CoreAI 在 M4 Mac 上运行 Qwen3 0.6B 模型时，解码速度约为 MLX 的 2.47 倍；在 iPhone 17 Pro 上优势约为 1.6 倍。但模型规模提升至 80 亿参数后，CoreAI 比 MLX 仅快 5%，性能优势收窄。持续负载测试中，iPhone 17 Pro 的 GPU 在长时间运行后触发温控降频，CoreML 配合苹果神经引擎在性能保持率上实现反超。

横向对比其他厂商，谷歌的 LiteRT-LM 运行 Gemma 时，在 iPhone 17 Pro 上达到每秒 55.4 tokens，内存占用仅 641 MB，而苹果 MLX 内存占用为 2900 MB。