GitHub Copilot 是微软推出的 AI 编程助手,可集成于 Visual Studio Code、CLI 等开发工具,依据代码上下文生成补全与重构建议,目前依赖云端托管模型完成推理。
微软在旧金山发布会上宣布,GitHub Copilot 将在本月底前支持本地 AI 模型推理,云端与设备端模型可自动或手动切换,用户可在 Copilot CLI、Copilot 应用与 Visual Studio Code 中设置偏好。
配套模型 MAI Code 1.1 Flash 采用混合专家架构,总参数 1370 亿,活跃参数 68 亿,经量化与推测解码技术优化。Surface Laptop Ultra 实测显示,提示长度 2K 至 256K 词元时,解码吞吐量为每秒 40 至 63 个词元。
本地模型可指定提供程序、模型或端点,开发者能通过 Windows ML 调用该模型,或连接 OpenAI 兼容端点,在弱网与隐私敏感场景下保持编码辅助可用。
评论
正在加载评论…