英伟达研究团队近日发布开源框架 Polar,旨在解决现有代码智能体框架在强化学习训练中的接入难题。Polar 在不改变原有工具调用、上下文组织和补丁提交方式的前提下,让 Codex、Claude Code、Qwen Code 等智能体框架接入 GRPO(广义相对策略优化)训练。
Polar 的核心设计是将智能体与模型接口作为训练边界,而非改造执行框架本身。它在执行框架和推理服务器之间放置模型智能体,兼容 Anthropic、OpenAI、Google 风格请求,记录提示词、采样 Token 等关键信息,重建可供训练器消费的轨迹。实验基于 Qwen3.5-4B 底座模型,在 SWE-Bench Verified 测试中,Codex 框架的 pass@1 分数从 3.8%提升至 26.4%,提升近 6 倍。
效率方面,Polar 通过 prefix_merging 技术将训练更新数减少至原来的五分之一,墙钟时间缩短约 5.39 倍,GPU 平均利用率从 20.4%提升至 87.7%。该框架由 rollout server 和 gateway node 组成,支持任务调度、会话管理和资源回收,为长流程代码智能体任务提供高效训练基础。
文中提及的 AI 工具
评论
正在加载评论…