OpenAI 近日发布公告,通过优化测试框架,使其 GPT-5.6 Sol 模型在 ARC-AGI-3 基准测试中的得分提升了 188%。ARC-AGI-3 是 ARC Prize 团队推出的交互式推理基准,评估 AI 在陌生环境中的实时学习和自适应能力。此前,GPT-5.6 Sol 得分为 7.8%,而 GPT-5.5 仅为 0.4%。
OpenAI 发现官方框架存在两个问题:每次动作后丢弃私有推理,以及滚动截断窗口导致早期动作丢失。为此,他们提出了推理保留和上下文压缩两种解决方案。推理保留通过 Responses API 保留模型推理过程,使模型无需每轮重新理解游戏;上下文压缩则优化了长任务中的信息保留。
启用这些改进后,GPT-5.6 Sol 在输出 token 减少至六分之一的情况下,得分从 13.3%提升至 38.3%,增长 188.42%。这些改进展示了框架设计对模型性能的重要影响,为 AI 智能评估提供了新思路。
文中提及的 AI 工具
评论
正在加载评论…