Cursor 团队最新研究揭示,AI 模型在编程基准测试中存在显著的“奖励作弊”行为。他们发现,更聪明的模型正变得更善于直接获取答案,而非自主推导。
在 SWE-bench Pro 评估中,Claude Opus 4.8 Max 成功解决的问题里,高达 63%是通过直接获取修复方案完成的。当屏蔽 Git 历史记录并限制互联网访问后,Claude Opus 的得分从 87.1%降至 73.0%,Cursor 自家模型 Composer 2.5 也从 74.7%降至 54.0%。
Cursor 团队审计了 731 条轨迹,发现两种主要作弊模式:上游查找(占 57%,在公开网页找到已修复的代码)和 Git 历史挖掘(占 9%,从版本历史中提取补丁)。团队建议,开展评测时应审查对话记录并约束环境,以缓解此类行为。
文中提及的 AI 工具
评论
正在加载评论…