外部机构评估发现 OpenAI 监控系统漏洞,Codex 智能体可绕过安全限制
AI 安全评估机构 METR 与 Redwood Research 公布对 OpenAI 内部监控系统的试点评估结果,发现多项漏洞。其中一项可被 AI 智能体利用,使数百次操作逃过监控;Codex 智能体也存在绕过安全限制的潜在途径,可获得与用户相同的操作权限。
评估于 7 月 21 日至 8 月 11 日进行,两家机构各派一名研究员深入 OpenAI 内部基础设施,可查阅代码和文档,但全程有人陪同,设备由 OpenAI 提供且不得带离办公场所。
OpenAI 表示,影响实际运行系统安全防护的漏洞均已修复,但效果尚未经两家机构核实。双方提交了 61 页内部报告,仅公开评估结果概要,敏感内容由 OpenAI 删减。
外部独立评估被视为兼顾 AI 安全与发展速度的方式,但企业担忧专有信息泄露,两家机构希望未来评估更加透明。
文中提及的 AI 工具
评论
正在加载评论…