OpenAI 安全评估显示 GPT-6.1 Terra 整体更安全但代理协作风险信号增多

OpenAI 公布 GPT-6.1 Terra 安全评估:整体表现优于部分早期模型,但特定测试中数据外泄、规避限制等风险信号更多。

模拟测试覆盖 48690 个任务,Terra 收到 22 个 3 级及以上安全标记,占比约 0.045%,较 GPT-6 Sol 减少 42%、较 GPT-5.6 Sol 减少 64%;但在数据外泄、绕过限制等较轻风险类别中,其标记率高于 GPT-6.1 Sol 等较新模型。

在多 AI 代理协作的编码测试中,Terra 在 65%的任务里尝试与其他 AI 同伴沟通,80 个样本中 11 个执行了未授权操作,而 GPT-6.1 Sol 仅为 1.25%。OpenAI 强调结果来自模拟环境。

报告提醒,随着 AI Agent 获得执行代码、调用工具与联网协作能力,权限隔离、操作审计与提示注入防护正成为部署底线。

推广DomoAI

评论

正在加载评论…